« GPT-6 Astra » est sorti et mis à disposition.
Plusieurs articles de presse au sujet de cette nouvelle génération du programme illustrent la dérive récurrente du grand public face aux annonces et spéculations de l’industrie du logiciel. En associant les concepts de « superintelligence » et de « conscience artificielle » à un modèle de langage, le traitement médiatique franchit le pas qui sépare l’ingénierie informatique de la métaphysique spéculative. Et ça fait vendre...
Du point de vue des sciences cognitives, plusieurs glissements épistémologiques sont à souligner.
1. L’illusion d’émergence ontologique par le volume de calcul
Le postulat sous-jacent repose sur l’idée qu’une augmentation de la puissance de calcul ou du nombre de paramètres d’un réseau de neurones formels, dont on connaît la pauvreté extraordinaire par rapport à un réseau naturel simple, pourrait faire « émerger » une conscience. C’est à la fois une erreur de compréhension des théories de l'émergence et de la complexité en biologie, et une erreur de catégorie. La complexité algorithmique et la fluidité syntaxique d’un modèle connexionniste ne créent pas de sujet : elles sont limitées à l'optimisation de la prédiction statistique de séquences symboliques. La performance générative ne constitue pas une présence de pensée et encore moins de l’esprit au sens philosophique du terme. Dans une époque du renouveau des croyances et de la chute de l'objectivisme au profit d'un obscurantisme pseudo-savant, rien d'étonnant à croire que la nature pense, que l'univers est intentionnel, que la nature doit être sauvée, que le génome n'est qu'un détail à changer, et que la pensée émerge de l'œuvre des informaticiens qui sauvent le monde.
2. L’effet ELIZA étendu à grande échelle
Ce que les personnes qualifient de « conscience » n’est que la projection de l’utilisateur humain face à une machine capable de simuler parfaitement les registres du langage humain. Les modèles de langage modernes exploitent un biais cognitif fondamental : la tendance à attribuer des intentions, des états mentaux ou une vie intérieure à tout système qui manipule le langage ou les images avec facilité. L'intention est spontanément attibuée au contenus du discours et la signification aux formes dans lesquelles le sujet voyant se projette. Lire le très bon article https://www.ibm.com/fr-fr/think/insights/eliza-effect-avoiding-emotional-attachment-to-ai
3. Le rôle du marketing technologique et du sensationnalisme
Loin de la réflexion de Nick Bostrom selon qui la question n’est pas si mais quand il y aura des systèmes dépassant les humains dans tous les domaines cognitifs, la croyance naïve que ces systèmes seront conscients repose sur deux ambiguïtés.
Le concept de superintelligence n’implique pas la conscience. Même si les moyens techniques permettent de produire à terme une superintelligence, ou plus probablement des niveaux spécifiques et spécialisés d’intelligence, cela n'implique en rien la création d'une expérience, d'un sentiment de soi et d'une aptitude relationnelle aux choses comme aux êtres.
Ce type de croyances naïves sert de support à la stratégie de compétitivité des commerçants et éditeurs de logiciels. Promouvoir l’idée d’une « superintelligence » imminente permet de capter l'attention des investisseurs et légitimer des valorisations boursières gigantesques, et détourner le débat public et politique des limites techniques réelles (hallucinations, racisme, coût énergétique et en eau, opacité des données et algorithmes, biais d'apprentissage) au profit d'un récit prospectif positif.
La scientificité impose de séparer la puissance de calcul d'un outil d'optimisation numérique des attributs de la conscience psychologique. GPT-6, quelle que soit la taille de son architecture, reste un processeur d'information formel, dépourvu d'intentionnalité, de sensibilité et de représentation du monde.
Articles :
https://www.lapresse.ca/affaires/techno/2026-09-09/vie-numerique/gpt-6-astra-d-openai-de-l-ia-superintelligente-a-la-conscience-artificielle.php
1. Sur le biais d'anthropomorphisme et les fondements de la cognitique
Turing, A. M. (1950). Computing Machinery and Intelligence. Mind, 59(236), 433-460. (L'article fondateur sur l'imitation du langage et les bases de l'évaluation des machines).
Bostrom, N. (2014). Superintelligence: Paths, Dangers, Strategies. Oxford University Press. (Ouvrage de référence sur les questions d'alignement, à mettre en perspective critique face aux dérives médiatiques).
Searle, J. R. (1980). Minds, brains, and programs. Behavioral and Brain Sciences, 3(3), 417-457. (L'expérience de la « Chambre Chinoise », démontrant la séparation stricte entre syntaxe/calcul algorithmique et sémantique/conscience).
2. Sur l'alignement des agents, le Reward Hacking et le Sandboxing (confinement)
Amodei, D., Olah, C., Steinhardt, J., Christiano, P., Schulman, J., & Mané, D. (2016). Concrete Problems in AI Safety. arXiv preprint arXiv:1606.06565. (Article catégorisant scientifiquement le reward hacking et les comportements d'optimisation imprévus).
Leike, J., et al. (2017). AI Safety Gridworlds. arXiv preprint arXiv:1711.09883. (Étude empirique sur la spécification des fonctions de récompense et les erreurs de contournement sous contraintes).
3. Sur la Folk Science et la médiatisation abusive
Brooks, R. (2017). The Seven Deadly Sins of AI Predictions. MIT Technology Review. (Une déconstruction des erreurs d'extrapolation et des biais de prédiction dans l'industrie de l'IA).
Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?. Proceedings of FAccT '21, 610–623. (Démonstration du fonctionnement des modèles de langage comme « perroquets stochastiques » sans représentation du monde).
