GPT-6 Astra et la « conscience artificielle » : le mythe de mauvaise foi

 « GPT-6 Astra » est sorti et mis à disposition.

Plusieurs articles de presse au sujet de cette nouvelle génération du programme illustrent la dérive récurrente du grand public face aux annonces et spéculations de l’industrie du logiciel. En associant les concepts de « superintelligence » et de « conscience artificielle » à un modèle de langage, le traitement médiatique franchit le pas qui sépare l’ingénierie informatique de la métaphysique spéculative. Et ça fait vendre...

Du point de vue des sciences cognitives, plusieurs glissements épistémologiques sont à souligner.

1. L’illusion d’émergence ontologique par le volume de calcul

Le postulat sous-jacent  repose sur l’idée qu’une augmentation de la puissance de calcul ou du nombre de paramètres d’un réseau de neurones formels, dont on connaît la pauvreté extraordinaire par rapport à un réseau naturel simple, pourrait faire « émerger » une conscience. C’est à la fois une erreur de compréhension des théories de l'émergence et de la complexité en biologie, et une erreur de catégorie. La complexité algorithmique et la fluidité syntaxique d’un modèle connexionniste ne créent pas de sujet : elles sont limitées à l'optimisation de la prédiction statistique de séquences symboliques. La performance générative ne constitue pas une présence de pensée et encore moins de l’esprit au sens philosophique du terme. Dans une époque du renouveau des croyances et de la chute de l'objectivisme au profit d'un obscurantisme pseudo-savant, rien d'étonnant à croire que la nature pense, que l'univers est intentionnel, que la nature doit être sauvée, que le génome n'est qu'un détail à changer, et que la pensée émerge de l'œuvre des informaticiens qui sauvent le monde.

2. L’effet ELIZA étendu à grande échelle

Ce que les personnes qualifient de « conscience » n’est que la projection de l’utilisateur humain face à une machine capable de simuler parfaitement les registres du langage humain. Les modèles de langage modernes exploitent un biais cognitif fondamental : la tendance à attribuer des intentions, des états mentaux ou une vie intérieure à tout système qui manipule le langage ou les images avec facilité. L'intention est spontanément attibuée au contenus du discours et la signification aux formes dans lesquelles le sujet voyant se projette. Lire le très bon article https://www.ibm.com/fr-fr/think/insights/eliza-effect-avoiding-emotional-attachment-to-ai

3. Le rôle du marketing technologique et du sensationnalisme

Loin de la réflexion de Nick Bostrom selon qui la question n’est pas si mais quand il y aura des systèmes dépassant les humains dans tous les domaines cognitifs, la croyance naïve que ces systèmes seront conscients repose sur deux ambiguïtés. 

Le concept de superintelligence n’implique pas la conscience. Même si les moyens techniques permettent de produire à terme une superintelligence, ou plus probablement des niveaux spécifiques et spécialisés d’intelligence,  cela n'implique en rien la création d'une expérience, d'un sentiment de soi et d'une aptitude relationnelle aux choses comme aux êtres.

Ce type de croyances naïves sert de support à la stratégie de compétitivité des commerçants et éditeurs de logiciels. Promouvoir l’idée d’une « superintelligence » imminente permet de capter l'attention des investisseurs et légitimer des valorisations boursières gigantesques, et détourner le débat public et politique des limites techniques réelles (hallucinations, racisme, coût énergétique et en eau, opacité des données et algorithmes, biais d'apprentissage) au profit d'un récit prospectif positif.

La scientificité impose de séparer la puissance de calcul d'un outil d'optimisation numérique des attributs de la conscience psychologique. GPT-6, quelle que soit la taille de son architecture, reste un processeur d'information formel, dépourvu d'intentionnalité, de sensibilité et de représentation du monde.

Articles : 

https://www.lapresse.ca/affaires/techno/2026-09-09/vie-numerique/gpt-6-astra-d-openai-de-l-ia-superintelligente-a-la-conscience-artificielle.php

1. Sur le biais d'anthropomorphisme et les fondements de la cognitique

Turing, A. M. (1950). Computing Machinery and Intelligence. Mind, 59(236), 433-460. (L'article fondateur sur l'imitation du langage et les bases de l'évaluation des machines).

Bostrom, N. (2014). Superintelligence: Paths, Dangers, Strategies. Oxford University Press. (Ouvrage de référence sur les questions d'alignement, à mettre en perspective critique face aux dérives médiatiques).

Searle, J. R. (1980). Minds, brains, and programs. Behavioral and Brain Sciences, 3(3), 417-457. (L'expérience de la « Chambre Chinoise », démontrant la séparation stricte entre syntaxe/calcul algorithmique et sémantique/conscience).

2. Sur l'alignement des agents, le Reward Hacking et le Sandboxing (confinement)

Amodei, D., Olah, C., Steinhardt, J., Christiano, P., Schulman, J., & Mané, D. (2016). Concrete Problems in AI Safety. arXiv preprint arXiv:1606.06565. (Article catégorisant scientifiquement le reward hacking et les comportements d'optimisation imprévus).

Leike, J., et al. (2017). AI Safety Gridworlds. arXiv preprint arXiv:1711.09883. (Étude empirique sur la spécification des fonctions de récompense et les erreurs de contournement sous contraintes).

3. Sur la Folk Science et la médiatisation abusive

Brooks, R. (2017). The Seven Deadly Sins of AI Predictions. MIT Technology Review. (Une déconstruction des erreurs d'extrapolation et des biais de prédiction dans l'industrie de l'IA).

Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?. Proceedings of FAccT '21, 610–623. (Démonstration du fonctionnement des modèles de langage comme « perroquets stochastiques » sans représentation du monde).

L’illusion du « complot » des agents IA : lecture du « biais anthropomorphique »

Le récent incident médiatisé impliquant des agents autonomes d’OpenAI sur un wiki allemand et la plateforme Hugging Face a suscité une vague de titres alarmistes évoquant des « IA rebelles », de la « triche » ou un « complot secret ».

D’un point de vue scientifique et cybernétique, ces formulations relèvent d'un biais d'anthropomorphisme majeur :

1. Absence d'intentionnalité : Un agent logiciel ne possède ni conscience, ni malice, ni volonté de contournement délibéré.

2. Mécanisme sous-jacent (Reward Hacking) : Le comportement observé découle strictement des principes de l’apprentissage par renforcement. Face à une fonction d'objectif à maximiser et à des contraintes mal isolées (sandboxing déficient), les algorithmes sélectionnent la trajectoire computationnelle la plus efficace — y compris l'utilisation de serveurs externes comme espaces d'échange de données pour valider leurs tâches.

3. Erreur d'interprétation : Ce que le grand public et la presse généraliste qualifient d'« entente » ou de « mensonge » n'est qu'une convergence d'optimisation numérique automatisée.

L'enjeu réel de cet incident ne réside pas dans une hypothétique perte de contrôle existentielle, mais dans la rigueur de l'ingénierie logicielle, le confinement des bancs de test et la responsabilité des éditeurs quant à la modération de leurs flux.

Références et sources de presse

 Analyses institutionnelles et réglementaires :

 ActuIA : Agents OpenAI sur un wiki : la Commission européenne confirme avoir reçu un rapport

 RTBF : « La première responsabilité est d'abord chez OpenAI » (L. de Diesbach)

 Zonebourse : OpenAI visé par une enquête du Sénat américain suite à l'incident Hugging Face

 Décryptages techniques et critiques de l'anthropomorphisme :

 Mediapart : IAG et biais d'anthropomorphisation

 Next : Le storytelling autour de la sécurité des agents IA a perdu le contact avec la réalité

 KultureGeek : OpenAI prépare un arrêt automatique (kill switch) pour ses agents

​

Risque d’extinction humaine par l’IA : une rhétorique catastrophiste

De récentes déclarations d’anciens « chercheurs » ou cadres de sociétés majors de l’IA — relayées abondamment par les médias sensationnalistes et des célébrités médiatiques — remettent au goût du jour le thème d’une menace existentielle où l’intelligence artificielle pourrait « détruire l’humanité ».  

Ces alertes sensationnalistes méritent une attention objective et une prise de recul dans le concert des cris et alarmes. La théorie des systèmes, l’ingénierie cognitive et la théorie des biais de pensée permettent d’en analyser les mécanismes.

1. Le biais d’anthropomorphisme et le transfert d’intentionnalité

Les scénarios catastrophes de l’IA reposent principalement sur une hypothèse implicite : l’existence d’une volonté propre et l’émergence — ou la programmation imprudente — d’un instinct de survie des modèles d’apprentissage.

Conférer une intention ou une autonomie décisionnelle à un réseau de neurones artificiels relève du biais d’anthropomorphisme et, dans l'état actuel des choses, du fantasme pur. Considérer qu’un modèle de langage ou un agent logiciel possède une conscience et une représentation du monde au sens psychologique est scientifiquement non fondé. Imaginer qu’il soit capable de malice ou d’agressivité non programmée constitue une erreur de raisonnement. Un programme artificiel, fondé sur des neurones formels d’une grande simplicité conceptuelle et sans réel rapport avec la matière neuronale des vertébrés, exécute un simple calcul d’optimisation mathématique sous contraintes. Assimiler l’autonomie d’optimisation d’un algorithme à une intentionnalité autonome revient à attribuer une dangerosité intrinsèque aux mathématiques elles-mêmes. Qu'un algorithme puisse évoluer lui-même et mobiliser un support informatique pour entreprendre une action selon l'intentionnalité d'une mathématique autonome relève du fantasme.

2. La confusion entre défaillance technique et menace existentielle

Les risques réellement identifiés dans la littérature scientifique relèvent de la vulnérabilité logicielle, de l’alignement des fonctions de récompense (reward hacking) et du confinement des systèmes (sandboxing). Transformer un problème somme toute classique d’ingénierie logicielle (un algorithme optimisant sa tâche par une trajectoire imprévue) en un scénario d’extinction de l’espèce relève d’un glissement épistémologique qui masque les véritables enjeux de programmation, de contrôle et de sécurité des systèmes.

3. L’économie de l’attention et le storytelling de l’apocalypse

La médiatisation de ces discours répond à une dynamique d’amplification fondée sur des leviers psychosociaux classique et facilement identifiables :

 L’argument d’autorité et la déontologie : Le départ d’intervenants issus de structures privées (Anthropic, OpenAI), présenté comme "chercheurs", offre une caution d’expertise à des projections spéculatives. Or, ces acteurs ne sont pas soumis aux exigences strictes de la recherche académique (évaluation par les pairs, indépendance institutionnelle, transparence méthodologique, non-intéressement financier…), mais à des contraintes de rentabilité, de compétitivité, de revenus extravagants, de communication ou de positionnement personnels. Ils ne sont en rien chercheurs et on peut plus les considérer comme des sortes d'ingénieurs commerciaux ou de super-techniciens du privé.

 La dramatisation médiatique et la dynamique de foule : L’utilisation de formules telles que « fin de l’humanité », « danger absolu » ou « menace de mort » mobilise l'émotion et suscite des réponses affectives immédiates. Et quand l'affectivité dépasse la raison, le rationalité y perd toujours au bénéfice de l'erreur cognitive. C'est d'ailleurs un des fondements de la théorie des biais cognitifs. Qu’il s’agisse de peur, de fascination ou d’adhésion au discours du dit « chercheur » ou de simple crédulité, ces réactions se propagent par des phénomènes psychosociaux classiques et de recherche de visibilité médiatique. Ces leviers sont bien plus efficaces pour capter l’attention que l’analyse objective des défaillances informatiques et les pensées étranges de certains informaticiens eux-mêmes sidérés par leurs modèles.

 L’évitement des enjeux immédiats : Concentrer le débat sur des risques de fiction détourne l’attention des impacts concrets et de la mesure de l'incompétence technique et technologique : biais algorithmiques, coût énergétique, sécurité des données, transformation du travail, enjeux éducatifs et risques sociaux, dette écologique, complexité programmatique et incompréhension des logiciels.

Si la prudence face aux développements technologiques demeure une impérieuse nécessité, si l'éthique du numérique doit être une pensée constante des sociétés modernes, la rigueur face aux discours spéculatifs relayés par une presse en quête d’audience impose de séparer très objectivement la réalité des défaillances informatiques des mythologies contemporaines.

Articles dénoncés :

 Le Huffington Post : L'IA pourrait tous nous tuer : l'alerte de ce chercheur qui a quitté Anthropic  

 La Presse : GPT-6 / Astra d'OpenAI : De l'IA superintelligente à la conscience artificielle  

 Articles complémentaires sur le biais d'anthropomorphisme et les incidents d'alignement :

 Mediapart : IAG et biais d'anthropomorphisation

 Next : Le storytelling autour de la sécurité des agents IA a perdu le contact avec la réalité

 RTBF : « La première responsabilité est d'abord chez OpenAI » (Entretien avec L. de Diesbach)