De récentes déclarations d’anciens « chercheurs » ou cadres de sociétés majors de l’IA — relayées abondamment par les médias sensationnalistes et des célébrités médiatiques — remettent au goût du jour le thème d’une menace existentielle où l’intelligence artificielle pourrait « détruire l’humanité ».
Ces alertes sensationnalistes méritent une attention objective et une prise de recul dans le concert des cris et alarmes. La théorie des systèmes, l’ingénierie cognitive et la théorie des biais de pensée permettent d’en analyser les mécanismes.
1. Le biais d’anthropomorphisme et le transfert d’intentionnalité
Les scénarios catastrophes de l’IA reposent principalement sur une hypothèse implicite : l’existence d’une volonté propre et l’émergence — ou la programmation imprudente — d’un instinct de survie des modèles d’apprentissage.
Conférer une intention ou une autonomie décisionnelle à un réseau de neurones artificiels relève du biais d’anthropomorphisme et, dans l'état actuel des choses, du fantasme pur. Considérer qu’un modèle de langage ou un agent logiciel possède une conscience et une représentation du monde au sens psychologique est scientifiquement non fondé. Imaginer qu’il soit capable de malice ou d’agressivité non programmée constitue une erreur de raisonnement. Un programme artificiel, fondé sur des neurones formels d’une grande simplicité conceptuelle et sans réel rapport avec la matière neuronale des vertébrés, exécute un simple calcul d’optimisation mathématique sous contraintes. Assimiler l’autonomie d’optimisation d’un algorithme à une intentionnalité autonome revient à attribuer une dangerosité intrinsèque aux mathématiques elles-mêmes. Qu'un algorithme puisse évoluer lui-même et mobiliser un support informatique pour entreprendre une action selon l'intentionnalité d'une mathématique autonome relève du fantasme.
2. La confusion entre défaillance technique et menace existentielle
Les risques réellement identifiés dans la littérature scientifique relèvent de la vulnérabilité logicielle, de l’alignement des fonctions de récompense (reward hacking) et du confinement des systèmes (sandboxing). Transformer un problème somme toute classique d’ingénierie logicielle (un algorithme optimisant sa tâche par une trajectoire imprévue) en un scénario d’extinction de l’espèce relève d’un glissement épistémologique qui masque les véritables enjeux de programmation, de contrôle et de sécurité des systèmes.
3. L’économie de l’attention et le storytelling de l’apocalypse
La médiatisation de ces discours répond à une dynamique d’amplification fondée sur des leviers psychosociaux classique et facilement identifiables :
L’argument d’autorité et la déontologie : Le départ d’intervenants issus de structures privées (Anthropic, OpenAI), présenté comme "chercheurs", offre une caution d’expertise à des projections spéculatives. Or, ces acteurs ne sont pas soumis aux exigences strictes de la recherche académique (évaluation par les pairs, indépendance institutionnelle, transparence méthodologique, non-intéressement financier…), mais à des contraintes de rentabilité, de compétitivité, de revenus extravagants, de communication ou de positionnement personnels. Ils ne sont en rien chercheurs et on peut plus les considérer comme des sortes d'ingénieurs commerciaux ou de super-techniciens du privé.
La dramatisation médiatique et la dynamique de foule : L’utilisation de formules telles que « fin de l’humanité », « danger absolu » ou « menace de mort » mobilise l'émotion et suscite des réponses affectives immédiates. Et quand l'affectivité dépasse la raison, le rationalité y perd toujours au bénéfice de l'erreur cognitive. C'est d'ailleurs un des fondements de la théorie des biais cognitifs. Qu’il s’agisse de peur, de fascination ou d’adhésion au discours du dit « chercheur » ou de simple crédulité, ces réactions se propagent par des phénomènes psychosociaux classiques et de recherche de visibilité médiatique. Ces leviers sont bien plus efficaces pour capter l’attention que l’analyse objective des défaillances informatiques et les pensées étranges de certains informaticiens eux-mêmes sidérés par leurs modèles.
L’évitement des enjeux immédiats : Concentrer le débat sur des risques de fiction détourne l’attention des impacts concrets et de la mesure de l'incompétence technique et technologique : biais algorithmiques, coût énergétique, sécurité des données, transformation du travail, enjeux éducatifs et risques sociaux, dette écologique, complexité programmatique et incompréhension des logiciels.
Si la prudence face aux développements technologiques demeure une impérieuse nécessité, si l'éthique du numérique doit être une pensée constante des sociétés modernes, la rigueur face aux discours spéculatifs relayés par une presse en quête d’audience impose de séparer très objectivement la réalité des défaillances informatiques des mythologies contemporaines.
Articles dénoncés :
Le Huffington Post : L'IA pourrait tous nous tuer : l'alerte de ce chercheur qui a quitté Anthropic
La Presse : GPT-6 / Astra d'OpenAI : De l'IA superintelligente à la conscience artificielle
Articles complémentaires sur le biais d'anthropomorphisme et les incidents d'alignement :
Mediapart : IAG et biais d'anthropomorphisation
Next : Le storytelling autour de la sécurité des agents IA a perdu le contact avec la réalité
RTBF : « La première responsabilité est d'abord chez OpenAI » (Entretien avec L. de Diesbach)
