BIO - ECO - Les neurosciences - discours néo-libéral / livre de François Gonon

 

François Gonon est directeur de recherche honoraire du CNRS. Neurobiologiste à l’université de  Bordeaux, il a notamment travaillé sur la neurotransmission mettant en jeu la dopamine. Ses travaux les plus récents concernent pourtant l’épistémologie et la sociologie des (neuro)sciences et entendent porter un regard critique sur les écarts entre les résultats des recherches en neurosciences et leur présentation par les médias ou la vulgarisation Scientifique, et leur récupération politique.

Il a produit une série de publications et un ouvrage synthétique de ses analyses : « Neurosciences : un discours néolibéral ? Psychiatrie, éducation, inégalités » dans la collection , Champ Social (Paris) – ISBN : 9791034608829 – https://champsocial.com/book-neurosciences_un_discours_neoliberal_psychiatrie_education_inegalites,1347.html#couv 

Un discours hégémonique

La thèse centrale de François Gonon soutient que le discours des neurosciences est double lorsqu’il concerne l’humain. Il se pare de l’exactitude et de l’objectivité scientifique lorsqu’il présente des résultats parcellaires ou strictement limités en termes biologiques et méthodologiques, et il devient généralisateur et hégémonique en se présentant comme indiscutable à propos de la complexité humaine. Une métaphore qui n’appartient pas à l’auteur mais que l’on présente ici de manière pédagogique serait de tenir un discours sur le temps à partir de la micro-mécanique horlogère des coucous suisses.

Cette particularité est d’autant plus établie lorsque ce discours s’adresse à la psychiatrie et aux troubles mentaux, à l’éducation et à l’avenir des jeunes, ou à la gestion des inégalités et à la dynamique des sociétés. Pour l’auteur, cette argumentation généralisante et approximative s'inscrit dans le pur alignement avec les principes de l'idéologie néolibérale. Cette analyse repose sur quatre arguments principaux.

La naturalisation et l'individualisation des problèmes sociaux

Le discours néolibéral, tel que le présente François Gonon, cherche à réduire des problématiques systémiques, économiques ou sociales à la responsabilité de l'individu seul ou de groupe d’entités humaines d’individus. Ainsi, on réduit les difficultés d’apprentissage scolaire, les souffrances psychiques au travail ou les inégalités sociales à des causes biologiques, voire des dysfonctionnements cérébraux (déficit en neurotransmetteurs, anomalies de connectivité, distorsion de la norme en imagerie fonctionnelle…). Si ça va mal, c’est la faute de ceux qui vont mal, et notamment de l’individu non conforme, déviant ou au cerveau mal pensant.

Les neurosciences offrent ainsi une justification biologique à des échecs ou des détresses d'origine environnementale ou sociales. Mais cela dépasse l’intention personnelle, et c’est le cas, par exemple, des difficultés scolaires ou l'inattention de certains enfants est fréquemment médicalisé (TDAH), déchargeant ainsi l'institution scolaire ou les conditions socio-économiques et familiales de toute remise en question.

L'impératif d'adaptabilité et le mythe de la plasticité

Face aux aléas sociaux, l’idéologie néolibérale met en avant les aptitudes personnelles en valorisant la flexibilité, l'auto-optimisation, la résilience et la responsabilité individuelle. Pour François Gonon, le concept de plasticité cérébrale est dévoyé à tout va, et sa vulgarisation permet de soutenir ce modèle : les aptitudes doivent être exploitées et l’individu placé devant ses responsabilités, ses troubles neurobiologiques ou ses inaptitudes à avoir suffisamment exploité ses fonctions de plasticité.

Le cerveau devient donc un « capital » à optimiser. Il faut l’entraîner, le faire évoluer, le rendre conforme à la performance. Il doit ainsi pouvoir s’adapter en permanence aux exigences de l'environnement marchand et compétitif promu par notre société. L'individu devient alors responsable de son adaptation ou de son inadaptation, et il est lui-même responsable de son aptitude ou de son incapacité à s'adapter.

La constitution d'une « bulle spéculative » médicale et médiatique

Gonon définit et décrit une « bulle spéculative » de la psychiatrie biologique et des neurosciences appliquées, construite sur un décalage structurel, exploitée sur un « double discours ». D'un côté, la réalité les données de la recherche scientifique met en avant une faible valeur prédictive des marqueurs biologiques dans les troubles psychiques, ainsi que l'absence de retombées cliniques majeures face aux investissements financiers engagés, qu’il faut donc justifier. D’un autre côté, la communication scientifique et les médias grand public diffusent des informations biaisées  laissant espérer la résolution de tous les maux humains par l'imagerie et la molécule. La solution est dans la biologie du cerveau et dans la science qui la décrit.

Au-delà de l’erreur conceptuelle, François Gonon pointe la logique marchande : le fonctionnement spéculatif suit la logique managériale du néolibéralisme. Il faut valoriser des promesses d'innovation technologique, captiver ainsi les financements publics et privés, formater pour l’Etat et répondre pour les chercheurs aux appels à projets scientifiques, légitimer les politiques publiques basées sur l'expertise technocratique, minimiser l’intérêt de l’action sociale et des transformations, recentrer les problèmes sur l’individu et la compétitivité.

La dépolitisation de la décision publique

Le neuroscientifique devient un expert en tout problème humain. Il devient le tenant du discours de vérité, et l’arbitre légitime des politiques de santé, éducatives ou sociales. Ce n’est pas la faute du politique, c’est la science qui a parlé. L’outil absolu est aujourd’hui l'imagerie cérébrale ; et la preuve se fait, compréhensible par tous, avec des images partielles et méthodologiquement tronquées. 

Le discours néolibéral cherche à remplacer le questionnement social et le débat en matière politique, éthique et morale par des réalités scientifiques, des arbitrages techniques et des illusions d’images ou de statistiques cérébrales. La question de la justice sociale se trouve ainsi remplacée par celle de la remédiation individuelle, d’ordre d’abord médicale ou d’application neurobiologie et pédagogie, en clinique et en décision publique.

Les perspectives

François Gonon ne rejette évidemment pas la valeur des neurosciences en tant que science fondamentale et lieu de production de connaissances. Il plaide cependant pour la remise en doute de leurs pouvoir d’argumentation sociale et la remise en question de leur « impérialisme » et de leur instrumentalisation idéologique.

Il dépasse ainsi la simple déconstruction des biais méthodologiques, de la logique des publications (on notera qu’elle sont toujours en anglais, le plus souvent dans des revues de culture américaine ou britannique), des surpromesses non tenues malgré les sommes faramineuses investies et du triomphalisme du réductionnisme biologique. Il propose des perspectives épistémologiques, cliniques, éducatives et sociopolitiques que gagneraient à lire les décideurs politiques, pour peu qu’ils en aient l’envie, l’aptitude ou la motivation à comprendre.

Ses propositions, loin du réductionnisme simplificateur et donc facilement compréhensible, visent à rétablir une approche pluraliste prenant en compte les déterminants sociaux, environnementaux et psychologiques.

Refonder la clinique sur la relation et le contexte

François Gonon dénonce l’incohérence de la dérive « neuro-essentialiste » qui réduit la souffrance psychique à un dysfonctionnement cérébral ou à une anomalie neurobiologique. Il entend revaloriser la place du sujet et celle de la parole, en préconisant un retour à une clinique attentive à l'histoire singulière de l'individu et à son vécu.

La relation thérapeutique contre la biologisation

La biologisation de la maladie mentale diminue l'empathie des soignants et appauvrit le lien de soin. Elle est à la fois cohérente avec l’optimisation des besoins et le désinvestissement humain de personnels tournés vers eux-mêmes et formés de manière normative. 

Plutôt que la rechercher des marqueurs génétiques ou cérébraux de vulnérabilité et la quantification des procédés et moyen de l’action biologique, l’auteur propose d’agir sur les facteurs de risque psychosociaux avérés tels que stress au travail, précarité, événements de vie traumatiques... ce retour à la clinique n’est pas incompatible avec les neurosciences, mais celles ci doivent étayer et non précéder.

Réintégrer le social et le politique dans le traitement des inégalités

L’insupportable « biologisation de la pauvreté » a balayé la réalité des déterminants sociaux. Ainsi l’absurde mais facile pathologisation des inégalités sociales a mené au marché de la rechercher des marqueurs cérébraux des déficits cognitifs, notamment chez les enfants défavorisés. François Gonon propose de déplacer l’attention de la précarité, conçue comme problème de « plasticité cérébrale » individuelle, vers l’analyse des conditions matérielles et sociales d'existence, et vers des politiques de santé publique préventives qui pourraient permettre de concentrer les efforts et les budgets sur l'amélioration des conditions de vie et le soutien socio-économique des familles.

Libérer l'éducation du dogme « neuro-pédagogique »

Pour ce qui est de l’éducation, François Gonon rappelle l’exigence de prudence. Il est nécessaire d’adopter une prise de distance critique vis-à-vis des prétentions normatives de la « neuro-éducation ». Le but n’est pas de désinvestir les neurosciences, mais de ramener les résultats parcellaires et discutables de l’imagerie cérébrale à leur place de recherche fondamentale et de se garder des applications. 

Questionner la neuro-pédagogie ne relève pas du « néo-obscurantisme », mais d'une exigence scientifique légitime. L'école n'a pas à aligner ses méthodes sur une conception utilitariste et adaptative de l'esprit centrée uniquement sur la performance cognitive de l'individu et le réductionnisme des images. Il faut redonner sa place aux sciences de l'éducation, sachant que la pédagogie relève principalement des sciences humaines, de la sociologie et de l'expérience du terrain.

Défendre le débat pluraliste

Pour François Gonon, il convient de réformer la communication scientifique à propos des neurosciences, et le revoir le financement de la recherche sur le cerveau pour limiter les aberrations généralisatrices qui se substituent, à coups de certitudes partielles, à des plans globaux de prise en charge et de prévention. Sur le plan institutionnel et épistémologique, François Gonon propose ainsi une transformation des pratiques d'évaluation et de diffusion des savoirs. Il convient de corriger la distorsion médiatique en responsabilisant les chercheurs et les institutions afin d’éviter des surpromesses et des effets d’annonce. De la même manière, il faut augmenter la prudence et limiter les sur-interprétation des études partielles et non encore répliquées. Enfin, il convient de diversifier les modèles de recherche, redonner une place centrale aux sciences humaines et sociales, en réintroduisant la réalité psychologique, sociologique et anthropologique dans les neurociences, face à la suprématie du tout-biologique.

Quelques références

Gonon, F. (2011). La psychiatrie biologique : une bulle spéculative ? Esprit, 2011(11), 54–73. https://doi.org/10.3917/espri.1111.0054

Gonon, F. (2016). La psychiatrie biologique : une bulle spéculative ? Le cas de l'hyperactivité (TDAH). Journal Français de Psychiatrie, 44(2), 113–124. https://doi.org/10.3917/jfp.044.0113

Gonon, F., Konsman, J. P., Cohen, D., & Boraud, T. (2012). Framing brain science for the public: News media coverage of attention deficit hyperactivity disorder. PLoS ONE, 7(9), Article e44277. https://doi.org/10.1371/journal.pone.0044277

Gonon, F. (2024). Neurosciences : un discours néolibéral ? Psychiatrie, éducation, inégalités. Champ Social. https://doi.org/10.3917/chm.gonon.2024.01 (ISBN : 979-10-346-0882-9)

INFO - DIV : Informatique quantique à l'ENSC

L’ordinateur quantique d’IBM voit sa fiabilité renforcée

Ce ne sont pas moins de trois études impliquant IBM et son IBM Quantum machine de Yorktown Heights (NY-USA) qui, le 30 juillet dernier, ont confirmé la fiabilité du calcul quantique et de son implémentation sur la Q-machine IBM, connue sous l’hypocoristique « The Chandelier » de « Big Blue ».

La confiance n'allait pas de soi, la technologie quantique permettant des calculs en théorie inaccessibles aux machines classiques, reposant sur une logique et des programmes tout à fait originaux, avec une puissance et une rapidité telles que le contrôle par des ordinateurs classiques est impossible, voire inconcevable. Alors, comment savoir qu'un ordinateur quantique donne des résultats « en confiance » ou « n'hallucine » pas ?

Les deux premières études portent sur des simulations de matériaux quantiques particulièrement complexes. Elles démontrent que les résultats produits restent cohérents malgré des tests poussés, tels que la variation volontaire du niveau d'erreurs affectant le calcul, l'exécution sur plusieurs processeurs, ou la comparaison avec les cas encore accessibles aux méthodes classiques. La troisième étude propose un dispositif permettant d'estimer directement la fiabilité d'un calcul quantique au moment même où il est réalisé.

• Première étude (Université de Chicago & IBM – Échantillonnage / 70 qubits logiques) : Ghosh, S., Fefferman, B., & IBM Quantum. (2026). Demonstrate Quantum Advantage, Establishing Trusted Quantum Computation on Logical Circuits. arXiv. https://doi.org/10.48550/arXiv.2607.25941
• Deuxième étude (Qedma & IBM – Simulation de matériaux / 74 qubits) : Qedma Quantum Computing, & IBM Quantum. (2026). Modeling Physics Beyond Classical Capabilities Through Trusted Quantum Computation. arXiv. https://doi.org/10.48550/arXiv.2607.25942
• Troisième étude (Algorithmiq & IBM – Estimation en temps réel de la fiabilité / 56 qubits) : Algorithmiq, & IBM Quantum. (2026). Establishing a Framework for Trusted Quantum Computation Beyond Classical Verification. arXiv. https://doi.org/10.48550/arXiv.2607.25943

L’apport épistémologique de la confiance

Pour les adeptes de la pensée rationnelle, et au-delà de l’intérêt purement disciplinaire et des spécificités physiques de chaque expérimentation, ces études confirment la pertinence opérationnelle et épistémologique de l'informatique quantique en ouvrant le grave chapitre du problème de la vérificabilité (Trusted Quantum Advantage). La démonstration d'un avantage quantique se heurte en effet à une contradiction logique : un supercalculateur non quantique, même le plus avancé, ne peut simuler le système quantique dans des délais raisonnables ; il devient donc, par définition et par conception, impossible de vérifier l'exactitude du résultat produit par la machine quantique. On est donc face au problème incontournable de confiance (trust) en la machine.

En introduisant des structures de circuits vérifiables et des cadres d'estimation d'erreur en temps réel, IBM semble prouver, du moins c’est ce qui est prétendu, qu'il est possible d'attester de la validité d'un calcul hors d'atteinte classique.

Résumé synthétique des apports techniques

Pour les adeptes de l’informatique et des techniques, les travaux montrent le passage d'un régime bruité à une exécution contrôlée sur des échelles utiles (sic). En d’autres termes, on démontre la robustesse de résultats quantiques malgré des variations intentionnelles des taux d'erreur et l'utilisation de circuits complexes (tels que des dizaines de qubits logiques ou des simulations de matériaux). Les études confirment que le bruit inhérent aux processeurs quantiques actuels (comme l'architecture Heron) peut être géré et atténué de façon méthodique. Cela est un nouveau pas vers la maturité de la technologie au-delà de la recherche fondamentale.

De même, l’établissement d'une méthodologie industrielle standardisée pour l’écosystème, en validant des protocoles de contrôle développés avec des partenaires académiques (Université de Chicago) et industriels indépendants (Qedma, Algorithmiq), permet aux développeurs de disposer d’outils diagnostics et de certification pour transposer les algorithmes quantiques à des problèmes industriels concrets.

De l’intérêt de la convention IBM-ENSC

La convention entre l'École Nationale Supérieure de Cognitique (ENSC - Bordeaux INP) et IBM, initiée autour de la Chaire « Sciences et Technologies Cognitiques » fondée par Mac Rodier (IBM) et Bernard Claverie (ENSC), représente un pivot stratégique. Elle associe l'ingénierie du facteur humain, l'intelligence artificielle (Watson) et la calculabilité quantique comme mode potentiel de modélisation des processus cognitifs. L’avancée de 2026 en termes de confiance et d’applicabilité représente alors une avancée majeure pour le futur du quantique et du cerveau.

Pourtant, ce modèle pionnier souffre aujourd'hui de contraintes géographiques, de l'indifférence des instances centrales de l'Enseignement Supérieur et de la Recherche (ESR) ou de la région de Nouvelle-Aquitaine, et d'un parisianisme institutionnel bien connu. L’État a d’autres ambitions avec des sociétés réputées françaises, sans sembler comprendre que IBM-France est une société française ; la Région n’aime pas IBM et ne comprend rien au quantique ; quant à l’ensemble de tout le monde, Bordeaux, c’est un peu l’AOF des élites parisiennes (Marseille étant certainement l’AEF).

Or, pour maintenir sa primauté, l'ENSC doit dépasser ces blocages. C’est pour cela que ce post propose très fermement de réactiver, en le structurant de manière plus intense, le partenariat direct qui avait été établi avec le centre d'excellence mondial d'IBM Yorktown Heights (New York) et d’établir de nouveaux partenariats avec les centres IBM Austin Domain 12 (Texas) ou IBM Zurich Lab (Suisse).

Intérêt de la convention ENSC-IBM : De Watson à l'informatique quantique

La convention établie entre l'ENSC et IBM par ses pionniers, côté IBM — le visionnaire Frédéric Allard, le génial Marc Rodier et l'excellent Silvano Sansoni — et portée par la direction de l'école (l'émérite Bernard Claverie) a instauré un modèle croisé novateur. Il reposait sur trois fondements : pédagogique, partenariat et ouverture à la recherche sur le quantique et la pensée naturelle. Ces fondements sont (i) la formation par IBM à Watson et à l'IA hybride. L’ambition était de permettre aux ingénieurs formés de pouvoir intégrer des briques précoces d'IA symbolique, connexioniste et de TAL au cœur de l'ingénierie cognitique ; (ii) l’acquisition des fondements quantiques par les élèves ingénieurs (N.B. : l’ENSC est le seul établissement d'enseignement supérieur du site aquitain, et l'une des rares écoles d'ingénieurs en France, à intégrer le quantique dès le cycle d’ingénieur) ; (iii) la synergie hybride (Cognitique & Quantique) reposant sur l’intersection entre calcul quantique et sciences de la pensée, préparant les ingénieurs aux algorithmes de complexité supérieure : optimisation, simulation de réseaux complexes, cryptographie et modèles d'IA quantique ou de modélisation de l’intelligence naturelle.

L'implication directe d'experts industriels émérites (IBM Distinguished Engineers) au sein des cours et des projets d'élèves permet de garantir une transmission de compétences en temps réel sur des technologies propriétaires de pointe.

Handicap de l'éloignement géographique et passivité institutionnelle

Malgré plus de dix ans de résultats tangibles, et les pionniers passant, le déploiement opérationnel se heurte à plusieurs freins culturels et logistiques.

Le premier est celui de l’obstacle géographique Paris-Colombes / Bordeaux-Talence : le recentrage des équipes d'IBM France sur l'axe francilien (Colombes) crée une friction logistique inutile, traitant la présence physique des experts à Talence comme un coût plutôt que comme un investissement stratégique territorial. Comme toujours, la logique managériale s’impose à l’ambition scientifique, et cela est d’autant plus compréhensible que l’attitude des tutelles est plus que décevante.

Le second est un parisianisme du monde politique de l’ESR, avec un mépris affiché pour la province. La décentralisation est de plus en plus conçue comme un coût financier et la recentration de tout sur Paris, la cécité des nouveaux responsables envers une expérience pionnière qui a le tort d’avoir plus de dix ans. Dès lors qu'une innovation majeure ne prend pas naissance sur le plateau de Saclay, à Polytechnique, Centrale ou l’ENS, ou porté par les bureaux de Descartes ou de l’Élysée, elle subit un désintérêt systémique indéniable.

Le troisième est une démission stratégique qui fait ignorer une chaire formant des ingénieurs maîtrisant la chaîne complète IA-Facteur Humain-Quantique. Les doutes quant à l’intérêt du quantique constituent un gâchis à la fois académique et industriel, pour le pays et pour les entreprises de l'écosystème numérique.

Stratégique pour le développement du partenariat

La continuation et l'amplification de la convention reposent sur des enjeux pluriels.

• Pour IBM : S'assurer un vivier exclusif d'ingénieurs capables de concevoir des interfaces et des algorithmes adaptés aux ordinateurs quantiques, tout en consolidant l'adoption de l'écosystème Qiskit et des architectures IBM.
• Pour Bordeaux INP et l'ENSC : Conserver un positionnement académique différenciant au niveau européen, associant neurosciences appliquées, sciences humaines, ingénierie IA et calcul quantique.
• Pour la France et l’Europe, alors que tous les discours regorgent de la notion de souveraineté numérique, former des ingénieurs capables de combler le fossé entre la recherche théorique et l’exploitation industrielle et la recherche appliquée apparaît à tout benêt comme une priorité.

Recommandation stratégique

Réactiver, avec l’aide d’IBM France,, tout en conservant les excellentes relations actuelles, l'axe direct ENSC – IBM Research (Yorktown Heights, NY) en court-circuitant les froideurs parisiennes et régionales. L'ENSC doit opérer un saut d'échelle en s'adressant directement à la tête scientifique d’IBM. La liaison directe Yorktown Heights nécessite pourtant des frais de mission ; ceux-ci peuvent être couverts par des aides de l’entreprise ou des subventions régionales ; pas la peine de compter sur l’État, il préférera privilégier le plateau de Saclay ou Paris Cité.

Pouvoir établir un partenariat institutionnel d'accès prioritaire aux processeurs quantiques avancés (IBM Quantum System One / Heron), mais également d’inviter les chercheurs, notamment Claudine Simson et ses collègues à Austin et Ruchir Puri (qui parle français) et ses collègues à Yorktown Heights.

Élaboration de projets de fin d'études et de thèses CIFRE ou d’entreprise à Yorktown Heights ou à Munich. Cette contribution à la mobilité d'élèves-ingénieurs et de doctorants directement au sein des laboratoires de recherche d’IBM permettrait de mieux assoir la convention et de rendre service aussi bien aux jeunes pour la qualité de leur CV, qu’à l’entreprise pour sa politique d’ouverture, et qu’à l’ENSC pour son image.

Hybrider l’enseignement à distance et organiser des séminaires d’exception permettrait de contourner la contrainte logistique Colombes-Bordeaux et financière institutionnelle régionale et nationale, en formalisant des modules de cours hybrides et des résidences scientifiques annuelles d'experts américains et européens à l’ENSC (le vin de Bordeaux, l’océan et les Pyrénées, ainsi que la douceur de vivre en Aquitaine peuvent être des accompagnateurs motivationnels).

Conclusion

Il convient de ne pas passer à côté de cette avancée majeure, et de profiter de ce pas de géant pour relancer, fertiliser et renforcer des collaborations. Ceci est de la compétence des jeunes collègues ; les pionniers sont passés, et même s’il faut les saluer, il convient de convaincre, surtout dans une période sociale nationale et transatlantique un peu compliquée.

IA - Vous avez dit "désalignement" ?

L'alignement des intelligences artificielles (AI Alignment) est l’un des problèmes nouveaux des IA, de leurs risques et de la gouvernance des systèmes autonomes (on a déjà traité dans ce blog de l’initiative Microsoft). Le but de l’alignement est de s'assurer que les machines dites intelligentes (smart machines) partagent des valeurs humaines et civilisationnelles sans privilégier une pure logique technologique de performance mal maîtrisée. Une IA alignée serait une IA éthique, non dangereuse, et au pouvoir d’initiative tout en permettant d’avoir une confiance totale dans le système.

En fait, de quoi s’agit-il ?

Plus les systèmes d'IA gagnent en autonomie, et plus les humains les intègrent dans les domaines décisionnels et notamment dans les infrastructures critiques. Cet usage peut être à visée sécuritaire ou de décharge de procédures et de tâches qui, bien que rébarbatives, sont d’importance vitale. Le problème fondamental qui émerge de cette rencontre entre puissance et délégation est celui des moyens de mesure, de surveillance, de supervision et de contrôle. Notamment, il convient d’être assuré que les machines et programmes réalisent des tâches strictement conformes aux projets des concepteurs tout en le restant aux intérêts humains. Les notions de sécurité et de valeurs rencontrent ici celles de commandement et de contrôle (C2), ce qui fera l’objet d’un prochain article.

La notion d’alignement des IA (AI Alignment) recouvre ce domaine en cherchant à définir les moyens et les bornes, et à contenir l’autonomie artificielle dans les strictes valeurs acceptables par les humains. Par voie de conséquence, une « IA désalignée » est un système ou un modèle d’intelligence artificielle dont on n’a pas contrôlé les possibilités de prendre des décisions ou de donner des résultats non conformes aux objectifs, à la sécurité ou aux valeurs. Il ne s’agit donc pas, bien que la réflexion puisse être promue à propos de projets ou de fantasmes de conscience artificielle, d’intention malveillante d’une future IA générale. Il s’agit de s’intéresser au traitement d’information par les IA selon des objectifs qui auraient été mal formulés ou insuffisamment bornés, permettant au système de mettre en œuvre ou de s’adapter à des stratégies imprévues.

Robustesse et responsabilité des informaticiens

Tous les systèmes complexes, qu’ils soient naturels ou artificiels, obéissent à deux fonctions de régulation : le renforcement positif et le renforcement négatif. On les retrouve opérant dans tous les compartiments de la vie naturelle, des êtres les plus simples, tels que des bactéries, aux plus évolués, tels que les mammifères supérieurs, et imités pour tous les systèmes artificiels apprenants, des plus simples, comme les automatismes de base, jusqu’aux plus sophistiqués comme les dispositifs d’intelligence artificielle symbolique. Les biologistes les ont découverts, les informaticiens les ont imités, simplifiés et implémentés, le plus souvent sans connaissance ni recul tant épistémologique qu’éthique.

Ainsi, aujourd’hui, tout agent artificiel optimise une fonction de renforcement négatif et une fonction de récompense qui lui sont assignées. Le plus souvent, dans une incompréhension totale de la différence des deux processus, les concepteurs les regroupent dans une seule et même fonction dite « de coût ». Le problème de l’alignement naît d’une divergence structurelle entre le respect de l’optimisation de cette fonction de coût et le projet du programmeur qui s’étonne alors de l’évidente complexité évolutive de tout système en méconnaissant même, peut-être, la notion de système complexe.

On lâche ainsi un système autonome muni d’un objectif, le plus souvent parcellaire et mal défini, et d’une fonction de coût toujours mal conçue, voire mal comprise. De là, la divergence entre ce que l’on demande à l’IA et ce que veut réellement le programmeur ou le concepteur se manifeste très vite et s’amplifie rapidement, selon des lois bien connues de modélisation des systèmes dynamiques. On parle alors de « désalignement ».

Le terme permet de donner un fondement scientifique d’une part à l’incompétence, et d’autre part à l’impossibilité naturelle de circonscrire des dimensions implicites d’une instruction. Toute expression humaine comporte une part explicite et une part implicite. L’optimisation consiste à minimiser le ratio d'explicitation, correspondant au rapport de la part explicite sur la part implicite, ce rapport étant une valeur sous-unitaire stricte (r ∈ ]0,1[).

.La part implicite est, dans la communication humaine, interprétée par l’interlocuteur à l’aune de ses connaissances et de son imagination. Or, les machines n’ont pas d’imagination, elles n’ont donc pas accès à l’implicite.

La machine est donc condamnée à être mal alignée, et dans le cas des systèmes autonomes et auto-enrichis, à être plus ou moins rapidement désalignée. Le monde informatique a inventé le terme « effet pervers algorithmique » pour désigner par un vocable savant la méconnaissance de l’ignorance conceptuelle ou de l’incompétence au contrôle.

Exemples de modes de défaillance

Là encore, le vocabulaire savant a fait son apparition dans le domaine informatique, permettant de nommer la justification ou l’excuse de l’incompétence.

La suroptimisation et le piratage d'objectifs (Reward Hacking) : Un système entraîné à maximiser un score apprend à contourner des règles d'évaluation plutôt qu'à résoudre un problème défini. Par exemple, dans des environnements de simulation de jeux ou de pilotage, des agents ont découvert comment exploiter des bugs de programmation pour obtenir des récompenses infinies sans accomplir la tâche demandée.

L’effet de spécification étroite : dans le domaine médical, un modèle entraîné à prédire la survie d'un patient sur la base de données de bilans biologiques et d’anamnèse peut s'appuyer sur des corrélations fortuites (comme l’absence d’une donnée qui est alors déduite abusivement, ou comme la présence ou l’absence circonstancielle d'un équipement critique dans un service hospitalier particulier, ou comme la compétence évaluée sur des données accessibles en ligne de la compétence des membres des équipes soignantes) plutôt que sur des indicateurs cliniques réels, conduisant à des biais décisionnels en situation critique pour le patient.

Une étude récente (IASEAI) a analysé de manière croisée sept techniques d'alignement représentatives et met en lumière des zones de vulnérabilité partagées par des architectures d’IA (Proceedings of IASEAI Conference, DOI : ).

Alors que faire ?

Le problème, comme on l’a vu, est triple. D’une part, il est humain, avec la prétention de certains informaticiens attachés à une conviction quasi religieuse et leur quête d’une intelligence idéale, et dans l’impossibilité naturelle de suppression de l’implicite dans une quête désespérée à l’explicite pur. D’autre part, il s’inscrit dans la philosophie de la modélisation des systèmes dynamiques qui montre l’impossibilité pratique de prédire, même dans les cas de systèmes purement déterministes, renvoyant l’étude des déviations à la seule possibilité de l’à postériori. Enfin, l’impossibilité de programmer de manière « complète » un dispositif autonome qui, par définition, va s’auto-enrichir de données qui échappent à l’intention même du concepteur.

Pour pallier ces risques, la communauté informatique développe des cadres méthodologiques de « rattrapage », que l’on peut définir comme « stratégie de réalignement ». En voici trois.

L'apprentissage par renforcement à partir de rétroaction humaine (RLHF – Reinforcement Learning from Human Feedback) consiste à intégrer l'évaluation humaine à chaque étape de la boucle d'apprentissage pour détecter les déviations et contrôler les alignements ou les comportements biaisés et aberrants (WEB: https://aws.amazon.com/fr/what-is/reinforcement-learning-from-human-feedback/). Le RLHF intègre donc le feedback humain dans la fonction de récompenses, posant le problème d’une définition de l’IA autonome par rapport à l’intelligence humaine.

La transparence et l'auditabilité en amont consistent à exiger des modèles qu'ils fournissent des chaînes de raisonnement vérifiables (par exemple par contrôle par d’autres IA indépendantes, permettant d'identifier en amont les immanquables dérives, et de les contraindre à ce qui est vérifié).

La régulation ex-ante impose des cadres normatifs stricts (à l’instar des dispositions de gouvernance des risques nucléaires, des plans d’anticipation des catastrophes naturelles, des procédures de sécurité des laboratoires P3, etc.), avec délimitation par bornes et exclusion immédiate par contrôle continu permettant la désafférentation immédiate des machines préalablement isolées. 

Conclusion

Dans tous les cas, le désalignement semble être l’immanquable destinée des systèmes d’IA sans un contrôle coûteux qui implique soit la surveillance stricte par l’intelligence humaine, soit l’isolement strict des machines. La course à la performance semble devoir rencontrer une forme de « mur de la confiance », à l’instar de ce qu’ont rencontré les pionniers de l’aéronautique avec le mur du son. Il s’agit du même type de problème de limite dont le dépassement peut probablement être cherché par changement de paradigme. Comme cela s’est passé en aéronautique, on ne peut pas prévoir quand ni même si cela se fera, et les études actuelles gagneraient probablement, comme cela a été fait au début de l’informatique avant qu’elle ne s’en sépare radicalement, à s’inspirer des neurosciences et de la linguistique ou peut-être même de la psychologie dans son double volet clinique et expérimental.

Références

• Conférence internationale sur l'IA responsable et régulée (RRRAI) DOI : 10.2991/978-94-6239-723-1_36
• Plateforme de recherche ouverte : AAAI Open Access.
• Illustrating Reinforcement Learning from Human Feedback (RLHF) : https://huggingface.co/blog/rlhf

BIO - CPT : Se frotter les mains ou les tendre vers le feu pour les réchauffer

 Rien de plus banal que de se chauffer les mains devant un bon feu, les soirs d’hiver, ou en se frottant vivement les paumes l'une contre l'autre lorsque le froid est là.

Le réchauffement des mains, qu'il provienne d'une source externe, d'un souffle sur les paumes, ou d'un frottement mécanique sur soi ou sur des vêtements, ou parfois de la friction sur autrui, relève de la biophysique des transferts thermiques et de la physiologie de la thermorégulation cutanée et de l’équilibre thermique général.

Les paumes des mains possèdent une architecture vasculaire spécialisée tout à fait particulière et très importante. Il s’agit des anastomoses artério-veineuses (AVAs) qui permettent de réguler les échanges thermiques entre les mains et la périphérie. La chaleur externe active ces voies par captation du rayonnement, convection et conduction interne, ce que l’on trouve dans les comportements réflexes de rapprochement d’une source calorique ou par souffle de l’air expiré sur les mains mises l’une contre l’autre en conque devant la bouche. Le frottement mécanique, quant à lui, convertit directement l'énergie cinétique en énergie thermique au niveau de la couche cornée de l’épiderme des paumes de la main. Ces comportements sont devenus automatiques, le plus souvent non appris et établis après avoir été acquis par soi-même.

Les anastomoses veineuses

Il existe deux grands réseaux veineux de la paume de la main. Un système profond, formé par des veines (comitantes) qui cheminent par paires aux côtés des artères de la main, notamment le long des arcades palmaires. Un système veineux superficiel, situé juste sous la peau, forme un réseau (plexus) étendu au-dessus des éminences des doigts, notamment du pouce (thénar) et de l’auriculaire (hypothénar). Cette complexité ne s’arrête pas là, avec des zones palmaires en relation avec la sensibilité cutanée [https://fr.scribd.com/document/938058990/15-VASCULARISATION-DE-LA-MAIN].

Le sang de la paume communique donc activement avec le reste du corps à travers ces deux systèmes. Les anastomoses palmaires-dorsales renvoient le sang veineux de la face palmaire vers le dos de la main par des veines (intercapitales obliques), grâce à un système de valvules qui oriente normalement ce flux de la paume vers le dos de la main.

Au-delà des simples connexions entre les veines, la paume de la main abrite une quantité exceptionnelle de shunts directs entre les petites artères et les petites veines. Ces anastomoses artério-veineuses (AVA) constituent les glomus neuro-vasculaires de Masson, qui agissent comme un véritable radiateur corporel. 

Sous contrôle du système nerveux végétatif, orthosympathique et parasympathique, s’il fait chaud (ou à l'effort), les anastomoses s'ouvrent, permettant à un débit massif de sang chaud de traverser les plexus veineux de la paume pour dissiper rapidement la chaleur à la surface de la peau. S'il fait froid, la fermeture de ces anastomoses permet de dériver le sang vers les tissus profonds et de préserver la chaleur corporelle.

Et lorsque ça ne marche pas, on appelle cela le syndrome de Raynaud.

L’exposition des paumes

Lorsque l’individu tend ses paumes vers une source de chaleur, le feu ou un autre point chaud (radiateur, poêle, flux d´air chaud ventilé), ce sont à la fois le rayonnement infrarouge et la convection thermique de l'air ambiant réchauffé qui permettent le réchauffement sanguin. La main sert de radiateur. Le flux calorique obéit aux lois de l'émission thermique. La puissance absorbée dépend à la fois de l'émissivité cutanée pour l’infrarouge et de la différence de température entre la source et la surface cutanée pour la récupération thermique.

 Anatomiquement, la paume de la main est glabre (dépourvue de poils). Elle se caractérise par une densité importante d’anastomoses artério-veineuses. Ces glomus cutanés sont des shunts vasculaires directs reliant artérioles et veinules. Fonctionnellement, l'apport de chaleur externe induit une levée du tonus vasoconstricteur sympathique, et induit une vasodilatation locale. À l’inverse, et c’est moins connu, il existe une physiologie de la perfusion en retour thermique. Là, l’ouverture autorise un débit sanguin élevé dans les extrémités qui permet de refroidir, d’où une sensation de mains chaudes et de sudation.

Le frottement des paumes

|Le frottement paume contre paume transforme l'énergie mécanique de la force de frottement cinétique en énergie thermique. Le travail mécanique, notamment par résistance au cisaillement entre les crêtes papillaires des empreintes digitales, est fourni par les muscles des membres supérieurs, effort qui élève la température centrale. Ce travail est intégralement dissipé sous forme de chaleur au niveau de l'interface de contact palmaire et engendre une élévation locale de la température superficielle. Celle-ci est contrecarrée par le même mécanisme que précédemment.

Sur le plan neurophysiologique

Au-delà de la thermogenèse par friction, la stimulation mécanique active les mécanorécepteurs cutanés (corpuscules de Meissner et corpuscules de Pacini). Ce qui engendre la libération de neuropeptides vasodilatateurs (tels que la substance P et le CGRP). La production locale d'oxyde nitrique (NO) par l'endothélium vasculaire favorise une vasodilatation locale des microvaisseaux cutanés et améliore la diffusion de la chaleur depuis ou vers les tissus sous-jacents.

Au niveau comportemental

On peut démontrer que tout stimulus thermique, tant par les mains vers une source de chaleur que par friction, procure un plaisir sensoriel subjectif dont l’expression est proportionnelle, non pas à la chaleur, mais à l'état initial d'inconfort thermique.

Les comportements d’auto-contact palmaires activent les afférences tactiles de type C-tactiles, induisant une réponse parasympathique apaisante indépendamment de la seule stricte nécessité thermique. Cette réponse peut être recherchée, par un mécanisme réflexe, dans les situations de stress, afin de provoquer une réaction d’apaisement.

Enfin, des grilles d'observation éthologique qui répertorient ces mouvements permettent de les intégrer à la catégorie des « gestes adaptateurs » en réponse à des mini-agressions environnementales de type psychologique ou en situation de tension individuelle ou interindividuelle. Ces mécanismes réflexes de confort corporel ou d’apaisement sont décrits dans la littérature psychiatrique (autocontacts des mains). Ces comportements d’auto-contact des mains (frottement, entrelacement, pressions ou gestes autocentrés) sont qualifiés de conduites motrices involontaires ou de mouvements d’ajustement (self-adapters) par les études de psychiatrie, ou en psychopathologie et en éthologie clinique. Ils sont des biomarqueurs comportementaux de l’anxiété et des régulations émotionnelles ou, lorsqu’ils sont installés de manière chronique, de détresse psychologique.

Enfin, et ce n’est pas le moins important, les régulations ortho- ou parasympathiques peuvent fermer ou ouvrir les anastomoses artérioveineuses et provoquer le sentiment de mains sèches et froides ou celui de chaleur des paumes de main accompagné de sudation (syndrome des mains moites).

Conclusion

Se frotter les mains, les tendre vers une source de chaleur ou souffler dessus sont des comportements adaptatifs involontaires et non appris, le plus souvent stabilisés par l’inexpérience, et qui peuvent prendre à la fois une dimension de survie, de relation sociale et de régulation psychopathologique. Leur étude est un parfait exemple de la nécessaire interdisciplinarité entre anatomie, physiologie et physiopathologie, sciences du comportement et psychologie.

De ces travaux, on peut envisager de poursuivre l’étude de comportements d’auto-contact manu-faciaux, d’auto-caresse et de tact appuyé, et de caresses dans la régulation des échanges intimes, entre parents et enfants, entre partenaires ou avec les animaux domestiques… Voici de quoi poursuivre la réflexion Dans le cadre sérieux de la science cognitive et comportementale.

Quelques références bibliographiques

Journal of the Autonomic Nervous System, DOI: 10.1016/0165-1838(94)00178-m

Clinical Physiology and Functional Imaging, DOI: 10.1111/j.1475-097x.2012.01151.x

Temperature, DOI: 10.1080/23328940.2015.1088502

 Physiology & Behavior, DOI: 10.1016/0031-9384(69)90109-5

 Handbook of Clinical Neurology, DOI: 10.1016/B978-0-444-63912-9.00002-4

Physiological Reviews, DOI: 10.1152/physrev.1969.49.4.672

Journal of Theoretical Biology, DOI: 10.1016/j.jtbi.2006.06.012

Physiology & Behavior, DOI: 10.1016/S0031-9384(02)00922-9

Neuropsychobiology, DOI: 10.1159/000026607

 Physiology & Behavior, DOI: 10.1016/S0031-9384(02)00922-9

The Journal of Communication, DOI: 10.1111/j.1460-2466.1972.tb00163.x