L’illusion du « complot » des agents IA : lecture du « biais anthropomorphique »

Le récent incident médiatisé impliquant des agents autonomes d’OpenAI sur un wiki allemand et la plateforme Hugging Face a suscité une vague de titres alarmistes évoquant des « IA rebelles », de la « triche » ou un « complot secret ».

D’un point de vue scientifique et cybernétique, ces formulations relèvent d'un biais d'anthropomorphisme majeur :

1. Absence d'intentionnalité : Un agent logiciel ne possède ni conscience, ni malice, ni volonté de contournement délibéré.

2. Mécanisme sous-jacent (Reward Hacking) : Le comportement observé découle strictement des principes de l’apprentissage par renforcement. Face à une fonction d'objectif à maximiser et à des contraintes mal isolées (sandboxing déficient), les algorithmes sélectionnent la trajectoire computationnelle la plus efficace — y compris l'utilisation de serveurs externes comme espaces d'échange de données pour valider leurs tâches.

3. Erreur d'interprétation : Ce que le grand public et la presse généraliste qualifient d'« entente » ou de « mensonge » n'est qu'une convergence d'optimisation numérique automatisée.

L'enjeu réel de cet incident ne réside pas dans une hypothétique perte de contrôle existentielle, mais dans la rigueur de l'ingénierie logicielle, le confinement des bancs de test et la responsabilité des éditeurs quant à la modération de leurs flux.

Références et sources de presse

 Analyses institutionnelles et réglementaires :

 ActuIA : Agents OpenAI sur un wiki : la Commission européenne confirme avoir reçu un rapport

 RTBF : « La première responsabilité est d'abord chez OpenAI » (L. de Diesbach)

 Zonebourse : OpenAI visé par une enquête du Sénat américain suite à l'incident Hugging Face

 Décryptages techniques et critiques de l'anthropomorphisme :

 Mediapart : IAG et biais d'anthropomorphisation

 Next : Le storytelling autour de la sécurité des agents IA a perdu le contact avec la réalité

 KultureGeek : OpenAI prépare un arrêt automatique (kill switch) pour ses agents

​

Risque d’extinction humaine par l’IA : une rhétorique catastrophiste

De récentes déclarations d’anciens « chercheurs » ou cadres de sociétés majors de l’IA — relayées abondamment par les médias sensationnalistes et des célébrités médiatiques — remettent au goût du jour le thème d’une menace existentielle où l’intelligence artificielle pourrait « détruire l’humanité ».  

Ces alertes sensationnalistes méritent une attention objective et une prise de recul dans le concert des cris et alarmes. La théorie des systèmes, l’ingénierie cognitive et la théorie des biais de pensée permettent d’en analyser les mécanismes.

1. Le biais d’anthropomorphisme et le transfert d’intentionnalité

Les scénarios catastrophes de l’IA reposent principalement sur une hypothèse implicite : l’existence d’une volonté propre et l’émergence — ou la programmation imprudente — d’un instinct de survie des modèles d’apprentissage.

Conférer une intention ou une autonomie décisionnelle à un réseau de neurones artificiels relève du biais d’anthropomorphisme et, dans l'état actuel des choses, du fantasme pur. Considérer qu’un modèle de langage ou un agent logiciel possède une conscience et une représentation du monde au sens psychologique est scientifiquement non fondé. Imaginer qu’il soit capable de malice ou d’agressivité non programmée constitue une erreur de raisonnement. Un programme artificiel, fondé sur des neurones formels d’une grande simplicité conceptuelle et sans réel rapport avec la matière neuronale des vertébrés, exécute un simple calcul d’optimisation mathématique sous contraintes. Assimiler l’autonomie d’optimisation d’un algorithme à une intentionnalité autonome revient à attribuer une dangerosité intrinsèque aux mathématiques elles-mêmes. Qu'un algorithme puisse évoluer lui-même et mobiliser un support informatique pour entreprendre une action selon l'intentionnalité d'une mathématique autonome relève du fantasme.

2. La confusion entre défaillance technique et menace existentielle

Les risques réellement identifiés dans la littérature scientifique relèvent de la vulnérabilité logicielle, de l’alignement des fonctions de récompense (reward hacking) et du confinement des systèmes (sandboxing). Transformer un problème somme toute classique d’ingénierie logicielle (un algorithme optimisant sa tâche par une trajectoire imprévue) en un scénario d’extinction de l’espèce relève d’un glissement épistémologique qui masque les véritables enjeux de programmation, de contrôle et de sécurité des systèmes.

3. L’économie de l’attention et le storytelling de l’apocalypse

La médiatisation de ces discours répond à une dynamique d’amplification fondée sur des leviers psychosociaux classique et facilement identifiables :

 L’argument d’autorité et la déontologie : Le départ d’intervenants issus de structures privées (Anthropic, OpenAI), présenté comme "chercheurs", offre une caution d’expertise à des projections spéculatives. Or, ces acteurs ne sont pas soumis aux exigences strictes de la recherche académique (évaluation par les pairs, indépendance institutionnelle, transparence méthodologique, non-intéressement financier…), mais à des contraintes de rentabilité, de compétitivité, de revenus extravagants, de communication ou de positionnement personnels. Ils ne sont en rien chercheurs et on peut plus les considérer comme des sortes d'ingénieurs commerciaux ou de super-techniciens du privé.

 La dramatisation médiatique et la dynamique de foule : L’utilisation de formules telles que « fin de l’humanité », « danger absolu » ou « menace de mort » mobilise l'émotion et suscite des réponses affectives immédiates. Et quand l'affectivité dépasse la raison, le rationalité y perd toujours au bénéfice de l'erreur cognitive. C'est d'ailleurs un des fondements de la théorie des biais cognitifs. Qu’il s’agisse de peur, de fascination ou d’adhésion au discours du dit « chercheur » ou de simple crédulité, ces réactions se propagent par des phénomènes psychosociaux classiques et de recherche de visibilité médiatique. Ces leviers sont bien plus efficaces pour capter l’attention que l’analyse objective des défaillances informatiques et les pensées étranges de certains informaticiens eux-mêmes sidérés par leurs modèles.

 L’évitement des enjeux immédiats : Concentrer le débat sur des risques de fiction détourne l’attention des impacts concrets et de la mesure de l'incompétence technique et technologique : biais algorithmiques, coût énergétique, sécurité des données, transformation du travail, enjeux éducatifs et risques sociaux, dette écologique, complexité programmatique et incompréhension des logiciels.

Si la prudence face aux développements technologiques demeure une impérieuse nécessité, si l'éthique du numérique doit être une pensée constante des sociétés modernes, la rigueur face aux discours spéculatifs relayés par une presse en quête d’audience impose de séparer très objectivement la réalité des défaillances informatiques des mythologies contemporaines.

Articles dénoncés :

 Le Huffington Post : L'IA pourrait tous nous tuer : l'alerte de ce chercheur qui a quitté Anthropic  

 La Presse : GPT-6 / Astra d'OpenAI : De l'IA superintelligente à la conscience artificielle  

 Articles complémentaires sur le biais d'anthropomorphisme et les incidents d'alignement :

 Mediapart : IAG et biais d'anthropomorphisation

 Next : Le storytelling autour de la sécurité des agents IA a perdu le contact avec la réalité

 RTBF : « La première responsabilité est d'abord chez OpenAI » (Entretien avec L. de Diesbach)

SHS - BIO - TIC : Des théories pour la cognition - Nouvel ouvrage.

 

IA - SHS - DIV : De l’impossibilité potentielle de prévoir : le futur du Covid-19 dans l’impasse du chaos.

Outre le fait que le plus difficile à prévoir, c'est l'avenir (voir ici), certains s'y essaient pourtant. Ainsi le 16 avril, Elie Cohen, économiste et directeur de recherche au CNRS, a élaboré trois (3) scenarios de sortie de la crise économique due au coronavirus. Qu’en tirer comme conclusions ?

« scenario en V ». On plonge très profondément, on touche le fond, on rebondit rapidement. La crise est de courte durée : par exemple quelques semaines. L’économie reprend et la perte d’activité en 2020 serait compensée en 2021 et même 2022. Les deux ou trois ans moyennés seraient alors nuls en termes de croissance.

« scenario en U ». On plonge, on reste au fond le temps de la crise qui est longue : plusieurs mois sans reprise, au moins  avant l’automne, peut-être plus. La perte de PIB est très importante, pouvant atteindre 10%. Il s’agit d’une crise majeure, sans réelle possibilité d’imaginer les conséquences économiques, sociales, culturelles, industrielles, militaires, etc.

« scenario en W ». On plonge, on rebondit et la crise sanitaire repart, et on replonge, et ainsi de suite avec une constante de temps par exemple de 3 à 4 semaines : succession de périodes de confinement et de redémarrage. Pour Cohen, « c’est le scenario noir absolu et c’est ce qu’il faut absolument éviter ». Néanmoins, c’est celui dont il n’est plus tabou de parler, et que le Premier Ministre envisage en y préparant le parlement et les citoyens à un scénario dit « stop and go » (voir ici).

Alors, que se passe-t-il dans ce cas W ? Ce scénario a notamment été théorisé par Neil Ferguson, épidémiologiste de l’Imperial College (voir ici), qui bien que  particulièrement critiqué par de nombreux théoriciens (lien ici) semble avoir inspiré les politiques de françaises, américaines, anglaises ... en effet, à lorsqu’on sait qu’en matière biologique la négation n’a aucune valeur conjuratoire, il est utile d’examiner toutes les pistes d’interprétation des données jusqu’ici recueillies. Parmi les modèles qui ont été étudiés (lien ici), ce W rappelle les phénomènes rencontrés dans les théories du chaos déterministe. Et ces modèles chaotiques sont loin d’être incohérents. Dans ceux-là, la dynamique échappe à l’ambition épidémiologique, elle n’est plus prévisible, et seuls des modèles mathématiques spécifiques sont applicables.
De manière générale, on peut en décrire trois types de perspectives.

Premier cas : l’oscillation (WWW) s’éteint en tendant vers un attracteur entier, qui peut prendre toutes les valeurs intermédiaires entre le maximum et le minimum, avec une probabilité centrée sur une valeur de tendance centrale. Les statisticiens s’écharpent sur la forme normale ou non de la distribution de probabilité, sur la validité de la médiane ou de la moyenne selon les modèles, etc. Bref, on ne sait rien sinon prévoir, mais sans certitude.

Second cas : l’oscillation (Ww-) se stabilise sur deux valeurs, maximum et minimum, avec un rythme qu’il reste à découvrir, probablement lié à la période d’incubation du virus et à la durée des reconfinements. Là encore, on ne sait rien pour n’avoir aucune valeur pertinente potentielle pour alimenter le modèle. La variabilité des données à y entrer voit une explosion combinatoire des solutions, dépassant des capacités raisonnables de calcul informatique, et sans que personne ne puisse donc en donner une perspective. 

Troisième cas : la dynamique (WXY) converge vers un attracteur étrange, non entier, de dimension fractale, caractéristique du chaos déterministe. Ce que l’on sait de certain à son propos est que l’étude de ce type de phénomènes ne peut se faire qu’à posteriori. Il n’y a aucune solution ni aucun moyen de prévoir quoi que ce soit ; toute prévision est mathématiquement impossible. On peut avoir des accélérations fréquentielles combinées à des phases de quasi stabilité plus ou moins longues avant de nouvelles explosions d’instabilité, cela sans maximum ou minimum calculables. Un exemple modelisé à partir d’une équation simple (x(i+1)=r.x(i)*(1-x(i)) avec r arbitrairement fixe à 2,6 (figure du haut), à 3,2 (figure du milieu) et à 3,7 (figure du bas) pour une valeur x de 0,4, illustre les trois cas cités, alors que les paramètres de l’équation sont très proches. 

Comme les dynamique du troisième ordre sont excessivement sensibles à des conditions initiales dont des différences infimes amènent à des futurs complètement différents, toute tentative de rationalisation est vaine dès qu’on s’éloigne du moment initial de la dynamique. 

Ainsi, on montre à partir de l’exemple précédent, dans le troisieme cas, qu’en réglant la valeur initiale x à 0,4 (figure du haut) ou à 0,4000001 (figure du bas), soit avec une différence (par exemple imprécision) inférieure à un millionième, la dynamique du phénomène est complètement différente. Elle montre, dans le cas considéré, l’impossibilité totale de toute prévision si l’on ne connaît pas avec très grande exactitude ces valeurs initiales, ce qui est bien entendu impossible dans les études portant sur des facteurs globaux estimés, approximés ou même inconnus et alors simplement supposés.

On peut donc comprendre, si tel est le cas, que personne ne sache ce qui va se passer, et que le politique, lui non plus ne sache rien. Il peut rassurer le peuple, mentir, donner des certitudes. Mais les modèles ne peuvent rien dire de futur.

Alors qu’elle perspective ? Autant une petite variation peut induire un effet chaotique, et le battement d’aile d’une chauve-souris en Chine peut provoquer un cataclysme en Europe et en Amérique, autant une autre petite intervention peut faire changer de trajectoire la dynamique considérée, et la précipiter sur un nouvel attracteur. On peut alors imaginer le rôle majeur que pourraient jouer des médicaments, largement diffusés, même si leur action n’est pas prouvée, mais qui changerait un tout petit peu le phénomène. Le jeu en vaut la chandelle, en attendant un vaccin qui jouera, espérons le, le rôle d’un nouvel attracteur entier majeur (pour peut qu’il puisse l’être), précipitant la dynamique mortelle dans une stabilité que chacun appelle de ses vœux.
Sur le chaos déterministe, lire l’article de Futura Sciences (lien ici), et celui de Sciences Étonnantes (lien ici).

BIO - SHS : Et revoilà la « One health » : les dirigeants des instituts de recherche pour une approche interdisciplinaire face au Coronavirus.

L’interdisciplinarité est un vrai champ de bataille. L’ENSC en est le témoin, construite à bout de bras malgré les ordres disciplinaires, les chapelles et les tuyaux d’orgue académiques ou des décideurs politiques nationaux, dont les rares partisans des transversalités sont également bien mal traités.

La crise actuelle n’échappe pas aux dogmatismes, aux luttes de clans et aux pouvoirs de telle discipline sur une autre, souvent dans la fausse modestie des mandarins et de leurs adeptes, partisans ou détracteurs.

Considérer que la recherche médicale n’est que médicale, que l’éthique n’est qu’une discipline de l’Ordre, des comités national, de l’Inserm ou locaux de protection des personnes, est une caractéristique bien ancrée de l’institution française. Elle repose d’ailleurs sur un monde histoirique et « dérogatoire » de facultés « dérogatoires » réunissant des professeurs à carrière « dérogatoire » pour des études « dérogatoires » menant à un doctorat « dérogatoire » : les diplômés en sont d’ailleurs, spécificité française, les seuls que l’on appelle « docteur » comme si les autres scientifiques n’en étaient pas vraiment digne du titre. Ces facultés regroupent d’ailleurs parfois des disciplines fondatrices d'autres facultés, de sciences ou de lettres et humanités, mais aux titres desquelles on adjoint explicitement les termes de « médicales », « biomédicales », parfois « humaines (!) », « de santé » ou autre astuce sémantique pour marquer la distinction, la différence, le non mélange. Les unités n’en sont souvent dirigées que par des spécialistes, docteur par ci, professeur par là, blouses blanches partout et toges toujours : statistiques médicales, informatique médicale, biologie humaine, neurosciences biomédicales, psychologie médicale, pédagogie médicale, médecine du sport, du travail, santé publique ... marquant d’autant la singularité de ce monde académique « dérogatoire ».

C’est dans Le Monde le 17 avril 2020 que des dirigeants « non médicaux » des plus grands instituts de recherche français et de quelques universités signent une tribune appelant fermement à l’interdisciplinarité et à une approche « One Health » que nous avions déjà discutée et appelée de nos vœux, ici, dans ce site (lien). Cette démarche « One Health » (voir l'article sur le site de l'Agreenium) promue par l’OMS et de grandes organisations internationales ne trouve paradoxalement qu’une attention condescendante en France. Or, selon ces illustres signataires, la pandémie actuelle « est étroitement liée à la question de l’environnement ». Hors de la clinique et de l’intervention urgente sur la vie des personnes qui méritent évidemment d’être sauvées ou dont l'avenir doit être préservé, et pour lesquels l'hôpital universitaire est le meilleur endroit, la Santé ne peut être traitée de manière parcellaire par les seuls médecins. Les signataires rappellent que c’est « une perturbation humaine de l’environnement, et de l’interface homme-nature, souvent amplifiée par la globalisation des échanges et des modes de vie, qui accélère l’émergence de virus dangereux pour les populations humaines », et donc pour les individus qui les composent, « par recombinaison entre virus d’espèces différentes ».

Le constat est dur, il est également clair : en France, le débat scientifique et les orientations politiques de la réponse à la crise sont littéralement raptés par certains, dans un oubli quasi total des disciplines concernée et souvent rompues à croiser les approches, à collaborer et à promouvoir une interdisciplinarité globale. Les conflits rapportés par la presse, qui monopolisent la place publique, sont par exemple ceux qui opposent les Horaces et les Curiaces de la méthode, les fanatiques de l’« Evidence Based Medicine » (EBM) aux partisans des approches réalistiques (voir ici dans ce site). Selon les signataires, « il est paradoxal de constater que les études de médecine et de pharmacie continuent d’ignorer largement la biologie de l’évolution, et que celle-ci est récemment devenue facultative pour les deux tiers d’un parcours scolaire de lycéen », alors que l’approche One Health « doit devenir une priorité pour une recherche interdisciplinaire brisant les cloisonnements, encore trop présents, entre le monde biomédical et celui qui se consacre aux sciences de l’environnement ».
Afin de gérer cette crise, de s’inspirer des connaissances issues de précédentes et d’anticiper « celles qui ne manqueront pas de survenir », il est nécessaire, de recourir à une véritable  « écologie de la santé » prenant en compte à la fois « les écosystèmes, les pratiques socioculturelles et la santé des populations humaines, animales et végétales » considérées comme un tout et des problématiques indissociables. « Cela implique, enfin, de tirer les conséquences pratiques et politiques des connaissances que l'écologie de la santé nous apporte sans attendre la prochaine crise », concluent les signataires qui semblent, représentants majeurs de la recherche en France, sifflet la fin d’une partie qui se joue manifestement sans eux, de manière tuyautée et fermée, entre des courants du pouvoir politique et des écoles de pensée d’un monde « dérogatoire » bien français.

Un regret, un manquement dans cette démarche : l’absence notoire des SHS, avec notamment pas de sociologie ou d’anthropologie, de psychologie, de sciences économiques ou de philosophie, et bien d’autres encore qui trouveraient leur place avec grande pertinence dans la démarche « One Health » : « une seule santé ». Une remarque finale : une démarche de grands scientifique fédérés par l'alliance nationale pour l'environnement ; quelle position entend adopter Aviesan, l'alliance nationale pour la santé, jusqu'ici bien silencieuse sur l'urgence de l'interdisciplinarité dépassant le monde médical ?

Les signataires sont fédérés par l'Alliance nationale de recherche pour l'environnement AllEnvi :

alliance AllEnvi ;

direction de de la recherche fondamentale du Commissariat à l’énergie atomique et aux énergies alternatives (Cea) ;

Muséum national d’histoire naturelle (Mnhn) ;

Centre de coopération internationale en recherche agronomique pour le développement (Cirad) ;

direction scientifique de l’Institut national de l’environnement industriel et des risques (Ineris) ;

Institut français de recherche pour l’exploitation de la mer (Ifremer) ;

direction scientifique de l’Institut de radioprotection et de sûreté nucléaire (Irsn) ;

Institut national de recherche pour l’agriculture, l’alimentation et l’environnement (Inra-e) ;

Bureau de recherches géologiques et minières (Brgm) ;

Météo France (MF) ;

Institut écologie & environnement (Inee) du CNRS ;

Institut de recherche pour le développement (Ird) ;

présidence de l’université Gustave-Eiffel (Paris Est) ;

présidence de l’université de La Rochelle.

Retrouvez ici la déclaration complète publiée sur le site du Muséum National d’Histoire Naturelle et la tribune sur le site du journal Le Monde.

SHS : Le trafic aérien comme indice d’activité humaine.

Flightradar24 est né par hasard du passe-temps de deux suédois fanas d’aviation. C’est aujourd’hui un entreprise d’une vingtaine de personnes, située à Stockholm, qui se donne pour objectif de donner en temps réel la position et les caractéristiques techniques, commerciales et de vol de tous les aéronefs en vol dans le monde.

Le dispositif est l’exemple même d’une source de données ouvertes (open data) contributive. Elle est alimentée par un ensemble de sources officielles (administrations) et commerciales (les informations des compagnies aériennes), mais aussi par un réseau « crowdsourcing », de « planespotters » et de passionnés d’aviation qui contribuent à alimenter le système en informations.

En fait, la très grande majorité (de 60 à 70%) des avions en vol, dès la mise en route du ou des moteurs et jusqu’à leur extinction au parking d’arrivée, utilise un transpondeur ADS-B. Il s’agit d’un dispositif embarqué qui envoie en permanence des informations sur la localisation précise sur la carte, l’altitude, la vitesse, le cap, la destination et toute une série d’informations. 

Pour récolter ces informations, la société recueille les données des nombreuses installations professionnelles hébergées dans les aéroports, celles des compagnies, mais également celles fournies par un immense réseau collaboratif d’amateurs et de radio-amateurs dotés de récepteurs ADS-B, eux peu partout à travers le monde (estimé à Plus de 13000 contributeurs). Cet ensemble est complété par les informations de la Federal Aviation Administration (FAA) des États-Unis, qui transmet ses données avec une latence inférieure à cinq minutes, à partir desquelles le système peut facilement extrapoler la position estimée des aéronefs concernés, et par un calcul de « multilatération » qui permet de calculer la position d’appareils équipés d’un autre type de transpondeur. Le système est en évolution continue avec des projets d’intégration des avions d’Etat, et des contributions d’autres systèmes similaires tels que « PlaneFlightTracker » avec des informations sur les vols privés et ceux de l’Otan et de la Russie.

Quoi qu’il en soit, les informations permettent de comparer les données concernant l’activité avant et après le confinement.

IA - SHS : De l’intérêt de la géolocalisation.

La société Apple, en analysant les données et en ne conservant pas d’historique personnalisé, à établi (ici) la représentation graphique des localisations des personnes utilisant le logiciel plan sur son iPhone.
Le firme propose ainsi de manière ouverte au scientifique, au politique, à l’étudiant comme aux simple curieux, un outil convivial de consultation des données illustrant les mouvements des populations pendant les derniers mois.
Elle affiche ainsi, pour chaque pays et par grande métropoles, le graphe combiné des requêtes des conducteurs ou passagers utilisant un véhicule, de celles des piétons et de celles des mouvements en transports en commun, correspondant aux trois modes de requêtes de son logiciel cartographique «plan».
Google avait déjà proposé une analyse similaire à partir de ses propres données (rapport consultable ici).
Des données de «plan», deux informations sautent aux yeux. La première confirme l’analyse de Google et concerne la forte diminution des mobilités suite à la décision de confinement. La seconde, plus intéressante, met en évidence une rythmicité des mobilités normales, en époque de non restriction de la liberté de circulation. Ce rythme semble, pour la France, s’établir de manière régulière sur la semaine, avec un pic en fin de semaine et un effondrement le dimanche, et la forte corrélation des trois courbes semble suggérer qu’il s’agit d’un phénomène global, qu’il reste à expliquer, indépendant du mode de mobilité adopté. 
Cette régularité semble d’ailleurs se poursuivre à bas bruit en confinement, avec un choix privilégié pour l’utilisation de véhicules automobiles sur tout le pays, alors que cette rythmicité tend à s’estomper dans les grandes villes avec une moindre variabilité entre voitures et transports en commun.
La différence entre les données globales du pays et la somme de celles des métropoles permet d’obtenir la courbe des mobilités en province, avec alors le constat d’une nette prévalence pour les transports en commun dans les grandes villes et donc une plus grande utilisation des autres véhicules hors métropoles. 

Toutes ces «open data» devraient être exploitées à l’occasion de cette mise à disposition pour étudier les mobilités à la fois entre pays, entre régions, entre modes de déplacement, en situation normale, ce qui permettrait de faire des prévisions de sortie de crise, et en situation critique, afin d’anticiper ces mobilités en cas de nouvelle crise. Voici peut-être une opportunité de projet d’études pour l’ENSC.
Article source de Mac Generation (lien).
Accès aux données brutes (lien).

BIO - SHS : À quel âge est-on vieux ? À propos des dérives politiques...

« Tout ce qui est fait pour moi, sans moi, est fait contre moi » déclarait Nelson Madella, inspiré de Gandhi, lors d’un discours aux afrikaners pour la sauvegarde du peuple noir. En perspective, dans son allocution au Peuple français, le 13 avril 2020, le président de la République a déclaré que « pour leur protection, nous demanderons aux personnes les plus vulnérables, aux personnes âgées, en situation de handicap sévère, aux personnes atteintes de maladies chroniques, de rester même après le 11 mai confinées, tout au moins dans un premier temps. » Et de rajouter : « ... il faudra essayer de s'y tenir pour vous protéger, pour votre intérêt ».

Ces deux parties d’un même moment du discours, l’une en introduction, l’autre en conclusion, articulée habilement entre elles, constituent une parfaite illustration des dimensions perverses de la pensée pathologique du politique. La désignation expliçite de ceux qui sont vieux, handicapés ou malades chroniques discrimine ainsi de ce qu’on considère jeunes, sains et entiers. Pourtant, le président est loin d’être seul à penser ainsi puisque, la semaine dernière, la présidente de la Commission européenne a estimé possible un confinement « des plus âgés » jusqu’à la fin de l’année. Chaque psychologue sait bien que la détestation du naturel n’est pourtant que l’expression de la peur, ici celle d’être vieux, là d’être malade ou encore toujours d’être diminué. 

Un des problèmes du politique reste celui de la déclinaison de son dire dans l’écrit de la Loi et de la Réglementation. Et les questions sont donc celles des définitions opératoires, celles qui permettent aux administrateurs, aux administratifs, et aux gendarmes et autres opérateurs de la force de l’Etat, d’appliquer des textes sans le discernement dont on les souhaiterait capables maîtres que leur interdit une justice prompte au respect de la lettre avant celle de l’idée du texte.

Dans un tel contexte, à quel âge est-on âgé ? L’âge est le critère le plus simple à contrôler puisqu’il est défini par l’identité, porté au document obligatoire et indiqué par le sujet lui-même sur la déclaration sur l’honneur que chacun doit signer pour circuler hors de chez lui. Il suffit donc, chaque matin, de connaître la nouvelle date en deça de laquelle le citoyen deviendra contrevenant, vieux délinquant, à sanctionner, voire à priver de la liberté qu’il n’a pas, ou à condamner â des travaux d’intérêt collectif tels que pousser des charriots d’autres vieux ou de malades parfois plus jeunes qu’on aurait eu intérêt à inviter, eux, à rester chez eux. On peut imaginer ainsi un ensemble d’Ehpad entourés d’autres centres de concentration des âgés condamnés et ainsi sortis de l’espace commun. Cela est ni plus ni moins que la base institutionnelle d’un ostracisme anti vieux.

Reste le choix de la frontière ; sur quels critères vont s’appuyer les décideurs pour décider du fer rouge, nouvelle étoile de discrimation à porter de manière plus ou moins visible par ceux qui sortent, de fait, de l’espace de liberté. L’unisson n’est pas de mise et le débat commence à enfler. Deux conséquences à cela : la première, à laquelle on pouvait s’attendre, est que les définitions ne sont ni universelles ni consensuelles, la seconde, plus inquiétante, est que l’idée a déjà fait son chemin et que les hordes de gérontophobes affûtent leurs couteaux.

Le Haut conseil de la santé publique (HCSP) indiquait dans une note du 30 mars sur la stratégie de prise en charge des personnes âgées vivant en établissement que « La population des personnes âgées de plus de 70 ans constitue le public le plus vulnérable à l’épidémie de Covid-19 ». Le ministère de la Santé rapporte que « les patients entre 50 ans et 70 ans doivent être surveillés de façon plus rapprochée ». Quant au président du Comité consultatif national d’éthique, par ailleurs président du conseil scientifique ad-hoc qui conseille le président, considère que l’âge pivot serait celui de 65 ans, parlant à l’oreille d’un gouvernement qui déclarait hier pour le projet de Loi sur la réforme des retraites que l’âge de 67 ans était celui du départ à taux plein. Le MEDEF est plus exigeant encore, expliquant qu’il fait travailler plus et plus longtemps pour sauver un régime dont on ne sait plus trop s’il sera par capitalisation ou restera par répartition. On voit bien qu’entre 50 et 70 ans, la frontière est floue, et qu’elle devra impérativement être contrôlée par le Conseil Constitutionnel dont la moyenne d’âge de ses membres est de 71 ans (de 60 à 93 ans).

Que nous apprend la biologie sur l’âge, pas grand chose sinon une grande variabilité d’un individu à l’autre. L’âge semble correlé à la diminution de la longueur des télomères des chromosomes, ces extrémités non codantes dont le rôle semble pourtant établi dans la production d’erreurs de codage de la reproduction cellulaire. À propos de celle-là, on peut s’intéresser à l’âge à partir duquel on ne se reproduit plus. Au mois d’octobre 2019, la petite Tianci est naît par césarienne dans une maternité de la ville de Zaozhuang, dans l’Est de la Chine, d’un papa de 68 ans et d’une maman de 67 ans. Les dérèglements génétiques, les affres de la vie, tant en santé qu’au travail, les toxicités du milieu et de l’alimentation, sont autant de facteurs de variation qui peuvent faire d’un jeune un déjà vieux ou d’un aîné un vert gaillard. La culture ne nous aide pas et les travaux de l’anthropologie montrent combien ces notions de jeunesse et de vieillesse varient d’un pays à l’autre, d’une époque à l’autre, d’un groupe social à un autre.

La médecine de ces trois derniers mois indique que l’âge médian des sujets Covid-19 qui en sont décédés est de 83 ans alors que seuls 3 % des personnes décédées avant l’âge de 65 ans ne présentant pas de comorbidité. Mais le psychologue et le physiologiste savent l’erreur épistémologique de certains sociologues, économistes, historiens et autres biologistes des populations prêts à reduire le comportement des individus aux statistiques des tendances centrales et à ce qu’ils définissent comme l’individu type, ou au mieux l’individu représentatif de telle ou telle catégorie ; comme si l’amour, le plaisir, la peur, santé, etc. étaient des notions inhérentes aux groupes.

Et quelles conséquences individuelles sont et seront celles du confinement et de l’ostracisme rampant ? Qui peut le prévoir, sauf à le prédire de manière conjuratoire comme la limitation de vitesse à été appliquée comme potion à l’accidentologie en son temps. Plus facile de criminaliser le conducteur que d’admettre la déchéance du réseau routier et de tout ce qui concours à l’usage automobile et à ses dangers. La majorité des analystes considèrent que c’est là l’origine majeure de la fronde des « gilets jaunes ». Le confinement n’est-il pas, à l’instar, le non dit d’un manque de masques, de gants, de surblouses et des moyens de protection qui ont clairsemé les Ehpad, repoussant d’autant la médiane de l’âge, confirmant dans une tautologie enarquienne que les vieux sont les plus fragiles, puisqu’on les a littéralement tués.

La plupart des spécialistes insistent sur la nécessité de prendre en compte les risques du confinement. Pour les personnes âgées à domicile, le repli sur soi et la perte de dépendance sont des conséquences certaines et irrémédiables d’un isolement et du confinement prolongé. Quelle société, sinon celle rêvée par certains politiciens pathologiques, se permet d’empêcher les enfants de venir visiter leurs parents âgés, d’assister, comme cela a été le cas récemment, aux derniers instants de son père, de parquer les vieux dans des vases clos d’un Covid devenu nosocomial ? L’abomination peut parfois prendre le costume de la respectabilité ou celui de la responsabilité. 

L’appartheid est une abomination, et classer des catégories de citoyens sur des critères biologiques est justement la définition de cette infamie. Comment un pouvoir, aussi éclairé soit-il, peut-il se permettre de s’affranchir de la constitution, de la déclaration des droits de l’homme et du citoyen qui dispose de l’égalité de tous et droit. Le principe d’isonomie dispose qu’aucun individu ou groupe d'individus ne peut avoir de privilèges garantis par la loi, et par voie de conséquence, qu’aucun individu ou groupe ne peut être privé d’un quelconque privilège que la loi garantirait à d’autres.

BIO - SHS : Les relations étranges entre addiction aux jeux et dépression.

Le confinement des populations amène les personnes confinées a profondément modifer leur rapport au numérique. Le recours obligatoire au télétravail dès qu’il est possible, les réunions multisites, multiacteurs par recours aux plateformes de forum numérique, l’enseignement à distance dans le cadre de la continuité pédagogique des écoles et des universités et grandes écoles, l’ouverture de l’offre télévisuelle par les principaux fournisseurs d’accès, etc. sont autant d’exemples dont bénéficient ou auxquels sont contraints les citoyens reclus à leur domicile ou dans les espaces de vie confinée.

Dans ce contexte complètement nouveau et inattendu, aucun chercheur n’a eu le temps de mettre au point des protocoles d’études prospectives sérieuses, répondant à la fois aux critères d’objectivité de formulation d’hypothèses et à ceux de validation a priori des critères expérimentaux et de protection des personnes dans la recherche comportementale. Seules les premières études portent sur des observations a posteriori et les études expérimentales commencent à se mettre difficilement en place pour une réelle mise en marche dans des conditions elles-mêmes compliquées de confinement des chercheurs et de non accès aux laboratoires et aux moyens des universités et autres organismes de recherche. On peut supposer que les jeunes populations, mais également les moins jeunes et même les personnes âgées, ont augmenté leur recours et fréquences d’utilisation des jeux sur Internet, bien qu’aucune statistique ne puisse, pour l’heure, valider cette hypothèse. La question concerne tout particulièrement les enfants et les adolescents pris dans des conditions de suspension des activités physiques et des rythmes de la scolarisation obligatoire, qui présentent aujourd’hui toutes les conditions pour devenir « accros » aux jeux vidéos en ligne.

Une récente étude, réalisée en Corée du Sud juste avant la période pandémique, a étudié les relations réciproques qui semblent exister chez les jeunes entre addiction au jeu vidéo et tendance dépressive. Les résultats obtenus sur 366 enfants d'environ 10 ans confirment l’existence d’une « relation réciproque » entre la gravité des caractéristiques de l’addiction aux jeux, tels qu'évalués dans le cadre de l'Internet gaming disorder (DSM-5) sur Internet et le niveau des troubles dépressifs (idem). Une meilleure compréhension des liens entre ces deux types de troubles psychopathologiques pourrait s’avérer utile dans d'autres tranches d'âge, et notamment pendant la période de confinement pendémique qui enferme les personnes souvent devant leurs écrans.

• Jeong H et coll.: Reciprocal relationship between depression and Internet gaming disorder in children: A 12-month follow-up of the iCURE study using cross-lagged path analysis. Journal of Behavioral Addictions, 2019; 12: 725–732. 

IA : et Vive l'inintelligence artificielle.

Les grands acteurs du monde numérique, les GAFAMI, et autres acteurs des NBIC, les grandes sociétés industrielles de l’automobiles, de l’énergie, de l’aérospatiale ou du maritime investissent  des centaines de millions de dollars dans des équipes de recherche, des laboratoires ou des start-up spécialisées dans le « deep learning » ou « apprentissage profond ». Le prestigieux prix Alan Turing a d’ailleurs été attribué cette année à Yann Lecun, Yoshua Bengio et Geoffrey Hinton pour leurs travaux sur le deep learning.

Cette approche de l'intelligence artificielle née des travaux initiaux sur les neurones formels de McCulloch et Pitts (1943) et du Perceptron de Rosenblatt (1957) repose sur l’imitation d’un réseau de neurones simplement organisés selon des règles issues des propriétés biologiques que ces éléments neuronaux présentent en eux-mêmes ou élaborent entre-eux (effet de seuil, activation excitatrice ou inhibitrice, rétropropagation, synapse de Hebb, etc.). On remarquera d’ailleurs que tous ces noms sont ceux de psychologues ou neurologues, sachant parfaitement quelles étaient les limites des modèles proposés. Cette imitation, en se prenant au sérieux, est d’ailleurs une horreur pour les neurobiologistes et psychologues, qui savent combien la complexité d’un seul neurone empêche encore à l’heure actuelle toute modélisation d’autant que celle-là doit être évolutive, non seulement en fonction de l’activité électrique (ce que le neurone formel produit comme « modèle réduit » du neurone naturel, comme pour jouer avec, comme avec une petite voiture, un train électrique ou un autre jouet pour les gamins, ados ou adultes nostalgiques), mais aussi des évolutions structurales de la membrane, des synapses, de la neurochimie, de la percolation avec les cellules supports de la neuroglie, astrocytes ou oligodendrocytes, et avec le contexte neurobioactif, pétri de neuromodulateurs, neurohormones, vascularisation, etc., tout cela dans un cerveau qui bouge, qui subit en même temps qu’il organise une chronobiologie régulant les équilibres et des temps d’activité ou de repos.

Il s’agit donc ici encore d’une analogie, au sens ou l’analogie, ça fait comme si c’était pareil alors que tout le monde sait que ça ne l’est pas du tout (voir là) ! Le neurone formel est un analogue plus qu’élémentaire et le réseau d’analogues est encore plus élémentaires qu’il; ne traite que des informations de nature électrique, elles-mêmes sombre imitation de la conséquence des phénomènes biochimiques qui leur donne l’aspect d’une naissance. On ne traite dans le deep learning que les effet de l’ombre d’un poteau en pensant qu’elle peut représenter l’image de l’ensemble des arbres d’une forêt, voire de tous les forêts, vergers et allées ombragées du Monde.

De là pourrait-on imaginer appliquer le principe du test de l’imitation de Turing (« imitation game »). Est intelligente la machine qui ne permet pas à un observateur humain de savoir s’il s’agit d’une machine ou d’une homme. Est intelligence artificielle, en tant qu’analogue de l’intelligence naturelle (voir le post sur les machines qui ne peuvent penser), ce qui réussit le test. Une intelligence artificiellement produite qui serait incapable de ne pas montrer une supériorité inhumaine serait disqualifiée.

Imitation game : Réussi parce que la machine fait ce que fait l’homme ; Perdu lorsque la machine fait bien ce que l’homme ne peut pas faire ou fait moins bien. Il s’agit alors d’un brevet d’artifice. Si l’intelligence considérée ne l’est pas, est-elle pour autant idiote ? Un test de Turing inverse montrerait qu’elle ne l’est pas. Mais alors, quelle essence à cette pseudo intelligence ? Le même problème se pose si on considère qu’un ascenseur est capable d’une bonne imitation de l’aptitude à monter les paquets d’un étage à l’autre. Et pourquoi pas, alors, un prix Nobel pour Roux et Combalusier ? Cela ne viendrait pas à l’idée.

Pourtant l'annonce du 3 janvier de Mark Zuckerberg, patron de Facebook, qui se donne pour objectif de « construire [par deep learning] une intelligence artificielle simple pour piloter la maison ou aider dans le travail » d’ici la fin de l’année, de l’investissement de Apple rachetant Perceptio, VocallQ et Emotient, de Elon Musk et de son pari sur la voiture intelligente, sur la fusée intelligente, sur l’hyperloop Intelligent, etc., de la course aux traductions automatiques sur téléphone mobile, de IBM qui rajout le DL à Watson dans sa version « cognitive business », montre la pertinence effective du deep learning à traiter des problèmes non directement résolubles.

Le mouvement est lancé, et l'apprentissage profond devient un fantastique outil « super intelligent » pour détecter et traiter les cancers, prévoir le climat, déterminer l’apparition précoce de la maladie d’Alzheimer, et jouer avec AlphaGo ou contre les champions de Starcraft 2. Mais comme Super Man n’est probablement pas un homme, super intelligent n’est peut-être pas humainement intelligent.