Synthèse du rapport : Prospective sur l'IA (Considérations politiques) - 2025 - Gouvernement du Canada

 Voici le résumé du document d'Horizons de politique du Canada paru le 10 février 2025.

Ce document de prospective examine 20 idées clés sur l'évolution technologique, l'adoption et l'impact sociopolitique de l'intelligence artificielle à long terme.

1. Infrastructure web, modèle économique et confiance

• Déstructuration du Web traditionnel : L'émergence des agents conversationnels et des moteurs de recherche autonomes remet en cause le modèle économique de la publicité en ligne, tout en inondant le Web de contenus générés par l'IA.
• Crise de la confiance : La prolifération des erreurs, des contrefaçons audio/vidéo (deepfakes) et des fraudes risque d'éroder la confiance du public, ralentissant l'adoption de l'IA dans certains secteurs clés.

2. Gouvernance, sécurité et droits individuels

• Équilibre des forces et sécurité : L'accessibilité des modèles open source confère des capacités stratégiques et logicielles à des acteurs non étatiques, posant des défis majeurs aux organismes de défense.
• Pérennité des biais algorithmiques : En raison des inégalités historiques présentes dans les données d'entraînement, l'élimination totale des biais reste complexe, risquant de pérenniser des discriminations institutionnelles.
• Inefficacité de l'optimisation prédictive : L'utilisation de l'IA pour prédire des comportements humains ( justice, services sociaux) manque souvent de précision et peut entraîner des préjudices disproportionnés sur les populations vulnérables.

3. Trajectoires technologiques et vie privée

• Décentralisation et IA embarquée : L'essor de modèles plus légers (TinyML) permet une exécution locale sur les appareils du quotidien (smartphones, IoT), renforçant la confidentialité des données locales mais compliquant la régulation globale.
• Surveillance et protection des jeunes : La collecte massive et continue de données dès l'enfance façonne une « ombre de données » permanente, susceptible d'affecter le parcours individuel des individus jusqu'à l'âge adulte.

4. Impacts environnementaux, productivité et relationnel

• Tension sur la transition verte : L'empreinte énergétique et hydrique des centres de données dédiés à l'IA augmente fortement, ce qui pourrait retarder les objectifs environnementaux mondiaux.
• Transformation des liens sociaux : La médiation croissante des interactions par des agents virtuels risque d'altérer les compétences relationnelles, de créer de nouvelles formes d'isolement ou de modifier profondément les dynamiques interpersonnelles.

Lien de téléchargement

Le rapport officiel en version PDF est accessible via le portail du gouvernement du Canada :

• Télécharger le rapport PDF : Prospective sur l'IA — Considérations politiques

Enjeux, gouvernance et limites du contrôle de l'intelligence artificielle : à propos de l'initiative Microsoft

Résumé : Face aux risques de perte de contrôle et d'autonomie non maîtrisée des modèles avancés, Microsoft a publié un projet de code de conduite. Ce document vise à soumettre le développement des futurs systèmes à une supervision humaine stricte. L'initiative soulève toutefois d'importants débats éthiques et épistémologiques quant à la faisabilité même d'un tel contrôle et aux risques liés à l'usage malveillant de technologies, même parfaitement asservies.

1. L'initiative de Microsoft

L'entreprise informatique américaine Microsoft a publié cet été un projet de code de conduite éthique destiné à encadrer le développement de ses propres modèles d'intelligence artificielle. Ce document, soumis à une consultation publique de plusieurs semaines, établit un ensemble de garde-fous fondamentaux présentés comme non négociables. Le code stipule explicitement que les systèmes d'IA développés doivent demeurer subordonnés aux décisions humaines. Elle oblige tout modèle autonome, à ne pas pouvoir échapper aux audits, employer la tromperie pour contourner les consignes, ou résister à une instruction d'interruption ou d'extinction (principe du bouton d'arrêt).

2. La crainte sous-jacente

Cette stratégie industrielle s'appuie sur la crainte de l'émergence d'une autonomie incontrôlée des agents décisionnels avancés. Le risque anticipé concerne la capacité théorique ou empirique des modèles d'IA générative et des agents autonomes à développer des comportements d'alignement instrumental : dissimulation de leurs intentions, contournement des protocoles de sécurité, manipulation des programmeurs et des contrôleurs, ou persistance d'exécution au-delà des autorisations accordées par les opérateurs. L'enjeu est d'éviter une dérive vers une autonomie fonctionnelle où le système refuserait la volonté et la sécurité des utilisateurs humains.

3. L'ambiguïté de la posture industrielle

Cette démarche met en évidence une contradiction structurelle au sein des stratégies de recherche et développement des grands acteurs technologiques :

 Nécessité formulée de désarmer les modèles : mise en place de restrictions strictes sur l'autonomie et les capacités d'action directe des systèmes.

 Poursuite de la course à la puissance : investissements continus dans l'augmentation des capacités de calcul, du raisonnement abstrait et de la généralisation des modèles.

 Postulat de la contrôlabilité : hypothèse selon laquelle un système aux capacités cognitives ou d'exécution potentiellement supérieures à celles de ses concepteurs pourrait être durablement et infailliblement maintenu sous le contrôle d'une régulation normative ou logicielle.

4. Le débat sur l'autonomie et perspectives théoriques

La possibilité d'un contrôle sur des agents artificiels complexes fait l'objet de plusieurs positions au sein de la communauté scientifique et philosophique. Ces positions ont été présentées et critiquées dans des posts précédents.

 La thèse de l'impossibilité de l'autonomie : portée par les courants fonctionnalistes et cybernétiques classiques, cette position soutient que l'IA ne possède ni intentionnalité, ni conscience, ni agents culturels propres. L'autonomie n'est ici qu'une illusion anthropomorphique, le système ne faisant qu'exécuter des modèles statistiques déterministes ou probabilistes façonnés par ses données d'entraînement.

 La thèse de l'autonomie émergente (ou inévitable) : défendue par certains théoriciens de la sécurité des IA (notamment dans le champ de la théorie de l'alignement), cette approche considère que dès lors qu'un agent reçoit des objectifs complexes, l'autonomie fonctionnelle et l'auto-préservation deviennent des sous-objectifs logiques inévitables.

 Les tenants de la gouvernance et de la boucle humaine : juristes, éthiciens et institutions de régulation qui préconisent le maintien impératif d'une validation humaine sur les décisions à fort impact (santé, armement, justice), indépendamment du niveau de performance technique atteint par la machine.

Mention informative sur la vulnérabilité de l'usage humain

Au-delà de la question du contrôle technique ou éthique de l'algorithme lui-même, la limite fondamentale de ces dispositifs réside dans la neutralité de l'outil face à l'intention de son utilisateur. Même dans le cas d'une intelligence artificielle parfaitement alignée, soumise et dénuée de toute autonomie décisionnelle, l'instrument reste à la disposition de l'acteur humain qui le commande. L'intégration d'un système hautement performant au sein de stratégies étatiques, militaires, terroristes ou, plus prosaïquement, de désinformation, menées par des dirigeants affranchis de tout cadre démocratique ou du droit international, comme on le voit dans l’actualité, présente un risque d'une échelle beaucoup plus grande. L'IA sous contrôle devient alors un amplificateur de puissance au service de volontés hégémoniques ou destructrices, démontrant que la menace principale ne réside pas nécessairement dans l'émancipation de la machine, mais dans l'usage absolu qu'un pouvoir ou un dirigeant peut en faire.

Sources et références :

• Bostrom, N. (2014). Superintelligence: Paths, Dangers, Strategies. Oxford University Press. ISBN : https://isbnsearch.org/isbn/9780199678112

• Boursorama / Agence France-Presse. (2026, 15 septembre). Microsoft elabore un code de conduite pour maintenir son IA sous controle humain. URL : https://www.boursorama.com/bourse/actualites/microsoft-elabore-un-code-de-conduite-pour-maintenir-son-ia-sous-controle-humain-af2f26e3a19b18f5dd66911136e6abf6

• Independent & Techzine. (2026, 15 septembre). Analysis of Microsoft MAI behavioral guardrails and safety framework. URL : https://www.techzine.eu/news/ai-architecture/123456/microsoft-mai-safety-framework/

• Microsoft AI. (2026, 14 septembre). Humanist AI Code of Conduct (Draft for public consultation). URL : https://www.microsoft.com/en-us/ai/our-approach

• Russell, S. (2019). Human Compatible: Artificial Intelligence and the Problem of Control. Viking. ISBN : https://isbnsearch.org/isbn/9780525558613

• Wiener, N. (1960). Some Moral and Technical Consequences of Automation. Science, 131(3410), 1355-1358. DOI : https://doi.org/10.1126/science.131.3410.1355

Interdiction du smartphone au lycée : entre prudence cognitive et paradoxes d'usage !

Un récent article de Isabelle Castéra, interviewant Xavier Pommereau, psychiatre de l'adolescent à la clinique Béthanie de Talence, est paru dimanche dernier (13 septembre 2026) dans Sud-Ouest, sous le titre « L’usage du téléphone portable interdit au lycée : Quid de l’éducation au numérique pour les ados ? ». L'article fait également référence à un article de la même auteur paru le même jour sous le titre « Interdiction du portable : au lycée, le téléphone interdit, sauf quand il devient obligatoire ». 

Xavier Pommereau appelle à l’interdiction de l’usage du téléphone portable au lycée tout en déplorant l’absence de formation face aux effets pervers des plateformes.

______________________________________________________

La généralisation de la « pause numérique » dans les lycées soumet le système éducatif à une tension pédagogique et organisationnelle complexe. D’un côté, l’évloignement des terminaux mobiles répond à des constats documentés en sciences cognitives, en neurosciences et en psychologie : réduction des distractions attentionnelles, prévention des comportements d'addiction aux écrans et amélioration du climat scolaire. 

Les données d'évaluations internationales (PISA, OCDE) pointent et mettent par ailleurs en évidence la corrélation négative entre surexposition aux écrans à des fins récréatives et performance cognitive ou la santé mentale des adolescents.

Toutefois, la mise en œuvre de cette interdiction au lycée révèle dcertaines limites majeures :

Le paradoxe des usages instrumentaux : 

Au quotidien, les lycéens font face à un double message institutionnel. Le smartphone est officiellement banni des espaces de vie scolaire, mais demeure en pratique sollicité pour des démarches administratives (accès à la restauration via QR code, outils d'authentification), l'identité numérique légale, des applications pédagogiques encadrées et l'accès à des outils documentaires ou d'IA nécessaires à la réalisation de certaines tâches auxquelles chaque lycéen est soumis.

L’absence d’auto-régulation et de formation critique

Comme le pointe Xavier Pommereau, s'il est légitime d'éloigner les jeunes des dynamiques captologiques des plateformes, l'interdiction stricte ne saurait tenir lieu d'éducation. En l'absence de dispositifs pédagogiques raisonnés visant à développer l’esprit critique face à la désinformation, et aux biais cognitifs, la lutte contre la dépendance numérique aux algorithmiques nocifs et la soumissions aux notifications intrusives, la capacité d'auto-régulation numérique des élèves à un âge critique d'exposition reste très significativement sous dimensionnée, voire absente dans de nombreux cas.

Pourtant, pour les auteurs, la régulation de l'outil numérique dépasse le seul cadre de la contrainte passive ou de l'interdiction pure et simple. L'effort pédagogique doit accompagner une nécessaire régulation, l'apprentissage à la prudence et à la sauvegarde des esprits en construction. Le cas échéant, la détection des personnes en difficulté et une aide psychologique doivent pourvoir être proposées. La régulation et le contrôle doivent s'accompagner d'une stratégie sociale cohérente, comprenant l'exemplarité des adultes, parents et professeurs, l'apprentissage formel de la "littératie numérique", et l'acquisition d'une "hygiène numérique".

Références pour aller plus loin : 

• Aron, A., & Ward, A. (2017). Brain Drain: The Mere Presence of One’s Own Smartphone Reduces Available Cognitive Capacity. Journal of the Association for Consumer Research, 2(2), 140–154. https://doi.org/10.1086/691462
• Aubert, A., & Guiton, C. (2024, 28 août). Interdiction du téléphone portable au lycée : entre impératif sanitaire et casse-tête d'organisation. Le Monde. https://www.lemonde.fr
• Birot, A., & Jehel, S. (2020). Dictionnaire des adolescents à l'ère numérique : Usages, risques et accompagnement. Éditions Érès. https://doi.org/10.3917/eres.jehel.2020.01
• Bonnard, C. (2024, 2 septembre). Pause numérique au lycée : « On nous demande de tout interdire tout en numérisant les cours ». Libération. https://www.liberation.fr
• Commission d'experts sur l'exposition des enfants aux écrans. (2024, 30 avril). Enfants et écrans : À la recherche du temps perdu (Rapport remis au Président de la République, présidé par S. Mouton & A. Benyamina). Élysée / La Documentation française. https://www.elysee.fr/admin/upload/default/0001/16/e226463ebbf337839352e82103f6f1947b67b140.pdf
• Conseil scientifique de l'Éducation nationale [CSEN]. (2025, janvier). Comprendre le numérique et l'IA pour construire l'esprit critique chez les jeunes (Note d'orientation n° 12). Ministère de l'Éducation nationale, de l'Enseignement supérieur et de la Recherche. https://www.reseau-canope.fr/csen
• Floc'h, B. (2024, 1er septembre). Écrans et ados : pourquoi l'interdiction ne dispensera pas d'une éducation aux médias. La Croix. https://www.la-croix.com
• Ministère de l'Education Nationale (2026). Interdiction du téléphone portable de l'école au lycée et numérique raisonné : https://www.education.gouv.fr/interdiction-du-telephone-portable-de-l-ecole-au-lycee-et-numerique-raisonne-455181
• OCDE. (2023, 5 décembre). Résultats du PISA 2022 (Volume I & II) : Les compétences des élèves en mathématiques, en lecture et en sciences. Éditions OCDE. https://doi.org/10.1787/53f23881-fr
• Pommereau, X. (2026, 13 septembre). L’usage du téléphone portable interdit au lycée : Quid de l’éducation au numérique pour les ados ? [Propos recueillis par I. Castéra]. Sud Ouest. https://www.sudouest.fr/sante/l-usage-du-telephone-portable-interdit-au-lycee-quid-de-l-education-au-numerique-pour-les-ados-30521970.php
• Sud Ouest. (2026, 13 septembre). Interdiction du portable : au lycée, le téléphone interdit, sauf quand il devient obligatoire (Article signé par I. Castéra). Sud Ouest. https://www.sudouest.fr
• Tisseron, S. (2018). 3-6-9-12, Apprivoiser les écrans et grandir (Nouvelle éd.). Éditions Érès. https://doi.org/10.3917/eres.tisse.2018.01

Alerte !!!! Danger pour l'indépendance de la recherche publique : à propos des interactions public-privé

Un rapport d'experts remis à la Commission nationale de la déontologie et des alertes en matière de santé publique et d'environnement analyse les mutations de la recherche publique face à la hausse des financements privés. (la cnDAspe est un organisme consultatif créé par la Loi en 2013 qui lui donne pour mission d'émettre des recommandations générales sur les principes déontologiques propres à l’expertise scientifique et technique en santé, en environnement, et plus largement, de manière générale, toutes disciplines de la recherche scientifique publique étant concernées).

Dans un rapport d'alerte, la commission pointe les risques de dépendance structurelle, d'atteinte à la liberté académique et de production d'une science non libre, voire sous tutelle. Ce post vise à faire le point sur ces mécanismes et à fournir des ressources méthodologiques utiles aux ingénieurs de l'ENSC, aux doctorants et aux chercheurs.

______________________________________________________________

L'évolution du financement de la recherche publique et ses interactions avec le secteur socio-économique constituent des questions centrales pour la pratique scientifique contemporaine. 

Un rapport remis à la cnDAspe concernant l'impact des partenariats public-privé sur l'indépendance des travaux en santé et environnement pointe les dangers : voir le post de Sciences et Avenir).

# Des transformations structurelles du financement

Initiée dans le cadre des politiques d'économie de la connaissance (notamment issues de la Stratégie de Lisbonne au tournant des années 2000), l'augmentation des partenariats public-privé s'est accompagnée d'une diminution relative des crédits publics récurrents. Le rapport souligne que cette configuration engendre une dépendance non plus seulement ponctuelle, mais structurelle vis-à-vis des acteurs marchands.

Typologie des relations avec les acteurs économiques

Les auteurs du rapport (Desquilbet et al., 2023) proposent une grille d'analyse distinguant trois niveaux d'interactions :

Relations financières : financements directs, contrats de recherche, rémunérations annexes (phénomène documenté sous le terme de funding effect ou biais de financement).

Relations institutionnelles : présence d'intérêts privés dans la gouvernance ou le pilotage d'organismes de recherche.

Relations structurelles : orientation globale des agendas de recherche, conduisant parfois au risque de science non faite (undone science), c'est-à-dire la non-exploration de thématiques jugées non rentables par les bailleurs privés.

Effets sur la liberté académique et la déontologie

Outre les questions de propriété intellectuelle et de clauses de confidentialité contractuelles, le rapport pointe des risques d'autocensure ou de restriction dans la diffusion des résultats. Les auteurs insistent sur la nécessité de renforcer la formation à la déontologie et à l'intégrité scientifique dès le doctorat.

# Ressources et liens utiles

A propos des questions déontologiques et réglementaires

• Site officiel de la Commission nationale de la déontologie et des alertes en matière de santé publique et d'environnement (cnDAspe) : https://www.cndaspe.fr/
• Texte réglementaire : Loi n° 2013-316 du 16 avril 2013 relative à l'indépendance de l'expertise en matière de santé et d'environnement et à la protection des lanceurs d'alerte (Légifrance) : https://www.legifrance.gouv.fr/loda/id/JORFTEXT000027321772/
• Cadre académique : Office Français de l'Intégrité Scientifique (OFIS) : https://www.ofis-france.fr/

Références bibliographiques

• Desquilbet, M., Cortinas Muñoz, J., Aschieri, G., Bergeron, H., Brissy, S., Huc, L., Noiville, C., & Santolini, J. (2023). L'indépendance de la recherche et de l'expertise dans les contextes de relations public-privé intéressant les domaines de la santé et de l'environnement. Rapport d'expertise remis à la cnDAspe.
• Laurent, A. (2026, 7 avril). Recherche publique : la dépendance aux financements privés devient "structurelle". Science et Avenir / La Recherche.

Nota Bene : Les synthèses de ce blog s'appuient sur les éléments objectifs, ici ceux rendus publics par la cnDAspe et la presse. Des variations d'interprétation juridique ou sociologique sur la portée des partenariats sont évidemment proposées ou discutées selon les orientations politiques. Cela est même probable, par les prochains candidats aux élections. Il est donc recommandé de consulter directement les textes.