17 juillet 2017

IA : Musk à la manoeuvre contre l’Intelligence Artificielle.


Il y a déjà deux ans qu'Elon Musk (Tesla, SpaceX, SolarCity, Hyperloop, Open AI, Neuralink...) avait cosigné deux lettres ouvertes avec des scientifiques dont le physicien Stephen Hawking et l'informaticien Steve Wozniak, cofondateur d'Apple. Les signataires appelaient à une limitation de l'Intelligence Artificielle et de l'autonomie des machines, notamment en ce qui concerne les armes autonomes, drones et robots tueurs. Certaines personnalités telles Hawking ou Bill Gates (Microsoft) pensent que l'humanité peut largement bénéficier de formes constructives d'intelligence artificielle, tout en appelant à certaines précautions. L'IA pourrait ainsi être positive à condition qu'elle soit régulée.
Lors de la réunion estivale de la National Governors Association (association des gouverneurs des états nord américains), organisée le dernier week-end à Providence (Rhode Island, USA), Elon Musk a appelé à la prise de mesures concrètes et urgentes de sécurité face à, selon lui, la menace de l'IA. Il a ainsi réclamé aux gouverneurs des états américains la rédaction des textes de loi et leur application afin de réguler les usages mais également l'autonomie de l'IA.
Pour lui, nous sommes confrontés à une sorte de schizophrénie avec d'un côté d'immenses espoirs et de l'autre des dangers incommensurables. Il assure travailler lui-même sur des formes très avancées d'IA, et tire les sonnettes d'alarmes pour que chacun s'inquiète des progrès accomplis et à venir. Pour lui, la prise de conscience se fera lorsque "des robots tueront des personnes", mais trop tard et de manière non préparée. Les autorités et les citoyens ne sauront pas comment réagir. tellement ça leur paraitra irréel, a assuré Elon Musk.
Précautions nécessaires, l'industriel pense que les autorités doivent être proactives dans la régulation, au lieu d'être passives dans l'attente d'être réactives, car "le temps que nous réagissions, il sera trop tard".
Décrivant quelques scénarios concrets bien qu'aujourd'hui encore hypothétiques d'une intelligence artificielle qui abuserait les humains, par exemple en lançant de fausses informations tels que celles d'une attaque économique, nucléaire ou cyber, par imitation d'e-mails frauduleux et de communiqués de presse erronés etc., l'industriel a déclaré solennellement que "L'intelligence artificielle est un danger fondamental pour l'existence de la civilisation humaine" et même "le plus grand risque auquel notre civilisation sera confrontée", en estimant qu'il serait déjà "trop tard" pour sauver l'humanité si l'homme ne prend pas des mesures immédiate et très contraignante de régulation de l'IA.
Liens presse : ici et .