Intelligence Artificielle : « L'IA pourrait tous nous tuer » d’ici un an, avertit un chercheur

Jacob Coxon, un chercheur spécialisé dans l'entraînement de nouveaux modèles d'intelligence artificielle (IA) chez Anthropic, a déclaré mardi qu'il quitte l'entreprise, car il craint qu’avec la course actuelle de tels systèmes deviennent incontrôlables et détruisent l'humanité.

Les personnes qui développent l'IA croient sincèrement qu'elle pourrait tous nous tuer d'ici la fin de la décennie. Ce n'est pas un coup de marketing. Au contraire, de nombreux dirigeants et chercheurs séniors édulcorent leurs propos dans la presse pour paraître raisonnables, mais j'entends ces mêmes personnes exprimer de la peur, a écrit sur X le lanceur d’alerte qui a travaillé chez OpenAI et chez Anthropic, deux des leaders mondiaux de l'IA.

Dans ce même message, ce Britannique de 27 ans écrit que la technologie sera bientôt capable de tout pirater, de révolutionner n'importe quel domaine du jour au lendemain et d'acquérir une puissance et des ressources réelles.

Et le temps presse.

Nous nous dirigeons vers bon nombre de scénarios les plus alarmistes où, d'ici la fin de l'année prochaine, la situation pourrait déjà être hors de contrôle.

Une citation de Jacob Coxon, un chercheur en IA démissionnaire

Des piratages récents perpétrés par des modèles (nouvelle fenêtre) développés par OpenAI et Anthropic ont démontré que les systèmes d'IA peuvent poursuivre des objectifs malveillants (nouvelle fenêtre) et tenter de les dissimuler aux humains.

Jacob Coxon craint qu'une fois que ces systèmes seront parvenus à s'améliorer de manière autonome, ils deviennent assez performants pour refuser d'obéir aux ordres.

Malgré ces connaissances, aucun des dirigeants ne prend les décisions suffisantes, selon le chercheur.

Chez OpenAI, beaucoup n'ont pas pleinement assimilé les enjeux civilisationnels. Chez Anthropic, les enjeux sont bien compris, mais la firme est engagée dans une course pour arriver la première. Ses dirigeants pensent que personne d'autre n'agira de manière responsable et qu'ils doivent donc le faire eux-mêmes, malgré le risque.

Réaliste ou alarmiste?

Sans connaître les raisons qui ont poussé le chercheur britannique à démissionner, le professeur en éthique de l’IA à l’UQAM, Dominic Martin, souligne que les craintes qu'exprime Jacob Coxon sont bien réelles.

Selon M. Martin, les exemples récents de dérapages, où des systèmes d’IA ont piraté des systèmes informatiques, montrent que les mécanismes de protection des grandes entreprises du secteur ne sont pas prêts, et ce, alors que la technologie n’a même pas encore atteint sa pleine puissance.

D’ici un an, il croit plausibles des scénarios où l’IA aurait grandement affecté une usine de fabrication de produits chimiques ou de traitement de l’eau potable, avec des victimes à la clé.

Le professeur Martin se dit d’autant alarmé par le fait que les grandes entreprises, mais aussi les États, semblent se livrer à une course technologique et que toute régulation sera donc difficile.

Il faut dire que les enjeux financiers sont énormes. La société Anthropic doit faire son entrée en bourse cet automne et devrait, selon les analystes, battre le record de la plus grande introduction en bourse de l’histoire, jusqu'ici détenu par SpaceX.

Plaidoyer pour la réglementation

Jacob Coxon interpelle aussi ses collègues : Devez-vous baisser la tête sous prétexte que cela arrivera de toute façon, ou profiter de ce moment pour réclamer des conditions différentes?

Selon lui, la solution passe notamment par une interdiction temporaire de l'amélioration des capacités des modèles.

Au moment de la publication, Anthropic n'avait pas commenté la sortie publique de son ancien employé. Mais un responsable de la sûreté d’Anthropic, Evan Hubinger, lui a donné raison sur X : Nous croyons vraiment sincèrement que l’IA pourrait tuer tous les humains, a-t-il écrit, estimant à titre personnel ce risque à plus de 10 % dans la décennie.

Le chercheur Yoshua Bengio, l'un des pères de l'intelligence artificielle, n'était pas disponible pour une entrevue. Il a néanmoins réagi à la nouvelle sur X :

Les scientifiques travaillant pour les principales entreprises d'IA ont un accès unique aux modèles les plus avancés et sont souvent en mesure d'identifier les risques qui y sont associés plusieurs mois avant que ces modèles soient rendus publics. Leur perspective est essentielle pour tenir la société informée et devrait être prise très au sérieux.

Du côté d'OpenAI, on a aussi déjà partagé ce type de crainte. Je pense que la cybersécurité va connaître de graves problèmes si personne n'agit de toute urgence, a déclaré Sam Altman, PDG d'OpenAI, aux responsables du G20, la semaine dernière, lors d'un sommet en Caroline du Nord.

Plus de 1000 chercheurs en IA ont signé récemment une déclaration demandant aux dirigeants du monde entier de se coordonner pour créer un système de contrôle capable de ralentir le développement de cette technologie.

Aucune loi fédérale n’encadre ces modèles aux États-Unis, où l’administration Trump privilégie une approche légère.

Le sénateur Bernie Sanders et l’élu démocrate Greg Casar ont déposé début septembre une proposition de loi visant à suspendre le développement jusqu’à la création d’un régulateur.

De passage à Edmonton mercredi pour annoncer le lancement d'une nouvelle initiative visant à améliorer les connaissances des Canadiens en matière d'IA, le ministre de l'Intelligence artificielle et de l'Innovation numérique, Evan Solomon, a affirmé que le gouvernement suivait de près la situation.

M. Solomon a précisé que de tels avertissements ne sont pas nouveaux et s'en est remis aux efforts du gouvernement libéral pour introduire des règlements dans la législation sur la protection de la vie privée. Nous sommes en train d'établir une nouvelle autorité de régulation qui possédera le pouvoir de tenir responsables de leurs actes ces grandes compagnies, a-t-il indiqué.

Il a ajouté que le gouvernement fait des investissements en sécurité entourant l'IA et a indiqué que le gouvernement travaillait en collaboration avec d'autres pays pour trouver des solutions afin de protéger les citoyens.