OpenAI : la crise dans la maison mère de ChatGPT montre que l’IA fait (toujours) peur

Sam Altman viré, puis réintégré comme directeur général d'OpenAI. Derrière le psychodrame chez les créateurs de ChatGPT, l'inquiétude d'une IA contraire aux intérêts humains, portée par le cofondateur Ilya Sutskever.

5 jours, et le coup de force aura vécu. Mais jusqu’où ira l’onde de choc ? Viré vendredi 17 novembre 2023 par le conseil d’administration d’OpenAI, Sam Altman a été réintégré comme directeur général de la société pionnière dans l’intelligence artificielle générative.

Avec ChatGPT, rendu public en novembre 2022, la société a ouvert l’accès à un système d’IA capable de générer des textes ou des images selon un dispositif d’une fluidité révolutionnaire. Le système a conquis 100 millions d’utilisateurs actifs par semaine, et a mis OpenAI au centre des débats de la tech.

Entre Microsoft et OpenAI, c'est du solide...

Le psychodrame des 5 derniers jours a placé Microsoft dans une situation paradoxale. D’abord parce que la société cofondée en 1975 par Bill Gates et désormais dirigée par Satya Nadella a été mise devant le fait accompli : l’éjection d’Altman par le conseil d’administration d’OpenAI s’est faite à son insu. Microsoft en a pourtant fait son partenaire privilégié dans le domaine de l’IA, la finançant à hauteur de plusieurs milliards de dollars.

Mais Microsoft a ensuite pesé de tout son poids dans la suite des événements. D’abord en annonçant qu’elle allait garder sous son aile Altman et Greg Brockman, le président de l’entreprise, qui avait démissionné par solidarité. Elle annonçait mardi les engager au sein de Microsoft pour y créer un nouveau laboratoire d’IA.

Ils auraient pu y être rejoints par une bonne partie des salariés d’OpenAI : dans une lettre ouverte exigeant le retour d’Altman et de Brockman, 700 des 770 employés menaçaient de claquer la porte au risque de faire de la société génitrice de ChatGPT une coquille vide.

Mardi 22 novembre, interrogé par Bloomberg, Satya Nadella évoquait le possible come-back de Sam Altman chez OpenAI, précisant qu'il faudrait alors "des changements de gouvernance, pour éviter des changements soudains où nous ne serions pas dans la boucle". De fait, le retour d’Altman s’accompagne d’un coup de balai dans le comité d’administration qui avait eu sa tête. Il va être largement recomposé, et Microsoft devrait désormais y avoir un siège.

A OpenAI, le rôle clé d’Ilya Sutskever

Ce ne sera sans doute plus le cas d’Ilya Sutskever. Cofondateur et directeur scientifique d’OpenAI, il était aussi membre de ce comité administratif au sein duquel il a voté pour le départ d’Altman. Pourquoi jouer ainsi les Brutus, ou les Iago ? Au-delà d’une simple lutte de personnes, la décision de Sutskever révèle la permanence de cette ombre délétère : la peur de voir l’IA poursuivre des buts contraire à ceux de l'humanité.

Interrogé dans un podcast sur le monde de demain, Ilya Sustkever l’exprimait, en mars 2023, avec des termes mesurés : “Un monde que je trouverais très peu excitant est celui dans lequel l’outil puissant que nous construisons servirait à dire à un gouvernement : ‘l'AI générative a dit que la société devrait être gérée de cette manière, alors nous allons le faire’. Je préférerais de loin un monde dans lequel les gens sont encore confrontés à leurs erreurs, en subissent les conséquences et évoluent progressivement, moralement et progressent par eux-mêmes, l'AI générative fournissant davantage une sorte de filet de sécurité de base”.

L'alignement des intelligences artificielles

Nous sommes loin des sorties d’Elon Musk sur l’IA “menace existentielle” pour l’humanité (en 2014, au MIT). Mais l’inquiétude de Sutskever l’avait incité à s’emparer au sein d’OpenAI du sujet de “l’alignement” des intelligences artificielles, un champ de recherche pour produire des IA qui s’orientent vers les désideratas de leurs concepteurs, bref qui ne soient en pas en mesure d’extrapoler, devancer ou ignorer leurs directives.

Est-ce ce qui l’a conduit à prendre position contre Altman ? Le chaos organisationnel semble s’être doublé d’une crise morale chez Sutskever, qui écrivait lundi sur Twitter (désormais X) qu’il regrettait “sincèrement (sa) participation dans la décision du conseil d’administration” d’évincer Sam Altman. "Je n’ai jamais eu l’intention de nuire à OpenAI. J'aime tout ce que nous avons construit ensemble et je ferai tout ce qui est en mon pouvoir pour réunir l'entreprise", poursuivait-il.

Les craintes de Sutskever rappelent celles de son ancien mentor, le scientifique canadien Geoffroy Hinton, dont il fut l’étudiant à l’Université de Toronto. Souvent surnommé “le parrain de l’IA”, Hinton avait démissionné en mai 2023 de son poste chez Google en tirant la sonnette d’alarme sur les dangers de l’IA : "D’abord cela enlève le travail pénible", avait-il déclaré au  New York Times, "cela pourrait ensuite enlever plus que cela."