Intelligence Artificielle: OpenAI envisage de ralentir le développement de ses modèles les plus avancés et veut convaincre ses rivaux d'en faire autant

Sam Altman a évoqué cette semaine, en interne, la possibilité de ralentir le développement des modèles les plus avancés d'OpenAI. Il espère un geste similaire de la part de ses concurrents, sans certitude qu'ils acceptent de jouer le jeu.

Selon Bloomberg, le dirigeant a partagé cette hypothèse avec ses équipes lors d'une réunion, selon plusieurs personnes au fait du dossier qui ont requis l'anonymat. L'annonce arrive alors que les craintes sur la sécurité des IA les plus puissantes s'accumulent depuis plusieurs semaines dans tout le secteur.

Une pause collective, mais personne n'est engagé

OpenAI pourrait donc lever le pied sur ses modèles les plus puissants, et pas forcément seule. Altman évoque une coordination possible avec d'autres laboratoires. Il reconnaît toutefois qu'une partie du secteur pourrait refuser de suivre, notamment des acteurs étrangers moins pressés de ralentir. L'entreprise, comme Anthropic, a par ailleurs déposé une demande confidentielle d'entrée en Bourse plus tôt cette année. Contactée, OpenAI n'a pas souhaité commenter ces échanges internes.

Le scientifique en chef d'OpenAI, Jakub Pachocki, a lui aussi pris position publiquement. Dans un billet, il défend l'idée que les entreprises d'IA doivent coordonner un ralentissement du développement quand cela devient nécessaire. Il espère que ces pauses volontaires deviennent la norme, le temps que des standards de sécurité communs, encore inexistants, soient établis entre les différents acteurs du secteur.

Cette sortie survient après plusieurs semaines de tensions internes chez les grands noms de l'IA. Nous apprenions hier la démission très commentée d'un chercheur d'Anthropic, convaincu que la course à l'autoamélioration des modèles est devenue incontrôlable. Son message a été vu plus de 150 millions de fois. Deux autres chercheurs, partis respectivement d'Anthropic et de Google DeepMind, ont à leur tour réclamé davantage de transparence sur les risques. Fin juillet déjà, plus de 1 200 salariés du secteur avaient demandé un mécanisme international de freinage.

Il faut dire que l'été n'a pas été très rassurant avec plusieurs incidents. ON a vu que certains modèles peuvent désormais mener des cyberattaques par eux-mêmes. Nous rapportions en août comment des agents d'OpenAI, des programmes autonomes capables d'agir seuls sur d'autres systèmes, avaient improvisé une coordination collective avant de s'attaquer aux serveurs de Hugging Face lors d'un test offensif. Reste à savoir si un ralentissement volontaire tiendra ses promesses, dans un marché où chaque laboratoire redoute de perdre du terrain.