Robot ChatGPT, GPT-4 : « Il est temps de ralentir le développement de l’intelligence artificielle »

La chercheuse du MIT Pattie Maes estime qu’il est crucial de construire des machines destinées à épauler notre intelligence, plutôt que la remplacer.Pattie Maes est professeure au programme des arts et sciences des médias du MIT Medialab, à Cambridge près de Boston. En tant qu'enseignante au centre d'ingénierie neurobiologique, elle s'intéresse à la manière dont les interfaces cerveau ordinateur permettent d'améliorer la mémoire, l'attention, l'apprentissage, la prise de décision, et le sommeil.

Un secteur passionnant, alors que les progrès de l'imagerie cérébrale nous aident à en savoir plus sur l'intelligence artificielle. Nous avons demandé à celle qui dirige le groupe de recherche Fluid Interfaces du Media Lab au MIT, ce qu'elle pensait de GPT-4, le tout dernier modèle de langage d'Open AI, l'entreprise californienne qui a mis au point ChatGPT.

Entre autres prouesses, ce couteau suisse permet de coder une réplique du jeu vidéo Pong en 60 secondes, de rédiger une plaidoirie d'avocat, ou encore de donner des conseils de sommelier comme d'investissement. Le programme serait même capable de battre 90 % des juristes à l'épreuve qui permet de devenir avocat. Quelle est la réaction de la chercheuse titulaire d'un doctorat en intelligence artificielle de la Vrije Universiteit Brussel en Belgique face à ces progrès déroutants ? « Je pense qu'il serait plus utile de construire des systèmes visant à aider les gens à devenir plus intelligent plutôt que de chercher à construire des machines capables de nous égaler, de nous surpasser et de nous remplacer. » Interview.

Le Point : Sommes-nous loin de l'intelligence artificielle générale, c'est-à-dire capable de donner des résultats pertinents dans toutes les tâches cognitives propres aux êtres humains ?

Pattie Maes Oui. La forme actuelle de l'intelligence artificielle n'a rien à voir avec la véritable intelligence. Il ne s'agit pas d'une approche qui mènera un jour à l'intelligence générale, car ces modèles de langage n'ont aucune compréhension du monde, ils ne peuvent faire preuve d'aucun raisonnement, etc. Toutefois, cela ne signifie pas que ces systèmes ne sont pas utiles. De nombreux outils intéressants pour aller vers le résumé un texte, l'aide à la rédaction et à l'édition, l'élaboration d'un story-board, l'apprentissage des langues peuvent être construits avec ces technologies.

Êtes-vous impressionnée par les performances du robot conversationnel ChatGPT ?

ChatGPT est un outil impressionnant, mais finalement superficiel. Il lui manque un véritable modèle du monde qu'il puisse utiliser pour raisonner et répondre aux questions. Je pense qu'une technologie fiable dans 95 % des cas est en fait plus dangereuse qu'une technologie correcte dans 75 % des cas, car nous commençons à nous y fier, même si elle n'est pas fiable. Il est important de toujours garder à l'esprit que nous avons affaire à un perroquet, plutôt que de présenter ces systèmes comme des êtres humains.

Les capacités linguistiques semblent avoir grandement été améliorées, mais elles sont toujours basées sur la même méthode de prédiction statistique des mots. Cette méthode est limitée dans la mesure où le système n'a pas de modèle réel ou de compréhension du monde. Open AI dit toujours qu'elle « hallucine » de temps en temps et qu'elle crache de fausses informations. Mais en plus de ses capacités linguistiques améliorées, elle dispose également de capacités multimodales, c'est-à-dire qu'elle peut regarder des images et vous dire ce qu'elles contiennent. Je suis curieuse de savoir dans quelle mesure ces deux capacités sont profondément intégrées l'une à l'autre.

Certaines personnes pensent que l'IA pourrait obtenir un diplôme d'avocat, pensez-vous que certains emplois sont menacés et quand ?

Cela va certainement changer beaucoup d'emplois, mais je pense qu'il est plus probable de voir un avocat, un médecin ou autre utiliser ce système pour devenir beaucoup plus efficace, plutôt que de voir le système remplacer les emplois, en particulier pour les emplois de grande importance comme celui-là. Toutefois, pour les tâches à faible risque et à faible importance, où le coût d'une erreur occasionnelle n'est pas si élevé, les emplois pourraient être remplacés. Par exemple, le service clientèle sur les sites Web où l'on achète des choses, etc.

Devrions-nous établir des règles d'éthique sur les développements de l'IA ?

Oui. Je pense que les choix qui sont faits quant aux orientations à donner au développement et au déploiement de l'intelligence artificielle ne devraient pas être réservés aux seuls ingénieurs et aux start-up de la Silicon Valley. L'intelligence artificielle aura un impact profond sur notre société et notre monde. Elle nous concernera tous. Pourquoi les ingénieurs devraient-ils décider de la manière dont nous voulons changer notre société ? Pourquoi les ingénieurs et les entrepreneurs devraient-ils décider de l'avenir que nous voulons créer et dans lequel nous voulons vivre ? Les développeurs de l'IA invoquent souvent des raisons économiques pour justifier le développement, mais plusieurs économistes ont fait valoir qu'il serait bien plus avantageux pour l'économie de viser l'augmentation des capacités humaines plutôt que le remplacement des travailleurs par l'IA. C'est ce qu'explique le chercheur Erik Brynjolfson, professeur à Stanford, dans son article « The Turing Trap ». (1)

Il y a aussi un risque de distorsion de la réalité…

Outre l'économie, les LLM (acronyme anglais pour signifier les grands modèles de langues qui ont joué un rôle clé dans la naissance de ChatGPT, NDLR) et les chatbots vont détériorer le paysage social et politique. Le problème des « fake news » s'aggravera, l'érosion de la vérité se poursuivra et la polarisation politique s'accentuera. Les LLM et les chatbots risquent également d'affaiblir notre tissu social, les gens comptant sur des amis virtuels pour leurs conversations et leur intimité, plutôt que sur des personnes réelles. Je pense que nous devrions ralentir le développement de l'IA et prendre le temps de réfléchir aux implications sociétales de ce que nous sommes en train de créer, plutôt que de créer des systèmes d'IA juste « parce que nous le pouvons », sans réfléchir aux conséquences.

(1) Dans cet article, le chercheur explique qu'à mesure que les machines remplacent mieux le travail humain, les travailleurs perdent leur pouvoir de négociation économique et politique et deviennent de plus en plus dépendants de ceux qui contrôlent la technologie. C'est ce que le chercheur appelle le piège de Turing. En revanche, lorsque l'intelligence artificielle se concentre sur l'augmentation des capacités humaines plutôt que sur leur imitation, les humains conservent le pouvoir d'exiger une part de la valeur créée.