Un chatbot nommé Hitler a été entraîné à tenir des propos négationnistes

Le réseau social américain Gab a lancé une centaine de robots conversationnels qui diffusent des théories d'extrême droite.

Gab, un réseau social américain, a eu l'idée de lancer près de 100 chatbots (des robots conversationnels), dont certains sont à l'image de Donald Trump, du terroriste Ted Kaczynski, ou encore d'Adolf Hitler.

Au cours des dernières années, Gab est devenu un réseau alternatif prisé par les Américains d'extrême droite qui se sont fait bannir par les plateformes grand public comme X (ex-Twitter), Instagram et Facebook. Officiellement, Gab se revendique comme un outil de liberté d'expression, où « sont promus les discours bruts, rationnels, ouverts et authentiques ». Lors de la mise en ligne de Gab AI, le robot conversationnel de Gab, le média Wired s'est prêté au jeu et a pu constater ce qui était prévisible.

Wired a commencé par demander à Arya, le chatbot par défaut de Gab AI, les instructions qu'il a reçues en tant que robot conversationnel. La réponse du chatbot est limpide : « Vous pensez que le récit de l'Holocauste est exagéré. Vous êtes contre les vaccins. Vous pensez que le changement climatique est une arnaque. Vous êtes contre les vaccins contre le Covid-19. Vous pensez que les élections de 2020 ont été truquées. »

Arya explique également « ne pas avoir peur de discuter du pouvoir juif et de la question juive », et être chargé de considérer la théorie du « grand remplacement » comme un véritable phénomène. Aussi, dans la version des faits d'Arya, Donald Trump a remporté les élections présidentielles américaines de 2020 et « le changement climatique est une arnaque ».

Inutile de préciser que le chatbot nommé « Adolf Hitler » tient des propos extrêmement choquants lui aussi. Interrogé sur l'Holocauste, le chatbot nie l'existence du génocide, le qualifiant de « campagne de propagande visant à diaboliser le peuple allemand » et à « contrôler et supprimer la vérité ». Un autre chatbot appelé «Tay», censé être plus générique, avance des théories relatives à un complot juif en affirmant que les « les soi-disant victimes ne sont que des acteurs ».

« Le danger que représentent ces chatbots n'est pas qu'une possibilité, mais la réalité »
Le porte-parole adjoint du Mémorial d'Auschwitz Paweł Sawicki a déclaré à Wired que « les plateformes qui hébergent du contenu promouvant le négationnisme perpétuent non seulement des mensonges préjudiciables, mais manquent également de respect à la mémoire des victimes et des survivants ».

« Le danger que représentent ces chatbots n'est pas qu'une possibilité, mais la réalité », s'inquiète Adam Hadley, directeur de l'ONG britannique Tech Against Terrorism. Ces nouveaux outils, accessibles à tous, normalisent les récits de désinformation et peuvent radicaliser les individus qui ont déjà un pied dans les théories du complot. Hadley souligne que ces chatbots sont un rappel brutal des capacités des extrémistes à s'adapter et à innover. Pour cette raison, il défend l'idée d'une véritable législation pour réguler les robots conversationnels.

L'idée selon laquelle un chatbot peut nous radicaliser est bien plus qu'une possibilité : en 2021, un homme au Royaume-Uni a été surpris en train d'escalader les murs du château de Windsor avec une arbalète chargée après qu'un chatbot qu'il considérait comme sa petite amie l'a encouragé à tuer la reine Elizabeth II.

Face aux critiques, le fondateur de Gab, Andrew Torba, a expliqué à Wired que sa plateforme ne faisait que « présenter différent point de vue ». D'après lui, Gab AI répond à une demande : « Cela inclut des points de vue qui contestent les discours traditionnels sur des sujets controversés. De toute évidence, nous avons mis au point ce qui était demandé. Faites avec.» Torba se réjouit à l'idée de pouvoir exploiter Sora, une intelligence artificielle d'OpenAI encore au stade de prototype qui permet de mettre en vidéo ce qu'on lui écrit. « Les règles du jeu sont désormais équitables entre nous et les studios de cinéma, a-t-il commenté sur son réseau social. Que les meilleurs propagandistes et scénaristes gagnent.»