Attention, même Google Actualités peut contenir des informations générées par intelligence artificielle

Les faux sites d’informations, générés par IA, sont de plus en plus présents sur le Web. Désormais, même Google s’y trompe et en met en avant dans ses actualités.

Il semble que même Google ne sait plus faire la différence entre les sites de confiance et les contenus générés par intelligence artificielle. Même si de plus en plus de pages générées par IA apparaissent dans les résultats de recherche, la rubrique « À la une » en haut des recherches et l'onglet « Actualités » du moteur de recherche donnaient l'impression que les sites avaient été présélectionnés et validés par Google.

Mais il semble qu'il n'en est rien. Le site Futurism a repéré un faux site mis en avant par Google qui se nomme Science Magazine. Présent sur la version anglophone du moteur de recherche, il était très souvent mis en avant sur des sujets d'actualité, et même sur des sujets inventés de toutes pièces. Cela rappelle l'enquête de Next et Libération le mois dernier qui avait découvert plus d'un millier de sites d'information francophones générés ou traduits par IA. La différence ici est que Science Magazine est mis en avant comme une source de confiance.

Des contenus erronés et aucune indication de l’usage de l’IA

L'un des premiers signes est la présence d'images générées par intelligence artificielle. Si de nombreux sites font appel à l'IA pour les images d'illustration lorsqu'il n'en existe pas ou que la qualité est insuffisante, leur provenance doit toujours être indiquée. Ce n'est pas le cas ici. Des articles à propos de lancements, comme celui de SpaceX, sont accompagnés d'images de fusées très loin de toute réalité, mais sans la moindre indication qu'il s'agit d’images générées par IA.

Mais c'est surtout le contenu qui pose problème. Certains articles reprennent des actualités, avec souvent les erreurs habituelles dues aux hallucinations des IA. D’autres sont des articles sans contenus réels, comme un article qui parle d'un lancement sans jamais préciser de quel lancement il s'agit, ni d'une quelconque date ou autre information utile. Enfin, d'autres articles sont simplement faux. Selon l'un d'entre eux, SpaceX aurait réussi la téléportation quantique, et parle de révolutionner le voyage dans l'espace. S'il y a bien eu une actualité à propos de la téléportation quantique, ça n'a aucun rapport avec SpaceX ni le voyage spatial. Même les auteurs des articles sont fictifs.

Ce genre de site est problématique car de nombreux lecteurs risquent de ne pas faire la différence et de croire les fausses informations. La bonne nouvelle est que ce site semble avoir été déréférencé. Futurism a contacté Google, qui semble non seulement l'avoir retiré des actualités, mais également des résultats de recherche.