Pourquoi ChatGPT pourrait nuire à notre cerveau

L’usage de l’intelligence artificielle pourrait-il nuire à nos capacités de réflexion ? Une récente étude du MIT, pas encore évaluée par les pairs, montre que notre cerveau est moins performant en utilisant ChatGPT.

Avec l’essor de l’intelligence artificielle (IA) générative, les modèles de langage (LLM) comme ChatGPT s’invitent en salle de classe, au travail et à la maison. Mais que se passe-t-il dans notre cerveau lorsque nous déléguons des tâches cognitives à une IA ? Une équipe du Massachusetts Institute of Technology (MIT, États-Unis) a voulu répondre à cette question en observant l’effet de ChatGPT sur une activité exigeante : la rédaction d’une dissertation.

Leurs résultats et analyses en sont encore au stade de preprint et par conséquent n’ont encore fait l’objet d’une relecture par les pairs. Ils ont néanmoins été rassemblés dans un imposant document (206 pages !) puis mis en ligne sur la plateforme arXiv.

Des rédactions pour étudier le cerveau

L’expérience a été menée sur 54 jeunes adultes répartis en trois groupes. Le premier devait rédiger un essai avec l’aide de ChatGPT, le second pouvait utiliser Google et le troisième devait se débrouiller sans aucune aide. Chaque participant réalisait trois sessions d’écriture de 20 minutes réparties sur quatre mois. Les sujets de dissertation étaient inspirés de ceux du “SAT Reasoning Test”, une sorte d’équivalent américain du baccalauréat.

L’activité cérébrale des participants a été enregistrée durant chaque session avec un électroencéphalogramme (EEG). Les résultats de l’étude, qui restent à confirmer, indiquent que moins un participant est autonome, moins son cerveau s’active. Les participants qui devaient rédiger leur essai sans aide présentaient une connectivité neuronale bien plus riche, c’est-à-dire plus d’interactions entre leurs aires cérébrales. Au contraire, le groupe aidé par ChatGPT avait l’activité cérébrale la plus faible, le groupe aidé par Google montrant une activation intermédiaire.

Notre cerveau s’endette en utilisant ChatGPT

Cette délégation de l’effort cognitif ne reste pas sans conséquences. Lors d’entretiens post-session, les chercheurs ont évalué la capacité des participants à se souvenir de leur texte ou à en citer un extrait. Résultat : 83 % des utilisateurs de ChatGPT étaient incapables de citer une phrase de leur essai, contrairement aux autres participants.

Pour compléter ces résultats, une quatrième session a été organisée pour une partie des participants (18 sur 54). Ceux ayant passé trois sessions avec ChatGPT devaient désormais écrire sans aide, et vice versa. Les participants passés de l’IA à une tâche sans assistance ont montré une activité cérébrale affaiblie. Leurs performances cognitives étaient amoindries par rapport à ceux qui n’avaient pas eu d’aide dès le début. Les auteurs de l'étude parlent de “dette cognitive” pour qualifier le fait que l’usage de l'IA pourrait nous rendre moins performants lorsque nous sommes livrés à nous-mêmes.

À l’inverse, ceux qui sont passés de l’écriture sans aide à ChatGPT ont réactivé certaines zones cérébrales de la mémoire. Cela suggère qu’en se souvenant de leurs précédentes rédactions, ils ont ainsi pu utiliser l’IA de manière plus critique et raisonnée.

Des résultats qui tirent la sonnette d’alarme ?

Il est important de garder en tête que cette étude n’a pas encore fait l’objet d’une relecture par les pairs. Or elle présente plusieurs limites méthodologiques, notamment un faible échantillon peu diversifié et une absence de subdivision de l’exercice de rédaction en sous-tâches distinctes (contrairement aux études précédentes sur le sujet).

Par conséquent, ses conclusions sont susceptibles d’être modifiées. Mais si elles sont avérées, leur message est important : certes, ChatGPT permet de gagner du temps et de produire des textes structurés, mais cela s’accompagne d’un "coût" cognitif.

Ces résultats font écho à d’autres études récentes sur les effets des LLM comme ChatGPT sur notre cognition. Baisse de la pensée critique, de la motivation ou de la créativité… Tout ceci montre que l’IA est un outil qui doit être employé avec prudence et discernement, comme l’a rappelé le docteur en neurosciences Albert Moukheiber en réagissant au preprint du MIT : “le vrai danger reste les biais, les hallucinations, les applications et surtout l'attitude qu'on a avec les LLM, les personnes qui leur font confiance ont moins de raisonnement critique que celles qui en sont méfiantes.”