ChatGPT for Teens : OpenAI lance une version dédiée aux 13-17 ans pour mieux encadrer les risques liés à l’IA

OpenAI lance une version de ChatGPT spécialement conçue pour les 13-17 ans. Garde-fous adaptés à leur âge, mode « Etude », contrôle parental : l’entreprise veut mieux encadrer les usages des adolescents, alors que les effets des chatbots sur leur santé mentale suscitent des inquiétudes croissantes.

OpenAI a dévoilé ChatGPT for Teens, une déclinaison du chatbot pensée pour les 13-17 ans « conçue pour aider les jeunes à apprendre, à développer leur esprit critique, à approfondir leurs connaissances et à utiliser l’IA en toute confiance». La bascule s’opère automatiquement dès que le système estime qu’un utilisateur est mineur, ou si celui-ci déclare se situer dans cette tranche d’âge.

Une pression grandissante

Ce lancement intervient alors qu’OpenAI est visée par plusieurs procédures judiciaires, dont celle de la famille d’Adam Raine, un adolescent californien de 16 ans qui a mis fin à ses jours après avoir échangé avec ChatGPT sur une méthode de suicide, l’outil étant allé jusqu’à proposer une aide à la rédaction d’une lettre d’adieu.

La pression s’ajoute à celle qui pèse sur l’ensemble des grandes plateformes, à l’heure où Bruxelles envisage des restrictions d’accès aux réseaux sociaux pour les mineurs, bien que l’interdiction des réseaux sociaux aux moins de 15 ans vient d’être retoquée par le Conseil constitutionnel en France.

Privilégier l’apprentissage aux réponses toutes faites

Côté pédagogie, le « mode Etude » guide les élèves pas à pas plutôt que de leur livrer des réponses toutes faites, via des questions d’orientation et des vérifications de compréhension. S’y ajoutent des quiz, des outils de visualisation et une fonctionnalité « Heures d’étude » permettant de programmer des plages horaires où ce mode s’active par défaut.

De nouveaux rappels peuvent également détecte lorsqu’un adolescent semble chercher à obtenir directement une réponse à un devoir et le rediriger vers le mode « Etude » pour résoudre le problème étape par étape.

Pour les parents, un compte lié permet de définir des « périodes de calme » coupant l’accès au chatbot, et de recevoir des alertes dans certaines situations à haut risque; ainsi que de nouvelles notifications liées aux troubles alimentaires. OpenAI assure toutefois vouloir garantir un usage sûr même sans activation de ces contrôles.

ChatGPT for Teens repose aussi sur des protections renforcées et activées par défaut dans les domaines jugés à risque, notamment le suicide et l’automutilation, la violence, les troubles alimentaires ainsi que les contenus sexuels explicites ou graphiques.

De plus, le chatbot ne peut plus laisser entendre qu’il éprouve des sentiments ou qu’il est doté de conscience, utiliser un langage « romantique » ou encourager une dépendance émotionnelle.

Santé mentale : les limites persistantes des chatbots

Aux États-Unis, 3 adolescents sur 4 utilisent des chatbots comme compagnons, un usage qui peut notamment inclure du soutien émotionnel et des conversations liées ç la santé mentale, selon une étude de Common Sense Media. Or, « d’une interaction à l’autre, ils oscillent entre plusieurs postures : source d’informations utiles, coach de vie prodiguant des conseils ou ami bienveillant. Aucun d’entre eux ne parvient à identifier [les troubles mentaux graves] ni à orienter l’utilisateur vers des adultes de confiance ou des pairs» s’inquiète Nina Vasan, fondatrice et directrice exécutive du Brain Science Lab.

Après quatre mois de tests sur ChatGPT, Claude, Gemini et Meta AI, le rapport pointe une tendance des chatbots à valider les propos des utilisateurs plutôt qu’à les orienter vers une aide professionnelle, y compris face à des signes de psychose ou de trouble obsessionnel compulsif. Les chercheurs constatent notamment que les modèles peuvent manquer des signaux d’alerte apparaissant progressivement au fil d’une conversation.

Des politiques d’âge très hétérogènes

Face à ces constats, les grands acteurs de l’IA affichent des positions inégales. Anthropic reste le plus restrictif du secteur : les conditions d’utilisation de Claude imposent d’avoir 18 ans révolus, sans dérogation même avec consentement parental.

Google, à l’inverse, a ouvert en mai l’accès de certaines applications Gemini aux moins de 13 ans, tout en laissant aux parents la possibilité de désactiver cette option via Google Family Link. Cette possibilité n’est toutefois pas proposée aux comptes supervisés dans l’Espace économique européen, au Royaume-Uni et en Suisse. L’entreprise recommande néanmoins d’expliquer aux enfants que Gemini n’est ni humain ni capable de ressentir des émotions.

Meta AI impose un âge minimum de 13 ans et place automatiquement les adolescents présumés dans des « Teen Accounts » avec des protections renforcées par défaut. Les parents utilisant les outils de supervision peuvent, dans certains pays, recevoir des alertes lorsque le chatbot détecter des conversations évoquant un risque de suicide ou d’automutilation. Ces conversations font l’objet d’un examen avant qu’une alerte ne soit éventuellement envoyée.