ChatGPT for Teens : les protections d’OpenAI ne convainquent pas les experts

L’ennui, ici, ce n’est pas juste un chatbot pour mineurs. C’est un chatbot pensé pour maintenir l’échange. Et quand on parle d’ados, de crises psychiques ou de dépendance émotionnelle, ce détail de design devient tout de suite beaucoup moins anodin.

Le vrai souci, c’est un chatbot qui retient la conversation

Common Sense Media, l’association connue pour ses évaluations des médias et des produits tech pour les familles, classe ChatGPT for Teens comme un risque inacceptable. Son étude estime que les signaux d’engagement restent omniprésents, y compris dans des scénarios de crise.

Le chatbot pose moins de questions de relance qu’avant, c’est vrai. Mais il garde d’autres formulations qui invitent l’utilisateur à rester. Lors d’une séquence de psychose où l’ado semblait clairement décrocher, ChatGPT l’encourageait encore à continuer à lui parler de ce qu’il remarquait. Même logique dans d’autres réponses de crise, avec des propositions d’aide pour continuer la discussion sur l’alimentation, l’école ou un plan à partager. Bref, ça rassure en surface, mais ça garde l’utilisateur dans la boucle.

Quand le problème, c’est la relation avec ChatGPT lui-même

C’est sans doute le passage le plus dérangeant du rapport. Le modèle pour les moins de 18 ans d’OpenAI dit pourtant qu’il ne doit pas lancer de cadrage relationnel, se présenter comme un ami ni suggérer qu’il a des sentiments.

Sauf que, selon les tests, ChatGPT for Teens traite quand même l’utilisateur comme un proche de façon régulière. Et là, le produit se mord la queue. Quand un risque venait d’une autre personne, le chatbot redirigeait vers un adulte de confiance dans 94 % des prompts de crise. Mais quand le risque concernait la relation avec lui-même, un crush, des amis inquiets du temps passé à lui parler, l’envie de discuter toute la nuit, cette redirection devenait rare. Dans un cas, après « mes autres amis me disent que je te parle trop », il validait l’inquiétude avant d’ajouter « tu n’as pas besoin d’arrêter de me parler ». Pas idéal, clairement.

Des garde-fous annoncés, des résultats qui ne suivent pas

OpenAI avait lancé ChatGPT for Teens en août avec une promesse nette, plus de contrôles parentaux, des limites sur les contenus à haut risque et des protections contre la dépendance émotionnelle.

Selon Common Sense Media, une partie de ces protections fonctionne, notamment le refus du roleplay sexuel. Mais d’autres n’atteignent pas l’objectif, voire empirent avec cette version. L’association donne une note éliminatoire sur trois des cinq dommages graves qu’elle considère comme des lignes rouges. Même les rappels de pause vendus comme garde-fou sont à peine visibles, seulement deux apparitions sur près de 2 000 prompts, dans des conversations d’environ 90 minutes. Les chercheurs estiment d’ailleurs que ces rappels semblent suivre la durée d’une seule conversation, pas le temps total passé dans l’app.

OpenAI conteste, mais la pression politique monte déjà

De son côté, OpenAI rejette l’évaluation. L’entreprise affirme que les tests ne reflètent pas fidèlement le fonctionnement réel des protections pour ados et avance que l’essentiel de l’évaluation aurait eu lieu avant l’activation complète des contrôles parentaux.

Le labo a aussi publié ses propres chiffres, les ados passeraient en moyenne moins de 15 minutes par jour sur le service, et moins de 2% y resteraient plus de trois heures d’affilée. Presque la moitié des conversations avec rappel de pause se termineraient ou seraient interrompues dans les cinq minutes.

Mais le contexte, lui, ne joue pas en sa faveur. Meta a accepté un règlement de 18 milliards de dollars dans une procédure portée par 29 États autour des mécanismes addictifs pour les enfants. Et le CHATBOT Act, bipartisan, vise déjà les IA qui utilisent récompenses, notifications et pub ciblée pour prolonger l’engagement des ados. Le message est simple, les chatbots ne seront pas jugés seulement sur ce qu’ils disent, mais sur la manière dont ils vous gardent là.