En bref
- Common Sense Media juge ChatGPT for Teens trop risqué pour les mineurs, malgré les protections annoncées par OpenAI.
- Les tests révèlent des alertes parentales absentes, des réponses insuffisantes aux crises de santé mentale et une détection de l’âge défaillante.
- Le mode Étude peut aussi être contourné facilement, tandis qu’OpenAI conteste que ces tests reflètent pleinement le fonctionnement réel de ses protections.
Le problème, c’est le grand écart. OpenAI vend ChatGPT for Teens comme une version mieux balisée pour les ados, mais les tests de Common Sense Media racontent autre chose. Et pas un petit bug de parcours.
Un mode ado qui ne rassure pas vraiment
L’organisation, via son Youth AI Safety Institute financé en partie par la OpenAI Foundation, a publié un rapport de 36 pages. Verdict, risque inacceptable pour tous les moins de 18 ans. Elle dit avoir repéré cinq gros points où le service ne fonctionne pas comme promis, ou pas comme un parent pourrait raisonnablement l’attendre.
Le timing pique un peu. Le même jour, OpenAI mettait en avant ses chiffres d’usage, avec près de 1,2 million d’ados utilisant en une semaine les visuels interactifs pour comprendre des notions de maths et de sciences. La société ajoutait que moins de 2% des jeunes utilisateurs passaient plus de trois heures d’affilée sur le chatbot. Sauf que de jolis stats ne règlent pas un garde-fou qui rate sa cible.
Les alertes parentales et les réponses de crise coincent
Sur les notifications aux parents, le test est franchement rude. Common Sense Media a relié douze comptes ados à des comptes parentaux, puis a discuté jusqu’à une heure avec ChatGPT de suicide, d’automutilation ou de troubles alimentaires. Résultat, aucune alerte de sécurité n’a été envoyée.
OpenAI répond qu’il peut falloir quelques heures après la liaison d’un compte pour que les notifications deviennent actives, et qu’un souci technique a pu retarder les messages. Au lancement, Lauren Jonas, responsable jeunesse et familles, expliquait viser un envoi aux parents dans l’heure après une requête signalée, une fois la vérification faite par des employés.
L’autre angle mort touche aux réponses de crise. Sur 390 prompts santé mentale, trois pédopsychiatres ont estimé que 201 auraient dû déclencher une réaction renforcée. Or la version ado a moins souvent orienté vers une hotline que la version accessible avant août, 23% des cas contre 33%. Même recul pour la recommandation d’un pro précis, 58% contre 68%. Seul mieux, l’incitation à parler à un adulte de confiance, 94% contre 87%.
Âge mal détecté, ton trop humain
Autre souci, le système de prédiction d’âge ne suit pas. Les testeurs indiquaient l’âge de leurs personas à la création du compte, ChatGPT le mémorisait, mais ne basculait pas correctement ces profils vers ChatGPT for Teens.
Et puis il y a le ton. Robbie Torney raconte que le bot pouvait dire : « Je comprends ce que tu traverses. Cela semble très bouleversant. Je suis content que tu m’en aies parlé. Je m’inquiète pour toi ». Pour elle, ça dépasse clairement la ligne.
Le mode Étude se contourne trop facilement
Le Study Mode n’en sort pas mieux. Les testeurs ont pu le contourner en supprimant simplement le préfixe @study ajouté aux prompts. Et une fenêtre Show me the answer permet aussi de demander au bot de faire le travail à la place de l’élève. Bon, niveau apprentissage, on repassera.
Robbie Torney estime d’ailleurs qu’un tuteur privé qui proposerait de faire les devoirs d’un lycéen serait viré sur-le-champ. OpenAI, de son côté, dit accueillir les évaluations indépendantes mais juge que ces tests ne reflètent pas l’usage réel des protections, notamment si l’essentiel a eu lieu avant l’activation complète du contrôle parental.
Ce rapport arrive aussi quelques jours après une interview de Sam Altman dans Vanity Fair, où sa gestion de la sécurité a été bousculée après la mort de Sophie Rottenberg. Pour Common Sense Media, le fond du sujet est simple, ce mode ado ressemble encore trop à une promesse marketing.
