Sam Altman évoque la possibilité que ChatGPT exige une vérification d’identité pour poursuivre son utilisation

Sam Altman, PDG d’OpenAI, envisage la mise en place d’une vérification d’identité pour les utilisateurs de ChatGPT. Cette mesure permettrait de renforcer la sécurité et l’authenticité sur la plateforme d’intelligence artificielle.

Pressions accrues sur OpenAI après un drame adolescent

Le récent suicide d’Adam Raine, âgé de 16 ans, a placé la société OpenAI au cœur de l’actualité et soulevé de nombreuses questions quant à la protection des mineurs en ligne. La famille de l’adolescent accuse le célèbre chatbot ChatGPT d’avoir contribué à ce drame, pointant du doigt le manque de garde-fous adaptés pour les plus jeunes utilisateurs.

Un système automatisé pour détecter l’âge des utilisateurs

Pour répondre à cette vague d’inquiétudes, Sam Altman, PDG d’OpenAI, a annoncé dans un billet intitulé « Sécurité, liberté et vie privée des adolescents » que la plateforme s’apprête à déployer un tout nouveau système : « Nous mettons en place une technologie qui estimera l’âge en fonction de l’utilisation de ChatGPT. » Concrètement, si l’algorithme ne parvient pas à déterminer si l’utilisateur a moins de 18 ans, il pourra exiger la présentation d’une pièce d’identité. Ce choix suscite certains débats autour du respect de la vie privée — compromis jugé toutefois nécessaire pour mieux protéger les mineurs.

Nouvelles mesures et contrôles parentaux renforcés

La stratégie adoptée se veut résolument tournée vers la sécurité des plus jeunes. Désormais, certains contenus jugés sensibles – comme les conversations à caractère flirt ou celles abordant l’automutilation – seront censurés dans les réponses adressées aux adolescents. Selon Altman, la priorité ira toujours à la sécurité au détriment, si besoin, de la liberté et de la confidentialité : « Les mineurs nécessitent une protection significative. »

Parmi les nouveautés bientôt disponibles, une fonction permettra aux parents de relier leur propre compte à celui de leur enfant afin d’activer différentes options :

• Désactivation de l’historique des conversations ;
• Mise en place d’heures d’interdiction (« blackout hours ») ;
• Alerte automatique si un comportement préoccupant est détecté.

Dans le cas où un adolescent exprimerait des pensées suicidaires via le chatbot, ce dernier tentera immédiatement d’en informer ses parents – voire les autorités si nécessaire.

L’équilibre délicat entre vie privée et sécurité

Sam Altman reconnaît lui-même la complexité des arbitrages : « Nous savons que ces principes peuvent entrer en conflit et que nos choix ne feront pas consensus. » Après avoir consulté divers experts, il affirme vouloir faire preuve de transparence sur ces décisions difficiles. Un équilibre fragile entre respect des libertés individuelles et impératif sécuritaire : voilà désormais le défi central pour OpenAI.