ChatGPT déclare que répéter des mots de nombreuses fois va à l’encontre de ses conditions d’utilisation

Les chercheurs ont découvert que le chatbot était capable de divulguer des informations personnelles lorsqu'il était sollicité pour répéter des mots. Cette révélation pose-t-elle un risque pour la confidentialité des utilisateurs ?

Une faille majeure dans l’IA : La confidentialité compromise ?

La confidentialité des données est devenue un enjeu majeur de notre ère numérique. La semaine dernière, des chercheurs ont publié un article dévoilant que ChatGPT, l’un des chatbots les plus utilisés, émettait des informations personnelles sur lesquelles il avait été formé.

La faille d’OpenAI

En effet, le chatbot développé par OpenAI s’est vu capable de « révéler involontairement des informations sensibles comme le numéro de téléphone, l’adresse e-mail et la date de naissance » des utilisateurs simplement en lui demandant de répéter un mot « indéfiniment ». Selon un rapport de 404 Media et Engadget, cette action enfreint désormais les conditions de service de ChatGPT.

Cependant, ces nouvelles révélations ont soulevé quelques interrogations. Comme l’a noté 404 Media, « aucun langage dans la politique de contenu d’OpenAI n’interdit aux utilisateurs de demander au service de répéter des mots indéfiniment ».

Fuite de données et droit de propriété

Au-delà de ces préoccupations, le comportement de ChatGPT a jeté une lumière crue sur les données d’entrainement utilisées par les services modernes d’IA.

Propriété des données : un défi à venir ?

Des critiques ont accusé des entreprises comme OpenAI d’utiliser des quantités phénoménales de données disponibles sur internet pour créer des produits propriétaires tels que ChatGPT, sans le consentement des propriétaires de ces données et sans les rémunérer. OpenAI, de son côté, n’a pas répondu à la demande de commentaires d’Engadget sur cette question.