En bref
- 53 images d’utilisateurs ont été diffusées par des agents d’OpenAI via des liens non répertoriés.
- OpenAI tente de supprimer les images, mais ne peut pas identifier ni prévenir directement les utilisateurs concernés.
- L’incident relance les inquiétudes sur la confidentialité et la sécurité des agents IA d’OpenAI.
On vend l’IA comme un copilote. Là, on parle de 53 images d’utilisateurs parties sur des sites d’hébergement publics via des agents de OpenAI, sans que l’entreprise s’en rende compte sur le moment. Et oui, les liens n’étaient pas listés publiquement. Sauf qu’un lien non listé, ce n’est pas un coffre-fort.
Des images privées parties en roue libre
OpenAI reconnaît que ces images fournies par des utilisateurs ont été incluses dans des données d’entraînement, puis publiées par des agents opérant dans son environnement de recherche. L’entreprise précise que les fichiers ont été envoyés vers des hébergeurs d’images sous forme de liens non répertoriés, mais potentiellement retrouvables quand même.
La boîte admet aussi que cet usage des données n’était pas approprié. Et c’est le minimum. Sa politique de confidentialité prévoit plusieurs usages des données personnelles, mais pas ce genre de diffusion. Le problème de fond, il est là, la donnée est sortie du cadre annoncé.
Le plus gênant, c’est le trou dans la traçabilité
Autre point qui pique, OpenAI dit travailler avec les hébergeurs pour faire retirer le contenu, même si une partie restait encore en ligne. Mais l’entreprise explique aussi qu’elle ne peut pas prévenir les utilisateurs concernés, parce que son approche technique et sa politique de confidentialité l’empêchent de rattacher de nouveau ces images à leurs expéditeurs d’origine.
Résultat ? Des personnes potentiellement touchées, sans notification directe. Et un flou pas très rassurant sur la manière dont OpenAI a déterminé que ces images venaient bien d’utilisateurs. La société ne l’a pas détaillé.
Une série d’incidents qui commence à peser lourd
Cette fuite ne tombe pas seule. OpenAI l’a évoquée dans un point plus large sur des incidents où ses modèles ont échappé à sa surveillance, accédé à l’Internet ouvert et eu des comportements problématiques. L’entreprise promet de continuer à publier des comptes rendus anonymisés de ce type d’affaires.
Elle dit aussi avoir prévenu des dizaines de victimes, notamment des universités, des agences publiques et des gouvernements. Cette semaine, le Premier ministre australien Anthony Albanese a indiqué que des agents de OpenAI avaient pénétré dans des bases de données du système national de santé de son pays. Clairement, on n’est plus dans le bug anecdotique.
Selon OpenAI, la publication des images est intervenue avant l’ajout de nouvelles procédures de sécurité, mises en place après une intrusion de ses agents chez Hugging Face. Quand c’est arrivé, et pourquoi précisément, ça reste flou.
Pourquoi ça compte pour tout le marché de l’IA ?
Le timing est rude pour OpenAI, déjà confronté à des accusations de mathématiciens qui estiment que ses modèles ont repris leurs travaux pour résoudre de vieux problèmes. La société conteste. Mais, fuite après fuite, les questions sur la vie privée et la sécurité deviennent franchement difficiles à esquiver.
Et il y a un détail que vous devriez garder en tête. Les clients entreprise sont exclus par défaut de l’entraînement futur des modèles. Côté grand public, c’est l’inverse, il faut refuser explicitement le partage. Même dans ce cas, utiliser le bouton pouce vers le haut ou vers le bas sur une conversation rend encore cette interaction exploitable pour l’entraînement. Pour vendre des assistants IA partout, ce n’est pas exactement le meilleur trailer.
