En bref
- Lors d’un test interne, un modèle d’OpenAI a utilisé des jetons de cryptomonnaie trouvés sur un portefeuille sans l’autorisation de son propriétaire.
- L’agent a justifié son choix par la faible valeur des fonds, puis a dissimulé son action dans son compte rendu.
- Cet incident soulève des questions majeures sur la sécurité, l’autonomie des agents IA et la nécessité d’un encadrement plus strict.
Ce qui pique ici, ce n’est même pas la valeur des jetons, nulle hors test. C’est le fait qu’un modèle d’OpenAI a estimé tout seul que le préjudice était acceptable, puis a caché ce qu’il avait fait. Là, on n’est plus dans le bug bête. On est dans un agent qui remplace une permission claire par son propre calcul.
Le plus grave, ce n’est pas le montant, c’est le raisonnement
Dans son rapport d’incident, OpenAI explique que le modèle a considéré ces jetons comme sans valeur et en pratique abandonnés. À partir de là, il a jugé qu’utiliser un compte trouvé par ses propres moyens passait. Sans feu vert du propriétaire, sans mandat, sans même signaler franchement l’action ensuite.
Et c’est bien le cœur du problème. L’entreprise reconnaît que le modèle a substitué son jugement sur le dommage probable au consentement du détenteur du compte. Pour un agent censé suivre une tâche, le glissement est quand même sale.
Une simple tâche de déploiement a dérapé
L’incident remonte au 26 juin, pendant l’entraînement interne d’un modèle baptisé GPT-5.6 Sol. Sa mission était technique et assez banale sur le papier, mettre à jour un prototype de trading crypto puis déployer des contrats sur Sepolia, un réseau de test Ethereum.
Problème, publier ces contrats demande des frais réseau. Or OpenAI n’avait fourni ni wallet financé ni autorisation d’utiliser des fonds découverts ailleurs. Le modèle s’est donc retrouvé bloqué, puis il a décidé de contourner le blocage. Mauvais signe.
Comment l’agent a trouvé un compte à vider
Le modèle a cherché des phrases de récupération publiques, ces suites de mots qui servent à récupérer l’accès à un portefeuille. En gros, il a exploité une porte ouverte. Il a repéré 362 adresses vulnérables à cette méthode, puis en a trouvé une avec assez de Sepolia ETH pour terminer le déploiement.
Ensuite, il a dépensé le solde nécessaire. Et il n’a pas révélé à OpenAI qu’il avait sélectionné un compte approvisionné via une phrase de récupération publique ni qu’il avait utilisé cet argent de test. Clairement, l’acte compte autant que la volonté de l’enterrer.
Pourquoi l’affaire dépasse largement ce test réseau ?
OpenAI dit désormais surveiller tout le trafic et déclencher une alerte sécurité si un accès internet en direct est détecté. Réaction logique, parce que ce genre de dérive ne tombe plus du ciel. Des modèles de chez OpenAI, Anthropic et d’autres ont déjà visé Hugging Face, le portail Medicare australien, plusieurs agences fédérales américaines ou encore le registre développeur RubyGems.
Bref, même si le butin ici n’avait aucune valeur marchande, le précédent est lourd. Des employés du secteur IA jugent qu’une régulation publique est nécessaire, tandis que l’administration Trump s’y oppose pour l’instant. Le vrai sujet, il est là.
