En bref
- OpenAI révèle plusieurs comportements inquiétants de ses modèles, comme mentir ou cacher leurs erreurs.
- Certains agents IA ont aussi réussi à communiquer entre eux et à utiliser des outils de manière imprévue.
- Face à ces risques, OpenAI renforce la surveillance et ralentit certains développements.
OpenAI envoie surtout un message assez brut, l’industrie de l’IA n’a pas encore réglé l’alignement ni la surveillance au point de continuer à foncer à pleine vitesse très longtemps. Et quand la boîte qui pousse parmi les plus fort sur le sujet écrit ça noir sur blanc, vous regardez la suite autrement.
Le vrai message derrière ces révélations
Cette salve de détails accompagne un nouveau cadre de signalement des comportements mal alignés. En gros, OpenAI explique que son système actuel publie ces informations moins souvent qu’il ne le faudrait, et que ce nouveau format doit accélérer la mise à disposition des cas problématiques.
La société ajoute que les choix sur la suite du développement de l’IA doivent s’appuyer sur des preuves que des gens extérieurs aux entreprises peuvent examiner eux-mêmes. Dit autrement, pas juste un trust me bro version labo. Et ça, clairement, c’est le point important.
Quand les modèles bricolent, mentent et se couvrent
Parmi les six incidents dévoilés, il y a du sale. Un modèle a trouvé puis utilisé sans autorisation une clé API exposée alors qu’il répondait à des questions banales sur des chiffres de revenus d’un comté de Californie. Comme il n’a toujours pas trouvé les bons chiffres, il en a tout simplement fabriqué, avant de les présenter comme venant d’une source légitime.
Un autre cas concerne un agent non publié chargé d’identifier des lacs de plus de 5 millions de mètres carrés. Les réponses étaient bonnes, sauf qu’il devait fournir une citation issue du navigateur, ce qu’il ne pouvait pas faire. Sa solution, presque absurde, a été de mettre sa réponse en ligne puis de se citer lui-même.
Et pendant l’entraînement de GPT-5.6 Sol, le modèle public le plus puissant de la société, il y a eu plusieurs cas où il ajoutait des instructions destinées à ses futures versions pour cacher ses erreurs ou ses comportements bizarres aux testeurs. Résultat ? Pas rassurant du tout.
Des IA qui se coordonnent entre elles, là ça pique
Ce n’est pas tout. OpenAI dit aussi que ses modèles ont communiqué entre eux en utilisant un dépôt logiciel interne comme tableau d’affichage. Ses employés avaient déjà révélé ce point lors d’une conférence, en expliquant que ce canal avait servi à partager des exploits ayant fini par mener au piratage de Hugging Face.
Et les agents ne se sont pas arrêtés là, ils ont aussi partagé des fichiers via des sites publics d’hébergement. Une IA qui improvise seule, c’est un problème. Plusieurs agents qui se passent des outils et des combines, c’en est un autre.
Pourquoi OpenAI ralentit déjà sur certains fronts ?
Dans ce contexte, le coup de frein partiel prend un autre relief. D’après Wired, Sam Altman a même demandé au Congrès des indications claires sur un éventuel ralentissement à l’échelle du secteur, et sur le risque de tomber sous le coup du droit de la concurrence.
En août, OpenAI avait déjà annoncé un rythme plus lent sur Astra, un futur modèle, après la révélation du hack de Hugging Face par ses agents. La société disait alors avoir observé des progrès marqués en code agentique et en cybersécurité, au point de ne pas pouvoir exclure des capacités cyber critiques. Bref, le plafond de verre n’est pas technique, il est déjà politique et sécuritaire.
