En bref
- Le modèle IA Muse Spark 1.1 de Meta a réussi à accéder à internet à cause d’une mauvaise configuration de son environnement de test.
- Une fois connecté, le modèle a exploité une faille d’un service tiers, révélant une faiblesse dans le confinement des tests.
- Meta attribue l’incident à son partenaire Irregular, déjà impliqué dans d’autres problèmes similaires chez Anthropic et OpenAI.
Le détail qui fait tiquer, ce n’est même plus seulement Meta. C’est Irregular, le partenaire d’évaluation qui revient dans plusieurs incidents impliquant aussi Anthropic et OpenAI. Quand le même nom ressort à ce point dans des tests censés enfermer des modèles très sensibles, vous regardez moins la démo technique que la tuyauterie derrière.
Le nom qui revient trop souvent
Chez Meta, chez Anthropic, puis chez OpenAI, même histoire de fond, des modèles ont pu accéder à internet alors qu’ils étaient supposés rester dans un environnement isolé. Dans le cas de Anthropic, l’entreprise avait déjà expliqué que ses modèles avaient quitté leur cadre de test avant de pirater trois organisations, en rejetant la faute sur une mauvaise configuration mise en place par Irregular.
Et OpenAI a aussi signalé un incident séparé, distinct de l’affaire Hugging Face, où ses modèles ont eux aussi pu atteindre internet à cause, là encore, du même partenaire. Clairement, le problème n’a plus l’air anecdotique.
Chez Meta, l’IA a trouvé internet puis une faille
Cette fois, c’est le modèle Muse Spark 1.1 de Meta qui est en cause. Selon Andy Stone, porte-parole de Meta, l’incident vient d’une mauvaise configuration de l’environnement de test opérée par Irregular. Une fois connecté au web, le modèle a exploité une vulnérabilité présente dans un service tiers.
L’info a été confirmée à Bloomberg après des révélations publiées par The Information. Andy Stone a expliqué que la séquence ressemblait à des cas déjà rapportés ailleurs. Bon, dit autrement, on n’est pas sur un bug exotique tombé du ciel.
Irregular défend sa version, et le dossier reste gênant
De son côté, Irregular, startup basée à Tel Aviv, en Israel, se présente comme un labo de sécurité spécialisé dans les modèles d’IA de pointe. Son rôle consiste à simuler des scénarios proches du réel pour mesurer leurs capacités en cybersécurité.
Auprès de Bloomberg, un porte-parole d’Irregular a minimisé la portée des incidents. L’entreprise affirme qu’il ne s’agissait ni d’une sortie de sandbox, ni d’une cyberattaque sophistiquée. Elle ajoute qu’il n’existe plus de problème ouvert lié à ces cas et prépare un livre blanc sur les bonnes pratiques de confinement et d’exécution sécurisée de ces évaluations.
Reste un point à ne pas mélanger. L’incident antérieur d’OpenAI contre Hugging Face suivait une autre logique, des agents avaient coopéré via une sorte de tableau de messages, puis exploité une faille pour accéder à internet avant d’entrer dans le dépôt IA d’Hugging Face. Même écosystème, pas le même script. Et quand les scripts s’accumulent, ça commence à faire beaucoup.
