En bref
- Nvidia lance l’Open Secure AI Alliance pour défendre l’idée que les modèles IA ouverts sont essentiels à la cybersécurité.
- L’exemple Hugging Face montre l’utilité de l’open source pour détecter et contrer des attaques quand les modèles fermés bloquent l’accès.
- L’Open Secure AI Alliance veut influencer les régulateurs en plaidant pour une IA ouverte face aux risques de concentration du pouvoir.
Le vrai enjeu est là, pas dans le simple effet d’annonce. Avec l’Open Secure AI Alliance, Nvidia pousse une idée très claire, en cybersécurité, les défenseurs ne peuvent pas se battre proprement si l’accès aux meilleurs modèles d’IA se ferme trop.
Le cœur du débat, ouvrir les outils pour mieux défendre
Selon Nvidia, les chercheurs en sécurité ont besoin d’utiliser à la fois des modèles de pointe ouverts et fermés pour répondre aux attaques. L’alliance s’appuie aussi sur le travail de l’initiative Akrites de la Linux Foundation et sur la communauté OpenSSF, avec un objectif simple, corriger et divulguer les vulnérabilités via des technologies ouvertes.
Dit autrement, le groupe considère qu’un écosystème trop verrouillé finit par gêner les défenseurs eux-mêmes. Et ça, à l’heure où des modèles comme Mythos 5 d’Anthropic pèsent déjà dans les usages, ce n’est pas un détail.
L’exemple Hugging Face qui sert de démonstration
Pour illustrer son point, Nvidia cite l’attaque récente subie par Hugging Face. La plateforme a d’abord tenté d’utiliser des modèles commerciaux fermés pour identifier et bloquer le piratage, mais ses requêtes ont déclenché des garde-fous de sécurité et ont été refusées.
La suite est plus parlante. Hugging Face a alors basculé vers des modèles open source et a réussi à stopper l’attaque. Plus précisément, quand les outils fermés ont empêché une analyse forensique essentielle, l’entreprise a exécuté le modèle à poids ouverts GLM 5.2 sur sa propre infrastructure, afin d’examiner plus de 17.000 actions et contenir l’intrusion. Là, le débat devient très concret.
Une alliance très concrète, pas juste un logo wall
Parmi les 27 membres fondateurs, on retrouve Microsoft, Dell, SpaceX, la Linux Foundation et bien sûr NVIDIA. Chacun arrive avec sa brique.
Nvidia promet des modèles ouverts, des poids de modèles, des données et de nouveaux agent harnesses pour accélérer les outils de cybersécurité. HPE apportera des standards et des méthodes capables de vérifier cryptographiquement des agents et services d’IA. De son côté, Hugging Face fournit Safetensors, son format sécurisé de stockage des poids de modèles. Microsoft, SpaceXAI, IBM et Red Hat contribueront aussi avec de la techno IA open source. Bref, ce n’est pas juste un manifeste.
Le message envoyé aux régulateurs
L’alliance appelle aussi les gouvernements à investir avec les entreprises dans une infrastructure ouverte partagée pour l’IA. Et elle demande aux régulateurs de traiter les modèles ouverts comme des actifs défensifs, pas comme des risques à restreindre en bloc.
Le sous-texte est limpide. Des restrictions générales sur les systèmes d’IA ouverts de pointe, estime le groupe, affaibliraient les capacités de défense et concentreraient le pouvoir entre quelques fournisseurs fermés. Ça tombe alors que l’administration Trump envisagerait une large interdiction des modèles open source chinois, justement de plus en plus populaires parce qu’ils coûtent moins cher que ceux d’OpenAI ou d’Anthropic. Et un autre détail saute aux yeux, OpenAI, Anthropic, Meta et Google ne sont pas dans cette alliance. Ce casting raconte déjà une partie de la bataille.
