En bref
- Les IA américaines perdent du terrain auprès de certains experts en cybersécurité.
- Les modèles open source séduisent par leur flexibilité et leur fonctionnement local.
- Le défi est désormais de concilier liberté d’usage et protection contre les abus.
Des chercheurs en cybersécurité quittent des modèles américains trop verrouillés pour aller vers des alternatives open source, parfois chinoises. Et ça, pour la sécurité globale, ce n’est pas franchement une super idée.
Quand les labos poussent les chercheurs ailleurs
Chez Anthropic comme chez OpenAI, les modèles les plus avancés s’accompagnent de garde-fous et de programmes d’accès validés. Sur le papier, logique. Dans la pratique, Chris Thompson, patron de RemoteThreat et fondateur d’Offensive AI Con, raconte surtout une expérience pénible, avec des réponses incohérentes et des limites qui changent presque d’un jour à l’autre, y compris dans les programmes assouplis.
Résultat, du temps perdu à négocier avec le modèle au lieu d’analyser une faille. Selon lui, ça pousse des chercheurs sérieux vers des modèles téléchargeables comme GLM, exécutés en local, sans validation ni restriction d’usage. Le signal est mauvais.
Le même prompt peut servir à attaquer et à défendre
Le point le plus intéressant, c’est peut-être celui-là. Chris Anley, scientifique en chef chez NCC Group, explique que demander à une IA d’exploiter un bug peut être une étape clé pour vérifier qu’une vulnérabilité est bien réelle et mérite d’être corrigée.
Le problème, c’est que le prompt qui aide à corriger du code peut aussi servir de feuille de route pour trouver une faille critique. Pour Anley, on ne sépare pas proprement l’offensif du défensif. Il compare ça à un marteau, outil indispensable pour construire, mais aussi arme potentielle. L’image est simple, et elle tape juste.
Des programmes validés, mais un filtrage jugé arbitraire
Cette logique de filtrage existe déjà chez OpenAI avec Trusted Access for Cyber, et chez Anthropic via le Cyber Verification Program. Anthropic a aussi beaucoup communiqué sur Mythos, présenté comme un modèle cyber ultra sensible, accessible seulement à des utilisateurs triés sur le volet.
En juin, les États-Unis ont même imposé des restrictions à l’export sur Mythos et Fable, au moins en partie après un rapport affirmant qu’il était possible de contourner les protections. Depuis, les limites ont été partiellement levées, Fable 5 est revenu en accès général le 1er juillet, tandis que Mythos 5 n’a été rouvert qu’à des organisations américaines validées, dans le cadre d’un examen gouvernemental.
Mark Dowd, figure connue du secteur, juge quand même assez mal le fait que de grandes entreprises privées décident seules de ce qui est acceptable en sécurité.
Tout le monde ne veut pas confier les failles à une IA cloud
Mais tous les chercheurs ne demandent pas la même chose. Paolo Stagno, CTO de CrowdFense, trouve les programmes validés infantilisants, tout en expliquant que son équipe réserve les modèles de pointe au reverse engineering. Pour la recherche de vulnérabilités et la création d’exploits, il préfère des modèles locaux, afin d’éviter qu’une faille sensible fuite dans le cloud ou finisse dans de futurs entraînements.
Même son de cloche, différemment, chez Giuseppe Cali. Lui n’utilise pas l’IA pour découvrir ou armer des bugs, mais pour comprendre du code et créer des outils de support. Ça accélère le boulot, sans lui enlever la main sur la découverte réelle. Et un chercheur anonyme d’un fabricant de composants pour smartphones le dit plus sèchement, hors programme d’Anthropic, les outils deviennent presque inutiles dès qu’ils repèrent une activité liée à la sécurité.
Pour Thompson, serrer encore la vis serait une erreur. Il veut un accès plus ouvert, mais responsable, avec sanctions pour les abus. Sinon, ceux qui essaient de défendre les systèmes risquent juste de perdre la course à l’IA.
