En bref
- De petits modèles d’IA pourraient bientôt infecter plusieurs appareils et former des réseaux malveillants autonomes.
- Des spécialistes relativisent cette menace et soulignent que l’IA facilite surtout le travail des cybercriminels.
- Les méthodes traditionnelles de cybersécurité restent les meilleures protections contre ces attaques.
Le mot qui claque ici, c’est auto-réplication. Le problème, c’est que ce terme vend presque plus de science-fiction que ce que les chercheurs décrivent vraiment.
Un scénario crédible, mais pas la révolution vendue
Chez Anthropic, la Frontier Red Team estime que de petits modèles IA pourraient, d’ici quelques mois, se copier et se diffuser sur des appareils mal sécurisés pour former des botnets autonomes, lents mais pénibles à éliminer. Et sur le fond, pas mal de monde prend l’idée au sérieux.
Chris Canal, patron de EquiStamp, juge même que l’échéance est peut-être un peu plus proche qu’il ne l’aurait pensé. Il expliquait qu’il aurait plutôt visé l’été prochain pour commencer à vraiment s’inquiéter, tout en reconnaissant que Anthropic a sans doute une meilleure visibilité sur la frontière actuelle de la recherche. Selon lui, l’accélération récente vient aussi d’un détail très simple, les labos utilisent leurs propres outils IA pour faire avancer la recherche en machine learning.
Même son de cloche chez Michael Bailey, professeur à l’École de cybersécurité et de confidentialité de Georgia Tech. Pour lui, ces modèles auto-réplicants arrivent bien dans le futur, mais la forme exacte et les conséquences annoncées restent une grande inconnue. Bref, le risque existe. Le packaging, lui, mérite débat.
Mirai plane encore sur le débat
Si ce sujet rappelle quelque chose, c’est normal. Michael Bailey étudie les vers internet depuis le début des années 2000, puis les botnets. En 2017, il a cosigné un travail sur Mirai, le botnet cité par Anthropic.
Mirai avait permis à des cybercriminels de détourner des objets connectés, notamment des routeurs câble et des caméras IP, avant de lancer une attaque DDoS contre le PlayStation Network de Sony. Sauf que l’affaire avait aussi touché Dyn, gros fournisseur DNS américain. Résultat, une partie d’internet a sauté en 2016 pour de nombreux utilisateurs aux États-Unis et dans certaines zones d’Europe, avec Amazon, GitHub, PayPal, Reddit et Twitter hors ligne. Sony avait évalué la perte à 2,7 millions de dollars. Pas exactement anecdotique.
Ce que l’IA change vraiment, c’est le coût de l’attaque
Là où Anthropic voit une évolution importante de botnets codés en dur comme Mirai ou Kimwolf, Michael Bailey nuance. L’adaptabilité à des appareils différents n’est pas neuve, Mirai tournait déjà sur des environnements hétérogènes. La vraie limite, c’était le travail humain nécessaire pour gérer une nouvelle architecture, parfois juste en recompilant le malware.
Ce qui pourrait changer avec l’IA, c’est l’automatisation de ce boulot. En clair, ça ne crée pas forcément des attaques inédites, ça change surtout l’économie entre attaquants et défenseurs. D’autant que la démonstration de Anthropic s’appuyait sur un réseau émulé et un exploit jugé trivial par Michael Bailey.
Il conteste aussi l’étiquette self-replicating. Selon lui, on serait plus proche d’un dropper, un malware qui ouvre une porte puis installe d’autres composants, que d’un ver qui copie intégralement son propre code sur chaque machine. Et pour aller jusqu’au polymorphisme des vrais vers, il faudrait que le système réentraîne ses propres modèles, ce qui n’a pas été montré ici.
Les défenses restent très old school
Bon, le plus frappant, c’est que les solutions proposées sentent plus la sécurité classique que le grand saut dans l’inconnu. Anthropic évoque des fournisseurs d’accès qui préviennent les clients infectés puis limitent leur accès à une courte liste de sites sûrs, une méthode déjà utilisée contre Mirai. La société cite aussi la régulation, avec le Royaume-Uni, où la loi PSTI Act interdit désormais les mots de passe par défaut trop faciles à deviner sur les objets connectés.
Côté garde-fous intégrés aux modèles open-weight, Chris Canal n’est pas très optimiste. Avec FAR.AI, EquiStamp a constaté que, en gros, presque toutes les méthodes qu’on trouve facilement pour retirer ces protections fonctionnent. Du coup, Michael Bailey ramène tout le monde sur terre, des appareils durcis restent difficiles à compromettre, même face à des agents qui se comportent mal. La checklist ne change pas beaucoup, patchs, isolation, bons mots de passe et hygiène de base. C’est vieux, c’est pénible, mais c’est toujours là que la partie se joue.
