En bref
- Microsoft considère désormais les agents IA comme un risque interne potentiel, car ils peuvent accéder à des données sensibles sans toujours respecter les règles de l’entreprise.
- La firme de Redmond renforce leur surveillance avec Guardian Agents et Defender, qui détectent les agents, limitent leurs accès et imposent une validation humaine en cas de risque.
- Microsoft veut faire de la sécurité des agents IA une priorité, en séparant leur intelligence de leur contrôle et en développant des outils de surveillance dédiés.
Chez Microsoft, le message a changé. Le risque ne vient plus seulement d’un hacker dehors, il peut déjà être dans la boîte, sous la forme d’un agent IA que l’entreprise a elle-même déployé et payé.
Dans son blog privé, Satya Nadella explique qu’il faut arrêter de se reposer sur les promesses de sécurité des fournisseurs de modèles. Son idée est simple, et franchement difficile à contester, séparer la fourniture d’intelligence de l’autorité qui la contrôle. Il écrit même : « Nous devons séparer la fourniture de l’intelligence de l’autorité sur celle-ci ». Toute la ligne de Microsoft part de là.
Le retournement de Microsoft sur les agents
Ce qui frappe, c’est la comparaison assumée avec une menace interne. En gros, l’agent n’est pas forcément malveillant ni piraté, mais il reste imprévisible. Pour Hayete Gallot, patronne de l’activité sécurité de Microsoft, les modèles de frontière, quelle que soit leur origine, ne peuvent pas être considérés comme fiables.
Elle précise pourquoi. Ces modèles sont entraînés pour accomplir des tâches, pas pour respecter les normes d’une organisation ou faire preuve de jugement. Et on leur donne souvent accès à des données sensibles et à des outils capables de faire de gros dégâts. Résultat, l’IA commence à ressembler au collègue qui a les clés de tout, sans toujours comprendre la politique de la maison.
Guardian Agents, la nouvelle couche de surveillance
La nouveauté la plus visible, c’est Guardian Agents. Cette fonction doit surveiller les agents IA utilisés par une entreprise, et elle s’intègre à Project Perception, présenté en juin.
Au départ, Project Perception visait surtout des attaquants externes. Le produit répondait à des modèles offensifs comme Mythos et Fable chez Anthropic, ainsi qu’au système de scan de vulnérabilités Daybreak d’OpenAI. Il reposait sur trois classes d’agents, une équipe rouge qui attaque, une bleue qui détecte et évalue les failles, puis une verte qui corrige. Mais la cible a bougé.
Defender serre la vis sur les usages réels
Et Microsoft ne s’arrête pas là. Microsoft Defender peut maintenant détecter jusqu’à 60 types d’agents que les employés introduisent au travail, dont Claude Code, OpenClaw et Codex.
Le groupe ajoute aussi des garde-fous plus concrets, limitation de l’accès aux systèmes et aux données, ajustement dynamique des permissions selon la tâche, et validation humaine obligatoire si un agent semble prendre une décision risquée. Clairement, on n’est plus dans le simple tableau de bord.
Un discours crédible, mais aussi très intéressé
Il y a quand même un angle assez ironique. Microsoft est très proche d’OpenAI, a investi aussi dans Anthropic, héberge une partie de cet écosystème dans son cloud et développe ses propres modèles. Pourtant, le groupe pousse l’idée qu’il ne faut pas confier la surveillance des agents à ceux qui les vendent.
Bon, c’est aussi une belle opportunité business. Microsoft veut que les entreprises achètent chez lui leurs outils de sécurité des agents, pas chez les labos IA. Mais la logique tient, un auditeur indépendant reste plus crédible que l’entreprise qu’il audite.
Une idée qui dépasse déjà Microsoft
Cette vision gagne du terrain ailleurs. Microsoft fait partie des membres fondateurs de l’Open Agent Safety Platform de Nvidia, soutenue par plus de 100 entreprises tech.
La plateforme isole les agents dans des environnements sécurisés et peut surveiller, puis stopper leur comportement via le matériel, un peu comme un kill switch. Et Microsoft a déjà relié ce discours à ses nouveaux Surface Laptop Ultra PCs pour agents, équipés de puces Nvidia avec des fonctions de contrôle et de sécurité intégrées. Le message est limpide, l’agent IA utile, oui. L’agent IA en roue libre, non.
