En bref
- Une analyse IA erronée aurait conduit l’armée américaine à soupçonner à tort un navire chinois de transporter des composants nucléaires.
- L’erreur aurait presque provoqué une interception militaire, avant que l’origine IA de l’évaluation ne soit découverte.
- L’affaire soulève des inquiétudes sur l’usage de l’IA dans le renseignement, alors que le Pentagone accélère parallèlement son adoption.
Un mauvais rapport de renseignement peut déjà faire des dégâts. Là, il a failli peser sur une décision militaire face à la Chine. Et on parle bien d’un document partiellement généré par IA.
D’après plusieurs sources citées par CNN, l’armée américaine a presque attaqué, ou au minimum intercepté, un navire chinois au Moyen-Orient qu’elle soupçonnait de transporter des éléments liés à un programme nucléaire. L’alerte venait d’une évaluation erronée. Selon une source interrogée par la chaîne, l’épisode a presque déclenché une guerre. Rien que ça.
Quand un chatbot se retrouve au milieu du renseignement
Le plus inquiétant, c’est la mécanique. L’évaluation aurait été montée par un analyste d’un commandement des opérations spéciales, après avoir demandé à un chatbot IA d’examiner le manifeste du navire.
Selon CNN, l’outil aurait mêlé du renseignement en source ouverte à des signaux classifiés pour conclure que la cargaison contenait des composants d’un programme d’armes nucléaires. Sur le papier, ça sonne grave. En pratique, c’était faux. Et clairement, c’est le genre de mélange qui donne à une hallucination un vernis d’autorité.
L’erreur qui aurait pu déraper très loin
Le navire a failli être appréhendé par les forces américaines avant que des responsables découvrent que l’analyse provenait d’une génération par IA. Résultat ? Une chaîne de décision militaire s’est retrouvée à deux doigts d’agir sur la base d’un document vicié.
Ce n’est pas juste une bourde technique. Quand l’objet de l’erreur est un navire chinois, dans une zone déjà sensible, le moindre faux positif peut devenir un incident diplomatique majeur. Là, on a frôlé le scénario catastrophe. Pas mal pour un outil censé faire gagner du temps.
Le Pentagone pousse l’IA, malgré le signal d’alarme
Le timing rend l’affaire encore plus rude. En janvier, le secrétaire à la Défense Pete Hegseth a demandé au Department of Defense de devenir AI-first et d’expérimenter les modèles des grands acteurs américains.
Tout ne s’est pas passé sans accroc. Anthropic a refusé que ses modèles servent au développement d’armes autonomes, ce qui a brièvement conduit à un bannissement côté gouvernement. Mais la dynamique continue. En février, SpaceXAI aurait conclu un accord pour l’usage de Grok par l’armée. En mai, NVIDIA, Microsoft et Amazon ont aussi noué un partenariat pour proposer leurs technologies d’IA au DoD.
Ce qu’on ne sait toujours pas
Il reste des trous, et pas des petits. La nature réelle de la cargaison du navire n’a pas pu être établie. L’outil d’IA utilisé non plus, qu’il soit commercial ou conçu pour le gouvernement américain.
Engadget a demandé un commentaire au Department of Defense, sans réponse pour l’instant. Ce silence ne change pas le fond du problème. Les contrats publics autour de l’IA valent très cher, mais ce genre d’épisode rappelle un truc simple, l’IA en entreprise peut faire perdre du temps, l’IA dans le renseignement peut faire partir un conflit.
