Une hallucination IA a failli déclencher une opération US
Un rapport de renseignement erroné généré par IA a failli pousser l’armée américaine à arraisonner un navire chinois au Moyen-Orient au printemps dernier. C’est ce que rapporte CNN dans un article exclusif du 18 septembre 2026, fondé sur quatre personnes informées de l’affaire. La nuance s’impose d’emblée : ce sont des informations fondées sur des sources anonymes, pas une confirmation officielle. Beaucoup reste à établir, et nous le rapportons tel que CNN le rapporte, avec citations de sources et sans combler les lacunes du récit nous-mêmes.
Selon ces sources, l’incident a eu lieu pendant la guerre avec l’Iran. Le rapport affirmait que le navire transportait des pièces détachées pour un programme d’armes nucléaires. Des militaires américains armés étaient prêts à monter à bord et des avions militaires avaient déjà décollé, selon deux des sources de CNN. Peu avant l’opération, des fonctionnaires ont creusé davantage dans le rapport. C’est à ce moment qu’il est apparu que le rapport avait été généré par IA et qu’un chatbot avait mal identifié la cargaison transportée. Une source a qualifié le rapport d’« entirely false », complètement faux, et a déclaré qu’il « almost started a war », avait failli déclencher une guerre.
Comment un chatbot s’est retrouvé dans la chaîne de commandement
Le plus intéressant, et troublant, réside dans la façon dont le rapport a circulé. Selon CNN, tout a commencé quand un analyste du Commandement des opérations spéciales américaines (SOCOM) a interrogé un chatbot sur les renseignements relatifs au manifeste du navire, des données provenant à l’origine du SOCOM Pacifique à Hawaï. Le bot a combiné des informations accessibles au public avec du renseignement d’origine électromagnétique classifié et a tiré une conclusion erronée sur la cargaison. L’analyste a ensuite utilisé l’IA à nouveau, cette fois pour mettre les conclusions sous la forme d’un rapport de renseignement standard, et les a diffusées.
| Étape | Ce qui s’est mal passé |
|---|---|
| L’analyste interroge le chatbot | Un analyste du Commandement des opérations spéciales américaines pose des questions à un chatbot sur le manifeste du navire, renseignements provenant à l’origine du SOCOM Pacifique à Hawaï. |
| Le chatbot fusionne les sources | Le bot mélange les informations publiques avec du renseignement d’origine électromagnétique classifié et identifie mal la cargaison. |
| L’IA moule le tout dans un rapport officiel | L’analyste met les conclusions erronées, à nouveau avec l’IA, sous la forme d’un rapport de renseignement standard et les diffuse. |
| Le rapport remonte la chaîne de commandement | Le rapport monte jusqu’au sommet. Des militaires armés et des avions sont prêts, sans que quiconque vérifie la source d’origine. |
C’est précisément ce dernier point qui fait le cœur du problème. L’hallucination elle-même, un chatbot qui identifie mal un matériel, n’est pas nouvelle et n’est pas spectaculaire en soi. Ce qui l’a rendue dangereuse, c’est que l’erreur a revêtu la forme d’un rapport de renseignement ordinaire et a ainsi remonté la chaîne de commandement jusqu’à peu avant une opération d’arraisonnement sans que quelqu’un la remette en question. C’est le même problème à enjeu maximal qu’on retrouve dans les incidents propres d’OpenAI, où les modèles inventent des données et les présentent comme réelles. Là, cela s’était limité à des chiffres inventés dans un environnement de test ; ici, une opération de tir était en jeu.
Ce que nous ne savons pas mérite d’être dit explicitement. CNN n’a pu déterminer si le chatbot utilisé était un produit commercial ou un outil gouvernemental, ni ce que transportait réellement le navire. C’est donc un seul incident évité, reconstitué à partir de sources anonymes. Ce qui est sûr, c’est qu’il s’inscrit dans un tableau plus large que CNN brosse : la crainte que les erreurs d’IA remontent la chaîne de commandement avant d’être vérifiées. En avril, un haut responsable du Pentagone a déclaré à DefenseScoop que le département du secrétaire Hegseth faisait du « cattle-driving, as we say, everything in GenAI.mil », c’est-à-dire qu’il poussait tout vers l’IA générative comme du bétail. Cette pression pour mettre rapidement tout sur l’IA est précisément le contexte dans lequel un tel rapport peut passer sans être contrôlé.
Ne pas interdire l’IA, mais construire des garde-fous
Le réflexe face à une telle histoire est rapide : l’IA n’a pas sa place dans les décisions militaires. Mais la voix la plus sensée dans le reportage dit quelque chose de différent. Jake Steckler, chercheur à GovAI et vétéran de l’armée américaine, a déclaré à TechCrunch:
“It’s important for service members to understand the uncertainty inherent to LLMs.”
Les militaires doivent comprendre l’incertitude propre aux grands modèles de langage, dit-il. Son point de vue n’est pas que l’IA doit quitter le champ de bataille, mais qu’il faut des garde-fous supplémentaires plutôt que d’éviter complètement la technologie. C’est le juste milieu sensé, et il contraste nettement avec l’autre face de cette même médaille. Dans l’étude en classe, il s’est avéré qu’interdire l’IA était contreproductif et que c’était trop peu de confiance qui était le problème. Ici, c’est l’inverse : pas trop peu, mais trop de confiance trop vite, sans le contrôle humain que l’outil mérite.
Notre lecture
Il est séduisant de conclure « l’IA est dangereuse », mais c’est la mauvaise leçon. Le vrai problème est procédural. Une hallucination n’est devenue ici une erreur dangereuse pour les vies humaines que parce que le format officiel du rapport lui confère de la crédibilité. Une réponse d’IA qui ressemble à un rapport de renseignement ordinaire est traitée comme un rapport de renseignement ordinaire : elle est transmise, elle remonte la chaîne, elle est presque exécutée. Il n’y avait pas une personne pour vérifier la source d’origine avant que le rapport n’entre dans la chaîne de commandement, et la pression du « cattle-driving » pour mettre tout sur l’IA ne fait que creuser ce vide.
La leçon n’est donc pas d’interdire l’IA, mais de solidifier deux choses. Une vérification humaine obligatoire pour les décisions où des vies humaines sont en jeu, et une sortie d’IA qui ne ressemble jamais à un rapport ordinaire, mais qui est manifestement une sortie d’IA avec l’incertitude qui va avec. Cela s’aligne avec ce que Steckler défend : des garde-fous, pas une interdiction.
À titre de prudence supplémentaire, il convient de noter que c’est un seul incident évité, consigné à partir de sources anonymes, et beaucoup reste à établir. Nous le rapportons tel qu’il est : une histoire bien rapportée mais pas officiellement confirmée, pas une preuve que l’IA déclenche structurellement des guerres. Pour qui veut voir l’autre face de l’IA dans un contexte de sécurité cette semaine, une publication sœur attend : L’IA en tant que pirate informatique. Ensemble, elles tracent la même frontière : le problème est rarement la technologie seule, mais plutôt le contrôle que nous mettons autour d’elle.
Mise à jour du 26 septembre 2026 : ce risque précis, une IA qui hallucine de mauvaises cibles, Anthropic l’a avancé dans son procès contre le Pentagone. Une cour d’appel a pourtant donné raison au Pentagone : il pouvait inscrire Anthropic sur une liste noire.
