AI-verzinsel bracht VS bijna tot enteren van schip

Een fout inlichtingenrapport dat met behulp van AI was opgesteld, heeft het Amerikaanse leger dit voorjaar bijna een Chinees schip laten enteren in het Midden-Oosten. Dat meldt CNN in een exclusief verhaal van 18 september 2026, op basis van vier mensen die met de zaak vertrouwd zijn. De nuance hoort meteen erbij: dit is berichtgeving op anonieme bronnen, geen officiële bevestiging. Veel blijft onbekend, en we brengen het zoals CNN het brengt, met bronvermelding en zonder de gaten in het verhaal zelf op te vullen.

Volgens die bronnen speelde het incident zich af tijdens de oorlog met Iran. Het rapport claimde dat een schip onderdelen vervoerde voor een kernwapenprogramma. Gewapende Amerikaanse militairen stonden klaar om aan boord te gaan en er waren al militaire vliegtuigen opgestegen, zeggen twee van CNN’s bronnen. Vlak voor de operatie groeven functionarissen dieper in het rapport. Toen pas bleek dat het met AI was opgesteld en dat een chatbot het vervoerde materiaal verkeerd had geïdentificeerd. Eén bron noemde het rapport “entirely false”, volledig vals, en zei dat het “almost started a war”, bijna een oorlog had ontketend.

Hoe een chatbot in de commandoketen belandde

Het interessante, en verontrustende, zit in de weg die het rapport aflegde. Volgens CNN begon het bij een analist van US Special Operations Command die een chatbot bevroeg over inlichtingen rond het manifest van het schip, gegevens die oorspronkelijk van SOCOM Pacific in Hawaï kwamen. De bot combineerde open-source-informatie met geclassificeerde signals intelligence en kwam zo tot een foute conclusie over de lading. Daarna gebruikte diezelfde analist AI opnieuw, ditmaal om de bevindingen in de vorm van een standaard inlichtingenrapport te gieten, en verspreidde dat.

Stap	Wat er misging
Analist bevraagt chatbot	Een analist van US Special Operations Command stelt een chatbot vragen over het manifest van het schip, inlichtingen die oorspronkelijk van SOCOM Pacific in Hawaï kwamen.
Chatbot fuseert bronnen	De bot mengt open-source-informatie met geclassificeerde signals intelligence en identificeert de lading verkeerd.
AI giet het in een officieel rapport	De analist zet de foute bevindingen, opnieuw met AI, in de vorm van een standaard inlichtingenrapport en verspreidt dat.
Rapport klimt de commandoketen op	Het rapport gaat door tot bovenaan. Gewapende militairen en vliegtuigen staan klaar, zonder dat iemand de oorspronkelijke bron controleert.

Precies dat laatste is de kern. De hallucinatie zelf, een chatbot die materiaal verkeerd benoemt, is niet nieuw en op zich niet spectaculair. Wat het gevaarlijk maakte, is dat de fout de vorm aannam van een gewoon inlichtingenrapport en zo tot vlak voor een enteractie de commandoketen opklom voor iemand ze in vraag stelde. Dit is de hoogste inzet van hetzelfde probleem uit OpenAI’s eigen incidenten, waar modellen data verzonnen en die als echt presenteerden. Daar bleef het bij verzonnen cijfers in een testomgeving; hier stond een schietincident op het spel.

Wat we niet weten, hoort er eerlijk bij. CNN kon niet achterhalen of de gebruikte chatbot een commercieel product was of een overheidstool, en evenmin wat het schip werkelijk vervoerde. Het blijft dus één bijna-incident, gereconstrueerd uit anonieme bronnen. Wel past het in een breder plaatje dat CNN schetst: de zorg dat AI-fouten de commandoketen opklimmen voor ze worden getoetst. In april zei een hoge Pentagon-functionaris aan DefenseScoop dat het departement van minister Hegseth “cattle-driving, as we say, everything in GenAI.mil” was, oftewel alles als vee richting generatieve AI dreef. Die druk om snel alles op AI te zetten is precies de context waarin zo’n rapport ongecontroleerd kan doorschieten.

Niet AI weren, wel waarborgen inbouwen

De reflex bij zo’n verhaal is snel: AI hoort niet thuis in militaire besluitvorming. Maar de nuchterste stem in de berichtgeving zegt iets anders. Jake Steckler, research scholar bij GovAI en Amerikaans legerveteraan, reageerde tegenover TechCrunch:

“It’s important for service members to understand the uncertainty inherent to LLMs.”

Militairen moeten de onzekerheid begrijpen die eigen is aan grote taalmodellen, zegt hij. Zijn punt is niet dat AI het slagveld af moet, wel dat er extra waarborgen nodig zijn in plaats van de technologie helemaal te mijden. Dat is de verstandige middenweg, en ze staat haaks op de andere kant van hetzelfde muntstuk. In het klasonderzoek bleek net dat AI verbieden averechts werkt en dat daar te weinig vertrouwen het probleem was. Hier is het omgekeerd: niet te weinig, maar te veel en te snel vertrouwen, zonder de menselijke controle die het instrument verdient.

Onze lezing

Het is verleidelijk om hier “AI is gevaarlijk” van te maken, maar dat is de verkeerde les. Het echte probleem is procedureel. Een hallucinatie werd hier geen grappige fout maar een levensgevaarlijke, precies omdat het officiële rapportformaat er betrouwbaarheid aan leende. Een AI-antwoord dat er als een gewoon inlichtingenrapport uitziet, wordt ook als een gewoon inlichtingenrapport behandeld: doorgestuurd, opgeklommen, bijna uitgevoerd. Er zat geen mens tussen die de oorspronkelijke bron controleerde voor het rapport de commandoketen inging, en de “cattle-driving”-druk om alles op AI te zetten maakt dat gat alleen groter.

De les is dus niet AI weren, maar twee dingen hard maken. Verplichte menselijke verificatie bij beslissingen waar mensenlevens aan hangen, en een AI-output die er nooit uitziet als een gewoon rapport, maar zichtbaar als een AI-output met de onzekerheid die daarbij hoort. Dat sluit aan bij wat Steckler bepleit: waarborgen, geen verbod.

Tegelijk past hier een dubbele voorzichtigheid. Dit is één bijna-incident, opgetekend uit anonieme bronnen, en er is nog veel onbekend. We brengen het als wat het is, een sterk gebracht maar niet officieel bevestigd verhaal, geen bewijs dat AI structureel oorlogen uitlokt. Voor wie het andere gezicht van AI in een veiligheidscontext van deze week wil zien, staat er een zusterpost klaar: AI als hacker. Samen tekenen ze dezelfde grens: het probleem is zelden de technologie alleen, wel de vraag welke controle we eromheen zetten.

Update 26 september 2026: net dit risico, AI die verkeerde doelwitten hallucineert, bracht Anthropic in als argument in zijn rechtszaak tegen het Pentagon. Een hof van beroep gaf het Pentagon toch gelijk: het mocht Anthropic op de zwarte lijst zetten.