Een onderzoek van het Amerikaanse ministerie van Defensie heeft geconcludeerd dat een overmatig vertrouwen op kunstmatige intelligentie heeft bijgedragen aan een raketaanval in maart op een school in Iran, waarbij naar verluidt ongeveer 120 kinderen zijn omgekomen, volgens de bevindingen van het onderzoek, zoals maandag gerapporteerd door Bloomberg en samengevat door Yahoo News en andere media.

De bevinding is de eerste keer dat het Pentagon een dodelijk gevechtsresultaat formeel gedeeltelijk heeft toegeschreven aan de afhankelijkheid van een AI-systeem, en het belandt midden in een intensiverend debat over de vraag hoeveel autoriteit het Amerikaanse leger moet delegeren aan machinaal oordeel. Voor meer van dit soort rapportages kunt u onze Artikel over AI-ethiek raadplegen.

Wat er in maart is gebeurd

De aanval vond plaats begin maart 2026, toen videoanalyse gepubliceerd door Bellingcat en geverifieerd door NPR en de BBC een Amerikaanse Tomahawk-kruisraket liet zien die insloeg naast een meisjesschool in de Iraanse stad Lamerd. Binnen enkele dagen meldde The New York Times dat uit een voorlopig Amerikaans onderzoek was gebleken dat de aanval het resultaat was van een Amerikaanse raket, en Iraanse bronnen schatten het dodental op tientallen, waarvan de meeste kinderen.

Het nieuwe onderzoek van het Pentagon, beschreven in een Bloomberg-onderzoek dat maandag is gepubliceerd, gaat nog verder: het traceert naar verluidt de mislukking in de targetingpijplijn en concludeert dat een overmatig vertrouwen op AI heeft bijgedragen aan de aanval. Yahoo News vatte de recensie samen als een koppeling van een AI-doelsysteem aan de aanval waarbij 120 Iraanse kinderen omkwamen; verschillende verkooppunten hebben het systeem in kwestie geïdentificeerd als door Palantir geleverde software, hoewel het Pentagon de details van de leverancier niet publiekelijk heeft bevestigd.

Binnen de moordketen

De Los Angeles Times heeft in een parallel onderzoek dat maandag werd gepubliceerd, getraceerd wat zij de Amerikaanse ‘kill chain’ noemde die de school vernietigde – de reeks van gegevensverzameling, door machines ondersteunde doelwitnominatie en menselijke aftekening die eindigde in een raketlancering. De berichtgeving onderstreept een ongemakkelijke realiteit van moderne precisieoorlogvoering: de bemanning die een Tomahawk afvuurt, ziet het doelwit misschien helemaal nooit. Ze voeren een doeldatapakket uit dat stroomopwaarts is samengesteld, waarbij algoritmische tools steeds meer bepalen wat er wordt genomineerd en hoe zeker de ondersteunende analisten zijn.

Met andere woorden: de centrale bevinding van de review – overmatig vertrouwen – gaat niet over een robot die de trekker overhaalt. Het gaat erom dat mensen voldoende vertrouwen hebben in de output van een machine om de scepsis over te slaan waarvoor het proces is ontworpen.

Toezicht dat werd ontmanteld

De context voor de mislukking werd maanden geleden gemeld. Politico onthulde in maart dat de chef van het Pentagon kantoren had geschrapt die niet bijdroegen aan zijn ‘dodelijke’ doelstellingen, waaronder het Civilian Protection Center of Excellence, en dat het personeelsbestand van teams voor de beperking van burgerschade met ongeveer 90% was gedaald, tot minder dan twintig mensen in totaal. ProPublica meldde dat het aantal burgerslachtoffers van het Centraal Commando was gedaald van tien naar één.

Tegen die achtergrond leken de bevindingen van het onderzoek minder op een softwarefout en meer op een systeemfout: een AI-tool waarvan de fouten onbetwist bleven in een richtapparaat waarvan de menselijke vangnetten tot op het bot waren doorgesneden.

Een patroon waar het Pentagon al van wist

De aanval op Iran was geen op zichzelf staand AI-gerelateerd bijna-ongeval in het Amerikaanse leger. Afzonderlijke rapporten van Gizmodo en Futurism documenteerden een incident waarbij het leger bijna aan boord ging – en mogelijk beschoten – op een Chinees schip nadat een AI-systeem kernwapenmateriaal aan boord had gehallucineerd, een fout die tot een escalatie van de grote macht had kunnen leiden. In dat geval kon menselijk ingrijpen een ramp voorkomen. In Iran heeft een dergelijke interventie niet plaatsgevonden.

AI-onderzoekers en wetenschappers op het gebied van militaire ethiek waarschuwen al jaren dat machine-outputs die worden geïnjecteerd in beslissingen waarbij veel op het spel staat, automatiseringsvooroordelen creëren: de gedocumenteerde menselijke neiging om zelfverzekerde systemen te veel te vertrouwen. De eigen recensie van het Pentagon vormt nu een officiële erkenning dat deze vooringenomenheid heeft bijgedragen aan een van de dodelijkste burgerslachtoffers van de oorlog.

Wat komt erna

De herziening zal waarschijnlijk de druk in Washington opvoeren voor wettelijke ‘human-in-the-loop’-vereisten bij AI-gestuurde targeting, terwijl de regering aandringt op het versnellen van de adoptie van militaire AI. Het compliceert ook het verkooppraatje van leveranciers van defensietechnologie wier producten nu betrokken zijn bij een formele foutbeoordeling – en het geeft het Congres een concrete, gedocumenteerde case study die kan worden aangehaald in hoorzittingen over autonoom wapenbeleid.

Veel vragen blijven onbeantwoord. De tot nu toe gepubliceerde samenvattingen van de review specificeren niet welke modelversie in gebruik was, of het falen een hallucinatie was, een verkeerde classificatie van het gebouw of corrupte invoergegevens stroomopwaarts – verschillen die enorm van belang zijn voor de manier waarop het leger AI-tools zou moeten reguleren. Het is ook niet duidelijk of de resultaten van het systeem door een analist zijn beoordeeld voordat het doelpakket werd afgerond.

De publieke opinie is al sceptisch: uit een enquête van Reuters/Ipsos die deze week werd gepubliceerd, blijkt dat 73% van de Amerikanen zegt dat AI-bedrijven niet genoeg doen om catastrofale gevolgen te voorkomen, en dat de bezorgdheid over AI in wapensystemen consequent hoger scoort dan de bezorgdheid over de AI van consumenten. Wat er met de aanbevelingen van de review gebeurt – en of iemand verantwoordelijk wordt gehouden – zal aangeven of de bevinding de praktijk verandert of een nieuwe incidentmelding wordt die wordt ingediend en vergeten.
---

Blijf AI een stap voor

Ontvang het laatste AI-nieuws, analyses en doorbraken – allemaal op één plek.

Lees meer AI-nieuws →