Hodnocení amerického ministerstva obrany dospělo k závěru, že přílišné spoléhání se na umělou inteligenci přispělo k březnovému raketovému útoku na školu v Íránu, který údajně zabil asi 120 dětí, podle zjištění revize, jak v pondělí oznámila agentura Bloomberg a shrnula Yahoo News a další zdroje.
Toto zjištění je poprvé, kdy Pentagon formálně připisuje smrtící bojový výsledek částečně spoléhání se na systém AI, a přistává uprostřed sílící debaty o tom, jakou pravomoc zaměřování by americká armáda měla delegovat na strojový úsudek. Další podobné zprávy najdete v našem pokrytí etiky AI.
Co se stalo v březnu
K úderu došlo na začátku března 2026, kdy analýza videa zveřejněná Bellingcat a ověřená NPR a BBC ukázala, že americká střela Tomahawk zasáhla vedle dívčí školy v íránském městě Lamerd. Během několika dní The New York Times oznámily, že předběžné americké vyšetřování zjistilo, že útok byl výsledkem americké rakety, a íránské zdroje uvádějí počet obětí v desítkách, většinou jde o děti.
Nová recenze Pentagonu, popsaná ve vyšetřování Bloomberg zveřejněném v pondělí, jde ještě dále: údajně sleduje selhání směrovacího potrubí a dochází k závěru, že přílišné spoléhání na AI přispělo ke stávce. Yahoo News shrnuje přezkum jako spojení systému zaměřování umělé inteligence s úderem, který zabil 120 íránských dětí; několik prodejen identifikovalo daný systém jako software poskytovaný Palantirem, ačkoli Pentagon veřejně nepotvrdil podrobnosti o prodejci.
Uvnitř Kill Chain
Los Angeles Times v paralelním vyšetřování zveřejněném v pondělí vystopovaly to, co nazvaly americkým „zabíjejícím řetězcem“, který zničil školu – posloupnost sběru dat, strojně podporované nominace cíle a odhlášení člověka, které skončilo odpálením rakety. Hlášení podtrhují nepříjemnou realitu moderní přesné války: posádka, která střílí Tomahawk, nemusí cíl vůbec vidět. Provádějí cílový datový balíček sestavený upstream, kde algoritmické nástroje stále více utvářejí to, co bude nominováno, a jak sebevědomí jsou podpůrní analytici.
Jinými slovy, hlavní zjištění recenze – přílišné spoléhání – není o tom, že robot mačká spoušť. Jde o to, aby lidé důvěřovali výstupu stroje natolik, že přeskočili skepticismus, který byl proces navržen tak, aby vyžadoval.
Dohled, který byl demontován
Kontext selhání byl hlášen před měsíci. Politico v březnu odhalilo, že šéf Pentagonu osekal kanceláře, které nepřispívaly k jeho cílům „smrti“, včetně Centra excelence civilní ochrany, a že počet zaměstnanců v týmech pro zmírňování civilních škod klesl zhruba o 90 % a celkově se zmenšil na méně než 20 lidí. ProPublica oznámila, že civilní tým Ústředního velitelství klesl z deseti lidí na jednoho.
Na tomto pozadí se závěry recenze čtou méně jako softwarová chyba, ale spíše jako selhání systému: nástroj AI, jehož chyby zůstaly nezpochybnitelné v zaměřovacím zařízení, jehož lidské záchranné sítě byly rozřezány na kost.
Vzor, o kterém Pentagon již věděl
Íránský úder nebyl v americké armádě ojedinělým neúspěchem souvisejícím s AI. Samostatné zprávy společností Gizmodo a Futurism dokumentovaly incident, při kterém armáda málem nastoupila – a potenciálně na ni střílela – čínské plavidlo poté, co systém umělé inteligence halucinoval materiál jaderných zbraní na jeho palubě, což byla chyba, která mohla vyvolat eskalaci velmocí. V takovém případě lidský zásah zabránil katastrofě. V Íránu k žádnému takovému zásahu nedošlo.
Výzkumníci umělé inteligence a odborníci na vojenskou etiku už léta varují, že výstupy strojů vložené do vysoce důležitých rozhodnutí vytvářejí zkreslení automatizace – zdokumentovanou lidskou tendenci příliš důvěřovat sebevědomým systémům. Vlastní hodnocení Pentagonu nyní představuje oficiální potvrzení, že tato zaujatost přispěla k jedné z nejsmrtelnějších civilních obětí války.
Co přijde dál
Přezkum pravděpodobně zesílí tlak ve Washingtonu na zákonné požadavky na zacílení s umělou inteligencí, a to ve stejnou dobu, kdy administrativa tlačí na urychlení přijetí vojenské AI. Komplikuje to také prodejní pozici prodejců obranných technologií, jejichž produkty jsou nyní zapojeny do formální kontroly chyb – a poskytuje Kongresu konkrétní, zdokumentovanou případovou studii, kterou lze citovat při slyšení o politice autonomních zbraní.
Mnoho otázek zůstává nezodpovězeno. Dosud zveřejněné souhrny recenzí neuvádějí, která verze modelu byla používána, zda selháním byla halucinace, chybná klasifikace budovy nebo poškozená vstupní data proti proudu – rozdíly, na kterých nesmírně záleží, jak by armáda měla regulovat nástroje AI. Není ani jasné, zda výstupy systému byly před dokončením cílového balíčku přezkoumány nějakým analytikem.
Veřejné mínění je již skeptické: průzkum agentury Reuters/Ipsos zveřejněný tento týden zjistil, že 73 % Američanů tvrdí, že firmy zabývající se umělou inteligencí nedělají dost pro to, aby zabránily katastrofickým následkům, a obavy z umělé inteligence ve zbraňových systémech jsou trvale vyšší než obavy ze spotřebitelské umělé inteligence. Co se stane s doporučeními recenze – a zda je někdo pohnán k odpovědnosti – bude signálem, zda nález změní praxi nebo se stane další zprávou o incidentu uloženou a zapomenutou.
---
Získejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.
Přečtěte si další zprávy o AI →
