O analiză a Departamentului american al Apărării a concluzionat că dependența excesivă de inteligența artificială a contribuit la un atac cu rachete din martie asupra unei școli din Iran, care ar fi ucis aproximativ 120 de copii, conform constatărilor revizuirii, raportate luni de Bloomberg și rezumate de Yahoo News și alte instituții.
Descoperirea este prima dată când Pentagonul atribuie în mod oficial un rezultat mortal de luptă, în parte, dependenței de un sistem AI și ajunge în mijlocul unei dezbateri care se intensifică asupra câtă autoritate de țintire ar trebui să delege armata americană judecății mașinii. Pentru mai multe rapoarte de acest fel, consultați acoperirea etică AI.
Ce s-a întâmplat în martie
Atacul a avut loc la începutul lunii martie 2026, când o analiză video publicată de Bellingcat și verificată de NPR și BBC a arătat o rachetă de croazieră Tomahawk din SUA lovind lângă o școală de fete din orașul iranian Lamerd. În câteva zile, The New York Times a raportat că o anchetă preliminară a SUA a constatat că lovitura a fost rezultatul unei rachete americane, iar surse iraniene au raportat zeci de morți, majoritatea copiilor.
Noua revizuire a Pentagonului, descrisă într-o investigație Bloomberg publicată luni, merge mai departe: se pare că urmărește eșecul în conducta de țintire și concluzionează că dependența excesivă de AI a contribuit la grevă. Yahoo News a rezumat revizuirea ca legând un sistem de țintire prin inteligență artificială de atacul care a ucis 120 de copii iranieni; mai multe puncte de vânzare au identificat sistemul în cauză ca software furnizat de Palantir, deși Pentagonul nu a confirmat public detaliile vânzătorului.
În interiorul lanțului de ucidere
Los Angeles Times, într-o investigație paralelă publicată luni, a urmărit ceea ce a numit „lanțul de ucidere” din SUA care a distrus școala – secvența de colectare a datelor, nominalizarea țintei asistate de mașini și semnarea umană care s-a încheiat cu o lansare de rachetă. Raportarea subliniază o realitate inconfortabilă a războiului modern de precizie: echipajul care trage un Tomahawk poate să nu vadă deloc ținta. Ei execută un pachet de date țintă asamblat în amonte, unde instrumentele algoritmice modelează din ce în ce mai mult ceea ce este nominalizat și cât de încrezători sunt analiștii de sprijin.
Cu alte cuvinte, concluzia centrală a revizuirii - încrederea excesivă - nu este despre un robot care trage un trăgaci. Este vorba despre oameni care au încredere suficient în producția unei mașini pentru a sări peste scepticismul pe care procesul a fost conceput pentru a-l cere.
Supravegherea care a fost demontată
Contextul eșecului a fost raportat cu luni în urmă. Politico a dezvăluit în martie că șeful Pentagonului a tăiat birourile care nu contribuiau la obiectivele sale de „letalitate”, inclusiv Centrul de Excelență pentru Protecția Civilă, și că personalul echipelor de atenuare a vătămărilor civile a scăzut cu aproximativ 90%, scăzând la mai puțin de 20 de persoane în total. ProPublica a raportat că echipa de victime civile a Comandamentului Central a scăzut de la zece persoane la una.
Pe acest fundal, concluziile revizuirii se pare mai puțin ca o eroare de software și mai mult ca o defecțiune a sistemului: un instrument AI ale cărui erori au rămas necontestate în interiorul unui aparat de țintire ale cărui plase de siguranță umane fuseseră tăiate până la os.
Un model despre care Pentagonul știa deja
Atacul iranian nu a fost un accident izolat legat de IA în armata SUA. Raportări separate ale Gizmodo și Futurism au documentat un incident în care armata aproape că a urcat – și potențial a tras asupra – o navă chineză, după ce un sistem AI a halucinat material de arme nucleare de la bordul acesteia, o greșeală care ar fi putut declanșa o escaladare a marii puteri. În acest caz, intervenția umană a prevenit dezastrul. În Iran, nu a avut loc o astfel de intervenție.
Cercetătorii AI și cercetătorii în etica militară au avertizat de ani de zile că rezultatele mașinilor injectate în deciziile cu mize mari creează părtinire de automatizare - tendința umană documentată de a avea încredere excesivă în sistemele sigure. Însuși revizuire a Pentagonului reprezintă acum o recunoaștere oficială a faptului că această părtinire a contribuit la unul dintre cele mai mortale taxe civile ale războiului.
Ce urmează
Este posibil ca revizuirea să intensifice presiunea la Washington pentru cerințele statutare de uman-in-the-loop în direcționarea activată de AI, în același timp în care administrația face eforturi pentru a accelera adoptarea IA militară. De asemenea, complică argumentul de vânzare a vânzătorilor de tehnologie de apărare ale căror produse sunt acum implicate într-o analiză oficială a erorilor - și oferă Congresului un studiu de caz concret, documentat, care să fie citat în audierile privind politica privind armele autonome.
Multe întrebări rămân fără răspuns. Rezumatele revizuirii publicate până acum nu specifică ce versiune de model a fost utilizată, dacă eșecul a fost o halucinație, o clasificare greșită a clădirii sau date de intrare corupte în amonte - distincții care contează enorm pentru modul în care armata ar trebui să reglementeze instrumentele AI. Nici nu este clar dacă rezultatele sistemului au fost revizuite de vreun analist înainte ca pachetul țintă să fie finalizat.
Opinia publică este deja sceptică: un sondaj Reuters/Ipsos publicat săptămâna aceasta a constatat că 73% dintre americani spun că firmele de inteligență artificială nu fac suficient pentru a preveni rezultate catastrofale, iar îngrijorarea cu privire la inteligența artificială în sistemele de arme este în mod constant mai mare decât îngrijorarea față de inteligența artificială a consumatorilor. Ce se întâmplă cu recomandările revizuirii – și dacă cineva este tras la răspundere – va semnala dacă constatarea schimbă practica sau devine un alt raport de incident depus și uitat.
---
Obțineți cele mai recente știri, analize și descoperiri despre AI - toate într-un singur loc.
Citiți mai multe știri AI →
