Tinjauan Departemen Pertahanan AS menyimpulkan bahwa ketergantungan yang berlebihan pada kecerdasan buatan berkontribusi terhadap serangan rudal pada bulan Maret terhadap sebuah sekolah di Iran yang dilaporkan menewaskan sekitar 120 anak, menurut temuan tinjauan tersebut seperti dilansir Bloomberg pada hari Senin dan dirangkum oleh Yahoo News dan media lainnya.
Temuan ini adalah pertama kalinya Pentagon secara resmi mengaitkan hasil pertempuran yang mematikan dengan ketergantungan pada sistem AI, dan hal ini terjadi di tengah perdebatan yang semakin intensif mengenai seberapa besar wewenang penargetan yang harus didelegasikan oleh militer AS kepada penilaian mesin. Untuk pelaporan lebih lanjut seperti ini, lihat cakupan etika AI.
Apa yang Terjadi di Bulan Maret
Serangan itu terjadi pada awal Maret 2026, ketika analisis video yang diterbitkan oleh Bellingcat dan diverifikasi oleh NPR dan BBC menunjukkan rudal jelajah Tomahawk AS menyerang di sebelah sekolah perempuan di kota Lamerd, Iran. Dalam beberapa hari, The New York Times melaporkan bahwa penyelidikan awal AS menemukan bahwa serangan tersebut adalah akibat dari rudal AS, dan sumber-sumber Iran menyebutkan jumlah korban tewas mencapai puluhan, sebagian besar dari mereka adalah anak-anak.
Tinjauan terbaru Pentagon, yang dijelaskan dalam investigasi Bloomberg yang diterbitkan pada hari Senin, lebih jauh lagi: tinjauan tersebut dilaporkan menelusuri kegagalan dalam rencana penargetan dan menyimpulkan bahwa ketergantungan yang berlebihan pada AI berkontribusi terhadap serangan tersebut. Yahoo News merangkum tinjauan tersebut sebagai menghubungkan sistem penargetan AI dengan serangan yang menewaskan 120 anak-anak Iran; beberapa outlet telah mengidentifikasi sistem tersebut sebagai perangkat lunak yang disediakan Palantir, meskipun Pentagon belum mengkonfirmasi secara publik rincian vendornya.
Di dalam Rantai Pembunuhan
The Los Angeles Times, dalam investigasi paralel yang diterbitkan Senin, menelusuri apa yang disebutnya sebagai "rantai pembunuhan" AS yang menghancurkan sekolah tersebut – rangkaian pengumpulan data, nominasi target dengan bantuan mesin, dan tindakan manusia yang berakhir dengan peluncuran rudal. Pelaporan ini menggarisbawahi kenyataan yang tidak menyenangkan dalam peperangan presisi modern: kru yang menembakkan Tomahawk mungkin tidak akan pernah melihat sasarannya sama sekali. Mereka mengeksekusi paket data target yang dikumpulkan di bagian hulu, di mana alat algoritmik semakin menentukan apa yang akan dinominasikan dan seberapa yakin analis pendukungnya.
Dengan kata lain, temuan utama tinjauan ini – ketergantungan yang berlebihan – bukanlah tentang robot yang menarik pelatuk. Ini tentang manusia yang cukup memercayai hasil mesin sehingga tidak perlu skeptis terhadap proses yang dirancang.
Pengawasan yang Dibongkar
Konteks kegagalan telah dilaporkan beberapa bulan yang lalu. Politico mengungkapkan pada bulan Maret bahwa kepala Pentagon telah memangkas kantor-kantor yang tidak berkontribusi terhadap tujuan “mematikannya”, termasuk Pusat Keunggulan Perlindungan Sipil, dan bahwa jumlah staf di tim mitigasi kerugian sipil telah berkurang sekitar 90%, menyusut menjadi kurang dari 20 orang secara keseluruhan. ProPublica melaporkan bahwa tim korban sipil di Komando Pusat berkurang dari sepuluh orang menjadi satu.
Dengan latar belakang tersebut, temuan tinjauan tersebut tidak terlihat seperti bug perangkat lunak dan lebih seperti kegagalan sistem: sebuah alat AI yang kesalahannya tidak tertandingi dalam peralatan penargetan yang jaring pengaman manusianya telah sangat terbatas.
Pola yang Sudah Diketahui Pentagon
Serangan Iran bukanlah satu-satunya kecelakaan yang terjadi di militer AS terkait AI. Pelaporan terpisah oleh Gizmodo dan Futurism mendokumentasikan sebuah insiden di mana militer hampir menaiki – dan berpotensi menembaki – sebuah kapal Tiongkok setelah sistem AI berhalusinasi material senjata nuklir di dalamnya, sebuah kesalahan yang dapat memicu eskalasi kekuatan besar. Dalam hal ini, campur tangan manusia mencegah terjadinya bencana. Di Iran, tidak ada intervensi seperti itu yang terjadi.
Peneliti AI dan pakar etika militer telah memperingatkan selama bertahun-tahun bahwa keluaran mesin yang dimasukkan ke dalam keputusan berisiko tinggi akan menciptakan bias otomasi – yaitu kecenderungan manusia untuk terlalu mempercayai sistem yang percaya diri. Tinjauan Pentagon sendiri kini menjadi pengakuan resmi bahwa bias ini berkontribusi pada salah satu korban sipil paling mematikan dalam perang tersebut.
Apa yang Terjadi Selanjutnya
Tinjauan ini kemungkinan akan meningkatkan tekanan di Washington terhadap persyaratan hukum human-in-the-loop dalam penargetan yang didukung AI, pada saat yang sama ketika pemerintah berupaya mempercepat adopsi AI di bidang militer. Hal ini juga mempersulit promosi penjualan vendor teknologi pertahanan yang produknya kini terlibat dalam tinjauan kesalahan formal – dan hal ini memberikan Kongres studi kasus yang konkrit dan terdokumentasi untuk dikutip dalam dengar pendapat mengenai kebijakan senjata otonom.
Banyak pertanyaan yang masih belum terjawab. Ringkasan tinjauan yang diterbitkan sejauh ini tidak merinci versi model mana yang digunakan, apakah kegagalan tersebut disebabkan oleh halusinasi, kesalahan klasifikasi bangunan, atau data masukan yang rusak di bagian hulu – perbedaan yang sangat penting dalam cara militer mengatur alat AI. Juga tidak jelas apakah keluaran sistem telah ditinjau oleh analis sebelum paket target diselesaikan.
Opini publik sudah skeptis: jajak pendapat Reuters/Ipsos yang diterbitkan minggu ini menunjukkan bahwa 73% warga AS mengatakan perusahaan-perusahaan AI tidak berbuat cukup untuk mencegah dampak bencana, dan kekhawatiran terhadap AI dalam sistem persenjataan secara konsisten lebih tinggi daripada kekhawatiran terhadap AI konsumen. Apa yang terjadi pada rekomendasi tinjauan tersebut – dan apakah ada orang yang bertanggung jawab – akan memberi sinyal apakah temuan tersebut mengubah praktik atau menjadi laporan insiden lain yang disimpan dan dilupakan.
---
Dapatkan berita, analisis, dan terobosan AI terkini — semuanya di satu tempat.
Baca berita AI selengkapnya →
