Kajian Jabatan Pertahanan AS telah menyimpulkan bahawa terlalu bergantung pada kecerdasan buatan menyumbang kepada serangan peluru berpandu Mac ke atas sebuah sekolah di Iran yang dilaporkan membunuh kira-kira 120 kanak-kanak, menurut penemuan semakan seperti yang dilaporkan oleh Bloomberg pada hari Isnin dan diringkaskan oleh Yahoo News dan saluran lain.
Penemuan itu adalah kali pertama Pentagon secara rasmi mengaitkan hasil pertempuran yang membawa maut sebahagiannya kepada pergantungan pada sistem AI, dan ia mendarat di tengah-tengah perdebatan yang semakin sengit mengenai berapa banyak pihak berkuasa yang menyasarkan tentera AS harus mewakilkan kepada penghakiman mesin. Untuk lebih banyak laporan seperti ini, lihat [liputan etika AI] kami(https://aibuzzwire.news).
Apa yang Berlaku pada Mac
Serangan itu berlaku pada awal Mac 2026, apabila analisis video yang diterbitkan oleh Bellingcat dan disahkan oleh NPR dan BBC menunjukkan peluru berpandu jelajah Tomahawk AS menyerang di sebelah sekolah perempuan di bandar Lamerd, Iran. Dalam beberapa hari, The New York Times melaporkan bahawa siasatan awal AS mendapati serangan itu adalah hasil peluru berpandu AS, dan sumber Iran meletakkan angka kematian dalam berpuluh-puluh, kebanyakannya kanak-kanak.
Kajian Pentagon baharu, yang diterangkan dalam penyiasatan Bloomberg yang diterbitkan Isnin, pergi lebih jauh: ia dilaporkan mengesan kegagalan dalam saluran paip penyasaran dan menyimpulkan bahawa terlalu bergantung pada AI menyumbang kepada mogok. Yahoo News meringkaskan ulasan itu sebagai menghubungkan sistem penyasaran AI dengan mogok yang membunuh 120 kanak-kanak Iran; beberapa cawangan telah mengenal pasti sistem berkenaan sebagai perisian yang disediakan oleh Palantir, walaupun Pentagon tidak mengesahkan butiran vendor secara terbuka.
Di dalam Rantaian Pembunuhan
The Los Angeles Times, dalam penyiasatan selari yang diterbitkan Isnin, mengesan apa yang dipanggil "rantai pembunuh" AS yang memusnahkan sekolah itu — urutan pengumpulan data, pencalonan sasaran bantuan mesin dan tanda keluar manusia yang berakhir dengan pelancaran peluru berpandu. Pelaporan itu menggariskan realiti yang tidak selesa dalam peperangan ketepatan moden: krew yang menembak Tomahawk mungkin tidak pernah melihat sasaran sama sekali. Mereka melaksanakan pakej data sasaran yang dipasang di hulu, di mana alat algoritma semakin membentuk perkara yang dicalonkan dan sejauh mana keyakinan penganalisis sokongan.
Dalam erti kata lain, penemuan utama semakan - terlalu bergantung - bukanlah tentang robot yang menarik pencetus. Ia adalah mengenai manusia yang cukup mempercayai output mesin untuk melangkau keraguan yang diperlukan oleh proses itu.
Pengawasan Yang Telah Dibongkar
Konteks kegagalan telah dilaporkan beberapa bulan lalu. Politico mendedahkan pada bulan Mac bahawa ketua Pentagon telah mengurangkan pejabat yang tidak menyumbang kepada matlamat "kematian" beliau, termasuk Pusat Kecemerlangan Perlindungan Awam, dan kakitangan dalam pasukan pengurangan kemudaratan awam telah jatuh kira-kira 90%, mengecut kepada kurang daripada 20 orang secara keseluruhan. ProPublica melaporkan bahawa pasukan korban awam Komando Pusat menurun daripada sepuluh orang kepada seorang.
Berdasarkan latar belakang itu, penemuan semakan itu kurang seperti pepijat perisian dan lebih seperti kegagalan sistem: alat AI yang ralatnya tidak dicabar dalam radas penyasaran yang jaring keselamatan manusianya telah dipotong hingga ke tulang.
Corak yang Telah Diketahui Pentagon
Serangan Iran bukanlah serangan hampir terpencil berkaitan AI dalam tentera AS. Pelaporan berasingan oleh Gizmodo dan Futurism mendokumentasikan insiden di mana tentera hampir menaiki - dan berpotensi menembak - sebuah kapal China selepas sistem AI mengkhayalkan bahan senjata nuklear di atasnya, kesilapan yang boleh mencetuskan peningkatan kuasa besar. Dalam kes itu, campur tangan manusia menghalang bencana. Di Iran, tiada campur tangan sedemikian berlaku.
Penyelidik AI dan sarjana etika ketenteraan telah memberi amaran selama bertahun-tahun bahawa output mesin yang disuntik ke dalam keputusan berisiko tinggi mewujudkan kecenderungan automasi — kecenderungan manusia yang didokumenkan untuk terlalu mempercayai sistem yakin. Kajian Pentagon sendiri kini berdiri sebagai pengakuan rasmi bahawa berat sebelah ini menyumbang kepada salah satu korban awam paling maut dalam perang.
Apa Yang Akan Datang
Kajian semula itu berkemungkinan akan meningkatkan tekanan di Washington untuk keperluan manusia-dalam-gelung berkanun dalam penyasaran yang didayakan AI, pada masa yang sama ketika pentadbiran mendorong untuk mempercepatkan penggunaan AI ketenteraan. Ia juga merumitkan tahap jualan vendor teknologi pertahanan yang produknya kini terlibat dalam semakan kesalahan rasmi - dan ia memberikan Kongres kajian kes yang konkrit dan didokumenkan untuk dipetik dalam perbicaraan mengenai dasar senjata autonomi.
Banyak persoalan yang masih belum terjawab. Ringkasan semakan yang diterbitkan setakat ini tidak menyatakan versi model yang digunakan, sama ada kegagalan itu adalah halusinasi, salah klasifikasi bangunan, atau data input yang rosak di hulu — perbezaan yang sangat penting tentang cara tentera harus mengawal alat AI. Juga tidak jelas sama ada output sistem telah disemak oleh mana-mana penganalisis sebelum pakej sasaran dimuktamadkan.
Pendapat umum sudah ragu-ragu: tinjauan pendapat Reuters/Ipsos yang diterbitkan minggu ini mendapati 73% rakyat Amerika mengatakan firma AI tidak melakukan cukup untuk mencegah hasil bencana, dan kebimbangan tentang AI dalam sistem senjata secara konsisten lebih tinggi daripada kebimbangan tentang AI pengguna. Apa yang berlaku kepada pengesyoran semakan — dan sama ada sesiapa bertanggungjawab — akan memberi isyarat sama ada penemuan itu berubah amalan atau menjadi laporan insiden lain yang difailkan dan dilupakan.
---
Dapatkan berita, analisis dan penemuan terkini AI — semuanya di satu tempat.
Baca lebih banyak berita AI →
