Militer Amerika Serikat nyedhaki konfrontasi langsung karo China tinimbang meh kabeh wong ngerti musim semi iki - lan miturut eksklusif CNN sing diterbitake ing dina Jumuah, halusinasi AI minangka sebabe.
Laporan kasebut rinci babagan carane dokumen intelijen sing digawe kanthi bantuan chatbot nyebabake rantai acara sing wis nyiapake personel AS bersenjata kanggo numpak kapal China ing Timur Tengah, kanthi yakin manawa kapal kasebut ngangkut komponen program senjata nuklir. Pesawat militer wis ana ing udhara, miturut sumber sing kenal karo operasi kasebut. For more context on this story, see our ongoing breaking AI news.
Misi kasebut dibatalake mung sadurunge intersepsi sing direncanakake, nalika pejabat nggali luwih jero laporan kasebut lan nemokake manawa pratelan utama - sing nggerakake militer AS - salah.
Siji sumber sing kenal karo episode kasebut nggambarake laporan intelijen menyang CNN minangka "salah kabeh." Uga, sumber ngandika, "meh miwiti perang." Sembarang operasi AS nglawan kapal China bisa dadi konflik bersenjata ing antarane loro negara kasebut.
Kepiye Klaim Chatbot Dadi Operasi Militer
Episode kasebut diwiwiti musim semi iki, ing tengah perang karo Iran, nalika laporan intelijen wiwit nyebar ing militèr AS. Dokumen kasebut nyatakake kapal China ing Timur Tengah nggawa komponen program senjata nuklir, lan langsung ngetokake lonceng weker.
Miturut CNN, laporan kasebut digabungake dening analis ing komando operasi khusus AS sing wis takon karo chatbot babagan laporan intelijen babagan manifest kapal - laporan sing asale saka Komando Operasi Khusus AS Pasifik, adhedhasar ing Hawaii. Ora jelas manawa chatbot minangka produk sing kasedhiya kanthi komersial utawa alat pamrentah AS. Tilas pejabat senior AS sing kenal karo sistem AI sing digunakake dening analis militer lan intelijen menehi CNN penilaian blak-blakan babagan penawaran internal pemerintah: "Alat internal biasane mung salinan barang komersial sing nganggo lipstik."
Chatbot nggabungake intelijen sumber terbuka karo intelijen sinyal rahasia sing dianakake pemerintah lan entuk kesimpulan sing penting babagan kargo kapal. Analis banjur nggunakake AI kaping pindho kanggo ngemas temuan kasebut dadi laporan intelijen standar - pejabat militer sing biasa dipercaya - lan nyebarake.
Papat sumber sing kenal karo episode kasebut ngomong karo CNN. Miturut wong loro, anggota bersenjata militer AS lagi nyiapake kanggo numpak kapal nalika laporan kasebut ambruk. CNN ora bisa ngerti apa sejatine kargo sing ora dingerteni. Komando Operasi Khusus AS Pasifik lan Pentagon ora nanggapi panjaluk komentar CNN.
Strategi Akselerasi Menehi Priksa Realitas
Tanah sing cedhak-cedhak nalika Pentagon meksa nggawe AI dadi meh kabeh aspek saka pakaryane - nganalisa volume intelijen mentah sing akeh, milih target kanggo serangan, lan nangani tugas sing luwih umum kaya anggaran, logistik lan rantai pasokan.
Ing wulan Januari, Sekretaris Pertahanan Pete Hegseth nerbitake "Strategi Percepatan Kecerdasan Buatan" departemen kanggo nyepetake adopsi AI militer.
"Kita bakal ngeculake eksperimen, ngilangi alangan birokrasi, fokus investasi lan nduduhake pendekatan eksekusi sing dibutuhake kanggo mesthekake yen kita mimpin ing AI militer," ujare Hegseth ing pidato sing ngumumake strategi kasebut.
Memo sing ditambahi dadi luwih maju, mrentah departemen supaya kasedhiya AI liwat sawetara program kanthi tujuan "demokrasi eksperimen AI lan transformasi ing kabeh Departemen kanthi nyelehake model AI sing unggul ing donya langsung ing tangan telung yuta personel sipil lan militer, ing kabeh tingkat klasifikasi."
Nanging upaya kasebut didesentralisasi, pirang-pirang pejabat AS marang CNN, kanthi bagean pamrentah sing beda-beda nggunakake alat sing beda miturut pesenan lan standar keamanan sing beda. Ora ana standar siji-sijine kanggo verifikasi informasi sing digawe saka piranti kasebut, lan linuwih saka macem-macem sistem beda-beda.
Penargetan Ing Endi Resiko Urip
Analis wis suwe wedi yen AI bisa nyebabake salah kalkulasi bencana yen negara-negara tumindak ing data sing miskin utawa rusak. Episod kapal Cina minangka kasus sing didokumentasikake babagan mode kegagalan sing ana ing wektu nyata - lan proteksi sing ora bisa ditindakake nganti pungkasan.
"AI ing nargetake temtunipun soko sing ramping munggah, lan ora ana tuntunan nyata carane duwe manungsa ing daur ulang bakal nyegah korban sipil utawa fratricide," sumber liyane sing kenal karo kabijakan militer saiki marang CNN.
Miturut laporan CNN, jinis halusinasi sing ngasilake klaim palsu dudu kedadeyan sing terisolasi ing komunitas intelijen wiwit alat AI wiwit berkembang liwat pamrentah. Sawetara sumber uga nunjukake risiko budaya: analis sing luwih enom, sing diterangake minangka pribumi saka alat kasebut, luwih dipercaya kanthi ora kritis, lan tekanan kanggo ngasilake intelijen luwih cepet nggawe kesalahan.
"AI ngidini sampeyan entuk ide sing ala luwih cepet," ujare salah sawijining sumber.
Resiko Luwih Langsung tinimbang Superintelligence
Wis pirang-pirang minggu, Washington wis ngalami debat babagan risiko AI jangka panjang, sawise serangkaian peringatan umum saka insinyur Silicon Valley lan eksekutif teknologi babagan sistem sing bisa ngilangi kendala manungsa. Laporan CNN negesake bebaya sing beda lan luwih cepet: manungsa nggawe keputusan sing mbebayani adhedhasar output AI sing ora akurat utawa nyasarake - saiki, ing tengah-tengah ketegangan geopolitik sing nyata.
Ora ana tembakan sing ditindakake ing musim semi iki, lan papan kasebut ora nate kedadeyan. Nanging episode kasebut minangka conto sing paling jelas yen kesalahan sing digawe mesin, yen wis diumbah dadi laporan resmi, bisa lelungan liwat aparat militer paling kuat ing donya nganti tekan pinggiran konflik bersenjata ing antarane kekuwatan nuklir - tanpa standar verifikasi sing ngadeg kanggo mungkasi sabanjure.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
