Tentera Amerika Syarikat semakin hampir kepada konfrontasi langsung dengan China daripada yang disedari oleh hampir semua orang pada musim bunga ini - dan menurut eksklusif CNN yang diterbitkan pada hari Jumaat, halusinasi AI adalah sebabnya.
Laporan itu memperincikan bagaimana dokumen risikan yang dihasilkan dengan bantuan chatbot mencetuskan rangkaian peristiwa yang telah mempersenjatai kakitangan AS bersiap sedia untuk menaiki kapal China di Timur Tengah, atas kepercayaan bahawa kapal itu mengangkut komponen program senjata nuklear. Pesawat tentera sudah berada di udara, menurut sumber yang biasa dengan operasi itu. For more context on this story, see our ongoing breaking AI news.
Misi itu dibatalkan hanya sebelum pemintasan yang dirancang, apabila pegawai menggali lebih dalam laporan itu dan mendapati bahawa tuntutan utamanya - yang telah menggerakkan tentera AS - adalah salah.
Satu sumber yang biasa dengan episod itu menggambarkan laporan risikan kepada CNN sebagai "sepenuhnya palsu." Ia juga, kata sumber itu, "hampir memulakan perang." Sebarang operasi AS terhadap kapal China boleh menjadi konflik bersenjata antara kedua-dua negara.
Bagaimana Tuntutan Chatbot Menjadi Operasi Ketenteraan
Episod ini bermula pada musim bunga ini, di tengah-tengah perang dengan Iran, apabila laporan perisikan mula diedarkan di seluruh tentera AS. Dokumen itu mendakwa sebuah kapal China di Timur Tengah membawa komponen program senjata nuklear, dan ia segera mencetuskan loceng penggera.
Menurut CNN, laporan itu disusun oleh seorang penganalisis di perintah operasi khas AS yang telah menyoal chatbot tentang laporan risikan mengenai manifes kapal itu — laporan yang berasal dari Komando Operasi Khas AS Pasifik, yang berpangkalan di Hawaii. Ia masih tidak jelas sama ada chatbot adalah produk yang tersedia secara komersial atau alat kerajaan AS. Seorang bekas pegawai kanan AS yang biasa dengan sistem AI yang digunakan oleh penganalisis ketenteraan dan perisikan menawarkan CNN penilaian tumpul tentang tawaran dalaman kerajaan: "Alat dalaman kebanyakannya hanya salinan barangan komersial yang memakai gincu."
Chatbot menggabungkan risikan sumber terbuka dengan risikan isyarat rahsia yang dipegang oleh kerajaan dan mencapai kesimpulan yang menentukan tentang kargo kapal. Penganalisis itu kemudian menggunakan AI untuk kali kedua untuk membungkus penemuan itu ke dalam laporan perisikan standard - pegawai tentera yang baik hati yang biasa mempercayai - dan menyebarkannya.
Empat sumber yang biasa dengan episod itu bercakap kepada CNN. Menurut dua daripada mereka, anggota tentera AS yang bersenjata sedang bersiap sedia untuk menaiki kapal itu apabila laporan itu rosak. CNN tidak dapat mengetahui apa sebenarnya kargo yang salah dikenal pasti itu. Komando Operasi Khas AS Pasifik dan Pentagon tidak menjawab permintaan CNN untuk mendapatkan komen.
Strategi Pecutan Memenuhi Semakan Realiti
Nyaris-nyaris itu tiba pada saat Pentagon sedang berusaha untuk menggabungkan AI ke dalam hampir setiap aspek kerjanya — menganalisis sejumlah besar perisikan mentah, memilih sasaran untuk serangan, dan mengendalikan lebih banyak tugas biasa seperti belanjawan, logistik dan rantaian bekalan.
Pada bulan Januari, Setiausaha Pertahanan Pete Hegseth mengeluarkan "Strategi Pecutan Kecerdasan Buatan" jabatan itu, usaha untuk mempercepatkan penggunaan AI ketenteraan.
"Kami akan melancarkan percubaan, menghapuskan halangan birokrasi, memfokuskan pelaburan kami dan menunjukkan pendekatan pelaksanaan yang diperlukan untuk memastikan kami memimpin dalam AI ketenteraan," kata Hegseth dalam ucapan mengumumkan strategi itu.
Memo yang disertakan pergi lebih jauh, mengarahkan jabatan untuk menyediakan AI melalui beberapa program dengan tujuan "mendemokrasikan eksperimen AI dan transformasi di seluruh Jabatan dengan meletakkan model AI terkemuka dunia Amerika secara langsung di tangan tiga juta kakitangan awam dan tentera kami, di semua peringkat klasifikasi."
Tetapi usaha itu tidak berpusat, beberapa pegawai AS memberitahu CNN, dengan bahagian kerajaan yang berlainan menggunakan alat yang berbeza di bawah perintah dan piawaian keselamatan yang berbeza. Tiada satu set piawaian untuk mengesahkan maklumat yang dihasilkan oleh alat ini, dan kebolehpercayaan pelbagai sistem berbeza-beza secara meluas.
Penyasaran Adalah Tempat Risiko Tinggal
Penganalisis telah lama bimbang bahawa AI boleh menyumbang kepada salah pengiraan bencana jika negara-negara bertindak ke atas data yang lemah atau rosak. Episod kapal China ialah kes yang didokumenkan tentang mod kegagalan yang terbentuk dalam masa nyata — dan perlindungan yang gagal menangkapnya sehingga saat terakhir.
"AI dalam menyasarkan pastinya sesuatu yang semakin meningkat, dan tidak ada panduan sebenar tentang bagaimana mempunyai manusia dalam gelung akan menghalang korban awam atau pembunuhan beramai-ramai," satu lagi sumber yang biasa dengan dasar semasa tentera memberitahu CNN.
Menurut laporan CNN, jenis halusinasi yang menghasilkan tuntutan palsu bukanlah insiden terpencil di seluruh komuniti perisikan sejak alat AI mula berkembang biak melalui kerajaan. Beberapa sumber juga menunjukkan risiko budaya: penganalisis yang lebih muda, yang digambarkan sebagai orang asli alat ini, lebih berkemungkinan mempercayai mereka secara tidak kritis, dan tekanan untuk menghasilkan kecerdasan dengan lebih cepat meninggalkan lebih banyak ruang untuk kesilapan.
"AI membolehkan anda mendapatkan idea yang tidak baik dengan lebih cepat," kata satu sumber.
Risiko Lebih Segera Daripada Perisikan Superintel
Selama berminggu-minggu, Washington telah terlibat dengan perdebatan mengenai risiko AI jangka panjang, berikutan siri amaran awam yang mengerikan daripada jurutera dan eksekutif teknologi Silicon Valley tentang sistem yang berpotensi membebaskan diri daripada kekangan manusia. Laporan CNN menggariskan bahaya yang berbeza dan lebih serta-merta: manusia membuat keputusan buruk berdasarkan keluaran AI yang tidak tepat atau mengelirukan — sekarang ini, di tengah-tengah ketegangan geopolitik sebenar.
Tiada tembakan dilepaskan pada musim bunga ini, dan menaiki pesawat tidak pernah berlaku. Tetapi episod itu adalah contoh paling jelas lagi bahawa ralat yang dijana oleh mesin, setelah dimasukkan ke dalam pelaporan rasmi, boleh bergerak melalui peralatan ketenteraan paling berkuasa di dunia sehingga ke tepi konflik bersenjata antara kuasa nuklear — tanpa piawaian pengesahan tetap yang ditetapkan untuk menghentikan yang seterusnya.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
