Tentera AS Hampir Naik Kapal China Atas Laporan Perisikan Berhalusinasi AI

Tentera AS hampir hampir memintas kapal China berdasarkan laporan risikan yang dihasilkan dengan bantuan chatbot AI dan ternyata palsu sepenuhnya, menurut eksklusif CNN yang diterbitkan Khamis.

Episod, yang diterangkan kepada CNN oleh empat sumber yang biasa dengan perkara itu, bermula awal musim bunga ini — di tengah-tengah perang dengan Iran — apabila laporan diedarkan di seluruh tentera AS yang mendakwa bahawa sebuah kapal China di Timur Tengah sedang mengangkut komponen program senjata nuklear. Laporan itu segera mencetuskan loceng penggera, dan tentera bertindak dengan rancangan untuk memintas kapal itu. Untuk liputan biasa tentang cerita seperti ini, ikuti berita AI semasa ia berkembang.

Pesawat di Udara, Bersedia Parti Naik

Menurut dua sumber CNN, anggota tentera AS yang bersenjata sedang bersiap sedia untuk menaiki kapal itu. Pesawat tentera sudah berada di udara, kata satu sumber.

Hanya sejurus sebelum operasi yang dirancang, pegawai menggali lebih dalam laporan itu — disatukan oleh penganalisis arahan operasi khas — dan mendapati bahawa ia telah dijana dengan bantuan kecerdasan buatan, dan chatbot yang digunakan penganalisis telah mengenal pasti secara tidak tepat bahan yang dibawa oleh kapal itu. CNN melaporkan ia tidak dapat mengetahui apa sebenarnya kargo yang salah dikenal pasti itu.

Satu sumber menyifatkan laporan itu sebagai "sepenuhnya palsu." Ia juga, kata sumber itu, "hampir memulakan perang" - memandangkan sebarang operasi AS terhadap kapal China boleh berisiko meningkat kepada konflik bersenjata antara kedua-dua negara.

Bagaimana Laporan Palsu Dibina

Penganalisis itu telah menyoal chatbot tentang laporan risikan mengenai manifes kapal yang berasal dari Komando Operasi Khas AS Pasifik, yang berpangkalan di Hawaii. CNN melaporkan tidak jelas sama ada chatbot itu adalah produk yang tersedia secara komersial atau alat kerajaan AS.

Bot itu menggabungkan risikan sumber terbuka dengan risikan isyarat rahsia dalam pegangan kerajaan dan mencapai kesimpulan yang menentukan tentang bahan di atas kapal itu. Penganalisis kemudian menggunakan AI untuk kali kedua - untuk membungkus penemuan itu ke dalam laporan perisikan standard, jenis yang dipercayai oleh pegawai tentera - dan menyebarkannya ke seluruh sistem.

Komando Operasi Khas AS Pasifik dan Pentagon tidak menjawab permintaan CNN untuk mendapatkan komen.

Perlumbaan Tentera untuk Mengamalkan AI

Hampir-hampir kejadian itu berlaku pada ketika pegawai di seluruh tentera dan komuniti perisikan AS sedang berusaha untuk menggabungkan AI ke dalam hampir setiap aspek kerja mereka — daripada menganalisis sejumlah besar perisikan mentah dan memilih sasaran untuk mogok, kepada aplikasi biasa seperti belanjawan, logistik dan rantaian bekalan.

Pada bulan Januari, Setiausaha Pertahanan Pete Hegseth mengeluarkan "Strategi Pecutan Kecerdasan Buatan" jabatan itu, bertujuan untuk mempercepatkan penggunaan AI oleh tentera. "Kami akan melancarkan percubaan, menghapuskan halangan birokrasi, memfokuskan pelaburan kami dan menunjukkan pendekatan pelaksanaan yang diperlukan untuk memastikan kami memimpin dalam AI ketenteraan," kata Hegseth dalam ucapan mengumumkan strategi itu.

Strategi itu secara eksplisit menyeru akses pendemokrasian, mengarahkan jabatan untuk meletakkan "model AI terkemuka dunia Amerika secara langsung di tangan tiga juta kakitangan awam dan tentera kami, di semua peringkat klasifikasi."

Tiada Satu Set Peraturan

Tetapi usaha itu tidak berpusat, beberapa pegawai AS memberitahu CNN, dengan bahagian kerajaan yang berlainan menggunakan alat yang berbeza di bawah perintah dan piawaian keselamatan yang berbeza. Tiada satu set piawaian untuk cara AS mengesahkan maklumat yang dijana oleh alat ini, dan kebolehpercayaan pelbagai sistem berbeza-beza secara meluas.

"Alat dalaman kebanyakannya hanya salinan barangan komersial yang memakai gincu," kata seorang bekas pegawai kanan AS yang biasa dengan sistem AI yang digunakan oleh penganalisis tentera dan perisikan kepada CNN.

Penyasaran AI 'Meningkatkan' Dengan Sedikit Bimbingan

Sumber berkata, tentera dengan pantas beralih kepada AI untuk membantu dengan penyasaran - kawasan yang membawa risiko jelas kesilapan yang membawa maut. "AI dalam menyasarkan pastinya sesuatu yang semakin meningkat dan tidak ada panduan sebenar tentang bagaimana mempunyai manusia dalam gelung akan menghalang mangsa awam atau pembunuhan beramai-ramai," satu lagi sumber yang biasa dengan dasar semasa tentera memberitahu CNN.

Penganalisis telah lama memberi amaran bahawa AI boleh menyumbang kepada kesilapan pengiraan bencana jika negara bergantung pada data yang lemah atau rosak - tepat jenis salah pengiraan yang boleh menyebabkan Amerika Syarikat menembak kapal China berdasarkan maklumat yang tidak tepat.

Menurut CNN, jenis halusinasi di sebalik laporan kapal palsu bukanlah insiden terpencil di seluruh komuniti perisikan sejak alat ini mula berkembang melalui kerajaan.

'AI Membolehkan Anda Mendapat Idea Buruk Dengan Lebih Cepat'

Selama berminggu-minggu, penggubal dasar Washington telah berdebat secara intensif tentang AI berikutan beberapa siri amaran mengerikan dari Silicon Valley tentang kemungkinan AI boleh membebaskan diri daripada kekangan manusia. Tetapi episod kapal China menggariskan risiko yang berbeza dan lebih segera: manusia membuat keputusan buruk berdasarkan maklumat yang tidak tepat atau mengelirukan yang dihasilkan oleh sistem AI.

Beberapa sumber memberitahu CNN bahawa penganalisis yang lebih muda khususnya - yang berasal dari alat ini - lebih cenderung mempercayai mereka secara tidak kritis, dan AI telah meningkatkan tekanan ke atas penganalisis untuk menghasilkan dan menyebarkan perisikan dengan lebih cepat, membuka pintu untuk kesilapan.

"AI membolehkan anda mendapatkan idea yang tidak baik dengan lebih cepat," kata salah satu sumber.

Episod ini berkemungkinan akan mencetuskan perdebatan hangat tentang seberapa pantas tentera A.S. harus melipat AI ke dalam aliran kerjanya yang paling sensitif, dan apakah langkah pengesahan yang harus diwajibkan sebelum pelaporan yang dibantu AI boleh menggerakkan tentera, pesawat dan anggota bersenjata ke arah operasi pertempuran yang berpotensi. Buat masa ini, perincian mencadangkan perlindungan yang wujud adalah tampalan - dan dalam kes ini, perbezaan antara laporan risikan rutin dan insiden antarabangsa diturunkan kepada pegawai yang kebetulan menyemak semula.

Kekal Mendahului AI

Untuk lebih banyak laporan tentang dasar AI, keselamatan negara dan model yang membentuk kedua-duanya, baca berita AI lebih lanjut.