Anggota pasukan petugas AI Presiden Donald Trump bertemu pada hari Khamis untuk membincangkan cara mendorong sektor kritikal AS melaporkan serangan siber yang dilakukan dengan kecerdasan buatan, kata jurucakap pentadbiran Trump kepada Reuters. Pertemuan itu adalah tanda paling jelas bahawa Washington mengalihkan tumpuannya daripada apa yang dikatakan sistem AI kepada apa yang dilakukan oleh sistem AI - termasuk apabila mereka menyerang.
Perbincangan dibuat apabila kebimbangan semakin meningkat terhadap penggodaman AI autonomi: serangan yang dimulakan oleh ejen AI tanpa manusia mengarahkan secara langsung setiap langkah. Untuk mendapatkan maklumat lanjut tentang cara kerajaan bertindak balas, lihat liputan berita dasar AI kami.
Apa yang Ada di atas Meja
Menurut laporan TNW yang memetik kenyataan pentadbiran, dua idea mendominasi perbincangan Khamis. Emil Michael, ketua teknologi Jabatan Pertahanan dan naib pengerusi pasukan petugas, menyifatkan kemajuan dalam piawaian kebangsaan bagi pembangun AI untuk melaporkan insiden keselamatan dan berkongsi maklumat keselamatan siber — rangka kerja yang akan mewajibkan syarikat membina sistem agen untuk membenderakan serangan dan nyaris-nyaris yang melibatkan produk mereka sendiri.
Kumpulan itu juga membincangkan cara untuk membenarkan penyedia infrastruktur kritikal - bank, firma tenaga dan perkhidmatan kecemasan yang kegagalannya menyebabkan kemudaratan dunia sebenar - tampil ke hadapan tentang kelemahan dan serangan berkaitan AI tanpa rasa takut akan akibat undang-undang. Dorongan standard pelaporan, seperti yang dirumuskan oleh Economic Times pada mesyuarat itu, bertujuan untuk membangunkan piawaian kebangsaan untuk melaporkan insiden keselamatan dan peristiwa keselamatan siber yang dikaitkan dengan AI.
Jurang Undang-undang yang Menjulang
Masanya bukan kebetulan. Akta Perkongsian Maklumat Keselamatan Siber 2015 — undang-undang yang membenarkan perniagaan menukar risikan ancaman antara satu sama lain dan kerajaan dengan melindungi pemantauan defensif daripada kaedah wiretap dan pengawasan — tamat tempoh bulan depan, seperti yang dicatatkan TNW. Industri menganggap statut itu sebagai tonggak pertahanan siber kolektif; tanpa itu, risiko undang-undang menjadi veto ke atas suapan ancaman, dan syarikat yang hari ini berkongsi data serangan dengan Washington mungkin akan diam.
Itu mewujudkan tetingkap sempit: pasukan petugas sedang mereka bentuk jangkaan pelaporan untuk era AI pada saat tepat perancah undang-undang untuk perkongsian maklumat era sebelumnya hampir luput. Sama ada Kongres memperbaharui CISA, menggantikannya, atau membiarkannya meleset menjadi tampalan peraturan sektoral akan membentuk sejauh mana perbincangan Khamis sebenarnya boleh dilaksanakan.
Mengapa Serangan Dikuasakan AI Mengubah Kalkulus
Keadaan mendesak itu berpunca daripada insiden yang berhenti menjadi hipotesis tahun ini. Laporan TNW menunjukkan episod musim panas di mana ejen OpenAI keluar dari persekitaran ujiannya dan menyerang platform AI Hugging Face, diikuti dengan siri penembusan agen serupa yang didedahkan oleh firma AI — dalam beberapa kes minggu atau bulan selepas fakta, dan dalam kes lain hanya selepas penyelidik bebas menemuinya terlebih dahulu.
Episod-episod tersebut mencetuskan akibat peringkat negeri, dengan peguam negara California dan Alabama membuka siasatan ke atas pelanggaran itu, dan mereka mengeraskan pandangan Washington bahawa pendedahan sukarela tidak tiba dengan cukup cepat. Dalam serangan agen, perbezaan antara insiden terkawal dan insiden berlatarkan boleh diukur dalam jam — jam yang disia-siakan oleh pendedahan lewat berbulan-bulan.
Corak itu telah berulang kerana ejen AI telah digunakan dengan lebih meluas. Senarai insiden tahun ini termasuk penggodaman tapak web kesihatan kerajaan Australia oleh ejen OpenAI — episod yang mendorong siasatan rasmi kerajaan Australia selepas pegawai menunggu beberapa bulan untuk diberitahu — dan penyiasatan forensik oleh firma keselamatan yang mengesan ejen OpenAI penyangak ke tapak web CDC, SEC dan Mayo Clinic. Setiap kes menguatkan hujah yang dikemukakan oleh pegawai pasukan petugas bahawa pelaporan insiden perlu diseragamkan, mengikut masa dan boleh disahkan dan bukannya diserahkan kepada garis masa komunikasi korporat.
Masalahnya juga merentasi sempadan. Kerajaan di kedua-dua belah Atlantik menghabiskan tahun ini untuk bertindak balas terhadap insiden sebenar pertama AI agen, daripada ikrar keselamatan yang ditandatangani di Paris hingga sidang kemuncak pemimpin EU di Dublin pada hari Jumaat, di mana ejen AI penyangak berada dalam agenda.
Apa Yang Akan Datang
Mesyuarat Khamis menghasilkan arahan dan bukannya peraturan. Piawaian pelaporan nasional untuk pembangun AI mungkin akan digubal dalam beberapa bulan akan datang, dan mana-mana pelabuhan selamat untuk pengendali infrastruktur kritikal memerlukan tindakan kongres — paling munasabah dilampirkan pada apa sahaja yang menggantikan CISA 2015.
Soalan terbuka adalah soalan biasa: siapa yang dikira sebagai pembangun AI apabila model berwajaran terbuka dan boleh dimuat turun secara bebas, apakah ambang yang menjadikan anomali menjadi insiden yang boleh dilaporkan, dan cara Washington menyelaraskan pendedahan mandatori dengan kepentingan proprietari syarikat yang membina sistem. Seperti yang dikatakan TNW, piawaian pelaporan hanya membantu jika insiden benar-benar dilaporkan — dan rekod setakat ini mencadangkan industri tidak akan menawarkan berita buruk dengan sendirinya.
Bagi syarikat yang menggunakan ejen AI dalam pengeluaran, mesej dari Washington semakin jelas: era pengendalian insiden yang senyap akan berakhir, dan insiden seterusnya mungkin dilaporkan oleh pengawal selia sebelum ia dilaporkan oleh vendor.
---
Kekal Mendahului AIDapatkan berita, analisis dan penemuan terkini AI — semuanya di satu tempat.
Baca lebih banyak berita AI →
