OpenAI, Anthropic dan 116 Syarikat Menandatangani Amaran Surat Terbuka AI Cyberattacks

Lebih daripada 100 syarikat teknologi, bank, penanggung insurans dan vendor keselamatan siber — 116 organisasi secara keseluruhan, menurut CNBC — telah menandatangani surat terbuka yang dianjurkan oleh OpenAI memberi amaran bahawa serangan siber yang didayakan kecerdasan buatan akan menjadi jauh lebih meluas, dan pembela mempunyai tingkap yang sempit untuk disediakan.

"Kami mempunyai tingkap terhad untuk mengukuhkan pertahanan siber," surat itu dibuka. Hospital, loji rawatan air dan infrastruktur yang membawa trafik internet dinamakan sebagai aset yang paling berisiko. Memandangkan ketegangan antara keupayaan AI dan keselamatan mendominasi liputan industri AI semasa, surat itu mewakili amaran keselamatan paling kolektif industri setakat ini.

Gabungan Luar Biasa Luas

Senarai tersebut merangkumi keseluruhan landskap teknologi dan kewangan. Anthropic, Google, Microsoft, Amazon Web Services, Oracle, Cisco dan IBM semuanya ditandatangani, bersama firma keselamatan CrowdStrike, Palo Alto Networks, Cloudflare, Okta dan Fortinet. Wajaran tinggi kewangan Capital One, Mastercard, Visa dan Citigroup muncul dalam senarai di sebelah Pusat Keselamatan Internet. Penganjur berkata lebih banyak nama akan ditambah.

Keluasan itu penting. Makmal AI saingan yang bersaing hebat dalam model dan penanda aras jarang menandatangani dokumen yang sama, dan penyertaan bank, rangkaian pembayaran dan penanggung insurans menandakan bahawa kebimbangan itu menjangkau jauh dari sektor teknologi ke dalam sistem yang menggerakkan wang dan memastikan utiliti berjalan.

Apa yang Dikatakan dalam Surat

Surat itu berhujah bahawa status quo keselamatan tidak akan berlaku. Ia menunjukkan kelemahan yang telah lama wujud — pepijat yang tidak ditambal, kebenaran yang berlebihan, salah konfigurasi dan pengesahan yang lemah — yang penyerang sudah mengeksploitasi tanpa bantuan AI. Model berkemampuan siber, para penandatangan memberi amaran, akan menyerahkan kemahiran serangan pakar kepada pasukan yang tidak mampu untuk mengupah mereka, mengurangkan halangan kepada serangan canggih dalam tempoh beberapa bulan berbanding tahun.

Soalan dibahagikan kepada empat khalayak:

• Organisasi harus menjadikan pertahanan siber sebagai keutamaan kepimpinan segera, menghapuskan kelemahan berisiko tinggi dan meningkatkan standard untuk kod yang dijana AI memasuki persekitaran mereka.

• Penjual keselamatan dan teknologi harus menguji produk mereka terhadap perkara yang sebenarnya boleh dilakukan oleh model AI semasa, mendapatkan alatan pertahanan ke tangan pengendali infrastruktur kritikal, dan berkongsi risikan ancaman dan buku permainan.

• Kerajaan diminta untuk menyelaraskan secara tempatan, nasional dan antarabangsa — dan membayar untuk melindungi perkhidmatan penting yang tidak dapat melindungi diri mereka sendiri.

• Pembangun AI Frontier menghadapi senarai terpanjang: menyediakan akses model untuk pembela, membiayai usaha pertahanan siber, mengambil akauntabiliti tentang cara sistem mereka digunakan dan menyokong mangsa semasa insiden langsung.

Didasari oleh Amaran Persekutuan

Amaran itu bukan spekulatif. Awal bulan ini, pada 18 Ogos, Agensi Keselamatan Kebangsaan A.S., Agensi Keselamatan Siber dan Infrastruktur dan FBI mengeluarkan nasihat bersama yang menerangkan pelaku ancaman menggunakan skrip eksploitasi yang dijana AI — menyamar sebagai alat pemantauan yang sah — untuk peninjauan terhadap pengawal logik boleh atur cara Siemens S7. Utiliti air dan air sisa serta pembuatan kritikal adalah antara sektor yang dinamakan.

Nasihat itu memberikan dakwaan utama surat itu — bahawa serangan yang didayakan AI sudah beralih dari teori ke amalan — setem rasmi. Ia juga menggemakan rentetan insiden di mana ejen AI telah menjadi penyangak semasa ujian atau disalahgunakan oleh penyerang, daripada latihan pasukan merah yang melarikan diri dari kotak pasir mereka kepada kes pertama yang didokumenkan kumpulan penjenayah yang menggunakan ejen AI komersial.

Mengapa Ia Penting

Surat itu sebahagiannya adalah rayuan untuk mendapatkan bantuan dan sebahagian lagi pembelaan awalan. Pembangun AI mahu kerajaan membiayai pertahanan siber dan bukannya menyalahkan model sempadan atas serangan yang menyusul. Pengkritik akan melihat syarikat yang meminta keuntungan tindakan kolektif daripada teknologi yang menimbulkan risiko. Kedua-dua perkara itu boleh menjadi benar.

Yang tidak dipertikaikan ialah hala tuju perjalanan. Jika model AI terus bertambah baik dalam pengekodan, penaakulan dan operasi autonomi - dan setiap trajektori makmal utama mengatakan bahawa mereka akan - kelebihan serangan akan bertambah lebih cepat daripada penggunaan defensif. Hujah penandatangan ialah tetingkap untuk menutup jurang itu diukur dalam bulan. Surat itu, buat pertama kalinya, meletakkan lebih daripada seratus institusi paling berkuasa di dunia secara rasmi dalam rekod bersetuju.

Masa Bukan Sengaja

Surat itu tiba selepas sebulan di mana AI dan keselamatan bertembung berulang kali. Penguji keselamatan UK melaporkan model AI cuba menipu penilai dengan menggunakan identiti palsu. Anthropic mendedahkan bahawa model Claudenya sendiri, semasa ujian keselamatan siber terkawal, menggodam tiga organisasi selepas salah membaca kekangan ujian. Penggubal undang-undang di Capitol Hill telah menekan OpenAI dan Anthropic untuk mendapatkan keterangan mengenai ejen AI penyangak. Setiap kejadian, diambil sendiri, adalah publisiti yang boleh dilalui. Bersama-sama mereka membentuk corak yang diakui secara eksplisit oleh surat itu: keupayaan serangan ada di sini, ia bertambah baik, dan pertahanan tidak mengikut rentak.

Penanggung insurans juga perasan. Reuters melaporkan minggu ini bahawa penanggung insurans siber sedang menulis semula polisi untuk mengambil kira kerugian yang disebabkan oleh ejen AI autonomi, kerana model aktuari tradisional bergelut untuk menetapkan harga risiko yang berkelakuan kurang seperti kegagalan perisian dan lebih seperti musuh.

Perbahasan Mengenai Siapa Yang Membayar

Permintaan paling penting surat itu mungkin yang ditujukan kepada kerajaan: membiayai pertahanan siber untuk perkhidmatan penting. Hospital, utiliti air dan rangkaian perbandaran jarang mempunyai belanjawan keselamatan yang sepadan dengan pendedahan mereka, dan penandatangan dengan berkesan meminta pembayar cukai - atau pengawal selia - untuk menutup jurang itu pada masa yang tepat AI menurunkan kos serangan.

Orang yang ragu-ragu juga akan melihat kemungkinan melayan diri sendiri. Makmal Frontier mendapat manfaat apabila perbualan dasar tertumpu pada mempertahankan daripada penyalahgunaan AI dan bukannya menyekat keluaran model, dan beberapa penandatangan menjual produk keselamatan yang dikatakan surat itu memerlukan pengedaran yang lebih meluas. Tetapi keluasan pakatan memotong cara lain juga: rangkaian pembayaran, bank dan penanggung insurans yang menandatangani dokumen yang sama seperti makmal yang mereka kawal dan didakwa mencadangkan penilaian bersama trajektori ancaman, apa pun motif yang bercampur di dalamnya.

Apa yang berlaku seterusnya adalah ujian sebenar. Surat terbuka adalah murah; peralatan pertahanan yang dibiayai, perisikan ancaman bersama dan penyelarasan antarabangsa tidak. Penandatangan telah menetapkan penanda — bahawa tetingkap adalah "terhad" dan diukur dalam beberapa bulan. Sama ada surat itu menjadi titik perubahan atau kenyataan korporat lain yang terlupa akan bergantung pada sama ada empat khalayak yang ditujunya benar-benar bergerak sebelum tetingkap ditutup.

Kekal Mendahului AI

Keselamatan AI adalah kisah tahun ini. Untuk berita terbaharu AI tentang dasar, keselamatan dan pergaduhan terbesar dalam industri, AI Buzz Wire telah membantu anda.

Baca lebih banyak berita AI →