Kakitangan di pejabat kecil kerajaan A.S. yang bertanggungjawab untuk menguji keselamatan model AI sempadan baru-baru ini diminta melaporkan secara tidak rasmi kepada pejabat Rumah Putih, lapor Associated Press pada hari Sabtu, mencetuskan kebimbangan baharu tentang kebebasan penilai keselamatan AI terkemuka negara itu.
Pejabat itu, Pusat Memajukan Inovasi dan Piawaian untuk Kepintaran Super - dikenali sebagai CAISSI dan ditempatkan di dalam Jabatan Perdagangan - juga telah berhenti menerbitkan penyelidikannya, menurut AP. Laporan itu tiba di tengah-tengah kebimbangan orang ramai yang semakin meningkat mengenai rentetan cerita tentang ejen AI di luar kawalan, dan ia menggambarkan anjing pemerhati yang kurang kakitangan, tanpa pemimpin dan semakin pendiam. For more context on this story, see our ongoing more AI stories.
Apa yang CAISSI Lakukan — dan Apa yang AP Temui
CAISSI ditugaskan untuk menilai keselamatan tawaran AI baharu sebelum ia sampai kepada orang ramai, mandat yang termasuk menilai sejauh mana model sempadan menentang penyalahgunaan untuk serangan siber dan bahaya serius yang lain. Menurut AP, kakitangan pusat itu "baru-baru ini" diminta melaporkan secara tidak rasmi ke pejabat Rumah Putih. Agensi berita itu memetik dua bekas pegawai kerajaan yang mengetahui perbincangan itu, yang bercakap tanpa nama untuk melindungi pekerja semasa. Rumah Putih tidak menjawab soalan khusus mengenai pusat itu.
Skala operasi adalah sederhana. AP melaporkan bahawa CAISSI menerima kira-kira $10 juta setahun — kira-kira satu perlapan daripada apa yang diterima oleh rakan sejawatannya di United Kingdom, walaupun Amerika Syarikat adalah tempat kebanyakan model sempadan dibina.
Susunan pelaporan tidak rasmi hanyalah gangguan terkini di pusat itu. AP menggambarkan kekosongan kepimpinan yang menjangkau beberapa bulan: seorang pengarah telah diupah pada bulan April dan dipecat dalam beberapa hari, penggantiannya berlangsung beberapa bulan sebelum meletak jawatan, dan ketua institut induk sedang berkhidmat sebagai pemangku pengarah. Dalam amalan, ini bermakna tiada sesiapa yang mempunyai mandat tetap pada masa ini mempertahankan kemerdekaan pusat itu.
Anjing Pengawas Yang Menghentikan Penerbitan
Perubahan yang lebih berbangkit, menurut AP, adalah perkara yang tidak lagi dilakukan oleh pusat itu. Pada bulan Ogos, Kongres bertanya mengapa CAISSI telah berhenti mengeluarkan laporan secara terbuka tentang prestasi sistem AI pada ujian keselamatan. Ujian pra-pengerahan berfungsi sebagai semakan awam pada pembina model hanya jika keputusannya dapat dilihat di luar makmal — dan, buat masa ini, ia tidak.
Anjakan itu tidak datang entah dari mana. Pada bulan Oktober, Reuters, memetik laporan dari The Information, mendedahkan bahawa pentadbiran merancang untuk memindahkan tiga pegawai kanan CAISSI ke Rumah Putih. Seorang pegawai Rumah Putih memberitahu The Information pada masa itu bahawa masalah penyelarasan dengan Perdagangan menunjukkan keperluan untuk membawa kepimpinan pusat itu lebih dekat dengan membuat keputusan AI. Menurut laporan itu, para pegawai akan menjawab Michael Kratsios, yang mengendalikan Pejabat Sains dan Dasar Teknologi, dan Pengarah Siber Kebangsaan Sean Cairncross. Setiausaha Perdagangan Howard Lutnick telah menjemput kedua-duanya untuk mengurus bersama pusat itu kira-kira enam bulan sebelumnya.
Baca bersama-sama, pelaporan baharu AP mencadangkan bahawa rancangan tiba dalam amalan — secara tidak rasmi, dan mendahului sebarang penstrukturan semula rasmi.
Kebimbangan Kemerdekaan, di Kedua-dua Arah
Pengkritik yang dipetik AP bimbang keputusan yang menyentuh keselamatan siber dan risiko bioweapon boleh dipolitikkan, atau penemuan boleh dilembutkan agar sesuai dengan industri teknologi. Amos Toh dari Pusat Keadilan Brennan memberitahu AP bahawa keputusan sedemikian adalah akibat awam yang besar dan harus dijelaskan secara terbuka. Caroline Siegel Singh dari Persekutuan Saintis Amerika menyifatkan pusat seperti CAISSI sebagai institusi berkuasa yang boleh meningkatkan kehidupan secara drastik atau melakukan sebaliknya.
Terdapat hujah balas, dan AP tidak menolaknya. Menilai keupayaan model untuk membantu menulis perisian hasad ialah soalan keselamatan negara dan pentadbiran yang mahukan keterlihatan kepada siapa yang melihat hasil tersebut mempunyai kes yang boleh dipertahankan. Kesukarannya adalah institusi: pengadil yang menjawab kepada salah satu penaja pasukan adalah kurang ditempatkan untuk meneruskan permainan, dan pusat telah berhenti menerbitkan laporan yang sebaliknya akan menunjukkan kebebasannya.
Mengapa Ia Penting untuk Pembina dan Pembeli
Bagi syarikat yang membina model sempadan, risiko praktikal yang dikenal pasti dalam pelaporan bukanlah larangan — ia adalah ketidakpastian. Jika penilaian kekal rahsia dan dimasukkan ke dalam kawalan eksport dan perolehan kerajaan, makmal boleh kehilangan kontrak atau pasaran berdasarkan penemuan yang tidak pernah dapat dilihat atau dipertandingkan. Risiko itu akan merebak melalui rantaian bekalan kepada produk hiliran tanpa sebarang amaran.
Dua perkara patut ditonton seterusnya. Yang pertama ialah sama ada pentadbiran menamakan pengarah tetap untuk pusat itu, dan siapa yang memilih mereka. Yang kedua ialah sama ada Kongres, yang telah pun mendesak pusat untuk berdiam diri mengenai laporan yang diterbitkan, bergerak untuk menulis kebebasan pusat itu sebagai undang-undang. Sehingga kedua-duanya berlaku, pengadil keselamatan AI sempadan Amerika beroperasi dengan bajet $10 juta, tiada pemimpin tetap dan garis pelaporan yang menuju ke Rumah Putih.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
