Staf di kantor kecil pemerintah AS yang bertanggung jawab untuk menguji keamanan model AI baru-baru ini diminta untuk melapor secara informal ke kantor Gedung Putih, menurut laporan Associated Press pada hari Sabtu. Hal ini memicu kekhawatiran baru mengenai independensi evaluator keamanan AI terkemuka di negara tersebut.
Kantor tersebut, Pusat Kemajuan Inovasi dan Standar Kecerdasan Super – yang dikenal sebagai CAISSI dan bertempat di dalam Departemen Perdagangan – juga telah berhenti mempublikasikan penelitiannya, menurut AP. Laporan ini muncul di tengah meningkatnya kecemasan masyarakat atas serangkaian cerita tentang agen AI yang tidak terkendali, dan menggambarkan lembaga pengawas yang kekurangan staf, tidak memiliki pemimpin, dan semakin pendiam. For more context on this story, see our ongoing artificial intelligence updates.
Apa yang CAISSI Lakukan — dan Apa yang Ditemukan AP
CAISSI ditugaskan untuk menilai keamanan penawaran AI baru sebelum dipublikasikan, sebuah mandat yang mencakup evaluasi seberapa baik model terdepan dalam menahan penyalahgunaan untuk serangan siber dan bahaya serius lainnya. Menurut AP, staf di pusat tersebut “baru-baru ini” diminta untuk melapor secara informal ke kantor Gedung Putih. Kantor berita tersebut mengutip dua mantan pejabat pemerintah yang mengetahui diskusi tersebut, yang berbicara secara anonim untuk melindungi karyawan saat ini. Gedung Putih tidak menanggapi pertanyaan spesifik mengenai pusat tersebut.
Skala operasinya sederhana. AP melaporkan bahwa CAISSI menerima sekitar $10 juta per tahun – kira-kira seperdelapan dari jumlah yang diterima mitranya di Inggris, meskipun Amerika Serikat adalah negara tempat sebagian besar model terdepan diproduksi.
Pengaturan pelaporan informal hanyalah gangguan terbaru yang terjadi di pusat. AP menggambarkan kekosongan kepemimpinan yang terjadi selama beberapa bulan terakhir: seorang direktur diangkat pada bulan April dan dipecat dalam beberapa hari, penggantiannya berlangsung beberapa bulan sebelum mengundurkan diri, dan kepala lembaga induk saat ini menjabat sebagai penjabat direktur. Dalam praktiknya, hal ini berarti tidak ada seorangpun yang mempunyai mandat tetap yang saat ini membela independensi pusat tersebut.
Anjing Pengawas yang Berhenti Menerbitkan
Perubahan yang lebih penting, menurut AP, adalah apa yang tidak lagi dilakukan oleh pusat. Pada bulan Agustus, Kongres bertanya mengapa CAISSI berhenti merilis laporan publik tentang kinerja sistem AI dalam uji keamanan. Pengujian pra-penerapan berfungsi sebagai pemeriksaan publik terhadap pembuat model hanya jika hasilnya terlihat di luar lab — dan, untuk saat ini, hasilnya tidak terlihat.
Pergeseran ini tidak muncul begitu saja. Pada bulan Oktober, Reuters, mengutip laporan dari The Information, mengungkapkan bahwa pemerintah berencana memindahkan tiga pejabat senior CAISSI ke Gedung Putih. Seorang pejabat Gedung Putih mengatakan kepada The Information pada saat itu bahwa masalah koordinasi dengan Departemen Perdagangan menunjukkan perlunya mendekatkan kepemimpinan pusat tersebut pada pengambilan keputusan tentang AI. Menurut laporan tersebut, para pejabat tersebut akan bertanggung jawab kepada Michael Kratsios, yang menjalankan Kantor Kebijakan Sains dan Teknologi, dan Direktur Siber Nasional Sean Cairncross. Menteri Perdagangan Howard Lutnick telah mengundang keduanya untuk bersama-sama mengelola pusat tersebut sekitar enam bulan sebelumnya.
Jika dibaca bersama-sama, laporan baru AP menunjukkan bahwa rencana tersebut sudah mulai dilaksanakan – secara informal, dan sebelum adanya restrukturisasi formal.
Keprihatinan Kemerdekaan, di Kedua Arah
Para kritikus yang dikutip oleh AP khawatir bahwa keputusan-keputusan yang menyangkut risiko keamanan siber dan senjata biologis dapat dipolitisasi, atau bahwa temuan-temuan tersebut dapat diperhalus agar sesuai dengan industri teknologi. Amos Toh dari Brennan Center for Justice mengatakan kepada AP bahwa keputusan tersebut mempunyai konsekuensi publik yang sangat besar dan harus dijelaskan kepada publik. Caroline Siegel Singh dari Federasi Ilmuwan Amerika menggambarkan pusat-pusat seperti CAISSI sebagai institusi kuat yang dapat meningkatkan kehidupan secara drastis atau sebaliknya.
Ada argumen tandingan, dan AP tidak menampiknya. Mengevaluasi kemampuan suatu model untuk membantu menulis malware adalah pertanyaan keamanan nasional, dan pemerintahan yang menginginkan visibilitas mengenai siapa yang melihat hasil tersebut memiliki alasan yang dapat dipertahankan. Kesulitannya bersifat institusional: wasit yang memberikan jawaban kepada salah satu sponsor tim tidak berada pada posisi yang tepat untuk menyatakan pertandingan berjalan lancar, dan pusat tersebut telah berhenti menerbitkan laporan yang sebaliknya akan menunjukkan independensinya.
Mengapa Ini Penting bagi Pembangun dan Pembeli
Bagi perusahaan yang menggunakan model frontier, risiko praktis yang diidentifikasi dalam pelaporan bukanlah sebuah larangan, melainkan ketidakpastian. Jika evaluasi tetap dirahasiakan dan dimasukkan ke dalam pengendalian ekspor dan pengadaan pemerintah, laboratorium dapat kehilangan kontrak atau pasar berdasarkan temuan yang tidak pernah dilihat atau ditentang. Risiko tersebut akan menyebar melalui rantai pasokan ke produk-produk hilir tanpa peringatan apa pun.
Ada dua hal yang patut diperhatikan selanjutnya. Yang pertama adalah apakah pemerintah menunjuk direktur tetap pusat tersebut, dan siapa yang memilih mereka. Pertanyaan kedua adalah apakah Kongres, yang telah menekan pusat tersebut agar diam terhadap laporan-laporan yang dipublikasikan, akan mengambil tindakan untuk memasukkan independensi pusat tersebut ke dalam undang-undang. Hingga hal tersebut terjadi, wasit keamanan AI terdepan Amerika beroperasi dengan anggaran sebesar $10 juta, tanpa pemimpin tetap, dan jalur pelaporan yang mengarah ke Gedung Putih.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
