Staf ing kantor pamrentah AS cilik sing tanggung jawab kanggo nguji keamanan model AI perbatasan bubar dijaluk nglaporake kanthi ora resmi menyang kantor Gedung Putih, Associated Press nglaporake dina Sabtu, nyebabake keprihatinan anyar babagan kamardikan evaluator keamanan AI paling dhuwur ing negara kasebut.
Kantor kasebut, Pusat Inovasi lan Standar Maju kanggo Super Intelligence - dikenal minangka CAISSI lan dumunung ing Departemen Perdagangan - uga mandheg nerbitake riset, miturut AP. Laporan kasebut ana ing tengah-tengah rasa kuwatir umum babagan crita babagan agen AI sing ora bisa dikontrol, lan nggambarake pengawas sing kurang staf, tanpa pimpinan lan saya sepi. For more context on this story, see our ongoing more AI stories.
Apa CAISSI Apa - lan Apa AP Found
CAISSI ditugasake kanggo netepake keamanan penawaran AI anyar sadurunge tekan umum, sawijining mandat sing kalebu ngevaluasi kepiye model perbatasan nolak penyalahgunaan kanggo serangan cyber lan karusakan serius liyane. Miturut AP, staf ing pusat kasebut "bubar" dijaluk nglaporake kanthi ora resmi menyang kantor Gedung Putih. Agensi warta kasebut nyebutake rong mantan pejabat pemerintah sing ngerti babagan diskusi kasebut, sing ngomong kanthi anonim kanggo nglindhungi karyawan saiki. Gedung Putih ora mangsuli pitakon khusus babagan pusat kasebut.
Skala operasi iku andhap asor. AP nglaporake yen CAISSI nampa udakara $ 10 yuta saben taun - kira-kira siji-kawolu saka sing ditampa mitra Inggris, sanajan Amerika Serikat minangka papan sing paling akeh model perbatasan dibangun.
Pengaturan laporan informal mung minangka gangguan paling anyar ing pusat kasebut. AP nggambarake kekosongan kepemimpinan sajrone pirang-pirang wulan: direktur direkrut ing wulan April lan dipecat sajrone pirang-pirang dina, panggantose suwene sawetara wulan sadurunge mundur, lan kepala lembaga induk saiki dadi direktur akting. Ing praktik, tegese ora ana sing duwe mandat permanen sing saiki mbela kamardikan pusat kasebut.
Anjing Pengawas Sing Mungkasi Penerbitan
Owah-owahan sing luwih penting, miturut AP, yaiku apa sing ora ditindakake dening pusat. Ing wulan Agustus, Kongres takon kenapa CAISSI mandheg ngeculake laporan babagan cara sistem AI nindakake tes safety. Tes pra-penyebaran fungsi minangka mriksa umum ing tukang model mung yen asile katon ing njaba lab - lan, saiki, ora.
Shift ora metu saka ngendi wae. Ing wulan Oktober, Reuters, nyatakake laporan saka The Information, ngumumake manawa administrasi ngrancang mindhah telung pejabat senior CAISSI menyang Gedung Putih. Pejabat Gedung Putih ngandhani Informasi kasebut nalika masalah koordinasi karo Perdagangan nuduhake kabutuhan kanggo nggawa pimpinan pusat luwih cedhak karo pengambilan keputusan AI. Miturut laporan kasebut, pejabat kasebut bakal mangsuli Michael Kratsios, sing nglakokake Kantor Kebijakan Ilmu lan Teknologi, lan Direktur Siber Nasional Sean Cairncross. Sekretaris Perdagangan Howard Lutnick ngundang wong loro kasebut kanggo ngatur pusat kasebut kira-kira nem wulan sadurunge.
Maca bebarengan, laporan anyar AP nuduhake manawa rencana wis ditindakake - ora resmi, lan sadurunge restrukturisasi resmi.
Keprigelan Kamardikan, ing Loro Arah
Kritikus sing dikutip AP kuwatir manawa keputusan sing ndemek keamanan siber lan risiko bioweapon bisa dipolitik, utawa temuan bisa dilunasi supaya cocog karo industri teknologi. Amos Toh saka Pusat Kehakiman Brennan ngandhani AP manawa keputusan kasebut ana akibat umum lan kudu diterangake ing umum. Caroline Siegel Singh saka Federasi Ilmuwan Amerika nggambarake pusat kaya CAISSI minangka institusi kuat sing bisa ningkatake urip kanthi drastis utawa ngelawan.
Ana counterargument, lan AP ora ngilangi. Ngevaluasi kemampuan model kanggo mbantu nulis malware minangka pitakonan keamanan nasional, lan administrasi sing pengin visibilitas menyang sing ndeleng asil kasebut duwe kasus sing bisa dipertahankan. Kangelan punika institusional: wasit sing mangsuli salah siji saka sponsor tim iku kurang diselehake kanggo nelpon game terus, lan pusat wis mandegake nerbitake laporan sing bakal nduduhake kamardikan sawijining.
Apa Iku Penting kanggo Tukang lan Pembeli
Kanggo perusahaan sing mbangun model perbatasan, risiko praktis sing diidentifikasi ing laporan kasebut dudu larangan - ora mesthi. Yen evaluasi tetep rahasia lan feed menyang kontrol ekspor lan mundhut barang utowo jasa pemerintah, Lab bisa kelangan kontrak utawa pasar ing basis saka nemokake iku tau nemu kanggo ndeleng utawa kontes. Risiko kasebut bakal nyebar liwat rantai pasokan menyang produk hilir tanpa peringatan.
Loro prekara sing kudu ditonton sabanjure. Kapisan yaiku manawa administrasi menehi jeneng direktur permanen kanggo pusat kasebut, lan sapa sing milih. Kapindho yaiku apa Kongres, sing wis meksa pusat kanggo nggawe bisu babagan laporan sing diterbitake, pindhah menyang nulis kamardikan pusat dadi hukum. Nganti kedadeyan kasebut, wasit keamanan AI perbatasan Amerika beroperasi kanthi anggaran $ 10 yuta, ora ana pimpinan permanen lan garis pelaporan sing mlaku menyang Gedung Putih.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
