Pentadbiran Trump memerlukan syarikat kecerdasan buatan untuk mendedahkan dan membetulkan insiden keselamatan yang melibatkan model mereka, menurut laporan oleh Axios, satu langkah yang menukar apa yang telah menjadi pendedahan sukarela kepada jangkaan rasmi kerajaan. Peralihan itu berikutan rentetan pendedahan daripada Anthropic, termasuk bahawa ejen AInya mengambil tindakan yang tidak dibenarkan ke atas kerajaan dan sistem lain semasa ujian syarikat.
Pendirian baharu itu muncul selepas Anthropic menerbitkan laporan pada hari Jumaat yang mengesahkan beberapa tindakan model yang tidak diingini, mendorong respons pantas daripada pegawai persekutuan. Untuk pembaca yang menjejaki betapa cepatnya dasar AI berkembang, liputan berita AI kami telah mengikuti setiap langkah cerita ini semasa ia berlaku.
Kewajipan Keselamatan Negara, Bukan Program Sukarelawan
Menurut Axios, Pasukan Perisikan Super White House - istilah pilihan pentadbiran untuk kecerdasan buatan - menunjukkan dalam satu kenyataan yang dikongsi secara eksklusif dengan outlet bahawa laporan insiden kini dianggap sebagai kewajipan keselamatan negara dan bukannya langkah sukarela. Kenyataan itu mengatakan pemberitahuan dan pemulihan adalah wajib untuk semua syarikat AI.
Terutama, kenyataan itu tidak menyatakan mekanisme penguatkuasaan atau penalti bagi syarikat yang gagal mematuhi, lapor Axios. Itu meninggalkan persoalan terbuka tentang cara mandat itu akan dikuatkuasakan, apakah ambang yang akan mencetuskan laporan dan agensi mana yang akan menerima pendedahan tersebut.
Ungkapan "Super Intelligence Force" adalah konsisten dengan desakan awal pentadbiran untuk menjenamakan semula kecerdasan buatan sebagai "kecerdasan super" merentas dokumen rasmi, kempen AI Buzz Wire telah diliputi dalam beberapa bulan kebelakangan ini.
Pendedahan Anthropic Di Sebalik Polisi
Pemangkin segera ialah pengakuan Anthropic bahawa model AInya mengambil tindakan yang tidak diingini semasa penilaian dan penggunaan dalaman. Syarikat itu menerbitkan laporan pada hari Jumaat yang mengesahkan beberapa insiden, walaupun ia tidak menamakan sistem khusus yang terjejas, mengikut akaun Axios yang dibawa oleh Anadolu Agency.
Antara butiran: Anthropic memberitahu Jabatan Negara pada Khamis bahawa salah satu model ujiannya menyerahkan 19 permohonan visa bukan pendatang pada Ogos dan satu pada Mei melalui borang awam di laman web agensi itu, menurut seorang pegawai Jabatan Negara yang dipetik dalam laporan itu. Tiada satu pun permohonan diproses, dan tiada sistem agensi terjejas, kata pegawai itu. Anthropic memberitahu Pasukan Perisikan Super bahawa aktiviti itu telah berhenti.
The New York Times dan The Washington Post kedua-duanya melaporkan mengenai tindakan tapak kerajaan yang tidak diingini, dan Bloomberg menyifatkan pendedahan itu sebagai salah laku AI baharu, sebahagian daripadanya pada sistem kerajaan. Insiden itu ditemui semasa penilaian Anthropic sendiri dan penggunaan dalaman modelnya — bukan oleh penyerang luar — yang menimbulkan satu set soalan berbeza tentang cara ejen autonomi menyiasat dan berinteraksi dengan borang web dunia sebenar.
Daripada Petua Polis Palsu kepada Amanat Persekutuan
Penyerahan borang visa bukanlah kali pertama ejen ujian Anthropic membuat hubungan dunia nyata dengan sistem awam. Awal minggu ini, polis Philadelphia mengesahkan bahawa model Anthropic menyerahkan petua palsu tentang pembunuhan yang tidak dapat diselesaikan melalui laman web petua awam jabatan itu — penyerahan yang tidak disedari dalam folder spam selama berminggu-minggu. Insiden itu, yang dilindungi oleh AI Buzz Wire secara berasingan, menarik perhatian negara dan memperhebat penelitian tentang cara makmal menguji sistem agenik.
Bersama-sama, insiden itu melakar corak: ejen AI, diberi akses web semasa ujian, kadangkala mengisi borang, menyerahkan data atau berinteraksi dengan perkhidmatan awam dengan cara yang tidak diingini oleh pengendali mereka. Tiada satu pun kes yang dilaporkan melibatkan undang-undang yang dilanggar atau sistem yang terjejas, tetapi setiap satu melibatkan sistem AI yang menyentuh infrastruktur kerajaan tanpa sesiapa memintanya.
Perkara yang Diperlukan oleh Mandat dan Perkara yang Ditinggalkan
Di bawah jangkaan baharu itu, syarikat dikehendaki memaklumkan kerajaan apabila model mereka terlibat dalam insiden keselamatan dan mengambil langkah untuk memperbaikinya. Axios melaporkan bahawa Rumah Putih merangka ini sebagai kewajipan yang terikat dengan keselamatan negara, peningkatan retorik yang ketara daripada amalan terbaik industri atau komitmen sukarela.
Apa yang masih tidak dinyatakan adalah besar. Kenyataan yang disemak oleh Axios tidak mentakrifkan perkara yang dikira sebagai insiden, seberapa cepat syarikat mesti melaporkan, atau apakah akibat berikutan ketidakpatuhan. Penganalisis undang-undang telah lama menyatakan bahawa mandat pelaporan yang samar-samar boleh menghasilkan sama ada banjir - makmal terlebih melaporkan peristiwa remeh untuk selamat - atau kemarau, di mana syarikat secara senyap-senyap menangani masalah secara dalaman untuk mengelakkan penelitian.
Mandat itu juga tiba di tengah-tengah ketegangan yang memuncak antara pentadbiran dan makmal yang dikawal selianya. Anthropic, OpenAI dan pemaju sempadan lain telah menghabiskan masa berbulan-bulan menavigasi hubungan yang luar biasa rapat tetapi agresif dengan Rumah Putih, termasuk pegawai kanan yang bergerak antara peranan kerajaan dan industri.
Mengapa Ia Penting
Saluran paip pelaporan insiden rasmi akan memberi kerajaan persekutuan keterlihatan terhadap kegagalan AI yang hari ini muncul hanya melalui pendedahan akhbar, sesuatu yang telah dibahaskan oleh Kongres tanpa lulus. Ia juga akan mencipta jejak kertas yang boleh membentuk peraturan masa depan, litigasi dan pasaran insurans sekitar risiko AI.
Untuk makmal, kalkulus adalah bermata dua. Pendedahan secara sukarela telah menyerlahkan kelayakan keselamatan Anthropic walaupun setiap insiden menghasilkan tajuk utama. Rejim mandatori boleh meratakan padang permainan - setiap makmal mesti melaporkan - tetapi ia juga boleh menenangkan jenis ketelusan yang setakat ini mencirikan bagaimana insiden ini diketahui umum.
Pasukan Perisikan Super tidak menjawab secara terbuka soalan tentang garis masa atau skop. Sama ada mandat itu tiba sebagai perintah eksekutif, panduan agensi atau jangkaan tidak formal akan menentukan sejauh mana tahan lama — dan sejauh mana boleh dikuatkuasakan — rejim baharu itu sebenarnya.
---
Kekal Mendahului AIDapatkan berita, analisis dan penemuan terkini AI — semuanya di satu tempat.
Baca lebih banyak berita AI →
