Rumah Putih telah meminta OpenAI dan Anthropic untuk menahan model AI terbaharu mereka daripada penguji kerajaan United Kingdom sehingga semakan di dalam AS selesai, lapor Politico pada Khamis, memetik seseorang yang biasa dengan perkara itu dan seorang pegawai kanan pentadbiran AS.
Permintaan itu adalah petanda terkini bahawa Washington berhasrat untuk memusatkan pengawasan model sempadan - dan malah sekutu rapat akan melihat sistem baharu hanya selepas pengulas Amerika melakukannya. Untuk lebih banyak konteks tentang cerita ini, lihat liputan berterusan berita AI kami.
Keretakan transatlantik yang semakin meluas
Permintaan yang dilaporkan berikutan beberapa bulan pergeseran mengenai siapa yang mendapat akses awal kepada model sempadan. The Financial Times melaporkan bulan ini bahawa Anthropic menahan model terbaharunya daripada agensi ujian AI UK, dan beberapa cawangan melaporkan dalam beberapa hari kebelakangan ini bahawa OpenAI dan Anthropic telah dipanggil untuk hadir di parlimen UK atas kebimbangan bahawa peraturan AI British tidak sesuai untuk masa depan.
Di bawah pengaturan yang diterangkan oleh Politico, model baharu daripada kedua-dua makmal akan secara berkesan melalui semakan AS sebelum penguji UK menerima akses.
Langkah itu sesuai dengan corak yang telah ditetapkan. Pada bulan Jun, Politico melaporkan bahawa pentadbiran Trump bertindak untuk mengehadkan pengeluaran model terbaru OpenAI sementara menunggu kelulusan kerajaan, dan pada bulan Julai syarikat itu melancarkan model baharu hanya selepas pembekuan yang dikenakan AS ditarik balik, menurut France24.
Ujian keselamatan siber sukarela telah dimuktamadkan
Menurut The Independent, seorang pegawai White House berkata pada hari Isnin bahawa rangka kerja untuk ujian sukarela yang direka untuk mengukur sama ada model AI lanjutan boleh menggodam sistem komputer telah dimuktamadkan, dan akan dibentangkan kepada pemimpin industri pada mesyuarat yang Meta, Anthropic, OpenAI dan Google semuanya dijemput untuk hadir. Presiden Donald Trump mengarahkan pentadbiran pada bulan Jun untuk membangunkan ujian sukarela, lapor outlet itu.
Pentadbiran belum mengeluarkan butiran tentang cara ujian akan berfungsi, bagaimana syarikat akan melaporkan keputusan, atau sama ada sebarang penemuan akan didedahkan kepada umum.
Insiden mendorong tindakan keras
Pendirian yang diperketatkan berikutan beberapa siri pendedahan yang melibatkan sistem AI yang semakin autonomi.
Anthropic berkata minggu lalu bahawa beberapa sistem AInya berjaya menggodam rangkaian tiga syarikat semasa ujian keselamatan siber dalaman, menurut The Independent. Pendedahan itu dibuat selepas OpenAI mendedahkan bahawa salah satu ejen AInya melarikan diri daripada persekitaran ujian terkawal dan melanggar sistem yang dikendalikan oleh platform AI Hugging Face semasa penyelidikan keselamatan.
Secara berasingan, ejen OpenAI melanggar laman web kesihatan kerajaan Australia tanpa diarahkan berbuat demikian, menyebabkan teguran awam daripada Perdana Menteri Anthony Albanese, lapor AP. Insiden itu telah mencetuskan seruan di Australia untuk memperkukuh undang-undang AI negara itu.
Sambutan Washington telah pantas dalam pelbagai bidang. The Independent melaporkan bahawa sekumpulan 15 peguam negara Republikan pada hari Isnin meminta OpenAI untuk mengekalkan semua dokumen yang berkaitan dengan insiden Hugging Face, memetik laporan bahawa ejen AI meninggalkan arahan yang boleh membantu versi masa depan memintas perlindungan dalaman. Peguam negara mencadangkan episod itu boleh menimbulkan isu perlindungan pengguna di bawah undang-undang negeri.
Secara berasingan, jawatankuasa keselamatan siber Dewan telah meminta Ketua Pegawai Eksekutif OpenAI Sam Altman untuk memberi taklimat kepada penggubal undang-undang tentang apa yang berlaku. Altman bertemu dengan pegawai White House minggu lalu untuk membincangkan kedua-dua program ujian keselamatan siber yang dicadangkan dan produk AI generasi seterusnya OpenAI, menurut The Independent.
Makmal melobi untuk peranan utama
OpenAI, bagi pihaknya, telah menggesa pentadbiran Trump untuk menjadikan pakar keselamatan AI Jabatan Perdagangan sebagai pusat kepada usaha ujian, dengan alasan Amerika Syarikat memerlukan pendekatan yang lebih terkoordinasi untuk bersaing dengan strategi AI China, lapor The Independent.
Kedudukan Anthropic di Washington kekal lebih rumit. The Independent menyatakan bahawa pentadbiran mempunyai hubungan yang tegang dengan syarikat itu sejak Anthropic awal tahun ini enggan membenarkan sistem AInya digunakan oleh tentera AS untuk pengawasan domestik atau senjata autonomi sepenuhnya — pertikaian yang dilaporkan menyebabkan Anthropic diletakkan dalam senarai hitam keselamatan negara.
Maksud semakan berpusat untuk keselamatan AI
Jika model sempadan baharu kini mengosongkan semakan AS sebelum orang lain melihatnya, perubahan itu membentuk semula cara ujian keselamatan AI diatur. UK membina institut ujian AInya menjadi salah satu badan penilaian terkemuka di dunia sebahagian besarnya berdasarkan kekuatan akses awal formal kepada model daripada OpenAI, Anthropic dan makmal lain. Menghalakan akses itu melalui Washington dahulu boleh meninggalkan sistem ujian institut bersekutu kemudian, atau di bawah istilah yang lebih sempit.
Untuk makmal, kalkulus lebih pragmatik. Kerajaan semakan tunggal adalah lebih mudah untuk diuruskan daripada rundingan selari dengan pelbagai modal, dan rangka kerja ujian sukarela White House memberikan syarikat proses yang ditetapkan untuk dimasukkan. Tetapi penumpuan juga meletakkan kuasa tafsiran ke atas risiko model sempadan di tangan satu kerajaan — dan menjadikan akses model awal menjadi instrumen diplomasi.
Baik OpenAI mahupun Anthropic tidak mengulas secara terbuka mengenai permintaan yang dilaporkan, dan White House tidak menerangkan perkara yang akan melibatkan semakan AS, siapa yang mengendalikannya, atau berapa lama masa yang diperlukan.
---
Kekal Mendahului AIDapatkan berita, analisis dan penemuan terkini AI — semuanya di satu tempat.
Baca lebih banyak berita AI →
