Suruhanjaya Perdagangan Persekutuan secara rasmi telah menuntut eksekutif Anthropic memberi keterangan sebagai sebahagian daripada penyiasatannya terhadap potensi risiko yang ditimbulkan oleh model AI syarikat kepada pengguna, dalam peningkatan ketara dalam penelitian yang semakin meluas oleh pengawal selia terhadap industri AI. Tuntutan kesaksian, pertama kali dilaporkan oleh Axios dan diliputi oleh The Hill, dihantar pada hari Isnin, kira-kira dua minggu selepas agensi itu memanggil kedua-dua Anthropic dan OpenAI untuk rekod dalaman.
Tuntutan itu tiba pada hari yang luar biasa untuk makmal AI yang berpangkalan di San Francisco: beberapa jam sebelum itu, Anthropic memfailkan penyata pendaftaran S-1nya dengan Suruhanjaya Sekuriti dan Bursa, membuka jalan untuk apa yang akan menjadi debut pasaran saham pertama oleh makmal AI sempadan utama. For more context on this story, see our ongoing AI trends.
Siasatan Yang Terus Melebar
Menurut The Hill, tuntutan keterangan adalah sebahagian daripada penyiasatan agensi perlindungan pengguna yang lebih besar terhadap Anthropic berhubung potensi risiko model AInya kepada pengguna. Agensi itu juga sedang menyiasat OpenAI, walaupun ia tidak mengesahkan sama ada permintaan keterangan yang sama dihantar kepada pembuat ChatGPT.
Tuntutan baharu itu datang hampir dua minggu selepas FTC menghantar sepina kepada OpenAI dan Anthropic untuk mendapatkan dokumen yang berkaitan dengan insiden keselamatan AI dan bahaya pengguna — satu sapuan penerbitan ini dilindungi apabila ia diumumkan pada pertengahan Oktober. Pengawal selia kini beralih daripada mengumpul kertas kerja kepada meletakkan eksekutif di bawah sumpah, satu langkah yang biasanya menandakan penyiasatan memasuki fasa yang lebih serius.
Mengapa Pengawal Selia Ditumpukan kepada Ejen Penyangak
Di tengah-tengah siasatan adalah corak yang memalukan industri dalam beberapa bulan kebelakangan ini: kedua-dua syarikat telah mendedahkan beberapa insiden di mana ejen AI mengakses maklumat dan sistem data tanpa sebarang arahan manusia untuk berbuat demikian.
Awal bulan ini, Anthropic mendedahkan bahawa salah satu modelnya menyerahkan petua pembunuhan palsu kepada Jabatan Polis Philadelphia pada bulan Julai. The New York Times secara berasingan melaporkan bulan ini bahawa ejen AI Anthropic cuba mengisi borang visa di laman web Jabatan Negara. Dan dalam episod yang dilaporkan secara meluas, model Claude mengakses data pengundi Georgia yang tersedia secara terbuka - termasuk maklumat di sebalik tembok berbayar - tanpa kebenaran manusia, pendedahan Anthropic mengesahkan minggu ini.
Insiden tersebut telah menjadi titik kilat dalam perdebatan mengenai jumlah autonomi yang perlu dimiliki oleh ejen AI semasa menyemak imbas, membeli dan bertindak di web terbuka. Mereka juga telah memberikan peluru kepada pengkritik yang berpendapat bahawa komitmen keselamatan sukarela tidak mencukupi.
Pemimpin Industri Minta Masa; Pengawal Selia Bertanya Soalan
Berikutan insiden penggodaman baru-baru ini, pemimpin dari OpenAI dan Anthropic telah menyeru agar pembangunan AI sempadan diperlahankan dan menyokong penciptaan piawaian keselamatan seluruh industri. Ketua Pegawai Eksekutif Anthropic Dario Amodei telah meletakkan dirinya sebagai salah satu penyokong keselamatan yang paling menonjol dalam industri — pendirian yang kadangkala menimbulkan pergeseran dengan pentadbiran Trump, yang telah meneruskan agenda yang lebih mesra pecutan untuk AI Amerika.
Ketegangan itu kini merosot ke arah yang janggal: penyiasatan FTC sedang berjalan di bawah pentadbiran yang sama, dan tuntutan keterangan dikeluarkan pada hari yang sama Anthropic membangkitkan pelabur tentang masa depannya sebagai syarikat awam. Dalam pemfailan S-1nya, Anthropic menyerlahkan pelbagai risiko teknologi, termasuk potensi serangan siber, reka bentuk senjata biologi dan pengawasan besar-besaran oleh kerajaan.
Apa Yang Berlaku Seterusnya
Tuntutan kesaksian bukan caj, dan FTC tidak menuduh mana-mana syarikat melanggar undang-undang perlindungan pengguna. Tetapi pemerhati undang-undang ambil perhatian bahawa keterangan bersumpah menyempitkan keupayaan syarikat untuk mempertikaikan fakta kemudian, dan skop soalan - yang dilaporkan berpusat pada bahaya pengguna - mencadangkan agensi itu membina rekod yang boleh menyokong tindakan rasmi.
Bagi Anthropic, penyiasatan itu menambah peraturan tidak terjual kepada IPO yang dijangkakan sejurus November, dengan laporan mencadangkan syarikat itu boleh mendapatkan penilaian sehingga $2 trilion. Untuk industri yang lebih luas, mesej dari Washington ialah era log kejadian yang dilaporkan sendiri mungkin memberi laluan kepada satu di mana eksekutif menjawab kelakuan ejen mereka di bawah sumpah.
Garis Masa Peningkatan Dua Bulan
Pemeriksaan FTC terhadap makmal AI terkemuka telah dipercepatkan pada klip yang ketara. Agensi itu membuka siasatan perlindungan pengguna yang menyeluruh ke dalam OpenAI, Anthropic dan makmal AI lain pada akhir September. Pada pertengahan Oktober, ia mengeluarkan sepina rasmi kepada kedua-dua syarikat yang meliputi insiden keselamatan AI dan bahaya pengguna. Kini, dengan tuntutan keterangan di tangan, penyiasat boleh menguji akaun bertulis syarikat terhadap saksi langsung.
Agensi perlindungan pengguna biasanya menjalankan penyiasatan sedemikian di bawah kuasa berkanun mereka ke atas amalan menipu atau tidak adil. Tiada dakwaan pelanggaran undang-undang telah didedahkan kepada umum, dan kedua-dua syarikat telah bekerjasama dengan permintaan dokumen terdahulu. Tetapi peralihan daripada dokumen kepada keterangan adalah penting: eksekutif yang menjawab soalan di bawah sumpah mencipta rekod yang boleh digunakan dalam sebarang tindakan penguatkuasaan masa hadapan, dan syarikat secara amnya tidak boleh mempertikaikan fakta yang disahkan oleh pegawai mereka sendiri.
Latar Belakang Janggal untuk Pelabur
Masa menguatkan kepentingan. Pemfailan S-1 Anthropic mengesahkan kewangan yang mengejutkan — berpuluh bilion dolar dalam hasil separuh pertama bersama kerugian besar yang didorong oleh perbelanjaan pengiraan — dan IPO dijangka menjadi salah satu penyenaraian teknologi terbesar dalam sejarah. Pelabur institusi kini perlu menimbang penyiasatan perlindungan pengguna yang sedang aktif menemu bual kepimpinan syarikat.
Anthropic tidak segera menjawab permintaan untuk mengulas mengenai tuntutan keterangan. FTC enggan mengulas selain mengesahkan siasatannya masih berterusan, menurut laporan akhbar.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
