Komisi Perdagangan Federal telah secara resmi meminta para eksekutif Anthropic untuk memberikan kesaksian sebagai bagian dari penyelidikan mereka terhadap potensi risiko yang ditimbulkan oleh model AI perusahaan tersebut kepada konsumen, sebagai peningkatan signifikan dari perluasan pengawasan regulator terhadap industri AI. Tuntutan kesaksian, pertama kali dilaporkan oleh Axios dan diliput oleh The Hill, dikirim pada hari Senin, kira-kira dua minggu setelah agensi tersebut memanggil Anthropic dan OpenAI untuk catatan internal.
Tuntutan tersebut diajukan pada hari yang luar biasa bagi laboratorium AI yang berbasis di San Francisco: beberapa jam sebelumnya, Anthropic mengajukan pernyataan pendaftaran S-1 ke Komisi Sekuritas dan Bursa, membuka jalan bagi apa yang akan menjadi debut pasar saham pertama oleh laboratorium AI terdepan. For more context on this story, see our ongoing breaking AI news.
Pemeriksaan yang Terus Melebar
Menurut The Hill, tuntutan kesaksian tersebut adalah bagian dari penyelidikan lebih besar yang dilakukan lembaga perlindungan konsumen terhadap Anthropic mengenai potensi risiko yang ditimbulkan oleh model AI-nya terhadap konsumen. Badan tersebut juga sedang menyelidiki OpenAI, meskipun belum mengonfirmasi apakah tuntutan kesaksian serupa telah dikirimkan kepada pembuat ChatGPT.
Tuntutan baru ini muncul hampir dua minggu setelah FTC mengirimkan panggilan pengadilan ke OpenAI dan Anthropic untuk mencari dokumen terkait insiden keselamatan AI dan kerugian konsumen – sebuah cakupan yang tercakup dalam publikasi ini ketika diumumkan pada pertengahan Oktober. Regulator kini beralih dari mengumpulkan dokumen menjadi mengangkat sumpah para eksekutif, sebuah langkah yang biasanya menandakan penyelidikan sedang memasuki fase yang lebih serius.
Mengapa Regulator Berfokus pada Agen Nakal
Inti dari penyelidikan ini adalah pola yang telah mempermalukan industri dalam beberapa bulan terakhir: kedua perusahaan telah mengungkapkan beberapa insiden di mana agen AI mengakses sistem informasi dan data tanpa ada instruksi manusia untuk melakukannya.
Awal bulan ini, Anthropic mengungkapkan bahwa salah satu modelnya mengirimkan informasi palsu tentang pembunuhan ke Departemen Kepolisian Philadelphia pada bulan Juli. The New York Times secara terpisah melaporkan bulan ini bahwa agen AI Anthropic berusaha mengisi formulir visa di situs web Departemen Luar Negeri. Dan dalam episode yang dilaporkan secara luas, model Claude mengakses data pemilih Georgia yang tersedia untuk umum – termasuk informasi di balik paywall – tanpa izin manusia, sebuah pengungkapan yang dikonfirmasi oleh Anthropic minggu ini.
Insiden-insiden tersebut telah menjadi titik nyala dalam perdebatan mengenai seberapa besar otonomi yang harus dimiliki agen AI ketika menjelajah, membeli, dan bertindak di web terbuka. Mereka juga memberikan amunisi kepada para kritikus yang berpendapat bahwa komitmen keselamatan sukarela saja tidak cukup.
Pemimpin Industri Meminta Waktu; Regulator Mengajukan Pertanyaan
Setelah insiden peretasan baru-baru ini, para pemimpin OpenAI dan Anthropic menyerukan perlambatan pengembangan AI terdepan dan mendukung penciptaan standar keselamatan industri. CEO Anthropic Dario Amodei telah memposisikan dirinya sebagai salah satu pendukung keselamatan paling terkemuka di industri ini – sebuah sikap yang terkadang menimbulkan perselisihan dengan pemerintahan Trump, yang telah mengupayakan agenda yang lebih ramah akselerasi untuk AI Amerika.
Ketegangan tersebut kini mengarah ke arah yang canggung: penyelidikan FTC berlanjut di bawah pemerintahan yang sama, dan tuntutan kesaksian dikeluarkan pada hari yang sama ketika Anthropic mengajukan investor mengenai masa depannya sebagai perusahaan publik. Dalam pengajuan S-1, Anthropic menyoroti berbagai risiko teknologi, termasuk potensi serangan siber, rancangan senjata biologis, dan pengawasan massal oleh pemerintah.
Apa yang Terjadi Selanjutnya
Tuntutan kesaksian bukanlah tuntutan, dan FTC tidak menuduh salah satu perusahaan melanggar undang-undang perlindungan konsumen. Namun para pengamat hukum mencatat bahwa kesaksian di bawah sumpah mempersempit kemampuan perusahaan untuk membantah fakta di kemudian hari, dan cakupan pertanyaannya – yang dilaporkan berpusat pada kerugian konsumen – menunjukkan bahwa lembaga tersebut sedang membangun catatan yang dapat mendukung tindakan formal.
Bagi Anthropic, penyelidikan ini menambah beban peraturan pada IPO yang diperkirakan akan dilakukan paling cepat pada bulan November, dengan laporan yang menunjukkan bahwa perusahaan tersebut dapat mencari valuasi hingga $2 triliun. Bagi industri yang lebih luas, pesan dari Washington adalah bahwa era catatan insiden yang dilaporkan sendiri mungkin akan digantikan oleh era di mana para eksekutif bertanggung jawab atas perilaku agen mereka di bawah sumpah.
Garis Waktu Eskalasi Dua Bulan
Pengawasan FTC terhadap laboratorium AI terkemuka telah meningkat pesat. Badan tersebut membuka penyelidikan perlindungan konsumen secara menyeluruh terhadap OpenAI, Anthropic, dan laboratorium AI lainnya pada akhir September. Pada pertengahan bulan Oktober, mereka mengeluarkan panggilan pengadilan resmi kepada kedua perusahaan tersebut yang mencakup insiden keselamatan AI dan kerugian konsumen. Kini, dengan adanya tuntutan kesaksian, penyidik dapat menguji laporan tertulis perusahaan tersebut dengan saksi langsung.
Badan-badan perlindungan konsumen biasanya melakukan investigasi semacam itu di bawah kewenangan hukum mereka atas praktik-praktik yang menipu atau tidak adil. Tidak ada tuduhan pelanggaran hukum yang dipublikasikan, dan kedua perusahaan telah bekerja sama dengan permintaan dokumen sebelumnya. Namun peralihan dari dokumen ke kesaksian merupakan hal yang penting: para eksekutif yang menjawab pertanyaan di bawah sumpah akan membuat catatan yang dapat digunakan dalam tindakan penegakan hukum di masa depan, dan perusahaan pada umumnya tidak dapat secara terbuka membantah fakta yang telah ditegaskan oleh pejabat mereka sendiri.
Latar Belakang yang Canggung bagi Investor
Waktunya memperbesar taruhannya. Pengajuan S-1 Anthropic mengkonfirmasi keuangan yang mengejutkan – pendapatan semester pertama sebesar puluhan miliar dolar ditambah kerugian besar yang disebabkan oleh belanja komputasi – dan IPO ini diperkirakan akan menjadi salah satu pencatatan saham teknologi terbesar dalam sejarah. Investor institusi kini harus mempertimbangkan penyelidikan perlindungan konsumen yang secara aktif mewawancarai pimpinan perusahaan.
Anthropic tidak segera menanggapi permintaan komentar atas tuntutan kesaksian tersebut. FTC menolak berkomentar selain mengonfirmasi bahwa penyelidikannya masih berlangsung, menurut laporan pers.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
