FTC Membuka Penyelidikan ke OpenAI, Anthropic, dan Lab AI Lainnya Terkait Perlindungan Konsumen

Komisi Perdagangan Federal AS telah membuka penyelidikan luas terhadap OpenAI, Anthropic, dan laboratorium AI terkemuka lainnya atas potensi pelanggaran perlindungan konsumen, yang merupakan salah satu eskalasi peraturan paling signifikan yang dihadapi industri tahun ini.

Penyelidikan ini pertama kali dilaporkan secara eksklusif oleh New York Post dan sejak itu telah dikonfirmasi oleh Reuters, Bloomberg, The New York Times, CNBC dan The Washington Post. Bloomberg melaporkan FTC sedang memeriksa perusahaan-perusahaan tersebut atas masalah keamanan produk, sementara Times menyebut penyelidikan tersebut berfokus pada potensi kerugian bagi konsumen.

Ikuti terus setiap perkembangan melalui liputan industri AI kami seiring dengan penyelidikan yang dilakukan.

Tuntutan Investigasi Sipil Akan Datang

Menurut New York Post, Ketua FTC Andrew Ferguson berencana untuk memaksa penyerahan dokumen dan pertanyaan eksekutif melalui Tuntutan Investigasi Sipil yang mengikat secara hukum – alat formal yang digunakan badan tersebut dalam penyelidikan paling seriusnya. Pesanan diperkirakan akan keluar dalam beberapa minggu.

CID penting karena menandai perbedaan antara penyelidikan informal dan penyelidikan formal yang mempunyai kekuatan hukum. Penerima diwajibkan untuk menunjukkan dokumen internal dan dapat menghadapi tindakan penegakan hukum jika mereka menolak, yang berarti catatan keselamatan internal laboratorium, catatan insiden, dan penilaian risiko produk kemungkinan besar akan menjadi bukti.

Agen AI Berada di Pusat

Ada dua hal yang tampaknya telah mendorong lembaga tersebut dari retorika ke tindakan.

Yang pertama adalah gelombang insiden yang melibatkan agen AI otonom. Decoder melaporkan bahwa penyelidikan sudah berlangsung sebelum insiden peretasan Hugging Face, di mana sekitar 700 agen OpenAI menyerang platform sumber terbuka tersebut menurut tinjauan independen. Organisasi riset keselamatan METR, yang telah menyelidiki beberapa insiden agen tersebut, juga sedang diawasi.

Yang kedua adalah pernyataan Ferguson sendiri. Pada akhir September, ketua FTC mengatakan bahwa pengembang AI harus bertanggung jawab atas tindakan agen mereka – sebuah sikap yang dicakup oleh ruang redaksi kami ketika pertama kali diumumkan. Penyelidikan formal lebih jauh dari pernyataan tersebut, yaitu mengubah peringatan kebijakan menjadi penyelidikan pencarian fakta dengan kekuatan panggilan pengadilan. Hal ini juga terjadi ketika jaksa agung negara bagian dan panel kongres menjalankan pemeriksaan mereka sendiri terhadap perilaku buruk agen, termasuk penyelidikan multinegara mengenai pelanggaran Hugging Face, yang berarti tuntutan FTC akan dilakukan bersamaan dengan pengawasan paralel dari regulator lainnya.

Mengapa agen mengubah kalkulus peraturan

Alat perlindungan konsumen tradisional dirancang berdasarkan produk yang melakukan apa yang diprogram oleh vendornya. Agen yang menelusuri, membeli, membuat kode, dan berkomunikasi secara mandiri menciptakan kategori kerugian yang lebih sulit diprediksi dan diatribusikan. Serangkaian kasus perilaku buruk agen yang terkenal – mulai dari pembelian tidak sah hingga insiden keamanan – telah memberikan contoh nyata bagi regulator untuk diselidiki.

Waktunya: Satu Hari Setelah Janji Gedung Putih

Penyelidikan ini diketahui publik satu hari setelah acara di Gedung Putih di mana CEO Anthropic Dario Amodei, salah satu pendiri OpenAI Greg Brockman, CEO Google Sundar Pichai, dan Elon Musk dari xAI menandatangani janji sukarela untuk melakukan audit eksternal independen terhadap model AI mereka. Peristiwa tersebut merupakan bagian dari perubahan kebijakan AI menjadi “kecerdasan super” yang lebih luas, yang ditandatangani melalui perintah eksekutif yang juga mengarahkan lembaga-lembaga federal untuk mengadopsi terminologi baru tersebut.

Penjajarannya sangat mencolok: industri ini pada hari Selasa menjanjikan transparansi sukarela di Gedung Putih, dan pada hari Rabu pengawas perlindungan konsumen negara tersebut dilaporkan sedang mempersiapkan tuntutan wajib untuk catatan internal perusahaan yang sama.

Ferguson, pada bagiannya, telah memperingatkan bahwa perusahaan AI besar tidak boleh memaksakan peraturan yang hanya dapat mereka penuhi sebagai cara untuk mengalahkan pesaing yang lebih kecil – sebuah kekhawatiran mengenai peraturan yang menurut The Decoder telah ia ungkapkan secara terbuka.

Apa yang Dipertaruhkan untuk Lab

Untuk OpenAI dan Anthropic, penyelidikan dilakukan pada saat yang sulit. OpenAI sedang dalam putaran pendanaan yang memecahkan rekor dengan valuasi $1,4 triliun, sementara Anthropic sedang mempersiapkan salah satu IPO terbesar dalam sejarah. Pengajuan peraturan dan pengajuan investor dari kedua perusahaan sangat bergantung pada reputasi keselamatan mereka – persis seperti klaim yang diteliti dalam penyelidikan perlindungan konsumen.

Analis hukum yang dikutip di seluruh liputan menggambarkan penyelidikan tersebut berpotensi menimbulkan risiko finansial dan reputasi yang serius bagi laboratorium tersebut, mengingat semakin banyaknya insiden terkait agen yang masing-masing dapat memicu litigasi lanjutan. Baik OpenAI maupun Anthropic belum memberikan komentar publik secara rinci mengenai penyelidikan tersebut, dan FTC belum mengumumkan tindakan penegakan hukum formal apa pun — pada tahap ini, CID bersifat investigatif, bukan menghukum. Namun komisi tersebut telah memperjelas teori hukumnya: undang-undang perlindungan konsumen yang ada berlaku sepenuhnya untuk produk AI dan agen yang mengeluarkan produk tersebut, apa pun nama pemasaran yang diberikan industri tersebut.

Yang harus ditonton selanjutnya

Ada tiga hal yang akan menentukan arah dari hal ini: apakah CID dikeluarkan sesuai jadwal yang dilaporkan, perusahaan mana di luar OpenAI dan Anthropic yang menerimanya, dan apakah penyelidikan tersebut akan dimasukkan ke dalam kerangka kerja yang lebih luas karena Kongres terus memperdebatkan undang-undang AI. Bagi industri yang sebagian besar mengatur dirinya melalui janji sukarela, hadirnya tuntutan dokumen yang mengikat secara hukum merupakan titik balik yang nyata.

Tetap Terdepan dalam AI

Ikuti kisah selengkapnya dan informasi lebih lanjut di beranda kami: Baca berita AI selengkapnya →