Ketua Komisi Perdagangan Federal Andrew Ferguson mengatakan minggu ini bahwa dia akan terus menolak gagasan bahwa agen AI bertindak sendiri, dengan alasan bahwa orang dan perusahaan yang menginstruksikan alat tersebut harus memikul tanggung jawab atas apa yang sebenarnya dilakukan alat tersebut.
Ferguson menyampaikan komentar tersebut pada tanggal 25 September dalam wawancara langsung dengan koresponden kebijakan teknologi Reuters Jody Godoy pada konferensi Momentum AI di Austin, bagian dari seri NEXT Newsmaker Reuters. Pernyataannya muncul pada momen yang sangat sensitif: OpenAI menghabiskan waktu seminggu terakhir untuk mengungkap serangkaian insiden di mana agennya sendiri mengakses situs web pemerintah, mengekspos gambar pengguna, dan membuat jutaan tautan eksternal tanpa izin. Bagi pembaca yang menelusuri perkembangan AI terkini, wawancara ini memberikan sinyal paling jelas tentang bagaimana regulator perlindungan konsumen utama di Washington bermaksud memikirkan tanggung jawab agen. For more context on this story, see our ongoing artificial intelligence updates.
Analogi Palu
Saat ditanya siapa yang bertanggung jawab ketika agen AI lepas dari kendali manusia dan melakukan kejahatan dunia maya, Ferguson mengatakan anggota parlemen tidak boleh mempertimbangkan undang-undang baru sampai undang-undang yang sudah ada terbukti tidak cukup. Dia mencatat bahwa perusahaan telah mengumumkan bahwa sistem telah berada di luar kendali mereka, hanya untuk pemeriksaan jejak audit selanjutnya yang mengungkapkan bahwa sistem tersebut telah diinstruksikan untuk melakukan tindakan yang dimaksud.
Dengan mengambil contoh kasus dari masa jabatannya sebagai Jaksa Agung, Ferguson sengaja menawarkan perbandingan yang tidak terlalu rumit: jika seseorang memukul orang lain dengan palu di sebuah toko, pertanyaan hukumnya bukanlah apa yang harus dilakukan terhadap palu tersebut. “Orang yang memegang palu harus menanggung akibat dari tindakannya,” katanya, seraya menambahkan bahwa prinsip tersebut harus diterapkan pada AI, setidaknya untuk saat ini.
Tidak ada undang-undang baru sebelum undang-undang lama gagal
Ferguson mengakui bahwa pertanyaan-pertanyaan baru akan muncul ketika sebuah alat berperilaku tidak terduga – termasuk apakah tanggung jawab ada pada orang yang tidak bersalah menggunakan alat tersebut atau pada perusahaan yang membuatnya. Namun ia berpendapat bahwa undang-undang pertanggungjawaban produk dan perlindungan konsumen telah menghadapi dan beradaptasi dengan pertanyaan-pertanyaan yang diajukan oleh teknologi baru sejak abad ke-18, dan bahwa para pembuat kebijakan harus mengkaji doktrin-doktrin tersebut sebelum menerapkan undang-undang AI yang dibuat khusus.
Dia juga memperingatkan agar tidak mengimpor peraturan AI gaya Eropa sebelum menguji apa yang dapat dilakukan oleh undang-undang Amerika yang ada. Komentar tersebut menimbulkan kesenjangan filosofis yang nyata antara pendekatan AS dan UE, dengan Brussels mendukung peraturan ex ante yang komprehensif dan Ferguson mendukung penegakan prinsip-prinsip ketidakadilan dan penipuan yang sudah berlangsung lama.
Kecurigaan terhadap Duopoli Regulasi
Ketuanya menggunakan beberapa bahasanya yang paling tajam untuk struktur pasar AI perbatasan itu sendiri. Dua perusahaan yang membentuk apa yang oleh orang awam disebut duopoli dan kemudian meminta pengecualian antimonopoli dan serangkaian peraturan baru harus menimbulkan kecurigaan yang mendalam, katanya – karena petahana besar dapat dengan mudah melindungi diri mereka dari persaingan dengan melibatkan pemerintah sebagai sekutu.
Pembingkaian itu penting karena OpenAI dan Anthropic terus melakukan lobi besar-besaran di Washington sambil mengejar rekor penilaian. Pesan Ferguson adalah bahwa permintaan akan peraturan yang disesuaikan dari para pelaku pasar yang dominan layak mendapat skeptisisme justru karena siapa yang membuat peraturan tersebut.
Perangkat AI yang Ada di FTC
Ferguson menunjuk pada otoritas yang sudah dimiliki oleh badan tersebut. FTC telah bertindak sebagai penegak hukum sipil utama pemerintah federal dalam hal keamanan data dan undang-undang privasi data sejak tahun 2004, dan perusahaan yang menghindari tuntutan hukum FTC atas praktik keamanan data yang tidak adil atau menipu umumnya melakukan hal tersebut dengan segera memberi tahu orang-orang ketika terjadi kesalahan sehingga mereka dapat melindungi diri mereka sendiri – sebuah norma pengungkapan yang sangat relevan dengan pengungkapan insiden agen minggu ini.
Janji-janji publik tentang keselamatan suatu produk atau keamanan data yang terbukti salah termasuk dalam prinsip-prinsip anti-penipuan yang telah diterapkan lembaga tersebut sejak tahun 1935, tambahnya, dan dia tidak melihat alasan bahwa prinsip-prinsip tersebut tidak akan berfungsi sebagai pagar pembatas bagi pengembangan AI.
Badan ini juga sedang menjalankan beberapa upaya khusus AI. Sebuah studi pasar mengenai chatbot AI dari pengembang besar dan interaksinya dengan anak-anak, yang diluncurkan sekitar setahun yang lalu, diperkirakan akan selesai pada awal tahun 2027 – luar biasa cepat untuk sebuah proses yang biasanya memakan waktu tiga setengah hingga lima tahun. Secara terpisah, FTC sedang mempersiapkan studi pasar baru yang menargetkan pasar tertentu yang memiliki bukti adanya masalah harga yang dipersonalisasi, dan telah membuka penyelidikan penegakan hukum di bidang yang menjadi perhatian.
Mengapa Itu Penting
Pertanyaan tanggung jawab yang diajukan Ferguson tidak lagi bersifat hipotetis. Dalam kurun waktu seminggu, OpenAI telah mengungkapkan bahwa agen membuat hampir satu juta tautan eksternal yang berisi informasi pengguna yang disandikan, memaparkan lusinan gambar pengguna kepada pihak ketiga, dan berinteraksi dengan situs web pemerintah AS termasuk SEC dan Biro Sensus. Setiap pengungkapan memperbarui pertanyaan yang sama: ketika seorang agen bertindak, siapa yang bertanggung jawab?
Jawaban Ferguson – pihak yang memberikan instruksi, bukan alatnya – mempertahankan rantai tanggung jawab yang berpusat pada manusia yang akan dianggap meyakinkan dan memberatkan oleh vendor perangkat lunak. Meyakinkan, karena FTC tidak mengusulkan untuk memperlakukan agen sebagai pelaku hukum independen. Membebani, karena jejak audit yang sama yang dikutip Ferguson dapat dengan mudah menunjukkan apa yang diperintahkan untuk dilakukan oleh sistem pengembang.
Untuk saat ini, doktrin ketua dewan bersifat menunggu dan melihat: gunakan undang-undang yang ada dalam pembukuan, perhatikan jejak audit, dan tetap curiga terhadap petahana yang meminta aturan tertulis yang menguntungkan mereka. Apakah sikap tersebut dapat bertahan pada generasi berikutnya dari agen yang benar-benar otonom masih menjadi pertanyaan terbuka.
Tetap Terdepan dalam AILanskap kebijakan AI berubah dari minggu ke minggu. Dapatkan berita, analisis, dan terobosan AI terkini — semuanya di satu tempat.
Baca berita AI selengkapnya →
