OpenAI telah bekerja sama dengan pesaingnya Anthropic dan Google DeepMind selama beberapa minggu untuk merancang kerangka kerja keamanan kecerdasan buatan, seorang eksekutif senior mengkonfirmasi pada hari Selasa, mengungkapkan tingkat kerja sama yang tidak biasa antara perusahaan yang bersaing ketat di hampir semua hal.
Chris Lehane, kepala kebijakan global OpenAI, mengatakan kepada wartawan pada konferensi pers di Washington bahwa ketiga laboratorium tersebut telah berkoordinasi dalam inisiatif keselamatan. “Lebih baik mencoba bekerja sama untuk memprioritaskan keselamatan,” kata Lehane, menurut laporan pengarahan Bloomberg. Komentarnya muncul beberapa hari setelah serangkaian peringatan kepunahan dari para peneliti yang meninggalkan laboratorium industri terbesar. For more context on this story, see our ongoing breaking AI news.
Apa yang Sebenarnya Mencakup Kerjasama
Lehane tidak merinci sifat spesifik dari pekerjaan tersebut, namun pengungkapan tersebut mengikuti serangkaian posisi publik yang luar biasa dari nama-nama besar industri tersebut. Pada hari Sabtu, kepala eksekutif Anthropic Dario Amodei menerbitkan sebuah esai yang menyerukan industri AI untuk bekerja sama dalam memperlambat laju pengembangan model frontier untuk menghindari apa yang disebutnya “risiko bencana.”
Seruan tersebut mendapat dukungan yang mengejutkan dari seluruh kelompok kompetitif: Sam Altman dari OpenAI, Demis Hassabis dari Google, dan Elon Musk semuanya mendukung sentimen tersebut. Altman melangkah lebih jauh dengan mengatakan OpenAI bersedia bergabung dengan inisiatif Anthropic untuk memasukkan evaluator pihak ketiga ke dalam tim pengembangannya untuk memantau keamanan AI dari dalam. Sementara itu, salah satu pendiri Anthropic, Jack Clark, mengatakan kepada NPR bahwa memperlambat AI pada dasarnya adalah “masalah tindakan kolektif” yang tidak dapat diselesaikan sendiri oleh laboratorium mana pun.
Namun, tidak semua orang di dalam OpenAI menganggap perdebatan mengenai kecepatan ini sebagai hal yang mendesak. Chief Financial Officer Sarah Friar mengatakan kepada CNBC bahwa dia tidak khawatir akan memperlambat pengembangan AI – sebuah pengingat bahwa perusahaan tersebut secara bersamaan menarik investor dengan valuasi yang mencapai lebih dari satu triliun dolar.
Bayangan Antitrust Atas Kerjasama
Koordinasi apa pun di antara laboratorium AI yang dominan akan menghadapi masalah hukum yang jelas: undang-undang antimonopoli Amerika Serikat. Pakar hukum telah memperingatkan bahwa kesepakatan di antara para pesaing untuk membatasi produk mereka dapat ditafsirkan sebagai "pembatasan produksi", yang merupakan pelanggaran terhadap Sherman Act.
Kekhawatiran itu telah berpindah ke Capitol Hill. Senator Jim Banks dari Indiana dan Adam Schiff dari California mengusulkan undang-undang – Undang-Undang Kolaborasi Ancaman Adversarial dan Risiko Keamanan – yang akan memungkinkan laboratorium AI untuk bertindak demi keselamatan bahkan ketika tindakan tersebut dapat menimbulkan masalah antimonopoli. Esai Amodei berpendapat bahwa pemerintah harus mempertimbangkan untuk memberikan pengecualian terhadap kerja sama keselamatan kepada perusahaan-perusahaan tersebut, meskipun Lehane mengatakan kepada wartawan bahwa menurutnya tindakan seperti itu tidak diperlukan.
Jensen Huang dari Nvidia masih terus terang. Berbicara di Dreamforce pada hari Selasa, dia menyebut proposal pengabaian antimonopoli Anthropic "sama sekali tidak perlu," menurut CNBC, menggarisbawahi perpecahan yang semakin dalam antara laboratorium yang mendesak pengendalian diri dan raksasa perangkat keras yang mendesak percepatan.
"Kartel dengan Nama Lain"
Kritik terhadap kerja sama ini sangat pedas. Kepala eksekutif Cohere, Aidan Gomez, menulis dalam sebuah postingan blog menanggapi esai Amodei bahwa seruan keselamatan tersebut terlihat seperti upaya laboratorium AI terkemuka untuk menyamarkan skema anti-persaingan yang akan mempertahankan keunggulan mereka dalam pengembangan model terdepan, memungkinkan laboratorium yang "dominan pasar" untuk menentukan aturan bagi semua orang.
“Sekali lagi menggunakan rasa takut dengan dalih melindungi masyarakat, para oligopoli ini kini meminta untuk mengubah aturan persaingan dan diizinkan untuk mendikte ketentuan bagi semua orang,” tulis Gomez, menyebut pengaturan tersebut sebagai “serigala berbulu domba, kartel dengan nama lain.”
Presiden Donald Trump telah menolak seruan Amodei untuk melakukan perlambatan, dengan berargumentasi dalam sebuah postingan di Truth Social bahwa setiap perlambatan akan memungkinkan Tiongkok untuk menyalip Amerika Serikat dalam perlombaan AI. David Sacks, penasihat utama AI di Gedung Putih, mengatakan kekhawatiran bahwa AI dapat menimbulkan ancaman nyata adalah hal yang berlebihan.
Para analis di CNBC mengamati bahwa kini ada dua kubu yang muncul dalam perdebatan mengenai keamanan dan regulasi AI: kubu yang satu mendesak pemerintah untuk memperlambat laju teknologi sebelum terjadi masalah, dan kubu lainnya – yang terdiri dari Nvidia, Gedung Putih, dan pendukung model terbuka – berpendapat bahwa keragu-raguan adalah bahaya yang lebih besar.
Dorongan Capitol Hill OpenAI
Pernyataan Lehane disampaikan saat konferensi pers di Washington, di mana dia dijadwalkan bertemu dengan anggota parlemen. OpenAI mendukung dua rancangan undang-undang bipartisan, menurut pernyataan publik perusahaan dan laporan Reuters dan Politico.
Yang pertama adalah FRONTIER Act, yang menyerukan kerangka kerja federal untuk keselamatan AI dan mengharuskan laboratorium AI untuk menyerahkan model baru untuk diaudit oleh evaluator independen. OpenAI juga mendukung tindakan yang memerlukan audit independen terhadap model AI, CBS News melaporkan. Proposal kedua, yang masih dalam pengembangan, adalah proposal yang dibuat oleh Pemimpin Mayoritas Senat John Thune bersama Senator Republik Ted Cruz dan Senator Demokrat Amy Klobuchar. Menurut Reuters, RUU tersebut akan memberi Menteri Perdagangan wewenang untuk melakukan audit keselamatan terhadap model-model baru sebelum dirilis. OpenAI secara terpisah telah mendukung rencana bipartisan untuk mengatasi ancaman biologis AI, Politico melaporkan.
Konvergensi ini sangat mengejutkan: perusahaan-perusahaan yang memperingatkan akan adanya AI yang tidak terkendali kini secara sukarela melakukan audit independen, sementara para pengkritiknya memperingatkan bahwa kolaborasi itu sendiri mungkin merupakan bahaya yang lebih besar. Cara Kongres melakukan hal tersebut – memungkinkan kerja sama keselamatan tanpa memberi izin pada kartel – dapat menentukan kebijakan AI selama bertahun-tahun.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
