Beberapa jam setelah CEO Anthropic Dario Amodei menerbitkan esainya yang berjudul "We Must Pace the Frontier" yang menyerukan kepada pemerintah untuk memperlambat perlombaan AI, tanggapan yang tajam mulai muncul di Hacker News, yang akhirnya menjadi salah satu berita yang paling banyak mendapat suara positif saat itu. Argumennya, yang dituangkan dalam surat terbuka oleh penulis dan pengembang Jacob Gold, sangatlah sederhana: jika Amodei sungguh-sungguh ingin memperlambat AI, ada satu undang-undang yang ia serukan yang akan benar-benar berhasil — dan tidak ada eksekutif laboratorium lain yang dapat mengusulkannya. Mewajibkan setiap model AI yang ditawarkan perusahaan kepada publik untuk dirilis sebagai bobot terbuka.
"Saya yakin Anda tulus," surat itu dibuka, ditujukan langsung kepada Amodei, "jadi saya meminta Anda untuk menyerukan undang-undang yang berbeda, undang-undang yang sebenarnya akan memperlambat segalanya, meskipun hal itu memerlukan pengorbanan nyata dari pihak Anda." Surat ini sangat mengejutkan karena memuat versi argumen Amodei yang paling kuat, bukan menolaknya — dan karena surat ini berada di tengah-tengah perdebatan kebijakan AI yang paling penting saat ini, perdebatan yang kami ikuti setiap hari dalam liputan kebijakan AI.
Apa yang diusulkan Amodei, dan mengapa Gold mengatakan itu tidak akan berhasil
Esai Amodei berkomitmen pada Anthropic untuk memasukkan evaluator pihak ketiga dan meminta pemerintah untuk mewajibkan setiap perusahaan terdepan lainnya untuk memenuhi komitmen tersebut. Sam Altman menyetujuinya dalam beberapa jam — "Saya setuju dengan Dario bahwa kita perlu melangkah ke depan," katanya, menurut Politico, dengan OpenAI yang juga memenuhi komitmen evaluator. Secara sepintas, hal ini merupakan keselarasan yang belum pernah terjadi sebelumnya: para pemimpin dari dua laboratorium AI paling berharga di dunia secara terbuka meminta agar kebijakan ini diperlambat.
Surat Gold berpendapat bahwa konsensus inilah yang seharusnya membuat para pengamat curiga. “Setiap peraturan yang Anda minta akan berakhir dengan ditetapkan,” demikian peringatannya. Evaluator yang tertanam, ambang batas komputasi, koordinasi industri dengan keringanan antimonopoli — "Semuanya ditulis dengan bantuan laboratorium terdepan yang ada saat ini, karena tidak ada orang lain yang memahami detail teknis dengan cukup baik untuk menulisnya." Ketika aturan tersebut menjadi undang-undang, setiap insiden akan menambah aturan dan tidak akan ada yang dihapuskan, dan perusahaan raksasa mampu membentuk tim kepatuhan untuk mencegah pihak-pihak yang lebih kecil tidak ikut campur. “Alih-alih memperlambat Anda,” surat itu memberitahu Amodei, “hal ini melindungi posisi dan keuntungan Anda.”
Proposal tandingan bobot terbuka
Sketsa Emas alternatif sengaja dibuat tumpul. Model AI apa pun yang ditawarkan perusahaan kepada publik harus dikirimkan dengan bobot yang dipublikasikan. Model internal dan penelitian tidak akan tersentuh, dan pemerintah akan tetap memiliki akses ke sistem yang belum dirilis — namun Anthropic harus mempublikasikan bobot model frontier berikutnya pada hari peluncurannya, dan OpenAI juga harus melakukan hal yang sama. "Tidak ada untungnya untuk dipermainkan atau dihindari," surat itu menyimpulkan, "bahkan untuk Anda."
Mekanismenya lebih bersifat finansial dan bukan birokrasi. Seperti yang dijelaskan oleh Gold, pendanaan untuk pengembangan model frontier bergantung pada penilaian yang mengasumsikan bobot tetap menjadi hak milik. Sebuah mandat membalikkan asumsi tersebut: jika setiap rilis publik terbuka, keunggulan kompetitif mengalir kepada siapa pun yang melatih model terbaik daripada siapa pun yang menjual akses terhadap model tersebut, premi yang tertanam dalam penilaian swasta akan menurun, dan uang yang tersedia untuk pelatihan berikutnya akan menyusut — "di setiap laboratorium sekaligus, tanpa regulator yang memutuskan apa pun." Hal ini, pada dasarnya, merupakan argumen bahwa ekspektasi pasar terhadap model tertutup adalah mesin balapan, dan menghilangkan ekspektasi berarti menghilangkan mesinnya.
Mengapa Amodei, khususnya
Alasan dalam surat mengapa Amodei adalah satu-satunya orang yang dapat mengajukan proposal ini didasarkan pada catatannya, dan hal ini sangat terhormat. Gold memuji dia karena meninggalkan OpenAI pada akhir tahun 2020 untuk mendirikan Anthropic "ketika perpindahan karier yang aman akan tetap ada," dengan menganjurkan regulasi industrinya sendiri selama bertahun-tahun, dan dengan mendorong kontrol ekspor yang mengecilkan pasarnya sendiri. Dia mencatat bahwa Anthropic menyusun dirinya sebagai Perusahaan Kepentingan Publik dengan misi hukum – “pengembangan dan pemeliharaan AI canggih yang bertanggung jawab untuk kepentingan jangka panjang umat manusia” – yang akan memungkinkan kepemimpinannya untuk menyerap dampak finansial yang ditimbulkan oleh undang-undang tersebut. Esai Amodei sendiri, menurut pengamatan Gold, mengatakan bahwa Anthropic mendukung regulasi "bahkan ketika hal ini membuat kita dituduh melakukan hype, 'doomerisme', atau penangkapan regulasi."
Mereka yang skeptis akan melihat argumen-argumen tandingan yang jelas, dan surat tersebut tidak sepenuhnya menjawabnya: bobot terbuka mempermudah penyalahgunaan dan membuat kemajuan menjadi lebih sulit, mandat bobot terbuka akan menghadapi perlawanan sengit dari setiap investor laboratorium, dan kritik terhadap posisi Amodei sebelumnya terhadap model terbuka Tiongkok akan mendengar gaung dari perdebatan lama dalam proposal tersebut. Namun tantangan inti dari surat ini tidak bergantung pada kebijakan yang diambil. Hal ini bergantung pada ketegangan yang disebutkan secara eksplisit: sebuah laboratorium yang meminta pemerintah untuk memperlambat semua hal, sementara penilaiannya sendiri bergantung pada upaya untuk tetap menjadi yang terdepan, belum meminta apa pun yang merugikannya.
Perdebatan yang kini tidak bisa dihindari
Apakah Amodei merespons bukanlah hal yang penting. Dalam satu hari, laboratorium-laboratorium terdepan beralih dari bersaing dalam hal kemampuan menjadi menyepakati perlunya penyesuaian kecepatan, dan tanggapan masyarakat telah berubah dari mempertanyakan apakah AI berbahaya menjadi pertanyaan apakah orang-orang yang memperingatkan tentang AI dapat dipercaya. Surat Gold – yang terdiri dari beberapa ratus kata mengenai rincian kebijakan yang berisi satu pertanyaan yang tidak nyaman – telah menjadi ekspresi paling tajam dari skeptisisme tersebut, dan viralitasnya menunjukkan bahwa perdebatan mengenai hal ini akan terjadi tidak hanya di Washington tetapi juga di depan umum, pada platform seperti Hacker News, di mana komunitas open-weight telah membuat variasi argumen ini selama bertahun-tahun.
Tetap Terdepan dalam AI
Regulasi, angkat beban terbuka, dan pertarungan memperebutkan kecepatan AI — tercakup tanpa hype.
Baca berita AI selengkapnya →
