Beberapa jam selepas Ketua Pegawai Eksekutif Anthropic Dario Amodei menerbitkan esei "We Must Pace the Frontier" yang menyeru kerajaan untuk memperlahankan perlumbaan AI, tindak balas tajam mula memanjat Berita Hacker, akhirnya menjadi salah satu cerita yang paling mendapat undian pada hari itu. Hujahnya, yang dibentangkan dalam surat terbuka oleh penulis dan pemaju Jacob Gold, adalah sangat mudah: jika Amodei ikhlas untuk memperlahankan AI, ada satu undang-undang yang dia boleh panggil yang sebenarnya akan melakukannya - dan tiada eksekutif makmal lain boleh mencadangkannya. Memerlukan setiap model AI yang ditawarkan oleh syarikat kepada orang ramai untuk dikeluarkan sebagai wajaran terbuka.
"Saya percaya anda ikhlas," surat itu dibuka, merujuk kepada Amodei secara langsung, "jadi saya meminta anda meminta undang-undang yang berbeza, undang-undang yang sebenarnya akan melambatkan keadaan, walaupun ia memerlukan pengorbanan sebenar di pihak anda." Surat itu telah mengejutkan dengan tepat kerana ia melibatkan versi terkuat hujah Amodei dan bukannya menolaknya — dan kerana ia berada di tengah-tengah perbahasan dasar paling berbangkit dalam AI hari ini, perbahasan yang kami ikuti setiap hari dalam [liputan dasar AI] kami (https://aibuzzwire.news).
Apa yang dicadangkan oleh Amodei, dan sebab Gold mengatakan ia tidak akan berkesan
Esei Amodei memberi komitmen kepada Anthropic kepada penilai pihak ketiga yang tertanam dan meminta kerajaan menghendaki setiap syarikat sempadan lain untuk memadankan komitmen tersebut. Sam Altman bersetuju dalam beberapa jam — "Saya bersetuju dengan Dario bahawa kita perlu melangkah ke sempadan," katanya, menurut Politico, dengan OpenAI memadankan komitmen penilai juga. Pada mukanya, itu adalah penjajaran yang tidak pernah berlaku sebelum ini: ketua dua makmal AI paling berharga di dunia secara terbuka meminta untuk diperlahankan.
Surat Gold berpendapat, konsensus inilah yang sepatutnya membuat pemerhati curiga. "Setiap peraturan yang anda minta berakhir dengan tangkapan," ia memberi amaran. Penilai terbenam, ambang pengiraan, penyelarasan industri dengan penepian antitrust — "Semuanya ditulis dengan bantuan makmal sempadan semasa, kerana tiada orang lain yang memahami butiran teknikal dengan cukup baik untuk menulisnya." Sebaik sahaja peraturan sedemikian menjadi undang-undang, setiap insiden menambah peraturan dan tiada satu pun yang dapat dialih keluar, dan gergasi mampu membayar pasukan pematuhan yang menghalang pencabar yang lebih kecil. "Daripada melambatkan anda," surat itu memberitahu Amodei, "ia melindungi kedudukan dan keuntungan anda."
Cadangan balas wajaran terbuka
Lakaran Emas alternatif sengaja tumpul. Mana-mana model AI yang ditawarkan oleh syarikat kepada orang ramai perlu dihantar dengan beratnya diterbitkan. Model dalaman dan penyelidikan tidak akan disentuh, dan kerajaan akan mengekalkan akses kepada sistem yang belum dikeluarkan - tetapi Anthropic perlu menerbitkan berat model sempadan seterusnya pada hari ia dikeluarkan, dan OpenAI perlu melakukan perkara yang sama. "Tiada apa-apa untuk bermain atau mengelak," surat itu menyimpulkan, "walaupun untuk anda."
Mekanismenya adalah kewangan dan bukannya birokrasi. Seperti yang dijelaskan oleh Gold, pembiayaan untuk pembangunan model sempadan bergantung pada penilaian yang menganggap wajaran kekal proprietari. Mandat membalikkan andaian itu: jika setiap keluaran awam terbuka, kelebihan daya saing mengalir kepada sesiapa yang melatih model terbaik berbanding sesiapa yang menjual akses kepadanya, premium yang tertanam dalam penilaian persendirian mengempis dan wang yang tersedia untuk latihan seterusnya menyusut — "di setiap makmal sekaligus, tanpa pengawal selia memutuskan apa-apa." Ia, sebenarnya, hujah bahawa jangkaan pasaran terhadap model tertutup adalah enjin perlumbaan, dan menghapuskan jangkaan itu menghilangkan enjin.
Mengapa Amodei, khususnya
Kes surat mengapa Amodei adalah satu-satunya orang yang boleh membuat cadangan ini dibina berdasarkan rekodnya, dan ia amat dihormati. Emas memberi penghargaan kepadanya kerana meninggalkan OpenAI pada penghujung tahun 2020 untuk menemui Anthropic "apabila langkah kerjaya yang selamat adalah untuk kekal," dengan menyokong peraturan industrinya sendiri selama bertahun-tahun, dan dengan mendorong kawalan eksport yang mengecutkan pasarannya sendiri. Beliau menyatakan bahawa Anthropic menstrukturkan dirinya sebagai Perbadanan Faedah Awam dengan misi undang-undang - "pembangunan dan penyelenggaraan AI yang bertanggungjawab untuk manfaat jangka panjang umat manusia" - yang akan membolehkan kepimpinannya menyerap kesan kewangan yang akan dilaksanakan oleh undang-undang sedemikian. Esei Amodei sendiri, Gold memerhati, berkata penyokong Anthropic untuk peraturan "walaupun ini menyebabkan kita dituduh gembar-gembur, 'doomerisme', atau tangkapan peraturan."
Orang yang ragu-ragu akan melihat hujah balas yang jelas, dan surat itu tidak menjawabnya sepenuhnya: wajaran terbuka menjadikan penyalahgunaan lebih mudah serta kemajuan lebih sukar, mandat wajaran terbuka akan menghadapi tentangan hebat daripada setiap pelabur makmal, dan pengkritik pendirian Amodei sebelum ini mengenai model terbuka Cina akan mendengar gema pergaduhan lama dalam cadangan itu. Tetapi cabaran teras surat itu tidak bergantung pada dasar yang diterima pakai. Ia bergantung pada ketegangan yang dinamakannya secara eksplisit: makmal yang meminta kerajaan untuk memperlahankan orang lain, manakala penilaiannya sendiri bergantung pada kekal di hadapan, belum lagi meminta apa-apa yang merugikannya.
Perdebatan yang kini tidak dapat dielakkan
Sama ada Amodei bertindak balas hampir bersebelahan. Dalam satu hari, makmal sempadan beralih daripada bersaing dalam keupayaan kepada bersetuju tentang keperluan untuk pacing, dan respons orang ramai telah beralih daripada bertanya sama ada AI berbahaya untuk bertanya sama ada orang yang memberi amaran mengenainya boleh dipercayai. Surat Gold — beberapa ratus perkataan perincian dasar yang dililitkan dengan satu soalan yang tidak selesa — telah menjadi ungkapan paling tajam bagi keraguan itu, dan viralnya menunjukkan perdebatan pantas akan diperjuangkan bukan sahaja di Washington tetapi di khalayak ramai, pada platform seperti Hacker News, di mana komuniti berwajaran terbuka telah membuat variasi hujah ini selama bertahun-tahun.
Kekal Mendahului AI
Kawal selia, wajaran terbuka dan pertarungan ke atas rentak AI — dilindungi tanpa gembar-gembur.
Baca lebih banyak berita AI →
