OpenAI telah mengesahkan bahawa ia, Anthropic dan Google DeepMind telah mengadakan perbincangan mengenai penyelarasan keselamatan AI selama beberapa minggu, dan mengatakan ia menyokong perundangan yang akan memaksa makmal sempadan membuka pintu mereka kepada organisasi pengesahan bebas.
Chris Lehane, ketua pegawai hal ehwal global OpenAI, membuat pendedahan itu pada mesyuarat pada hari Selasa, menurut TechCrunch. Reuters dan Bloomberg, memetik kenyataan yang sama, melaporkan bahawa OpenAI bekerjasama dengan Anthropic dan Google mengenai keselamatan AI. Pengesahan itu mengubah beberapa minggu petunjuk — termasuk temu bual Fortune di mana Sam Altman mengakui perbincangan peribadi dengan pemimpin AI yang lain — menjadi pengakuan yang jelas bahawa tiga makmal sempadan terkemuka di dunia sedang menyelaraskan tentang kelajuan mereka bergerak dan cara model mereka disemak.
Bagi pembaca yang mengikuti pertempuran politik yang lebih luas di sekitar kelembapan AI, liputan kemas kini kecerdasan buatan minggu ini adalah daripada pengasas bersama Anthropic Jack Clark yang menyokong suis bunuh mandatori kepada Presiden Trump yang menggelarkan keselamatan sebagai penipuan semasa panggilan atas pentas dengan Jensen Huang dari Nvidia.
Minggu Pengesahan Akan Dibuat
Rundingan itu mengikuti esei yang diterbitkan pada hari Sabtu oleh Ketua Pegawai Eksekutif Anthropic Dario Amodei yang menyeru industri untuk bekerjasama memperlahankan kadar pembangunan AI sempadan bagi mengelakkan risiko bencana. Surat itu mendapat sokongan daripada seluruh industri, dengan Altman, Demis Hassabis Google dan Elon Musk semuanya menyokong seruan bertindak, dan Altman berkata OpenAI akan menyertai usaha itu.
The Information kemudiannya melaporkan bahawa ketiga-tiga syarikat itu telah berusaha untuk mewujudkan badan piawaian untuk industri AI. Hassabis mempunyai rekod prestasi mengenai idea itu: pada bulan Julai beliau menyeru Amerika Syarikat untuk menubuhkan badan piawaian baharu untuk bertindak sebagai badan pemerhati AI, dengan kuasa untuk menyaring model tercanggih di dunia dan menyelaraskan kelembapan seluruh industri jika bahaya berlaku.
Apa yang ditambahkan oleh kenyataan Lehane ialah pengesahan rasmi. Sehingga kini, jurucakap makmal sebahagian besarnya memberi isyarat pada dialog tidak rasmi; Ketua hal ehwal global OpenAI kini telah meletakkan penyelarasan dalam rekod.
Bayang Antitrust
Sebarang perjanjian antara pesaing langsung untuk memperlahankan pembangunan mengundang soalan antitrust yang jelas, dan makmal mengetahuinya. Altman sendiri telah menyatakan bahawa perbincangan sedemikian boleh meletakkan syarikat-syarikat berisiko melanggar undang-undang antitrust jika penyelarasan didapati menyekat persaingan. Esei Amodei mencadangkan penepian kerajaan yang sempit yang akan membenarkan penyelarasan keselamatan tanpa mencetuskan undang-undang persaingan — tanda betapa seriusnya isu itu diambil dalam syarikat.
Pengkritik telah cepat menunjukkan ketegangan di tengah-tengah pengaturan itu: tiga firma yang menguasai bahagian pasaran terbesar di sempadan AI bersama-sama memutuskan untuk menilai kemajuan, kepada orang yang ragu-ragu, seperti tingkah laku kartel dengan pembalut keselamatan. Penyokong menentang bahawa risiko bencana adalah jenis masalah yang tidak dapat diselesaikan oleh pesaing secara unilateral, kerana mana-mana makmal yang perlahan sahaja hanya menyerahkan sempadan kepada saingan.
OpenAI Merangkul Semakan Pihak Ketiga
Berita dasar yang paling konkrit dalam kenyataan Lehane berkenaan perundangan. Beliau berkata OpenAI menyokong peruntukan dalam Akta FRONTIER yang memerlukan makmal sempadan teratas membenarkan "organisasi pengesahan bebas" ke dalam syarikat mereka untuk memastikan model dibangunkan dengan selamat. Politico melaporkan bahawa OpenAI menyokong pelan House dwipartisan yang dibina berdasarkan penilaian keselamatan pihak ketiga.
Kedudukan itu tidak dapat difikirkan untuk bidang itu dua tahun lalu, apabila komitmen sukarela dan pasukan merah dalaman adalah standard industri. Ia kini menyelaraskan OpenAI dengan postur pertama audit yang telah lama dipromosikan oleh Anthropic, dan ia mewujudkan titik persetujuan yang jarang berlaku antara makmal dan sayap perbahasan dasar yang telah menghabiskan tahun ini menuntut pengawasan yang boleh dikuatkuasakan.
Ia juga mencetuskan perlanggaran dengan Rumah Putih. Presiden Trump telah menolak kebimbangan keselamatan sebagai penipuan dan berhujah bahawa sebarang kelembapan akan memberikan kelebihan kepada China dalam perlumbaan AI. Penasihat AInya, David Sacks, pelabur lama yang mempunyai kepentingan peribadi di seluruh industri, telah menyifatkan kebimbangan terhadap risiko kewujudan berlebihan. Di UK, menteri tetap berpecah secara terbuka atas persoalan yang sama, dengan satu puak menggesa kerajaan untuk mematuhi amaran pakar manakala Setiausaha Perniagaan Reynolds telah menolak perbincangan mengenai suis bunuh untuk sistem canggih.
Pertarungan Dasar Tanpa Dasar Neutral
Minggu-minggu akan datang akan menguji sama ada penyelarasan makmal bertahan daripada hubungan dengan pihak berkuasa persaingan dan pentadbiran yang ragu-ragu. Badan piawaian yang dibina oleh tiga syarikat yang mengawal sempadan akan menghadapi tuntutan untuk memasukkan pengarah bebas, menerbitkan kriterianya dan menyerahkan kepada semakan kerajaan — atau dipecat sebagai kartel persendirian dalam pakaian awam.
Untuk Akta FRONTIER, sokongan OpenAI memberikan penaja rang undang-undang itu sebagai penyokong utama tetapi juga barisan serangan baharu bagi pihak lawan yang berpendapat bahawa makmal terbesar hanya menguasai bidang kawal selia, hanya menulis peraturan yang mereka mampu patuhi. Makmal yang lebih kecil dan komuniti berwajaran terbuka, yang tidak mempunyai tempat duduk di ceramah, memerhati dengan teliti: apa jua rejim pengesahan yang muncul akan menentukan kos pematuhan untuk semua orang di belakang sempadan.
Yang tidak dipertikaikan lagi ialah hakikat penyelarasan itu sendiri. Tiga syarikat yang mentakrifkan kecanggihan AI kini secara terbuka membincangkan seberapa pantas untuk berlari — dan menjemput kerajaan untuk membantu pengadil.
---
Kekal Mendahului AIDapatkan berita, analisis dan penemuan terkini AI — semuanya di satu tempat.
Baca lebih banyak berita AI →
