OpenAI telah bekerjasama rapat dengan saingan Anthropic dan Google DeepMind selama beberapa minggu untuk merangka rangka kerja bagi keselamatan kecerdasan buatan, seorang eksekutif kanan mengesahkan pada hari Selasa, mendedahkan tahap kerjasama yang luar biasa antara syarikat yang bersaing hebat dalam hampir semua perkara lain.
Chris Lehane, ketua dasar global OpenAI, memberitahu pemberita pada taklimat akhbar di Washington bahawa ketiga-tiga makmal itu telah menyelaraskan inisiatif keselamatan. "Adalah lebih baik untuk cuba bekerjasama untuk mengutamakan keselamatan," kata Lehane, menurut laporan Bloomberg mengenai taklimat itu. Komennya dibuat beberapa hari selepas amaran kepupusan berprofil tinggi daripada penyelidik meninggalkan makmal terbesar industri. For more context on this story, see our ongoing AI industry coverage.
Apa Yang Dicakupi Sebenarnya Kerjasama
Lehane tidak menghuraikan sifat khusus kerja itu, tetapi pendedahan itu mengikuti kedudukan awam yang luar biasa oleh nama-nama terbesar industri. Pada hari Sabtu, ketua eksekutif Anthropic Dario Amodei menerbitkan sebuah esei yang menyeru industri AI untuk bekerjasama dalam memperlahankan kadar pembangunan model sempadan untuk mengelakkan apa yang disebutnya "risiko bencana."
Panggilan itu mendapat sokongan yang mengejutkan dari seluruh bahagian persaingan: Sam Altman dari OpenAI, Demis Hassabis dari Google dan Elon Musk semuanya menyokong sentimen tersebut. Altman pergi lebih jauh, berkata OpenAI akan bersedia untuk menyertai inisiatif Anthropic untuk membenamkan penilai pihak ketiga dalam pasukan pembangunannya untuk memantau keselamatan AI dari dalam. Sementara itu, pengasas bersama Anthropic, Jack Clark, memberitahu NPR bahawa memperlahankan AI pada asasnya adalah "masalah tindakan kolektif" yang tidak dapat diselesaikan oleh satu makmal sahaja.
Walau bagaimanapun, tidak semua orang di dalam OpenAI menganggap perdebatan pantas sebagai mendesak. Ketua pegawai kewangan Sarah Friar memberitahu CNBC dia tidak bimbang tentang memperlahankan pembangunan AI - peringatan bahawa syarikat itu pada masa yang sama memikat pelabur pada penilaian utara satu trilion dolar.
Bayangan Antitrust Atas Kerjasama
Sebarang penyelarasan antara makmal AI yang dominan menghadapi masalah undang-undang yang jelas: undang-undang antitrust Amerika Syarikat. Pakar undang-undang telah memberi amaran bahawa perjanjian di kalangan pesaing untuk mengehadkan apa yang boleh dilakukan oleh produk mereka boleh ditafsirkan sebagai "sekatan keluaran," satu pelanggaran Akta Sherman.
Kebimbangan itu telah berpindah ke Capitol Hill. Senator Jim Banks Indiana dan Adam Schiff dari California mencadangkan undang-undang — Akta Kerjasama Ancaman Musuh dan Risiko Keselamatan — yang akan membolehkan makmal AI bertindak atas keselamatan walaupun tindakan itu mungkin menimbulkan isu antitrust. Esei Amodei berhujah bahawa kerajaan harus mempertimbangkan untuk memberikan syarikat itu pengecualian untuk kerjasama keselamatan, walaupun Lehane memberitahu pemberita bahawa dia menganggap langkah sedemikian tidak perlu.
Jensen Huang dari Nvidia masih tumpul. Bercakap di Dreamforce pada hari Selasa, beliau memanggil cadangan penepian antitrust Anthropic "sama sekali tidak perlu," menurut CNBC, menggariskan perpecahan yang semakin mendalam antara makmal yang menggesa kekangan dan gergasi perkakasan yang menggesa pecutan.
"Kartel dengan Nama Lain"
Pengkritik kerjasama itu adalah pedas. Ketua eksekutif Cohere Aidan Gomez menulis dalam catatan blog yang menjawab esei Amodei bahawa panggilan keselamatan kelihatan seperti usaha oleh makmal AI teratas untuk menyamarkan skim anti-persaingan yang akan mengekalkan peneraju mereka dalam pembangunan model sempadan, membenarkan makmal "dominan pasaran" mentakrifkan peraturan untuk orang lain.
"Sekali lagi menggunakan ketakutan di bawah alasan untuk melindungi orang ramai, oligopoli ini kini meminta untuk membengkokkan peraturan persaingan dan dibenarkan untuk menentukan syarat untuk orang lain," tulis Gomez, memanggil susunan itu "serigala dalam pakaian biri-biri, kartel dengan nama lain."
Presiden Donald Trump telah menolak secara terang-terangan panggilan kelembapan Amodei, berhujah dalam catatan di Truth Social bahawa sebarang kelembapan akan membolehkan China memintas Amerika Syarikat dalam perlumbaan AI. David Sacks, penasihat AI utama Rumah Putih, telah berkata kebimbangan bahawa AI boleh menimbulkan ancaman wujud adalah berlebihan.
Penganalisis di CNBC memerhatikan bahawa dua kem kini telah muncul sepenuhnya dalam perdebatan mengenai keselamatan dan peraturan AI: satu menggesa sempadan untuk perlahan sebelum sesuatu berlaku, dan satu lagi - dihuni oleh Nvidia, Rumah Putih dan penyokong model terbuka - dengan alasan bahawa teragak-agak adalah bahaya yang lebih besar.
Capitol Hill Push OpenAI
Kenyataan Lehane dibuat semasa taklimat media di Washington, di mana dia dijadualkan bertemu dengan penggubal undang-undang. OpenAI meletakkan beratnya di belakang dua bil dua parti, menurut kenyataan awam syarikat dan laporan oleh Reuters dan Politico.
Yang pertama ialah Akta FRONTIER, yang memerlukan rangka kerja persekutuan untuk keselamatan AI dan memerlukan makmal AI menyerahkan model baharu untuk audit oleh penilai bebas. OpenAI juga menyokong langkah yang memerlukan audit bebas model AI, lapor CBS News. Cadangan kedua, masih dalam pembangunan, adalah salah satu yang dirangka oleh Ketua Majoriti Senat John Thune bersama Senator Republikan Ted Cruz dan Senator Demokrat Amy Klobuchar. Menurut Reuters, rang undang-undang itu akan memberi Setiausaha Perdagangan kuasa untuk menundukkan model baharu kepada audit keselamatan sebelum dikeluarkan. OpenAI telah secara berasingan mengesahkan rancangan dwipartisan menangani bioancaman AI, lapor Politico.
Konvergensi ini sangat menarik: syarikat yang sama memberi amaran tentang AI yang melarikan diri secara sukarela untuk audit bebas, manakala pengkritik mereka memberi amaran bahawa kerjasama itu sendiri mungkin menjadi bahaya yang lebih besar. Bagaimana Kongres menyusun jarum itu — membolehkan kerjasama keselamatan tanpa melesenkan kartel — boleh menentukan dasar AI selama bertahun-tahun.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
