Ketua eksekutif OpenAI dan Anthropic berucap kepada Majlis Keselamatan Pertubuhan Bangsa-Bangsa Bersatu pada hari Rabu, dalam sepasang taklimat yang jarang berlaku yang meletakkan masa depan tadbir urus AI sebelum badan diplomatik paling berkuasa di dunia — walaupun Presiden Donald Trump menolak pengawasan AI antarabangsa sebagai "skim global."
Sam Altman, bercakap secara peribadi di meja berbentuk ladam majlis itu, dan Dario Amodei, menyertai panggilan video, menggunakan taklimat berasingan mereka semasa minggu peringkat tinggi Perhimpunan Agung PBB untuk berhujah bahawa kecerdasan buatan maju lebih pantas daripada mana-mana kerajaan boleh menguruskan, menurut laporan daripada The Guardian, Reuters, dan kedai lain. For more context on this story, see our ongoing more AI stories.
Kebangkitan semula atau revolusi perindustrian
Altman, yang bercakap selama kira-kira sepuluh minit, merangka detik itu sebagai persimpangan jalan untuk teknologi yang sedang berlumba-lumba dibina oleh syarikatnya.
"Kami mempunyai pilihan di hadapan kami," kata Altman kepada majlis itu. "AI boleh sama ada lebih seperti kebangkitan baru kreativiti dan penemuan, atau lebih seperti revolusi perindustrian baharu pergolakan dan kucar-kacir."
Dia memasangkan amaran itu dengan nada jualan: ketua OpenAI menggembar-gemburkan faedah AI kepada produktiviti sambil mengakui potensinya untuk penyalahgunaan, menurut The Guardian. Dan dia berhujah bahawa jika AI ingin dibangunkan secara demokratik, keputusan yang paling penting tidak boleh dibuat oleh makmal di San Francisco sahaja, tetapi mesti dibentuk melalui proses demokrasi dan oleh kerajaan yang bertanggungjawab kepada orang yang mereka berkhidmat - masa depan di mana AI dibimbing oleh institusi demokrasi dan bukannya di mana orang merasakan teknologi itu "sesuatu yang sedang dilakukan kepada mereka."
Altman juga memberi amaran kepada majlis itu agar tidak tenggelam dalam apa yang dipanggilnya doomerisme, sebaliknya menyokong apa yang disifatkannya sebagai jalan tengah yang dibina berdasarkan tiga prinsip: Sistem AI mesti kekal di bawah kawalan manusia, AI mesti memberi manfaat kepada orang ramai - daripada membantu doktor merawat pesakit kepada meningkatkan usahawan - dan teknologi mesti memperkasakan orang secara individu.
Daripada robot pembunuh kepada superintelligence
Taklimat itu dihadkan seminggu di mana agenda PBB mengenai AI menjangkau hampir setiap ketakutan yang ditimbulkan oleh teknologi. Liputan Associated Press mengenai mesyuarat itu menyatakan bahawa para pemimpin mendapati diri mereka membincangkan segala-galanya daripada "robot pembunuh" - senjata autonomi yang boleh memilih sasaran tanpa campur tangan manusia - kepada prospek sistem superintelligent yang boleh tergelincir di luar kawalan sesiapa.
Julat itu adalah tepat mengapa sesi Majlis Keselamatan penting kepada pesertanya. AI telah beralih daripada isu kawal selia khusus yang dikendalikan oleh kementerian perdagangan kepada subjek yang diperdebatkan oleh badan yang sama yang mengendalikan percambahan nuklear dan konflik bersenjata, dengan AS, China dan kuasa Eropah semuanya memajukan visi yang sangat berbeza tentang siapa yang harus menetapkan peraturan.
Amaran Amodei daripada pautan video
Ucapan Amodei menimbulkan nada yang lebih berhati-hati. Mengulangi tema daripada catatan blog 12 September yang menyeru peningkatan kerjasama global mengenai AI, ketua eksekutif Anthropic menyokong perjanjian antarabangsa khusus, termasuk larangan menggunakan AI untuk membangunkan senjata biologi dan piawaian global untuk menguji model AI baharu sebelum penggunaan.
"Jika diurus dengan baik, saya juga percaya bahawa AI boleh menjadi risiko kepada manusia secara keseluruhan," kata Amodei, menurut The Guardian. Beliau juga menegaskan bahawa "di Anthropic, kami percaya kami mempunyai rekod prestasi terbaik dalam industri untuk mencegah risiko ini."
Kedua-dua eksekutif, menurut liputan Anadolu Agency, memberitahu majlis bahawa tiada satu negara atau syarikat harus mengawal teknologi itu.
Bahu sejuk Washington
Taklimat itu dibentangkan dengan latar belakang yang tajam: Trump secara terbuka menolak idea pengawasan AI antarabangsa minggu ini, menolaknya sebagai "skim global," seperti yang dilaporkan CNBC dan cawangan lain. Amerika Syarikat telah menentang perjanjian AI antarabangsa yang mengikat, dan kedudukan pentadbiran itu digemakan oleh diplomat AS pada mesyuarat PBB mengenai AI dan keselamatan antarabangsa.
Terdapat juga jurang antara retorik diplomatik Altman dan aktiviti politik syarikatnya di rumah. The Guardian menyatakan bahawa presiden OpenAI Greg Brockman bergabung dengan jawatankuasa tindakan politik Peneraju Masa Depan, yang telah mengakru lebih daripada $100 juta dan membelanjakan berjuta-juta menyasarkan calon yang menyokong peraturan industri AI yang lebih kukuh.
Dari pratonton ke podium
Taklimat hari Rabu menghadkan lebih daripada seminggu peningkatan diplomasi di sekitar risiko AI. Reuters pertama kali melaporkan pada 18 September bahawa Altman akan memberi taklimat kepada majlis semasa minggu Perhimpunan Agung. Pertemuan itu mengikuti amaran daripada penyelidik Anthropic awal bulan ini bahawa AI yang maju boleh menimbulkan risiko bencana, termasuk kepada kelangsungan hidup manusia, dalam dekad - amaran yang mendorong Amodei menyeru agar pembangunan AI menjadi perlahan, kedudukan yang disokong oleh OpenAI, Google, dan Elon Musk, menurut The Guardian.
DeepSeek, firma AI China, juga dijadualkan untuk memberi taklimat kepada majlis minggu ini, seperti yang dilaporkan oleh AI Buzz Wire pada hari Selasa - satu regangan yang luar biasa di mana Majlis Keselamatan telah mendengar daripada pemimpin pesaing syarikat AI Amerika dan China dalam beberapa hari.
Simbolisme lawan bahan
Majlis Keselamatan tidak mempunyai kuasa kawal selia ke atas pembangunan AI, dan sesi hari Rabu tidak menghasilkan komitmen yang mengikat. Tetapi simbolisme itu sukar untuk dilebih-lebihkan: ketua dua syarikat AI yang paling berharga di bumi secara sukarela diserahkan kepada disoal di meja yang sama di mana negara membahaskan perang dan sekatan, meminta untuk dikawal selia di peringkat antarabangsa.
Masa menunjukkan betapa cepatnya tanah berubah. Pada hari yang sama dengan taklimat itu, Perdana Menteri Australia Anthony Albanese mendedahkan bahawa ejen OpenAI telah melanggar portal Medicare kerajaan Australia awal tahun ini — satu peringatan, kata pengkritik, bahawa kelakuan industri sedang dalam penelitian dari pelbagai arah sekaligus.
Perkara yang mungkin digerakkan oleh taklimat adalah lebih sukar untuk diramalkan. Cadangan untuk badan keselamatan AI antarabangsa, rejim ujian model dan larangan bioweapon kini mendapat sokongan awam daripada pemimpin industri. Sama ada mereka bertahan berhubung dengan Majlis Keselamatan yang dibahagikan secara geopolitik — dan pentadbiran AS yang memusuhi keseluruhan premis — ialah persoalan yang akan menentukan fasa tadbir urus AI yang seterusnya.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
