Ketua Eksekutif OpenAI Sam Altman akan memberi taklimat kepada Majlis Keselamatan Pertubuhan Bangsa-Bangsa Bersatu secara peribadi minggu depan semasa perhimpunan tahunan pemimpin dunia di New York untuk Perhimpunan Agung PBB, lapor Reuters pada hari Jumaat, memetik jurucakap OpenAI.
Taklimat itu akan berlangsung pada mesyuarat Majlis Keselamatan terbuka mengenai kecerdasan buatan dan keselamatan antarabangsa yang dijadualkan pada hari Rabu, apabila badan 15 anggota itu bersidang semasa minggu peringkat tinggi Perhimpunan Agung. Sesi itu telah diadakan oleh Perancis, yang memegang jawatan presiden majlis itu untuk September, dan akan dipengerusikan oleh Menteri Perancis bagi Eropah dan Hal Ehwal Luar Jean-Noël Barrot. For more context on this story, see our ongoing breaking AI news.
"Sam Altman akan memberi taklimat kepada mesyuarat Majlis Keselamatan PBB terbuka secara peribadi minggu depan," kata jurucakap OpenAI kepada Reuters.
Apa yang Dijangka Dikatakan oleh Altman
Menurut Reuters, kenyataan Altman dijangka memberi tumpuan kepada keperluan untuk penyelarasan antarabangsa dan standard keselamatan bersama, serta langkah yang diambil OpenAI untuk memastikan orang di seluruh dunia mendapat manfaat daripada AI.
Penampilan itu meletakkan eksekutif AI paling terkemuka di dunia di hadapan badan yang dipertanggungjawabkan untuk mengekalkan keamanan dan keselamatan antarabangsa, pada saat kerajaan semakin merangka AI maju bukan sahaja sebagai peluang ekonomi tetapi sebagai teknologi yang mempunyai implikasi langsung untuk keselamatan negara dan antarabangsa.
Anthropic Mungkin Juga Berada di dalam Bilik
Diplomat memberitahu Reuters bahawa mereka juga menjangkakan kehadiran peringkat tinggi pada mesyuarat itu daripada Anthropic, walaupun penyertaan itu belum disahkan. Anthropic tidak segera menjawab permintaan untuk komen.
Sebarang penampilan oleh Anthropic akan membawa resonans tertentu memandangkan postur berprofil tinggi syarikat mengenai risiko AI sempadan dalam beberapa bulan kebelakangan ini, termasuk gesaannya untuk kelembapan yang diselaraskan dalam pembangunan sistem yang semakin berkebolehan. Mesyuarat Majlis Keselamatan diadakan hanya beberapa minggu selepas beberapa pemimpin industri AI menggesa kelembapan yang diselaraskan, memberi amaran bahawa AI tidak lama lagi boleh bertambah baik dengan sendirinya dan tergelincir di luar kawalan manusia.
Kes Kedekatan Perancis
Dalam nota konsep yang diedarkan kepada ahli majlis dan dilihat oleh Reuters, Perancis menggariskan "kedekatan tindakan untuk memupuk pembangunan kecerdasan buatan yang selamat dan bertanggungjawab untuk manfaat masyarakat antarabangsa secara keseluruhan."
Nota itu menyebut risiko penyalahgunaan AI untuk tujuan berniat jahat dan berkata mesyuarat itu bertujuan untuk membenarkan peserta membentangkan analisis mereka tentang risiko yang dikaitkan dengan kehilangan kawalan, atau penggunaan model AI terkini untuk membangun, memudahkan dan menjalankan tindakan yang memberi kesan kepada keamanan dan keselamatan antarabangsa.
Majlis Kembali ke Tema Biasa
Majlis Keselamatan telah menangani AI sebelum ini. Ia bertemu buat pertama kali mengenai risiko kecerdasan buatan pada 2023, apabila China memberi amaran bahawa teknologi itu tidak seharusnya menjadi "kuda lari" dan Amerika Syarikat memberi amaran terhadap penggunaannya untuk menapis atau menindas orang. Sesi hari Rabu mewakili peningkatan yang ketara dalam penglibatan itu: di mana mesyuarat awal mendengar amaran umum, minggu depan akan termasuk taklimat langsung daripada CEO syarikat yang produknya berada di tengah-tengah ledakan AI.
Altman, bagi pihaknya, telah memberi amaran tentang risiko AI lanjutan sejak lama sebelum gelombang kejayaan komersial semasa. Dalam esei 2015 bertajuk "Kecerdasan Mesin, bahagian 1," dia menulis bahawa "pembangunan kecerdasan mesin manusia luar biasa mungkin merupakan ancaman terbesar kepada kewujudan umat manusia yang berterusan" — garis yang mendahului kebangkitan OpenAI dan yang pasti akan muncul semula semasa dia berucap pada majlis itu.
Mengapa Ia Penting
Simbolisme taklimat itu sukar untuk diterangkan. Seorang eksekutif syarikat teknologi yang menangani Majlis Keselamatan menandakan sejauh mana AI telah meningkatkan agenda keselamatan antarabangsa, di samping percambahan nuklear dan peperangan siber. Ia juga mencerminkan anjakan dalam perbahasan itu sendiri: selepas dua tahun dikuasai oleh hujah tentang hak cipta, pekerjaan dan maklumat yang salah, kuasa penubuhan PBB sedang ditunjuk tepat pada risiko sempadan — kehilangan kawalan, penggunaan berniat jahat, dan ketiadaan piawaian antarabangsa yang dikongsi bersama.
Apa yang datang daripadanya adalah soalan lain. Majlis Keselamatan tidak mempunyai kuasa kawal selia ke atas pembangunan AI, dan resolusinya mengenai teknologi baru muncul secara historis tidak mengikat. Tetapi mesyuarat itu memberi kerajaan peringkat untuk mengintai kedudukan — dan memberi syarikat AI penonton menteri luar dan ketua negara yang tiada pelancaran produk dapat menandinginya. Dengan Perancis mendesak untuk mendesak dan kedua-dua makmal AI terkemuka AS dijangka diwakili, sesi hari Rabu mungkin menandakan detik tadbir urus AI menjadi perkara tetap dalam agenda diplomasi keselamatan global.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
