Kepala Eksekutif OpenAI Sam Altman akan memberi pengarahan langsung kepada Dewan Keamanan PBB minggu depan pada pertemuan tahunan para pemimpin dunia di New York untuk Majelis Umum PBB, Reuters melaporkan pada hari Jumat, mengutip juru bicara OpenAI.
Pengarahan tersebut akan dilakukan pada pertemuan terbuka Dewan Keamanan mengenai kecerdasan buatan dan keamanan internasional yang dijadwalkan pada hari Rabu, ketika badan beranggotakan 15 orang tersebut bertemu pada minggu tingkat tinggi Majelis Umum. Sidang ini diselenggarakan oleh Perancis, yang menjabat sebagai presiden dewan tersebut pada bulan September, dan akan dipimpin oleh Menteri Eropa dan Luar Negeri Perancis Jean-Noël Barrot. For more context on this story, see our ongoing AI industry coverage.
“Sam Altman akan memberi pengarahan pada pertemuan terbuka Dewan Keamanan PBB secara langsung minggu depan,” kata juru bicara OpenAI kepada Reuters.
Apa yang Diharapkan Altman Katakan
Menurut Reuters, pernyataan Altman diharapkan berfokus pada perlunya koordinasi internasional dan standar keselamatan bersama, serta langkah-langkah yang diambil OpenAI untuk memastikan bahwa masyarakat di seluruh dunia mendapat manfaat dari AI.
Kemunculan tersebut menempatkan eksekutif AI yang paling terkemuka di dunia di depan badan yang bertugas menjaga perdamaian dan keamanan internasional, pada saat pemerintah semakin memandang AI canggih tidak hanya sebagai peluang ekonomi namun sebagai teknologi yang memiliki implikasi langsung terhadap keamanan nasional dan internasional.
Antropis Mungkin Juga Ada di Dalam Ruangan
Para diplomat mengatakan kepada Reuters bahwa mereka juga mengharapkan kehadiran tingkat tinggi dari Anthropic pada pertemuan tersebut, meskipun partisipasi tersebut belum dikonfirmasi. Anthropic tidak segera menanggapi permintaan komentar.
Setiap kemunculan Anthropic akan membawa dampak tersendiri mengingat sikap perusahaan yang sangat menonjol dalam menghadapi risiko AI dalam beberapa bulan terakhir, termasuk seruannya untuk melakukan perlambatan terkoordinasi dalam pengembangan sistem yang semakin mumpuni. Pertemuan Dewan Keamanan ini diadakan hanya beberapa minggu setelah beberapa pemimpin industri AI mendesak dilakukannya perlambatan terkoordinasi, dan memperingatkan bahwa AI akan segera berkembang dengan sendirinya dan tidak lagi bisa dikendalikan oleh manusia.
Kasus Urgensi di Prancis
Dalam catatan konsep yang diedarkan kepada anggota dewan dan dilihat oleh Reuters, Prancis menggarisbawahi “pentingnya tindakan untuk mendorong pengembangan kecerdasan buatan yang aman dan bertanggung jawab demi kepentingan komunitas internasional secara keseluruhan.”
Catatan tersebut menyebutkan risiko penyalahgunaan AI untuk tujuan jahat dan mengatakan bahwa pertemuan tersebut bertujuan untuk memberikan kesempatan kepada para peserta untuk menyajikan analisis mereka mengenai risiko yang terkait dengan hilangnya kendali, atau penggunaan model AI terbaru untuk mengembangkan, memfasilitasi, dan melakukan tindakan yang berdampak pada perdamaian dan keamanan internasional.
Dewan Kembali ke Tema yang Sudah Dikenal
Dewan Keamanan telah membahas AI sebelumnya. Pertemuan ini pertama kali membahas risiko kecerdasan buatan pada tahun 2023, ketika Tiongkok memperingatkan bahwa teknologi tersebut tidak boleh menjadi “kuda yang melarikan diri” dan Amerika Serikat memperingatkan terhadap penggunaannya untuk menyensor atau menindas orang. Sesi pada hari Rabu mewakili peningkatan signifikan dalam keterlibatan tersebut: jika pertemuan sebelumnya membahas peringatan umum, maka pertemuan minggu depan akan mencakup pengarahan langsung dari CEO perusahaan yang produknya merupakan pusat dari booming AI.
Altman, pada bagiannya, telah memperingatkan tentang risiko AI yang lebih lanjut jauh sebelum gelombang kesuksesan komersial saat ini. Dalam esai tahun 2015 berjudul "Machine Intelligence, part 1," ia menulis bahwa "perkembangan kecerdasan mesin manusia super mungkin merupakan ancaman terbesar bagi keberlangsungan keberadaan umat manusia" — sebuah kalimat yang mendahului kebangkitan OpenAI dan pasti akan muncul kembali saat ia berpidato di depan dewan.
Mengapa Itu Penting
Simbolisme dari pengarahan ini sulit untuk dilebih-lebihkan. Seorang eksekutif perusahaan teknologi yang berpidato di Dewan Keamanan menunjukkan seberapa jauh AI telah berperan dalam agenda keamanan internasional, selain proliferasi nuklir dan perang siber. Hal ini juga mencerminkan perubahan dalam perdebatan itu sendiri: setelah dua tahun didominasi oleh argumen mengenai hak cipta, lapangan kerja, dan informasi yang salah, kekuatan PBB dalam bersidang dihadapkan pada risiko yang lebih besar – hilangnya kendali, penggunaan yang jahat, dan tidak adanya standar internasional bersama.
Apa yang terjadi adalah pertanyaan lain. Dewan Keamanan tidak mempunyai wewenang untuk mengatur pengembangan AI, dan resolusi Dewan Keamanan mengenai teknologi baru secara historis tidak mengikat. Namun pertemuan tersebut memberikan kesempatan kepada pemerintah untuk menentukan posisi – dan memberikan perusahaan AI audiensi yang terdiri dari para menteri luar negeri dan kepala negara yang tidak dapat ditandingi oleh peluncuran produk apa pun. Dengan Perancis yang mendesak untuk mendesakkan hal ini dan kedua laboratorium AI terkemuka di AS diperkirakan akan diwakili, sesi pada hari Rabu ini mungkin akan menandai momen dimana tata kelola AI menjadi agenda tetap dalam agenda diplomasi keamanan global.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
