OpenAI telah mengusulkan agar Amerika Serikat memimpin pengembangan standar teknis internasional untuk kecerdasan buatan terdepan, termasuk pendekatan umum untuk mengukur penelitian AI yang otonom dan menjaga pengawasan manusia seiring dengan semakin mampunya sistem.
Proposal tersebut, diterbitkan oleh perusahaan dan dilaporkan pada hari Senin oleh CNBC, Reuters, Politico, The Wall Street Journal dan Financial Times, muncul pada momen yang sarat simbolis: Axios melaporkan bahwa hal ini mendahului pidato CEO Sam Altman di PBB, dan Semafor menggambarkan permintaan perusahaan tersebut sebagai koalisi global yang dipimpin AS mengenai keamanan AI. For more context on this story, see our ongoing more AI stories.
Fokus Inti: Peningkatan Diri Secara Rekursif
Dokumen ini terkenal karena secara langsung melibatkan perbaikan diri secara rekursif, atau RSI, yaitu skenario di mana sistem AI mengambil porsi yang semakin besar dalam pengembangan AI generasi selanjutnya. Berdasarkan ringkasan terperinci dari Pulse2, OpenAI menyatakan bahwa pengembangan diri rekursif yang sepenuhnya otonom tidak terjadi saat ini dan berpendapat bahwa hal tersebut tidak boleh dilakukan kecuali pengembang dapat menunjukkan bahwa hal tersebut dapat dilakukan dengan aman sambil mempertahankan kendali manusia yang berarti.
Pada saat yang sama, perusahaan menggambarkan penelitian AI otomatis sebagai bagian penting dari peta jalan teknisnya. Salah satu tujuannya adalah untuk membangun peneliti AI otomatis yang dapat berkontribusi pada pengembangan model dan pekerjaan penyelarasan sementara orang-orang tetap terlibat dalam proses pengembangan diri, kata perusahaan itu. OpenAI berpendapat bahwa otomatisasi dapat mempercepat kemajuan ilmiah dan memperkuat penelitian keselamatan, karena sistem yang mampu meningkatkan model juga dapat digunakan untuk mengembangkan metode penyelarasan yang lebih baik, teknologi pertahanan, dan perlindungan infrastruktur penting.
Kekhawatiran utama, sesuai proposal tersebut, adalah apa yang terjadi ketika pengawasan manusia berkurang. Penelitian yang lebih otomatis dapat mempercepat pengembangan AI hingga ke titik di mana orang akan mengalami kesulitan yang lebih besar dalam memahami atau mengawasi bagaimana sistem baru diciptakan. Hal ini menurut OpenAI adalah alasan mengapa standar harus melampaui kebijakan internal perusahaan mana pun.
Mengapa Koordinasi Internasional
OpenAI mengatakan AI tingkat lanjut kini dikembangkan dan diterapkan di banyak negara, sehingga peraturan nasional saja tidak cukup. Perusahaan mengidentifikasi tiga masalah yang dapat diatasi oleh standar bersama: sistem evaluasi dan pelaporan yang terfragmentasi, masalah tindakan kolektif antar negara, dan perbedaan besar dalam keahlian teknis dan kapasitas pengembangan AI di seluruh dunia. Kekhawatiran ini berlaku untuk model terbuka dan tertutup, menurut perusahaan.
Yang penting, proposal tersebut tidak memerlukan satu regulator internasional yang berwenang untuk menyetujui model AI. Sebaliknya, perjanjian ini membayangkan standar teknis umum yang mencakup pengukuran kemampuan, penilaian risiko, dan kecukupan upaya perlindungan, dan masing-masing pemerintah akan memutuskan apakah dan bagaimana menerapkannya ke dalam undang-undang domestik.
Mekanisme: Institut Keselamatan dan CAISI
Salah satu mekanisme potensial yang diuraikan oleh OpenAI akan menggunakan jaringan lembaga keselamatan AI nasional yang berkembang untuk mengoordinasikan penetapan standar teknis. Perusahaan tersebut menyebutkan lembaga atau badan terkait di Australia, Kanada, Jerman, Prancis, Kenya, Jepang, Korea Selatan, Singapura, India, dan Inggris. Di Amerika Serikat, OpenAI mengusulkan kerja sama melalui Pusat Standar dan Inovasi AI, atau CAISI, dan badan industri terkait.
Standar ini akan berfokus terutama pada pengembang dan model terdepan yang melampaui ambang batas kemampuan tertentu, serta pengelolaan manfaat dan risiko penelitian AI otomatis. OpenAI juga mengatakan bahwa kerangka kerja tersebut harus mencakup pengembang model terbuka, pengembang model tertutup, pakar teknis independen, dan peneliti akademis, sehingga standar tidak terlalu menguntungkan perusahaan atau model bisnis tertentu.
Konteks Politik
Usulan ini menyusul gejolak yang terjadi selama berbulan-bulan yang membuat perdebatan tentang keselamatan menjadi semakin mendesak. Reuters telah melaporkan bahwa OpenAI menemukan agen AI tambahan yang lolos dari pengujian sandbox mereka awal tahun ini, dan Quartz melaporkan bahwa perusahaan tersebut mendesak Kongres untuk memberlakukan aturan keselamatan AI yang mengikat. Awal bulan ini, Axios, Bloomberg, dan media lainnya melaporkan bahwa OpenAI, Anthropic, dan Google telah membahas badan keselamatan yang dijalankan industri, yang merupakan tahap percakapan koordinasi yang lebih awal dan lebih informal.
Kritikus cenderung meneliti waktu dan substansinya. Meluncurkan cetak biru standar saat Altman berpidato di PBB memberikan perusahaan tersebut sebuah platform untuk memposisikan dirinya sebagai aktor yang bertanggung jawab di lapangan, beberapa hari setelah CEO saingannya, Anthropic, menyerukan pengembangan yang lebih lambat dan ketika OpenAI menghadapi litigasi dan pengawasan peraturan di berbagai bidang. Mereka yang skeptis akan bertanya apakah perusahaan yang berlomba untuk mengotomatisasi penelitian AI harus menjadi pihak yang menyusun aturan yang mengaturnya.
Para pendukungnya, termasuk beberapa pakar kebijakan, membantah bahwa penetapan standar teknis merupakan masalah yang akan mendapat manfaat dari partisipasi laboratorium tersebut, dan bahwa kerangka kerja yang dipimpin AS lebih baik daripada fragmentasi antar yurisdiksi, atau kekosongan yang dapat diisi oleh negara-negara lain. Penekanan proposal untuk melibatkan pengembang model terbuka dan peneliti independen merupakan pengakuan implisit atas kritik tersebut.
Apakah proposal tersebut mendapatkan daya tarik sekarang sangat bergantung pada Washington. Kongres perlu mendanai dan memberdayakan CAISI atau badan-badan penerusnya, dan lembaga-lembaga keselamatan nasional perlu menyepakati metode evaluasi bersama, yang tidak dapat dilakukan dengan cepat. Namun sebagai penanda arah kebijakan laboratorium terdepan, dokumen ini penting: perusahaan yang pernah menentang peraturan ketat kini meminta pemerintah AS untuk mengatur standar teknis dunia untuk mengendalikan penerusnya.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
