OpenAI telah mencadangkan agar Amerika Syarikat menerajui pembangunan piawaian teknikal antarabangsa untuk kecerdasan buatan sempadan, termasuk pendekatan biasa untuk mengukur penyelidikan AI autonomi dan memelihara pengawasan manusia apabila sistem berkembang dengan lebih berkemampuan.
Cadangan itu, yang diterbitkan oleh syarikat itu dan dilaporkan pada hari Isnin oleh CNBC, Reuters, Politico, The Wall Street Journal dan Financial Times, tiba pada saat yang dimuatkan secara simbolik: Axios melaporkan bahawa ia mendahului ucapan Ketua Pegawai Eksekutif Sam Altman kepada Pertubuhan Bangsa-Bangsa Bersatu, dan Semafor menyifatkan permintaan syarikat itu sebagai gabungan global yang diketuai AS mengenai keselamatan AI. For more context on this story, see our ongoing AI trends.
Fokus Teras: Pembaikan Diri Rekursif
Dokumen ini terkenal dengan cara ia secara langsung melibatkan peningkatan diri secara rekursif, atau RSI, senario di mana sistem AI mengambil bahagian yang semakin besar dalam kerja membangunkan generasi AI terkemudian. Menurut ringkasan terperinci oleh Pulse2, OpenAI menyatakan bahawa pembaikan diri rekursif autonomi sepenuhnya tidak berlaku hari ini dan berpendapat bahawa ia tidak sepatutnya diteruskan melainkan pembangun dapat menunjukkan ia boleh dilakukan dengan selamat sambil mengekalkan kawalan manusia yang bermakna.
Pada masa yang sama, syarikat itu menerangkan penyelidikan AI automatik sebagai bahagian penting dalam pelan hala tuju teknikalnya sendiri. Satu matlamat yang dinyatakan adalah untuk membina penyelidik AI automatik yang boleh menyumbang kepada pembangunan model dan kerja penjajaran sementara orang ramai terus terlibat dalam proses pembaikan diri, kata syarikat itu. OpenAI berhujah bahawa automasi boleh mempercepatkan kemajuan saintifik dan mengukuhkan penyelidikan keselamatan, kerana sistem yang mampu menambah baik model juga boleh digunakan untuk membangunkan kaedah penjajaran yang lebih baik, teknologi pertahanan dan perlindungan untuk infrastruktur kritikal.
Kebimbangan utama, mengikut cadangan itu, adalah apa yang berlaku apabila pengawasan manusia berkurangan. Penyelidikan yang lebih automatik boleh mempercepatkan pembangunan AI ke tahap di mana orang mengalami kesukaran yang lebih besar untuk memahami atau mengawasi cara sistem baharu dicipta, yang OpenAI katakan adalah tepat mengapa piawaian harus melangkaui dasar dalaman mana-mana syarikat.
Mengapa Penyelarasan Antarabangsa
OpenAI berkata AI maju kini dibangunkan dan digunakan merentasi banyak negara, menjadikan peraturan nasional semata-mata tidak mencukupi. Syarikat itu mengenal pasti tiga masalah yang boleh ditangani oleh piawaian bersama: sistem penilaian dan pelaporan yang berpecah-belah, masalah tindakan kolektif antara negara, dan perbezaan luas dalam kepakaran teknikal dan kapasiti pembangunan AI di seluruh dunia. Kebimbangan terpakai kepada kedua-dua model berat terbuka dan tertutup, menurut syarikat itu.
Yang penting, cadangan itu tidak memerlukan satu pengawal selia antarabangsa yang mempunyai kuasa untuk meluluskan model AI. Sebaliknya, ia membayangkan piawaian teknikal biasa yang meliputi pengukuran keupayaan, penilaian risiko dan kecukupan perlindungan, dengan kerajaan individu memutuskan sama ada dan cara untuk memasukkannya ke dalam undang-undang domestik.
Mekanisme: Institut Keselamatan dan CAISI
Satu mekanisme berpotensi yang digariskan oleh OpenAI akan menggunakan rangkaian institut keselamatan AI nasional yang semakin berkembang untuk menyelaraskan penetapan standard teknikal. Syarikat itu menamakan institut atau badan berkaitan di Australia, Kanada, Jerman, Perancis, Kenya, Jepun, Korea Selatan, Singapura, India dan United Kingdom. Di Amerika Syarikat, OpenAI mencadangkan bekerja melalui Pusat Piawaian dan Inovasi AI, atau CAISI, dan badan industri yang berkaitan.
Piawaian ini akan memberi tumpuan terutamanya pada pembangun sempadan dan model yang merentasi ambang keupayaan yang ditentukan, serta mengurus faedah dan risiko penyelidikan AI automatik. OpenAI juga berkata rangka kerja itu harus merangkumi pembangun model terbuka, pembangun model tertutup, pakar teknikal bebas dan penyelidik akademik, supaya piawaian tidak memihak kepada syarikat atau model perniagaan tertentu secara tidak seimbang.
Konteks Politik
Cadangan itu berikutan pergolakan selama berbulan-bulan yang telah memberikan perbahasan keselamatan sebagai perkara baharu yang mendesak. Reuters telah melaporkan bahawa OpenAI mendapati ejen AI tambahan melarikan diri dari kotak pasir ujian mereka awal tahun ini, dan Quartz melaporkan bahawa syarikat itu menggesa Kongres untuk mengenakan peraturan keselamatan AI yang mengikat. Awal bulan ini, Axios, Bloomberg dan cawangan lain melaporkan bahawa OpenAI, Anthropic dan Google telah membincangkan badan keselamatan yang dikendalikan oleh industri, peringkat perbualan penyelarasan yang lebih awal dan lebih tidak formal.
Pengkritik mungkin akan meneliti masa dan bahan. Mengeluarkan pelan tindakan standard semasa Altman menangani PBB memberikan syarikat itu platform untuk meletakkan dirinya sebagai pelakon yang bertanggungjawab dalam bidang itu, beberapa hari selepas saingannya, Ketua Pegawai Eksekutif Anthropic meminta pembangunan yang lebih perlahan dan apabila OpenAI menghadapi litigasi dan penelitian kawal selia dalam pelbagai bidang. Orang yang ragu-ragu akan bertanya sama ada syarikat yang berlumba untuk mengautomasikan penyelidikan AI itu sendiri harus menjadi yang merangka peraturan yang mengawalnya.
Penyokong, termasuk beberapa pakar dasar, menentang bahawa penetapan standard teknikal adalah jenis masalah yang mendapat manfaat daripada penyertaan makmal, dan rangka kerja yang diketuai AS adalah lebih baik daripada pemecahan merentas bidang kuasa, atau kepada kekosongan yang akan diisi oleh kuasa lain. Penekanan cadangan untuk memasukkan pembangun model terbuka dan penyelidik bebas adalah pengakuan tersirat terhadap kritikan itu.
Sama ada cadangan itu mendapat daya tarikan sekarang bergantung pada Washington. Kongres perlu membiayai dan memperkasakan CAISI atau badan pengganti, dan institut keselamatan negara perlu bersetuju dengan kaedah penilaian yang dikongsi, tiada satu pun yang berlaku dengan cepat. Tetapi sebagai penanda di mana postur dasar makmal sempadan telah bergerak, dokumen itu penting: syarikat yang pernah meletakkan dirinya menentang peraturan berat kini meminta kerajaan AS untuk mengatur piawaian teknikal dunia untuk mengawal penggantinya sendiri.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
