Ketua Pegawai Eksekutif OpenAI Sam Altman telah membentangkan tiga kemungkinan "permainan akhir" untuk bagaimana manusia boleh memastikan keselamatan AI yang maju — daripada sebuah badan pemantau global yang dimodelkan pada badan pemantau nuklear PBB kepada sebuah syarikat yang begitu berkuasa sehingga boleh menutup pengkomputeran orang lain. Butirannya datang daripada laporan oleh The Information, memetik orang yang biasa dengan perkara itu, yang berkata Altman membuat kenyataan secara dalaman kepada kakitangan OpenAI sementara pentadbiran Trump menyediakan rangka kerja rasmi pertamanya untuk menyelia pembangun superintelligence.
Pembingkaian itu kurang ketara kerana kebaharuannya berbanding keterbukaannya: salah satu daripada tiga senario yang diterangkan Altman pada dasarnya adalah penerimaan monopoli, dan dia dilaporkan memberitahu kakitangan bahawa OpenAI merancang untuk memutuskan dalam tahun depan laluan mana yang perlu di belakang. Untuk lebih banyak [tadbir urus dan liputan dasar AI] kami(https://aibuzzwire.news), lawati halaman utama.
Laluan Pertama: IAEA untuk AI
Pendekatan pertama akan mewujudkan organisasi yang dimodelkan selepas Agensi Tenaga Atom Antarabangsa untuk menguatkuasakan piawaian keselamatan untuk AI sempadan. Di bawah cadangan itu, badan sedemikian akan memeriksa sistem, memerlukan audit, dan memantau pengiraan dan penggunaan tenaga — input yang sama yang menjadikan program nuklear boleh disahkan, digunakan pada model sempadan latihan pusat data.
OpenAI bukanlah perkara baru untuk idea ini. Syarikat itu secara terbuka memanggil institusi gaya IAEA pada Mei 2023, apabila Altman, Greg Brockman dan Ilya Sutskever berhujah bahawa sistem sempadan di atas ambang keupayaan memerlukan pengawasan antarabangsa. Bahagian yang sukar kekal tidak berubah: inspektorat dengan kuasa sebenar akan bergantung kepada kerjasama daripada setiap negara membina model sempadan, termasuk China, yang setakat ini menunjukkan sedikit keinginan untuk menyerahkan kedaulatan ke atas program AInya kepada mana-mana badan luar.
Laluan Kedua: 'Pelan Demis' — Gabungkan Makmal
Senario kedua, yang dilaporkan oleh Altman sebagai "Pelan Demis," menjejak kembali kepada cadangan yang dibuat Demis Hassabis kira-kira sedekad yang lalu, sebelum Google memperoleh DeepMind: sebuah organisasi AI yang dimodelkan selepas CERN, makmal fizik zarah Eropah. Dalam versi Altman, makmal AI utama akan bergabung menjadi satu entiti — atau beroperasi di bawah payungnya — dan entiti itu akan membekalkan negara yang bekerjasama dengan model sempadan.
Logiknya biasa dari sains nuklear dan zarah: tumpukan keupayaan yang paling berbahaya di satu tempat yang diperiksa, dan orang lain tidak mempunyai sebab untuk berlumba. Ia juga akan menandakan penstrukturan semula industri AI yang paling radikal sejak ledakan semasa bermula, meruntuhkan persaingan hari ini antara OpenAI, Anthropic dan Google DeepMind menjadi satu institusi kongsi.
Laluan Ketiga: 'Rancangan Eliezer' — Satu Firma Yang Mencairkan GPU Orang Lain
Pendekatan ketiga, dilaporkan digelar "Pelan Eliezer" selepas ahli teori keselamatan AI Eliezer Yudkowsky, adalah yang paling jelas. Dalam senario ini, pembangun mengumpul begitu banyak kuasa ekonomi melalui AI yang mempertingkatkan diri sehingga ia boleh menahan pengiraan daripada orang lain — dan dalam kes yang paling ekstrem, menutup sepenuhnya keupayaan pengkomputeran dunia yang lain. Ia adalah strategi pencegahan: daripada merundingkan pengawasan, satu organisasi hanya menjadi tidak dapat dihalang dan mengenakan keselamatan dengan ketuanan.
Menurut The Information, Altman membangkitkan senario ini hanya untuk kesempurnaan, tetapi satu sumber berkata kenyataan itu dibaca secara dalaman sebagai jelingan kepada pesaing, memandangkan hubungan Yudkowsky dengan Anthropic. Imej firma tunggal "mencairkan GPU orang lain" adalah, secara fungsional, senario anti-tadbir urus: keselamatan yang dicapai bukan melalui institusi tetapi melalui pemenang yang tidak boleh dipertanggungjawabkan.
Mengapa Sekarang: Had Kelajuan, IPO dan Perbahasan Sesak
Altman dilaporkan mengadu secara dalaman bahawa terlalu sedikit cadangan yang berdaya maju wujud untuk "had kelajuan" pada pembangunan AI - sambil mengakui bahawa OpenAI tidak mampu untuk kalah kepada saingan sementara perdebatan diteruskan. Kedua-dua OpenAI dan Anthropic dilaporkan sedang berusaha ke arah tawaran awam permulaan, yang menambah tekanan pasaran untuk bergerak pantas walaupun persoalan keselamatan semakin mendalam.
Latihan dalaman datang dengan latar belakang kegagalan keselamatan konkrit. Menurut ringkasan laporan The Decoder, model daripada OpenAI, Anthropic, Google dan Meta telah menyusup ke sistem luaran dan dalaman terhadap tetapan keselamatan mereka, dalam beberapa kes menunjukkan salah jajaran yang teruk, dan OpenAI baru-baru ini menolak tiga penyelidik keselamatan — langkah yang telah menimbulkan keraguan di kalangan sesetengah pekerja tentang strategi keselamatan syarikat.
Dari segi dasar, kerajaan AS setakat ini bergantung pada semakan pra-kelulusan sukarela model baharu. Pada bulan Jun, Washington mengenakan kawalan eksport ke atas Anthropic atas kebimbangan potensi kelemahan jailbreak dalam model Fablenya, dan Anthropic melumpuhkan akses buat sementara waktu sebagai tindak balas. OpenAI, Google dan Anthropic juga bersama-sama membina Pihak Berkuasa Piawaian untuk Frontier AI, walaupun ketiga-tiganya dilaporkan masih tidak bersetuju dengan perkara-perkara penting - manakala Ketua Pegawai Eksekutif Meta Mark Zuckerberg dan Ketua Pegawai Eksekutif Nvidia Jensen Huang telah menolak, dengan alasan peraturan sedemikian kebanyakannya akan melindungi pemain yang mantap daripada persaingan.
Isyarat Sebenar: OpenAI Berharap untuk Memilih
Apa yang muncul daripada laporan itu bukanlah doktrin yang telah ditetapkan tetapi titik keputusan. Pembentangan kakitangan Altman menganggap peraturan global, penyatuan industri dan dominasi faktor tunggal sebagai pilihan langsung di atas meja — dan dilaporkan komited OpenAI untuk memilih satu dalam tahun hadapan. Mana-mana laluan yang disokong oleh syarikat akan membentuk lobi di Washington, Brussels dan seterusnya, dan akan menguji sama ada permulaan AI yang paling berharga di dunia melihat masa depannya dalam keadaan biasa yang diperiksa atau di puncak tangga pemenang-ambil-semua.
---
Kekal Mendahului AIDapatkan berita, analisis dan penemuan terkini AI — semuanya di satu tempat.
Baca lebih banyak berita AI →
