CEO Google DeepMind Demis Hassabis telah mengusulkan pembentukan badan standar independen yang dipimpin AS yang meniru Otoritas Regulasi Industri Keuangan (FINRA) untuk mengevaluasi dan mengatur model AI terdepan sebelum dirilis ke publik, memperingatkan bahwa umat manusia memiliki "jendela berharga" untuk memastikan kecerdasan umum buatan dikembangkan dengan aman.
Dalam dokumen kerangka kerja berjudul “A Framework for Frontier AI and the Dawning of a New Age,” yang diterbitkan pada Selasa pagi di X, Hassabis memaparkan proposal terperinci tentang bagaimana Amerika Serikat dapat membangun infrastruktur peraturan yang kredibel untuk sistem AI yang paling kuat. Rencana tersebut memerlukan sebuah organisasi baru yang akan menguji model frontier dan mengembangkan praktik terbaik untuk penerapannya – yang didanai oleh industri AI tetapi dioperasikan secara independen dari satu perusahaan mana pun.
Untuk berita AI terkini dan analisis kebijakan mendalam, AI Buzz Wire melacak perkembangan yang membentuk industri ini.
Bagaimana Badan Standar yang Diusulkan Akan Bekerja
Berdasarkan proposal Hassabis, laboratorium AI akan secara sukarela membagikan model terdepan mereka kepada badan standar untuk ditinjau hingga 30 hari sebelum dirilis ke publik. Penilaian pra-penerapan ini akan mengevaluasi model untuk keselamatan, keamanan, dan potensi risiko penyalahgunaan. Setelah protokol penilaian terbukti efektif dan kuat, kerangka kerja tersebut akan memformalkan proses tersebut sehingga model frontier diharuskan untuk lolos sebelum diterapkan di pasar AS.
Proposal ini secara langsung mengatasi kesenjangan yang muncul dari tinjauan pemerintah baru-baru ini terhadap sistem AI terdepan. Awal tahun ini, pemerintah AS melakukan tinjauan keamanan ad hoc terhadap model Mythos Anthropic dan model Sol OpenAI sebelum dirilis. Tinjauan tersebut menuai banyak kritik karena kurangnya kedalaman teknis dan pengambilan keputusan yang tidak jelas mengenai kapan suatu model dianggap cukup aman untuk diterapkan ke publik.
Di bawah kerangka Hassabis, keputusan-keputusan tersebut akan ditangani oleh sebuah organisasi khusus yang terdiri dari para ahli teknis, yang didukung oleh pemerintah AS namun terisolasi dari tekanan politik. Lab juga diharuskan bekerja sama dengan badan standar untuk mengatasi kerentanan kritis yang ditemukan setelah rilis.
'Jendela Berharga' Sebelum AGI
Dalam wawancara dengan Axios, CNBC, dan The Economist yang menyertai peluncuran kerangka kerja tersebut, Hassabis menekankan bahwa momen saat ini mewakili peluang sempit untuk membangun mekanisme tata kelola sebelum kecerdasan umum buatan hadir. Dia menggambarkan periode ini sebagai "jendela yang berharga" - yang menyiratkan bahwa jendela tersebut tidak akan tetap terbuka tanpa batas waktu.
Hassabis telah lama mendukung tata kelola AI yang proaktif. Kerangka kerjanya muncul di tengah perdebatan yang semakin intensif mengenai apakah Amerika Serikat harus membentuk regulator AI formal, dan jika demikian, bentuk apa yang harus diambil. Model FINRA penting karena organisasi pengaturan mandiri industri keuangan didanai oleh perusahaan-perusahaan anggota tetapi beroperasi di bawah pengawasan pemerintah, sehingga memberikan keahlian industri dan akuntabilitas publik.
Perlawanan dari Pemerintahan Trump
Proposal tersebut menghadapi hambatan politik yang signifikan. Pemerintahan Trump telah mengisyaratkan skeptisisme yang mendalam terhadap pembentukan badan pengatur baru untuk kecerdasan buatan. Penasihat AI Gedung Putih dan mitra umum a16z Sriram Krishnan – yang telah meninggalkan jabatannya – secara terbuka menolak gagasan regulator AI dalam cabang eksekutif, dengan terus terang menyatakan bahwa “tidak akan ada FDA untuk AI.”
Sikap tersebut telah menempatkan pejabat pemerintah berselisih dengan beberapa pemimpin industri yang paling terkemuka. Meskipun perusahaan seperti Anthropic dan OpenAI secara luas mendukung pengujian keamanan pra-penerapan, mekanisme dan wewenang untuk pengujian tersebut masih diperdebatkan. Usulan Hassabis mencoba mengatasi hal ini dengan memposisikan badan standar tersebut sebagai badan standar yang didanai oleh industri dan bersifat sukarela, dan formalisasi hanya dilakukan setelah proses tersebut membuktikan manfaatnya.
Membangun Upaya yang Sudah Ada
Kerangka kerja ini tidak dimulai dari awal. Hal ini didasarkan pada komitmen sukarela yang telah dibuat oleh beberapa perusahaan AI terdepan terkait pengujian keamanan dan pembentukan tim merah. Hal ini juga memanfaatkan upaya internasional, termasuk AI Safety Institute di Inggris dan Hiroshima AI Process milik G7, yang telah menetapkan kerangka kerja awal untuk mengevaluasi model-model canggih.
Namun, usulan Hassabis lebih jauh lagi dengan menyerukan dibentuknya organisasi permanen yang mempunyai sumber daya yang baik dengan mandat untuk menguji setiap model yang ada sebelum dirilis – sebuah tingkat pengawasan yang belum pernah dilakukan oleh badan manapun saat ini. Analogi FINRA menyarankan operasi berskala besar dan profesional dengan ratusan pakar teknis, bukan panel penasihat kecil.
Proposal tersebut juga membahas pemantauan pasca penerapan, yang mengharuskan laboratorium untuk bekerja sama dengan badan standar mengenai kerentanan yang ditemukan setelah model tersedia untuk umum. Hal ini mencerminkan semakin besarnya kesadaran bahwa risiko keselamatan tidak berakhir pada saat peluncuran, seperti yang ditunjukkan oleh kasus jailbreak dan penyalahgunaan yang muncul setelah beberapa rilis model terkenal.
Respon Industri dan Langkah Selanjutnya
Kerangka kerja ini telah menghasilkan perhatian yang signifikan di seluruh komunitas kebijakan AI. Para pendukung berpendapat bahwa sistem pengujian pra-penempatan yang kredibel dapat membangun kepercayaan publik terhadap model perbatasan dan mengurangi risiko penyalahgunaan yang sangat besar. Kritikus, termasuk beberapa pendukung pasar bebas, memperingatkan bahwa persyaratan pengujian wajib dapat memperkuat perusahaan lama dengan menciptakan hambatan peraturan bagi perusahaan kecil dan pengembang sumber terbuka.
Usulan Hassabis tidak merinci model mana yang akan memenuhi syarat sebagai “frontier” – sebuah pertanyaan ambang batas yang akan menentukan ruang lingkup rezim regulasi di masa depan. Hal ini juga membuka kemungkinan bagaimana badan standar akan menangani aplikasi rahasia atau penggunaan ganda, terutama mengingat kekhawatiran baru-baru ini tentang model AI yang digunakan untuk memecahkan sistem rahasia AS.
Penentuan waktu usulan tersebut memang disengaja. Dengan semakin masuk akalnya AGI dalam beberapa tahun ke depan, Hassabis menekankan bahwa infrastruktur tata kelola harus dibangun sekarang, bukan setelah kemampuan berbahaya muncul. Apakah Washington akan menindaklanjuti seruannya masih harus dilihat.
Tetap Terdepan dalam AI
Untuk liputan komprehensif mengenai kebijakan AI, regulasi, dan perkembangan industri, kunjungi AI Buzz Wire.
Baca berita AI selengkapnya →
