Google DeepMind telah meluncurkan sebuah institut baru yang didedikasikan untuk memperluas diskusi seputar kecerdasan umum buatan (AI) – dan esai perdananya mencakup proposal konkret dari Demis Hassabis untuk sebuah badan yang dipimpin AS yang akan mengevaluasi model-model AI terdepan sebelum diterapkan.
DeepMind Institute, yang diluncurkan Rabu oleh Google dan peneliti Google DeepMind, mencantumkan salah satu pendiri DeepMind Shane Legg sebagai editor pelaksana, bersama eksekutif Google James Manyika dan ketua Google DeepMind Demis Hassabis sebagai direktur, menurut TechCrunch. For more context on this story, see our ongoing AI news.
Ruang untuk Tidak Setuju
Tujuan lembaga ini adalah untuk memunculkan ketidaksepakatan yang nyata — termasuk di dalam Google sendiri. “Mereka tidak akan selalu setuju, dan kemungkinan besar mereka akan berubah pikiran, karena semakin banyak data dan informasi yang terungkap dalam situasi yang bergerak cepat,” demikian isi pengumuman tersebut.
Koleksi pertamanya terdiri dari empat esai yang mencakup kebijakan ekonomi untuk mengelola potensi gangguan AGI, melestarikan model penalaran yang dapat dibaca manusia, prinsip-prinsip pertumbuhan manusia, dan kerangka kerja untuk mengevaluasi model AI terdepan.
Melembagakan perselisihan terbuka adalah langkah yang tidak biasa bagi laboratorium AI perusahaan, di mana penyampaian pesan publik cenderung dikontrol dengan ketat. Secara desain, lembaga ini memberikan para peneliti Google tempat untuk memperdebatkan posisi yang mungkin bertentangan dengan kepentingan komersial perusahaan — atau dengan kepentingan satu sama lain.
Esai Transparansi: Saksikan 'Kedalaman Serial Buram'
Salah satu dari empat esai yang ditulis oleh peneliti keamanan DeepMind, Rohin Shah dan Anca Dragan, berpendapat bahwa menyusutnya jendela transparansi AI – kemampuan untuk melihat dan memeriksa pemikiran model langkah demi langkah – tidak dapat dihindari, bahkan ketika arsitektur baru membuat model yang paling kuat lebih sulit untuk dipantau.
Para penulis mengatakan pengembang dan regulator harus menghadapi trade-off keselamatan secara langsung. Secara konkret, hal ini berarti membatasi apa yang mereka sebut "kedalaman serial buram" - jumlah komputasi sekuensial yang dapat dilakukan suatu model tanpa menghasilkan jejak penalaran yang dapat dibaca - atau mengharuskan pengembang untuk menunjukkan bahwa sistem yang kurang transparan tetap dapat dipantau dan diinterpretasikan.
Usulan ini penting karena menganggap hilangnya interpretasi sebagai pilihan desain dan kebijakan, bukan sebagai konsekuensi skala yang tidak dapat dihindari, sehingga membuka pintu bagi persyaratan yang dapat dituangkan dalam peraturan.
Proposal Hassabis: Badan Standar Perbatasan AS
Esai yang paling penting mungkin adalah karya Hassabis. Dia mengusulkan badan standar AI terdepan yang dipimpin AS yang bertugas mengevaluasi model AI paling canggih. Berdasarkan kerangka tersebut, pengembang pada awalnya akan mengirimkan model secara sukarela untuk ditinjau hingga 30 hari sebelum rilis. Setelah sistem evaluasi terbukti efektif, kelulusan pengujian dapat menjadi persyaratan untuk menerapkan model frontier di Amerika Serikat.
Badan ini akan memulai dengan merancang penilaian melalui konsultasi dengan perusahaan-perusahaan AI, namun pada akhirnya akan mengembangkan evaluasi yang independen dan tidak diungkapkan – yang disebut dalam esai sebagai tes yang “ditahan” – untuk mencegah laboratorium menyesuaikan model mereka dengan tolok ukur yang diketahui, sebuah modus kegagalan sistem evaluasi publik yang terdokumentasi dengan baik.
Hassabis juga membiarkan kemungkinan terjadinya eskalasi: kerangka kerja ini dapat “ditingkatkan jika situasi mendesak,” yang berpotensi mencakup perlambatan terkoordinasi di kalangan pengembang AI terdepan.
Mengapa Dua Esai Lainnya Penting
Dua esai lainnya – mengenai kebijakan ekonomi untuk mengelola gangguan AGI dan prinsip-prinsip kesejahteraan manusia – melengkapi kumpulan esai yang memperlakukan AGI sebagai masalah masyarakat luas dan bukan masalah teknis semata. Pergeseran ekonomi telah lama menjadi kekhawatiran publik yang paling nyata mengenai AI yang canggih, dan jika dirangkai bersama dengan kebijakan evaluasi dan kemampuan interpretasi, maka lembaga ini ingin agar para pembuat kebijakan melihat hal-hal tersebut sebagai satu agenda dan bukan sebagai perdebatan terpisah.
Luasnya jangkauan tersebut juga merupakan sinyal mengenai positioning Google. Perusahaan ini bersaing untuk mendapatkan pelanggan perusahaan dan kontrak pemerintah, sekaligus berargumen bahwa sistem perbatasan memerlukan pengawasan dari luar. Mempublikasikan ketegangan, bukan meredakannya, adalah premis utama lembaga ini.
Dari Kepedulian Menjadi Proposal Konkret
Esai-esai ini muncul ketika perdebatan mengenai keselamatan industri beralih dari pernyataan keprihatinan yang luas ke mekanisme yang spesifik: persyaratan pengungkapan, pengawasan dari luar, dan – jika upaya perlindungan tidak dilakukan – perlambatan yang terkoordinasi. Pergeseran ini semakin cepat minggu ini karena para pemimpin industri mendukung elemen seruan CEO Anthropic Dario Amodei untuk "mempercepat" pengembangan AI terdepan, menurut TechCrunch.
Waktunya penting. Pemerintah di kedua negara sedang mempertimbangkan cara untuk mengawasi sistem yang kemampuannya berkembang lebih cepat dibandingkan infrastruktur evaluasi. Sebuah proposal yang berasal dari laboratorium AI terkemuka – dan mencakup tinjauan pra-rilis secara menyeluruh – memberikan para pembuat kebijakan sebuah pola yang secara nominal telah didukung oleh industri tersebut, yang secara historis merupakan prasyarat bagi regulasi AI yang bermakna.
Yang Perlu Ditonton
Independensi editorial lembaga ini dari Google akan menjadi ujian pertama. Jika esai tersebut terus memuat posisi-posisi yang bertentangan dengan peta jalan komersial Google – seperti yang dikatakan dalam esai transparansi – maka tempat tersebut dapat menjadi kontributor serius bagi perdebatan kebijakan AGI. Jika saluran ini beralih ke pesan korporat, saluran ini akan menjadi satu lagi saluran PR di bidang yang ramai.
Apa pun yang terjadi, substansinya sudah dibahas sekarang: persyaratan evaluasi pra-rilis, pengujian yang dilakukan, dan bahkan perlambatan terkoordinasi sedang diperdebatkan secara publik oleh salah satu tokoh paling berpengaruh di bidang AI. Pertanyaannya bukan lagi apakah model frontier harus dievaluasi secara independen, namun siapa yang melakukan evaluasi – dan kapan jadwalnya.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
