Google DeepMind telah melancarkan institut baharu yang khusus untuk meluaskan perbualan mengenai kecerdasan am buatan — dan esei sulungnya termasuk cadangan konkrit daripada Demis Hassabis untuk badan yang diketuai AS yang akan menilai model AI sempadan sebelum penggunaan.
Institut DeepMind, yang dilancarkan pada hari Rabu oleh Google dan penyelidik Google DeepMind, menyenaraikan pengasas bersama DeepMind Shane Legg sebagai editor pengurusannya, bersama eksekutif Google James Manyika dan pengerusi Google DeepMind Demis Hassabis sebagai pengarah, menurut TechCrunch. For more context on this story, see our ongoing more AI stories.
Ruang untuk Tidak Setuju
Tujuan yang dinyatakan institut ini adalah untuk menimbulkan perselisihan faham yang tulen — termasuk dalam Google sendiri. "Mereka tidak akan sentiasa bersetuju, dan mereka mungkin akan mengubah fikiran mereka, kerana lebih banyak data dan maklumat terbongkar di sempadan yang bergerak pantas," bunyi pengumuman itu.
Koleksi pertamanya terdiri daripada empat esei yang merangkumi dasar ekonomi untuk menguruskan gangguan AGI yang berpotensi, memelihara penaakulan model yang boleh dibaca manusia, prinsip untuk perkembangan manusia dan rangka kerja untuk menilai model AI sempadan.
Menginstitusikan perselisihan pendapat terbuka ialah langkah luar biasa untuk makmal AI korporat, di mana pemesejan awam cenderung dikawal ketat. Dengan reka bentuk, institut itu memberi penyelidik Google tempat untuk berhujah mengenai kedudukan yang mungkin bercanggah dengan kepentingan komersial syarikat — atau kepentingan satu sama lain.
Esei Ketelusan: Tonton 'Kedalaman Bersiri Legap'
Salah satu daripada empat esei, oleh penyelidik keselamatan DeepMind Rohin Shah dan Anca Dragan, berpendapat bahawa tetingkap ketelusan AI yang semakin mengecil - keupayaan untuk melihat dan menyemak penaakulan langkah demi langkah model - tidak dapat dielakkan, walaupun seni bina baharu menjadikan model paling berkuasa lebih sukar untuk dipantau.
Penulis mengatakan pemaju dan pengawal selia harus berhadapan dengan pertukaran keselamatan secara langsung. Secara konkrit, ini boleh bermakna mengehadkan apa yang mereka panggil "kedalaman bersiri legap" — jumlah pengiraan berjujukan yang boleh dilakukan oleh model tanpa menghasilkan jejak penaakulan yang boleh dibaca — atau memerlukan pembangun untuk menunjukkan bahawa sistem yang kurang telus kekal sama boleh dipantau seperti yang boleh ditafsir.
Cadangan itu penting kerana ia menganggap kehilangan kebolehtafsiran sebagai reka bentuk dan pilihan dasar dan bukannya akibat skala yang tidak dapat dielakkan, membuka pintu kepada keperluan yang boleh dimasukkan ke dalam peraturan.
Cadangan Hassabis: Badan Standard Sempadan AS
Karangan yang paling berbangkit mungkin karangan Hassabis. Beliau mencadangkan badan standard AI sempadan yang diketuai AS yang ditugaskan untuk menilai model AI yang paling maju. Di bawah rangka kerja, pembangun pada mulanya akan menyerahkan model secara sukarela untuk semakan sehingga 30 hari sebelum dikeluarkan. Apabila sistem penilaian telah terbukti berkesan, lulus ujiannya boleh menjadi keperluan untuk menggunakan model sempadan di Amerika Syarikat.
Badan itu akan bermula dengan mereka bentuk penilaian melalui perundingan dengan syarikat AI, tetapi akhirnya akan membangunkan penilaian yang bebas dan tidak didedahkan - yang disebut oleh esei sebagai ujian "ditahan" - untuk menghalang makmal daripada menyesuaikan model mereka kepada penanda aras yang diketahui, mod kegagalan rejim penilaian awam yang didokumentasikan dengan baik.
Hassabis juga membiarkan pintu terbuka kepada peningkatan: rangka kerja itu boleh "dipertingkatkan jika keadaan memerlukan keseriusan," yang berpotensi termasuk kelembapan yang diselaraskan di kalangan pembangun AI sempadan.
Mengapa Dua Esei Lain Penting
Dua esei yang selebihnya — mengenai dasar ekonomi untuk menguruskan gangguan AGI dan prinsip untuk perkembangan manusia — melengkapkan koleksi yang menganggap AGI sebagai masalah seluruh masyarakat dan bukannya masalah teknikal semata-mata. Anjakan ekonomi telah lama menjadi kebimbangan awam yang paling ketara di sekitar AI maju, dan membingkainya bersama dasar penilaian dan kebolehtafsiran mencadangkan institut itu mahu penggubal dasar melihat bahagian itu sebagai satu agenda dan bukannya perbahasan yang berasingan.
Keluasan itu juga merupakan isyarat tentang kedudukan Google. Syarikat itu bersaing untuk pelanggan perusahaan dan kontrak kerajaan sambil pada masa yang sama berhujah bahawa sistem sempadan memerlukan penelitian luar. Menerbitkan ketegangan, bukannya melicinkannya, adalah premis teras institut.
Daripada Keprihatinan kepada Cadangan Konkrit
Esei tiba apabila perbahasan keselamatan industri beralih daripada pernyataan kebimbangan yang luas ke arah mekanisme tertentu: keperluan pendedahan, penelitian luar dan - jika perlindungan ketinggalan - kelembapan yang diselaraskan. Peralihan itu dipercepatkan minggu ini apabila pemimpin industri menyokong elemen panggilan Ketua Pegawai Eksekutif Anthropic Dario Amodei untuk "mempercepat" pembangunan AI sempadan, mengikut TechCrunch.
Masa penting. Kerajaan di kedua-dua belah Atlantik sedang menimbang bagaimana untuk mengawasi sistem yang keupayaannya berkembang lebih pantas daripada infrastruktur penilaian. Cadangan yang berasal dari dalam makmal AI terkemuka — dan itu termasuk semakan pra-keluaran dengan gigi — memberikan penggubal dasar templat yang industri itu sendiri telah disahkan secara nominal, yang secara sejarah menjadi prasyarat untuk peraturan AI yang bermakna.
Perkara yang Perlu Dilihat
Kebebasan editorial institut daripada Google akan menjadi ujian pertama. Jika esei terus memasukkan kedudukan yang bertentangan dengan pelan hala komersil Google — seperti yang boleh dikatakan esei ketelusan — tempat itu boleh menjadi penyumbang serius kepada perbahasan dasar AGI. Jika ia melayang ke arah pemesejan korporat, ia akan menjadi satu lagi saluran PR dalam medan yang sesak.
Walau apa pun, bahan itu ada di meja sekarang: keperluan penilaian pra-keluaran, ujian yang ditangguhkan, dan juga kelembapan yang diselaraskan dipertikaikan secara terbuka oleh salah seorang tokoh paling berkuasa dalam AI. Persoalannya bukan lagi sama ada model sempadan harus dinilai secara bebas, tetapi siapa yang membuat penilaian - dan pada jadual waktu apa.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
