Demis Hassabis Google DeepMind meminta Badan Pengawas AI Gaya FINRA Diterajui AS untuk Menguji Model Frontier

Ketua Pegawai Eksekutif Google DeepMind Demis Hassabis telah mencadangkan penubuhan badan piawaian bebas yang diterajui AS yang dimodelkan mengikut Pihak Berkuasa Kawal Selia Industri Kewangan (FINRA) untuk menilai dan mengawal selia model AI sempadan sebelum keluaran awam, memberi amaran bahawa manusia mempunyai "tingkap berharga" untuk memastikan kecerdasan am buatan dibangunkan dengan selamat.

Dalam dokumen rangka kerja bertajuk "A Framework for Frontier AI and the Dawning of a New Age," yang diterbitkan pada X pada pagi Selasa, Hassabis membentangkan cadangan terperinci tentang cara Amerika Syarikat boleh mewujudkan infrastruktur kawal selia yang boleh dipercayai untuk sistem AI yang paling berkuasa. Pelan itu memerlukan organisasi baharu yang akan menguji model sempadan dan membangunkan amalan terbaik untuk penggunaannya — dibiayai oleh industri AI tetapi beroperasi secara bebas daripada mana-mana syarikat tunggal.

Untuk berita terbaharu AI dan analisis dasar yang mendalam, AI Buzz Wire menjejaki perkembangan yang membentuk industri.

Bagaimana Badan Piawaian yang Dicadangkan Akan Berfungsi

Di bawah cadangan Hassabis, makmal AI secara sukarela akan berkongsi model sempadan mereka dengan badan piawai untuk semakan sehingga 30 hari sebelum dikeluarkan kepada umum. Penilaian pra-pengerahan ini akan menilai model untuk keselamatan, keselamatan dan potensi risiko penyalahgunaan. Sebaik sahaja protokol penilaian terbukti berkesan dan kukuh, rangka kerja membayangkan proses memformalkan supaya model sempadan diperlukan untuk melepasinya sebelum digunakan di pasaran AS.

Cadangan itu secara langsung menangani jurang yang terdedah oleh semakan kerajaan baru-baru ini mengenai sistem AI sempadan. Awal tahun ini, kerajaan AS menjalankan semakan keselamatan ad hoc model Mythos Anthropic dan model Sol OpenAI sebelum keluaran masing-masing. Ulasan tersebut mendapat kritikan yang ketara kerana kekurangan kedalaman teknikal dan untuk membuat keputusan yang tidak jelas tentang apabila model dianggap cukup selamat untuk penggunaan awam.

Di bawah rangka kerja Hassabis, keputusan tersebut akan dikendalikan oleh organisasi berdedikasi dengan kakitangan pakar teknikal, disokong oleh kerajaan AS tetapi terlindung daripada tekanan politik. Makmal juga perlu bekerjasama dengan badan piawaian untuk menangani kerentanan kritikal yang ditemui selepas dikeluarkan.

'Tetingkap Berharga' Sebelum AGI

Dalam temu bual dengan Axios, CNBC, dan The Economist yang mengiringi keluaran rangka kerja itu, Hassabis menekankan bahawa detik semasa mewakili peluang sempit untuk mewujudkan mekanisme tadbir urus sebelum kecerdasan am buatan tiba. Dia menyifatkan tempoh ini sebagai "tingkap berharga" — membayangkan bahawa tingkap itu tidak akan kekal terbuka selama-lamanya.

Hassabis telah lama menjadi penyokong tadbir urus AI yang proaktif. Rangka kerjanya tiba di tengah-tengah perdebatan yang semakin sengit sama ada Amerika Syarikat harus mewujudkan pengawal selia AI rasmi, dan jika ya, apakah bentuk yang perlu diambil. Model FINRA terkenal kerana organisasi kawal selia kendiri industri kewangan dibiayai oleh firma ahli tetapi beroperasi di bawah pengawasan kerajaan, memberikannya kepakaran industri dan akauntabiliti awam.

Penentangan daripada Pentadbiran Trump

Cadangan itu menghadapi masalah politik yang ketara. Pentadbiran Trump telah menunjukkan keraguan yang mendalam terhadap mewujudkan badan kawal selia baharu untuk kecerdasan buatan. Penasihat AI White House dan rakan kongsi am a16z Sriram Krishnan — yang telah meninggalkan peranannya — secara terbuka menolak idea pengawal selia AI dalam cawangan eksekutif, dengan terus terang menyatakan bahawa "tidak akan ada FDA untuk AI."

Pendirian itu telah meletakkan pegawai pentadbiran bertentangan dengan beberapa pemimpin industri yang paling terkemuka. Walaupun syarikat seperti Anthropic dan OpenAI secara meluas menyokong ujian keselamatan pra-pengerahan, mekanisme dan kuasa untuk ujian tersebut tetap dipertikaikan. Cadangan Hassabis cuba memasukkan jarum ini dengan meletakkan badan piawaian sebagai dibiayai industri dan secara sukarela pada mulanya, dengan pemformalkan hanya berlaku selepas proses membuktikan nilainya.

Membina Usaha Sedia Ada

Rangka kerja tidak bermula dari awal. Ia membina komitmen sukarela yang telah dibuat oleh beberapa syarikat AI sempadan berkenaan ujian keselamatan dan penggabungan merah. Ia juga menggunakan usaha antarabangsa, termasuk Institut Keselamatan AI UK dan Proses AI Hiroshima G7, yang telah mewujudkan rangka kerja awal untuk menilai model termaju.

Walau bagaimanapun, cadangan Hassabis pergi lebih jauh dengan memanggil organisasi tetap yang mempunyai sumber yang baik dengan mandat untuk menguji setiap model sempadan sebelum dikeluarkan — tahap penelitian yang tidak disediakan oleh badan semasa. Analogi FINRA mencadangkan operasi profesional berskala dengan beratus-ratus pakar teknikal, bukan panel penasihat kecil.

Cadangan itu juga menangani pemantauan pasca penempatan, yang memerlukan makmal untuk bekerjasama dengan badan piawai mengenai kelemahan yang ditemui selepas model tersedia secara umum. Ini mencerminkan pengiktirafan yang semakin meningkat bahawa risiko keselamatan tidak berakhir semasa pelancaran, seperti yang ditunjukkan oleh kes jailbreak dan penyalahgunaan yang telah muncul selepas beberapa keluaran model berprofil tinggi.

Tindak Balas Industri dan Langkah Seterusnya

Rangka kerja ini telah menjana perhatian yang ketara di seluruh komuniti dasar AI. Penyokong berpendapat bahawa rejim ujian pra-pengerahan yang boleh dipercayai boleh membina kepercayaan orang ramai terhadap model sempadan dan mengurangkan risiko penyalahgunaan bencana. Pengkritik, termasuk beberapa penyokong pasaran bebas, memberi amaran bahawa keperluan ujian mandatori boleh mengukuhkan penyandang besar dengan mewujudkan halangan kawal selia untuk syarikat yang lebih kecil dan pembangun sumber terbuka.

Cadangan Hassabis tidak menyatakan model mana yang layak sebagai "sempadan" — soalan ambang yang akan menentukan skop mana-mana rejim kawal selia masa hadapan. Ia juga membuka cara badan piawaian itu akan mengendalikan aplikasi terperingkat atau dwi-guna, terutamanya memandangkan kebimbangan terkini tentang model AI yang digunakan untuk memecahkan sistem terperingkat AS.

Masa cadangan adalah disengajakan. Dengan AGI kelihatan semakin munasabah dalam beberapa tahun akan datang, Hassabis menekankan bahawa infrastruktur tadbir urus mesti dibina sekarang, bukan selepas keupayaan berbahaya muncul. Sama ada Washington akan bertindak atas panggilannya masih belum diketahui.

Kekal Mendahului AI

Untuk liputan komprehensif tentang dasar AI, peraturan dan perkembangan industri, lawati AI Buzz Wire.

Baca lebih banyak berita AI →