Apabila anda bercakap dengan rakan secara peribadi, anda boleh melihat mereka, mendengarnya, berjabat tangan. Apabila anda bercakap dengan model AI, anda hampir tiada jaminan tersebut. Penyelidikan baharu Anthropic menyasarkan tepat jurang itu: syarikat itu telah menerbitkan kemajuan pada bukti kriptografi inferens, termasuk sistem yang dipanggil FlashProve yang boleh membuktikan — secara matematik, bukan secara kontrak — bahawa respons benar-benar datang daripada model yang didakwanya.
Masalah yang ditangani FlashProve adalah berstruktur secara senyap-senyap. Pengguna yang menyoal model hari ini tidak boleh menyemak sama ada respons datang daripada model tertentu yang didakwa pembangun sedang bertindak balas, berbanding dengan yang diganti secara rahsia oleh perkhidmatan penghalaan atas sebab kos, atau malah oleh penyerang yang telah mengganggu aliran token. Jika dilihat dari output sahaja tidak boleh dipercayai, walaupun jawapannya kelihatan sangat baik. Dalam industri di mana tetingkap sembang yang sama boleh dihalakan secara senyap ke model yang lebih murah di bawah beban, itu bukan kebimbangan hipotetikal — ia ialah model amanah lalai. Untuk lebih banyak liputan kerja seperti ini, lihat [berita penyelidikan AI] kami(https://aibuzzwire.news).
Mengapa Inferens Boleh Dibuktikan Adalah Sukar
Matlamat inferens boleh dibuktikan adalah untuk membenarkan pengguna yang mempunyai sumber pengiraan terhad — dan tiada akses kepada pemberat peribadi model — mengesahkan bahawa respons yang diberikan telah dihasilkan secara tulen oleh model tersebut. Pendekatan yang jelas, menjalankan semula model itu sendiri, adalah bukan permulaan: berat model sempadan dirahsiakan, dan menyemak respons terhadapnya memerlukan pengiraan jauh melebihi apa yang mampu dimiliki oleh pengguna biasa, atau penilai yang dibiayai dengan baik.
Pendekatan Anthropic bersandar pada zkSNARKs, sebuah keluarga bukti pengetahuan sifar dengan sifat penyembunyian dan kecekapan yang kukuh yang menjadikannya sesuai secara unik untuk tugas itu. Pembekal memberi komitmen kepada model sekali, kemudian menjana bukti padat untuk setiap respons bahawa jawapan telah dikira oleh model komited — manakala bukti sendiri menyembunyikan pemberat model. Menyembunyikan seni bina bukanlah matlamat sistem; menyembunyikan berat adalah.
Nombor
Angka kecekapan dalam siaran adalah teras teknikal cerita, kerana penjanaan bukti untuk model besar secara historis adalah susunan magnitud terlalu perlahan untuk menjadi masalah. Untuk Llama 4 Maverick, model campuran pakar 400 bilion parameter, satu GPU NVIDIA H100 menghasilkan bukti pada kira-kira 110 token sesaat, dengan saiz bukti kira-kira 19 MB setiap permintaan 1,024 token, menggunakan pemberat terkuantiti 4-bit dan aritmetik praisi integer.
Kepantasan itu datang pada kos: penjanaan bukti mengambil kira-kira 70 hingga 95 kali masa GPU untuk menjalankan model itu sendiri pada vLLM, perpustakaan inferens sumber terbuka yang digunakan secara meluas. Mahal, dalam erti kata lain — tetapi buat pertama kalinya dalam susunan magnitud yang sama seperti perkara yang dibuktikan, dan, menurut Anthropic, jauh lebih pantas daripada sistem sumber terbuka sebelumnya, yang ketinggalan mengikut urutan magnitud.
Claude Membinanya — dan Lean Mengaudit Tuntutan
Terdapat cerita kedua yang dilipat di dalam yang pertama. Menurut catatan itu, Claude sendiri menghasilkan penambahbaikan pada zkSNARKs untuk inferens, mencari cara baru untuk menggunakan alat canggih daripada kriptografi dan kesusasteraan keselamatan sambil bergantung pada prinsip reka bentuk yang mantap untuk sistem bukti kriptografi.
Anthropic berterus terang tentang risiko yang datang dengan aliran kerja itu: Claude mahir dalam pengoptimuman, tetapi sering membuat keputusan yang sukar dinilai, terutamanya dalam sistem kompleks yang besar. Tindakan balas adalah pengesahan rasmi. Syarikat itu menyediakan penyata peringkat tinggi boleh diaudit dalam Lean, bahasa pengesahan rasmi, untuk jaminan keselamatan yang dituntut — matematik yang disemak mesin yang berdiri di antara pengoptimuman pintar AI dan pengguna yang perlu mempercayainya.
Timbunan penuh dikeluarkan di bawah lesen Apache 2.0: catatan blog, laporan teknikal yang menerangkan butiran sistem, perihalan protokol, kod boleh laku termasuk prover dan dua pengesah — pengesah pantas dalam C++ dan pengesah yang terbukti betul dalam Lean — ditambah dengan bukti Lean sendiri dan visualisasi interaktif untuk membantu pengauditan.
Daripada Pematuhan kepada Perjanjian AI Pacing
Lakaran antropopik menggunakan kes yang terdiri daripada rutin kepada geopolitik. Penilai bebas yang menguji model AI sebelum dan selepas keluaran perlu mengetahui model yang mereka nilai ialah model yang disampaikan. Pelanggan yang mengakses model melalui perkhidmatan penghalaan pihak ketiga mahukan jaminan bahawa token datang daripada model yang mereka bayar. Dan dalam senario keselamatan, penyerang siber yang mengubah suai aliran token sambil menyamar sebagai model tertentu menjadi dapat dikesan dengan cara yang tidak boleh dicapai oleh pemeriksaan output sahaja.
Aplikasi paling bercita-cita tinggi yang dinamakan dalam jawatan itu ialah pengesahan pematuhan dengan keperluan pacing AI — kelas perjanjian yang muncul, sukarela dan kerajaan, yang cuba mengawal seberapa pantas keupayaan sempadan maju. Hari ini komitmen sedemikian bergantung pada kepercayaan dan kertas kerja. Bukti kriptografi inferens menawarkan sesuatu yang lebih dekat dengan pemeriksaan: satu cara untuk menunjukkan, bukannya menegaskan, model mana yang menyediakan beban kerja tertentu.
Para penyelidik jelas bahawa ini adalah kemajuan pertengahan, bukan agenda penyelidikan yang lengkap, dan mereka menerbitkan dengan matlamat yang dinyatakan bahawa orang lain mengambil kerja dan memperbaikinya. Pembingkaian itu sendiri adalah isyarat: inferens yang boleh dibuktikan telah beralih daripada eksperimen pemikiran kriptografi-seminar kepada masalah kejuruteraan yang makmal sempadan kini secara terbuka berlumba-lumba untuk menjadikannya cukup murah untuk digunakan.
---
Kekal Mendahului AIDapatkan berita, analisis dan penemuan terkini AI — semuanya di satu tempat.
Baca lebih banyak berita AI →
