When you talk to a friend in person, you can see them, hear them, shake their hand. When you talk to an AI model, you have almost none of those assurances. Penelitian baru Anthropic menargetkan kesenjangan tersebut: perusahaan telah menerbitkan kemajuan dalam bukti inferensi kriptografi, termasuk sistem yang disebut FlashProve yang dapat membuktikan — secara matematis, bukan kontraktual — bahwa respons benar-benar datang dari model yang diklaimnya.
The problem FlashProve addresses is quietly structural. Pengguna yang menanyakan suatu model saat ini tidak dapat memeriksa apakah responsnya berasal dari model spesifik yang diklaim oleh pengembang sebagai respons, dibandingkan dengan model yang secara diam-diam digantikan oleh layanan perutean karena alasan biaya, atau bahkan oleh penyerang yang telah merusak aliran token. Judging from the output alone is unreliable, even if the answers look excellent. Dalam industri di mana jendela obrolan yang sama dapat secara diam-diam mengarahkan ke model yang lebih murah yang sedang dimuat, hal ini bukanlah masalah hipotetis — ini adalah model kepercayaan default. For more coverage of work like this, see our AI research news.
Mengapa Inferensi yang Dapat Dibuktikan Itu Sulit
Tujuan dari inferensi yang dapat dibuktikan adalah untuk memungkinkan pengguna dengan sumber daya komputasi terbatas — dan tidak memiliki akses ke bobot pribadi suatu model — memverifikasi bahwa respons yang diberikan benar-benar dihasilkan oleh model tersebut. Pendekatan yang jelas, yaitu menjalankan kembali model itu sendiri, adalah hal yang tidak bisa dilakukan: bobot model frontier dirahasiakan, dan memeriksa respons terhadap bobot tersebut akan memerlukan komputasi yang jauh melampaui apa yang mampu dilakukan oleh pengguna pada umumnya, atau bahkan evaluator yang mempunyai dana besar.
Pendekatan Anthropic bersandar pada zkSNARKs, kumpulan bukti tanpa pengetahuan dengan sifat persembunyian dan efisiensi yang kuat yang menjadikannya cocok secara unik untuk tugas tersebut. Penyedia berkomitmen pada suatu model satu kali, lalu menghasilkan bukti ringkas untuk setiap respons bahwa jawabannya dihitung oleh model yang berkomitmen — sementara bukti itu sendiri menyembunyikan bobot model. Hiding the architecture is not a goal of the system; menyembunyikan beban adalah.
Angka-angka
Angka efisiensi dalam postingan ini adalah inti teknis dari cerita ini, karena pembuatan bukti untuk model besar secara historis terlalu lambat untuk menjadi masalah. Untuk Llama 4 Maverick, model campuran ahli dengan 400 miliar parameter, satu GPU NVIDIA H100 menghasilkan bukti sekitar 110 token per detik, dengan ukuran bukti sekitar 19 MB per permintaan 1.024 token, menggunakan bobot terkuantisasi 4-bit dan aritmatika integer dalam pengisian awal.
Kecepatan tersebut memerlukan biaya: pembuatan bukti memerlukan waktu sekitar 70 hingga 95 kali waktu GPU untuk sekadar menjalankan model itu sendiri di vLLM, pustaka inferensi sumber terbuka yang banyak digunakan. Dengan kata lain, mahal – tetapi untuk pertama kalinya memiliki tingkat yang sama dengan apa yang telah dibuktikan, dan, menurut Anthropic, jauh lebih cepat dibandingkan sistem sumber terbuka sebelumnya, yang jauh lebih lambat dibandingkan sistem sumber terbuka sebelumnya.
Claude Built It — and Lean Audits the Claims
Ada cerita kedua yang terlipat di dalam cerita pertama. Menurut postingan tersebut, Claude sendiri menghasilkan perbaikan pada zkSNARK untuk inferensi, menemukan cara baru untuk menerapkan alat canggih dari literatur kriptografi dan keamanan sambil mengandalkan prinsip desain yang sudah mapan untuk sistem bukti kriptografi.
Anthropic berterus terang tentang risiko yang timbul dari alur kerja tersebut: Claude pandai dalam pengoptimalan, tetapi sering kali membuat keputusan yang sulit untuk dievaluasi, terutama dalam sistem besar yang kompleks. Penanggulangannya adalah verifikasi formal. Perusahaan ini memberikan pernyataan tingkat atas yang dapat diaudit dalam Lean, sebuah bahasa verifikasi formal, untuk jaminan keamanan yang diklaim — matematika yang diperiksa dengan mesin berada di antara optimalisasi cerdas AI dan pengguna yang harus memercayainya.
Tumpukan lengkap dirilis di bawah lisensi Apache 2.0: postingan blog, laporan teknis yang menjelaskan detail sistem, deskripsi protokol, kode yang dapat dieksekusi termasuk pembuktian dan dua pemverifikasi — pemverifikasi cepat di C++ dan pemverifikasi yang terbukti benar di Lean — ditambah bukti Lean itu sendiri dan visualisator interaktif untuk membantu audit.
Dari Kepatuhan hingga Perjanjian Kecepatan AI
Sketsa antropik menggunakan kasus-kasus mulai dari kasus rutin hingga kasus geopolitik. Evaluator independen yang menguji model AI sebelum dan sesudah rilis perlu mengetahui model yang mereka evaluasi adalah model yang dilayani. Klien yang mengakses model melalui layanan perutean pihak ketiga menginginkan jaminan bahwa token berasal dari model yang mereka bayar. Dan dalam skenario keamanan, penyerang siber yang memodifikasi aliran token sambil meniru model tertentu akan dapat dideteksi dengan cara yang tidak dapat dicapai oleh pemeriksaan keluaran saja.
Penerapan paling ambisius yang disebutkan dalam postingan tersebut adalah verifikasi kepatuhan terhadap persyaratan kecepatan AI – jenis perjanjian yang sedang berkembang, bersifat sukarela dan bersifat pemerintah, yang berupaya mengatur seberapa cepat kemajuan kemampuan di wilayah perbatasan. Saat ini, komitmen tersebut bertumpu pada kepercayaan dan dokumen. Bukti inferensi kriptografi menawarkan sesuatu yang lebih dekat dengan inspeksi: cara untuk mendemonstrasikan, bukan menegaskan, model mana yang melayani beban kerja tertentu.
Para peneliti secara eksplisit menyatakan bahwa ini adalah kemajuan sementara, bukan agenda penelitian yang telah selesai, dan mereka menerbitkannya dengan tujuan agar orang lain mengambil pekerjaan tersebut dan memperbaikinya. Pembingkaian itu sendiri merupakan sebuah sinyal: kesimpulan yang dapat dibuktikan telah beralih dari eksperimen pemikiran seminar-kriptografi ke masalah teknik yang sekarang secara terbuka dilombakan oleh laboratorium perbatasan untuk membuatnya cukup murah untuk diterapkan.
---
Tetap Terdepan dalam AIDapatkan berita, analisis, dan terobosan AI terkini — semuanya di satu tempat.
Baca berita AI selengkapnya →
