Yen sampeyan ngobrol karo kanca, sampeyan bisa ndeleng, krungu, salaman. Yen sampeyan ngomong karo model AI, sampeyan meh ora duwe jaminan kasebut. Panaliten anyar Anthropic ngarahake jurang kasebut: perusahaan wis nerbitake kemajuan babagan bukti kriptografi inferensi, kalebu sistem sing diarani FlashProve sing bisa mbuktekake - kanthi matematis, ora kanthi kontrak - manawa respon kasebut pancen teka saka model sing diklaim.

Masalah sing ditangani FlashProve kanthi tenang struktural. Pangguna sing takon model saiki ora bisa mriksa manawa respon kasebut teka saka model tartamtu sing diklaim pangembang nanggapi, tinimbang sing diganti kanthi diam-diam dening layanan rute amarga alasan biaya, utawa malah dening panyerang sing ngrusak stream token. Dideleng saka output mung ora bisa dipercaya, sanajan jawaban kasebut katon apik banget. Ing industri ing ngendi jendhela chatting padha bisa meneng rute menyang model sing luwih murah ing mbukak, sing ora badhan hipotetis - iku model kapercayan standar. Kanggo liputan liyane babagan karya kaya iki, deleng [kabar riset AI] (https://aibuzzwire.news).

Napa Inferensi sing Bisa Dibuktekake Iku Hard

Sasaran saka inferensi sing bisa dibuktekake yaiku supaya pangguna kanthi sumber daya komputasi winates - lan ora ana akses menyang bobot pribadi model - verifikasi manawa respon sing diwenehake bener-bener diprodhuksi dening model kasebut. Pendekatan sing jelas, nglakokake maneh model dhewe, iku non-wiwitan: bobot model wates tetep pribadi, lan mriksa respon marang wong-wong mau bakal mbutuhake ngitung adoh ngluwihi apa sing pangguna biasa, utawa malah evaluator sing didanai kanthi apik.

Pendekatan Anthropic leans ing zkSNARKs, kulawarga bukti nol-kawruh karo ndhelikake kuwat lan sifat efficiency sing nggawe wong unik pas kanggo tugas. Panyedhiya nindakake model sapisan, banjur ngasilake bukti kompak kanggo saben respon yen jawaban kasebut diitung dening model sing setya - dene bukti kasebut ndhelikake bobot model kasebut. Ndhelikake arsitektur ora dadi tujuan sistem; ndhelikake bobot iku.

Angka

Angka efisiensi ing kiriman kasebut minangka inti teknis crita, amarga generasi bukti kanggo model gedhe kanthi historis minangka urutan gedhene alon banget. Kanggo Llama 4 Maverick, model campuran-para-ahli 400-miliar-parameter, siji NVIDIA H100 GPU ngasilake bukti watara 110 token per detik, kanthi ukuran bukti kira-kira 19 MB saben panyuwunan 1,024-token, nggunakake bobot kuantitatif 4-bit lan aritmetika prefill integer.

Kacepetan kasebut mbutuhake biaya: generasi bukti mbutuhake kira-kira 70 nganti 95 kaping wektu GPU kanggo mbukak model kasebut dhewe ing vLLM, perpustakaan inferensi sumber terbuka sing akeh digunakake. Larang, ing tembung liyane - nanging kanggo pisanan ing urutan gedhene padha karo bab kang buktiaken, lan, miturut Anthropic, mesti luwih cepet saka sistem mbukak-sumber sadurunge, kang lag dening pesenan saka gedhene.

Claude Dibangun - lan Lean Audit Klaim

Ana crita kaloro lempitan nang pisanan. Miturut kiriman kasebut, Claude dhewe ngasilake dandan ing zkSNARKs kanggo inferensi, nemokake cara anyar kanggo ngetrapake alat canggih saka literatur kriptografi lan keamanan nalika ngandelake prinsip desain sing mapan kanggo sistem bukti kriptografi.

Anthropic jujur ​​​​babagan risiko sing teka karo alur kerja kasebut: Claude apik ing optimalisasi, nanging asring nggawe keputusan sing angel dievaluasi, utamane ing sistem kompleks sing gedhe. Penanggulangan kasebut yaiku verifikasi resmi. Perusahaan kasebut nyedhiyakake pernyataan sing bisa diaudit tingkat paling dhuwur ing Lean, basa verifikasi resmi, kanggo jaminan keamanan sing diklaim - matematika sing dicenthang mesin sing ana ing antarane optimasi cerdas AI lan pangguna sing kudu dipercaya.

Tumpukan lengkap diluncurake miturut lisensi Apache 2.0: kiriman blog, laporan teknis sing nerangake rincian sistem, deskripsi protokol, kode eksekusi kalebu prover lan loro verifikasi - verifikasi cepet ing C ++ lan verifikasi sing bener ing Lean - ditambah karo bukti Lean dhewe lan visualisasi interaktif kanggo mbantu audit.

Saka Compliance kanggo AI Pacing Treaties

Sketsa anthropic nggunakake kasus sing beda-beda saka rutin nganti geopolitik. Evaluator independen sing nguji model AI sadurunge lan sawise dirilis kudu ngerti model sing dievaluasi yaiku model sing dilayani. Klien sing ngakses model liwat layanan rute pihak katelu pengin jaminan yen token kasebut asale saka model sing dibayar. Lan ing skenario keamanan, cyberattacker sing ngowahi stream token nalika impersonating model tartamtu dadi bisa dideteksi ing cara sing pengawasan output piyambak ora bisa entuk.

Aplikasi paling ambisius sing dijenengi ing kiriman kasebut yaiku verifikasi kepatuhan karo syarat pacing AI - kelas perjanjian sing muncul, sukarela lan pamrentah, sing nyoba ngatur sepira cepet kemampuan perbatasan maju. Dina iki prasetya kuwi gumantung ing kapercayan lan dokumen. Bukti kriptografi saka inferensi nawakake soko sing luwih cedhak karo pengawasan: cara kanggo nduduhake, tinimbang negesake, model sing nyedhiyakake beban kerja sing diwenehake.

Peneliti kasebut kanthi jelas manawa iki minangka kemajuan menengah, dudu agenda riset sing wis rampung, lan nerbitake kanthi tujuan supaya wong liya njupuk karya kasebut lan nambah. Framing kasebut dhewe minangka sinyal: kesimpulan sing bisa dibuktekake wis dipindhah saka eksperimen pamikiran kriptografi-seminar menyang masalah teknik sing saiki ditindakake dening lab frontier kanggo nggawe cukup murah kanggo disebarake.

---

Tetep Ahead of AI

Entuk warta, analisis, lan terobosan AI paling anyar - kabeh ing sak panggonan.

Waca liyane AI warta →