Unapozungumza na rafiki ana kwa ana, unaweza kuwaona, kuwasikia, kuwashika mkono. Unapozungumza na mfano wa AI, karibu huna uhakikisho wowote. Utafiti mpya wa Anthropic unalenga hasa pengo hilo: kampuni imechapisha maendeleo kuhusu uthibitisho wa kriptografia wa makisio, ikiwa ni pamoja na mfumo unaoitwa FlashProve ambao unaweza kuthibitisha - kimahesabu, si kimkataba - kwamba jibu kweli lilitoka kwa mtindo unaodai kuwa.
Tatizo anwani za FlashProve ni za kimuundo kimya kimya. Mtumiaji anayeuliza mfano leo hawezi kuangalia kama majibu yametoka kwa muundo mahususi ambao msanidi anadai anajibu, kinyume na ule uliobadilishwa kwa siri na huduma ya uelekezaji kwa sababu za gharama, au hata na mvamizi ambaye amevuruga mtiririko wa tokeni. Kuamua kutoka kwa matokeo pekee hakutegemei, hata kama majibu yanaonekana bora. Katika tasnia ambayo dirisha sawa la gumzo linaweza kuelekeza kimyakimya kwa mtindo wa bei nafuu chini ya mzigo, hilo si jambo la kukisia - ni muundo chaguo-msingi wa uaminifu. Kwa taarifa zaidi za kazi kama hii, angalia habari zetu za utafiti wa AI.
Kwa nini Uhakiki Unaoweza Kuthibitishwa ni Mgumu
Lengo la makisio yanayowezekana ni kuruhusu mtumiaji aliye na rasilimali chache za kukokotoa - na asiye na ufikiaji wa uzito wa kibinafsi wa mfano - kuthibitisha kuwa jibu lililotolewa lilitolewa na muundo huo. Njia ya wazi, ya kuendesha tena kielelezo mwenyewe, sio ya kuanza: uzani wa mifano ya mipaka huwekwa kibinafsi, na kuangalia jibu dhidi yao kutahitaji compute zaidi ya kile mtumiaji wa kawaida, au hata mtathmini anayefadhiliwa vizuri, anaweza kumudu.
Mtazamo wa Anthropic hutegemea zkSNARKs, familia isiyo na uthibitisho wa maarifa sufu yenye sifa dhabiti za kujificha na ufanisi zinazowafanya kufaa kwa kipekee kwa kazi hiyo. Mtoa huduma hujitolea kwa mfano mara moja, kisha hutoa uthibitisho wa kompakt kwa kila jibu kwamba jibu lilikusanywa na modeli iliyojitolea - wakati uthibitisho wenyewe huficha uzani wa modeli. Kuficha usanifu sio lengo la mfumo; kuficha uzito ni.
##Nambari
Takwimu za ufanisi katika chapisho ndizo msingi wa kiufundi wa hadithi, kwa sababu uundaji wa uthibitisho wa miundo mikubwa kihistoria umekuwa maagizo ya ukubwa wa polepole sana. Kwa Llama 4 Maverick, muundo wa wataalam wa vigezo vya bilioni 400, NVIDIA H100 GPU moja hutoa uthibitisho wa takriban tokeni 110 kwa sekunde, ikiwa na uthibitisho wa saizi ya takriban 19 MB kwa ombi la tokeni 1,024, kwa kutumia uzani wa 4-bit uliopimwa na hesabu kamili.
Kasi hiyo inakuja kwa gharama: uundaji wa uthibitisho huchukua takriban mara 70 hadi 95 ya muda wa GPU wa kuendesha kielelezo chenyewe kwenye vLLM, maktaba ya uelekezaji ya chanzo huria inayotumika sana. Ghali, kwa maneno mengine - lakini kwa mara ya kwanza katika mpangilio sawa wa ukubwa kama kitu kinachothibitishwa, na, kulingana na Anthropic, kwa kasi zaidi kuliko mifumo ya awali ya chanzo-wazi, ambayo inachelewa kwa amri za ukubwa.
Claude Aliijenga - na Lean Anakagua Madai
Kuna hadithi ya pili iliyokunjwa ndani ya ile ya kwanza. Kulingana na chapisho hilo, Claude mwenyewe alitoa maboresho kwenye zkSNARKs kwa hitimisho, kutafuta njia za riwaya za kutumia zana za kisasa kutoka kwa maandishi ya siri na usalama huku akitegemea kanuni zilizowekwa vizuri za muundo wa mifumo ya uthibitisho wa kriptografia.
Anthropic ni wazi kuhusu hatari inayokuja na mtiririko huo wa kazi: Claude ni mzuri katika uboreshaji, lakini mara nyingi hufanya maamuzi ambayo ni ngumu kutathmini, haswa katika mifumo mikubwa changamano. Hatua ya kupinga ni uthibitishaji rasmi. Kampuni hutoa taarifa za hali ya juu zinazoweza kukaguliwa katika Lean, lugha rasmi ya uthibitishaji, kwa dhamana za usalama zinazodaiwa - hisabati iliyokaguliwa na mashine kati ya uboreshaji wa akili wa AI na watumiaji ambao wanapaswa kuziamini.
Rafu kamili inatolewa chini ya leseni ya Apache 2.0: chapisho la blogu, ripoti ya kiufundi inayoeleza maelezo ya mfumo, maelezo ya itifaki, msimbo unaoweza kutekelezeka ikijumuisha kithibitishaji na vithibitishaji viwili - kithibitishaji cha haraka katika C++ na kithibitishaji sahihi katika Lean - pamoja na vithibitisho visivyo na nguvu vyenyewe na kionyeshi shirikishi cha kusaidia ukaguzi.
Kutoka kwa Uzingatiaji hadi Mikataba ya AI Pacing
Michoro ya kianthropic hutumia visa vinavyoanzia kawaida hadi siasa za kijiografia. Wakadiriaji wanaojitegemea ambao hujaribu miundo ya AI kabla na baada ya kutolewa wanahitaji kujua mtindo wanaokagua ni muundo unaotolewa. Wateja wanaopata modeli kupitia huduma ya uelekezaji ya wahusika wengine wanataka uhakikisho kwamba tokeni zilitoka kwa mtindo waliolipia. Na katika hali ya usalama, mshambulizi wa mtandao ambaye hurekebisha mtiririko wa ishara huku akiiga muundo fulani huweza kutambuliwa kwa njia ambayo ukaguzi wa matokeo pekee hauwezi kamwe kufikia.
Maombi makubwa zaidi yaliyotajwa kwenye chapisho ni uthibitishaji wa utiifu wa mahitaji ya kasi ya AI - aina zinazoibuka za makubaliano, ya hiari na ya kiserikali, ambayo yanajaribu kudhibiti jinsi uwezo wa mipaka unavyosonga mbele. Leo ahadi kama hizo hutegemea uaminifu na makaratasi. Uthibitisho wa siri wa hitimisho hutoa kitu karibu na ukaguzi: njia ya kuonyesha, badala ya kudai, ni mtindo gani unaotoa mzigo fulani wa kazi.
Watafiti wanaeleza wazi kuwa hii ni maendeleo ya kati, si ajenda ya utafiti iliyokamilika, na wanachapisha kwa lengo lililobainishwa kwamba wengine wachukue kazi na kuiboresha. Utungaji huo wenyewe ni ishara: makisio yanayowezekana yametoka kwenye jaribio la fikra la semina ya kriptografia hadi kwenye tatizo la uhandisi ambalo maabara ya mipaka sasa inakimbia hadharani ili kupata nafuu ya kutosha kupeleka.
---
Kaa Mbele ya AIPata habari za hivi punde za AI, uchanganuzi na mafanikio - yote katika sehemu moja.
Soma habari zaidi za AI →
