FlashProve Inafanya kazi

FlashProve ni mfumo wa Anthropic wa uelekezaji unaoweza kuthibitishwa, uliotolewa kama chanzo huria. Hutumia uthibitisho wa maarifa sifuri kuwawezesha watoa huduma za modeli kuthibitisha kwamba jibu fulani lilitengenezwa na modeli maalum bila kufichua uzani wa modeli. FlashProve ilijaribiwa kwenye Llama 4 Maverick yenye vigezo 400B, ikafikia takriban tokens 110/s kwenye H100 moja, huku kila uthibitisho wa tokeni 1024 ukiwa na ukubwa wa takriban 19MB na uthibitishaji wa CPU ukichukua takriban sekunde 17; muda wa GPU wa kutengeneza uthibitisho ni takriban mara 70—95 ya uelekezaji wa kawaida. Bado ni mfano wa utafiti: unathibitisha chanzo pekee, si usahihi wa maudhui.

Uthibitishaji wa utambulisho: Thibitisha kwamba jibu fulani lilitengenezwa na modeli maalum bila kufichua uzani wa modeli.
Kuzuia kubadilishwa kwa modeli: Zuia watoa huduma au mifumo ya uelekezaji ya wahusika wengine kubadilisha modeli ya gharama kubwa kwa modeli ya bei nafuu.
Kuzuia kubadilishwa kwa matokeo: Seva ya uelekezaji inaposhambuliwa au mtiririko wa tokeni kubadilishwa na mtu wa kati, wawezeshe watumiaji kugundua hitilafu.
Uzingatiaji na ukaguzi: Wape wadhibiti, wakaguzi huru na timu za usalama za ndani hati za uelekezaji zinazoweza kukaguliwa na mashine.
Uthibitisho wa chanzo: Thibitisha kwamba ukaguzi wa msimbo, uchanganuzi wa kibiashara au tathmini ya usalama ulifanywa na modeli maalum.

Fuata WeChat na ujibu “开源” ili ujiunge na kikundi cha mawasiliano cha miradi ya AI ya chanzo huria
Mfumo wa ahadi na uthibitishaji: FlashProve hugawanya mchakato katika hatua za nje ya mtandao na mtandaoni. Mtoa huduma kwanza hutengeneza ahadi ya kriptografia kwa uzani wa modeli maalum, na kuchapisha alama ya modeli bila kufichua uzani; kila ombi huambatanishwa na uthibitisho wa zkSNARK, na mtumiaji anaweza kuthibitisha kwamba matokeo yametoka kwenye modeli hiyo kwa kutumia ahadi, ingizo na jibu pekee.
Uthibitisho mfupi wa maarifa sifuri: Mfumo hutumia hoja fupi ya maarifa sifuri inayomwezesha mthibitishaji kukagua uthibitisho wa takriban 19MB kwa CPU ndani ya sekunde chache, bila kuendesha tena modeli ya 400B; uthibitisho hauvuji uzani, thamani za uanzishaji wa kati au uteuzi wa wataalamu, bali unathibitisha tu kwamba hesabu ilitekelezwa kulingana na modeli iliyoahidiwa.
Uboreshaji unaozingatia uanzishaji wa MoE: Kwa modeli za MoE kama Llama 4 Maverick, gharama ya uthibitishaji huongezeka kulingana na takriban vigezo 17B vilivyoamilishwa halisi, si vigezo vyote 400B. Hivyo kasi ya uthibitishaji hufikia takriban tokens 110/s kwenye H100 moja.
Uthibitishaji wa kundi baada ya mchakato: Uthibitishaji hutengenezwa kwa pamoja baada ya uelekezaji kukamilika. Maandishi yaliyotengenezwa husomwa kwa sambamba kama prefill, na ahadi ya uzani hufunguliwa mara moja tu kwa kila kundi ili kupunguza hesabu inayojirudia; gharama yake ni kutowezekana kwa uthibitishaji wa ndani wa wakati halisi kwa kila tokeni.
Utekelezaji wa mtiririko kwenye GPU moja: Uzani wa modeli hugawanywa kwa tabaka na kuhifadhiwa kwenye kumbukumbu ya seva pangishi, kisha kutumwa kwa mtiririko kwenye H100 moja ya 80GB. Uthibitisho hutengenezwa tabaka kwa tabaka, hivyo modeli kubwa ya MoE inaweza kuendeshwa bila kuwekwa yote kwenye kumbukumbu ya GPU.

Clone hazina: Pakua msimbo kutoka https://github.com/anthropics/FlashProve na ufanye kazi katika saraka kuu ya hazina ukiwa mtumiaji wa kawaida.
Jenga mthibitishaji: Endesha verifier/build.sh ili kukompili mthibitishaji wa C++; mafanikio yanaonyeshwa na ujumbe THE VERIFIER IS BUILT na msimbo wa kutoka 0.
Thibitisha mfano wa uthibitisho: Tekeleza bin/cp_verify pamoja na vigezo vilivyo kwenye examples/accepted-proof kukagua mfano uliojumuishwa; YES kwenye mstari wa mwisho huonyesha kwamba mthibitishaji unafanya kazi ipasavyo.
Jikague kwa CPU: Endesha blocks/first_look.sh kufanya majaribio ya maktaba ya uthibitishaji na kuthibitisha kwamba uthibitisho halali unakubaliwa na wa kughushi unakataliwa.
Mchakato kamili wa GPU: Kwenye mashine yenye H100 80GB moja iliyo huru na CUDA 13.2, endesha examples/quickstart-gpu.sh ili kukamilisha kiotomatiki uwasilishaji, uthibitishaji na uhakiki wa ombi la modeli ndogo.
Uthibitishaji wa modeli halisi: Baada ya kupata kitambulisho cha ahadi, ombi, matokeo na uthibitisho kutoka kwa mtoa huduma, tumia bin/cp_verify CONFIG PUBLIC_KEY REQUEST TOKEN PROOF -id COMMITMENT_ID kufanya uhakiki. Kitambulisho cha ahadi lazima kitoke kwenye chanzo kinachoaminika.
Tafsiri ya matokeo: Msimbo wa kutoka 0 pamoja na YES kwenye mstari wa mwisho humaanisha umekubaliwa; 1 humaanisha umekataliwa; 5 humaanisha hakuna hitimisho lililopatikana na unaweza kujaribu tena mara moja; mingine humaanisha hitilafu ya mwito au faili.

Uthibitishaji bila kufichua uzani: Kwa kuhifadhi usiri wa uzani wa modeli, uthibitisho wa kriptografia huonyesha kwamba jibu limetoka kwenye modeli maalum.
Kuzuia ubadilishaji na udukuzi wa matokeo: Mtoa huduma akibadilisha kwa modeli nafuu, safu ya uelekezaji ikafanya uingizwaji kwa siri au mshambuliaji akabadilisha matokeo, hali hiyo itafichuka wakati wa uthibitishaji.
Gharama ndogo sana ya uthibitishaji: Mthibitishaji anahitaji CPU ya kawaida na uthibitisho wa takriban 19MB pekee; mchakato hukamilika ndani ya sekunde kadhaa hadi makumi ya sekunde bila GPU au kuendesha tena modeli.
Ufanisi wa kiwango kikubwa: Kwa mara ya kwanza, kasi ya takriban tokens 110/s ya uthibitishaji imefikiwa kwenye Llama 4 Maverick yenye vigezo 400B, ikiwa juu kwa maagizo kadhaa ya ukubwa kuliko mifumo ya awali ya zkML.
Uboreshaji maalum wa MoE: Gharama ya uthibitishaji huongezeka tu kulingana na takriban vigezo 17B vinavyoamilishwa kwa kila tokeni.
Sifa za usalama zilizorasimishwa: Sifa tatu kuu za ukamilifu, utegemezi na maarifa sifuri zimethibitishwa katika Lean 4 kwa njia inayoweza kukaguliwa na mashine.

Tovuti rasmi ya mradi: https://www.anthropic.com/research/provable-inference
Hazina ya GitHub: https://github.com/anthropics/FlashProve
Karatasi ya kiufundi: https://assets.claude.com/8e1d181a83015078581c92d896757041713f0160.pdf

Uthibitishaji wa API za wahusika wengine na uelekezaji wa modeli: Mtumiaji anapolipia modeli maalum ya utendaji wa juu, anaweza kuthibitisha kwa kutumia uthibitisho kwamba mpatanishi hakubadilisha kwa siri kwenda kwenye modeli nafuu.
Tathmini huru ya modeli: Taasisi za tathmini zinaweza kuthibitisha kwamba huduma inayotathminiwa imepeleka modeli iliyokusudiwa, na kuepuka hali ya “kilichotathminiwa ni A, kilichowekwa mtandaoni ni B”.
Kuzuia udukuzi wa seva ya uelekezaji: Kampuni inaweza kuhitaji seva iambatishe uthibitisho kwenye majibu, ili mshambuliaji au modeli isiyo na mamlaka isiweze kughushi matokeo ya uzani maalum.
Uzingatiaji wa udhibiti: Wabunge na wadhibiti wanaweza kuwataka watoa huduma kuwasilisha uthibitisho wa uelekezaji mara kwa mara ili kuthibitisha kwamba maunzi yalitumika kuendesha modeli iliyoidhinishwa, badala ya kutumika kwa mafunzo au kukwepa idhini.
Uthibitishaji wa madai ya thamani kubwa kutoka kwa wahusika wengine: Wasanidi wanaweza kuthibitisha kwamba msimbo ulikaguliwa na modeli ya hali ya juu ya usalama, au kampuni ikathibitisha kwamba mpango wa kibiashara ulikaguliwa na modeli maalum, huku upande mwingine ukiwa hauhitaji kufikia uzani wa modeli ili kuhakiki.