FlashProve آپریشن میں

FlashProve، Anthropic کا اوپن سورس قابلِ تصدیق استدلالی نظام ہے جو زیرو نالج پروف کے ذریعے ماڈل سروس فراہم کنندگان کو یہ ثابت کرنے دیتا ہے کہ کسی مخصوص جواب کو مقررہ ماڈل نے تیار کیا، جبکہ ماڈل کے وزن مخفی رہیں۔ FlashProve کو 400B پیرامیٹرز والے Llama 4 Maverick پر عملی طور پر آزمایا گیا: ایک H100 پر تقریباً 110 tokens/s، ہر 1024 token پروف تقریباً 19MB، اور CPU پر تصدیق تقریباً 17 سیکنڈ؛ پروف تیار کرنے کے لیے درکار GPU وقت عام inference کے مقابلے میں تقریباً 70—95 گنا ہے۔ یہ اب بھی تحقیقی پروٹوٹائپ ہے، جو صرف ماخذ ثابت کرتا ہے، مواد کی درستگی کی ضمانت نہیں دیتا۔

شناخت کی تصدیق: ماڈل کے وزن ظاہر کیے بغیر ثابت کریں کہ کوئی جواب مقررہ ماڈل نے تیار کیا۔
ماڈل کی تبدیلی سے تحفظ: سروس فراہم کنندگان یا تیسرے فریق کے روٹنگ پلیٹ فارمز کو مہنگے ماڈل کی جگہ سستا ماڈل استعمال کرنے سے روکیں۔
آؤٹ پٹ میں ردوبدل سے تحفظ: استدلالی سرور پر حملہ ہونے یا Token stream میں درمیان سے تبدیلی کیے جانے پر صارف کو غیر معمولی صورتِ حال کا پتا چل سکے۔
تعمیل اور آڈٹ: نگران اداروں، آزاد جائزہ کاروں اور داخلی سکیورٹی ٹیموں کو مشینی طور پر قابلِ جانچ استدلالی ثبوت فراہم کریں۔
ماخذ کا ثبوت: یہ ثابت کرنے کے لیے استعمال کیا جا سکتا ہے کہ کوڈ آڈٹ، تجارتی تجزیہ یا سکیورٹی جائزہ واقعی کسی مخصوص ماڈل نے مکمل کیا۔

WeChat پر فالو کرکے “开源” کا جواب دیں اور AI اوپن سورس پروجیکٹ گروپ میں شامل ہوں
کمٹمنٹ اور تصدیقی فریم ورک: FlashProve عمل کو آف لائن اور آن لائن دو حصوں میں تقسیم کرتا ہے: سروس فراہم کنندہ پہلے مقررہ ماڈل کے وزن کے لیے کرپٹوگرافک کمٹمنٹ تیار کرتا ہے اور وزن ظاہر کیے بغیر ماڈل فنگر پرنٹ شائع کرتا ہے؛ ہر درخواست کے ساتھ zkSNARK پروف منسلک ہوتا ہے، اور صارف صرف کمٹمنٹ، ان پٹ اور جواب کی مدد سے تصدیق کر سکتا ہے کہ آؤٹ پٹ واقعی اسی ماڈل سے آیا ہے۔
زیرو نالج succinct پروف: نظام زیرو نالج مختصر ثبوت استعمال کرتا ہے، جس سے تصدیق کنندہ چند سیکنڈ کے CPU وقت میں تقریباً 19MB کے پروف کو جانچ سکتا ہے، اور 400B ماڈل دوبارہ چلانے کی ضرورت نہیں ہوتی؛ پروف وزن، درمیانی activation values یا ماہر کے انتخاب کو ظاہر نہیں کرتا، بلکہ صرف یہ تصدیق کرتا ہے کہ حساب کمٹ شدہ ماڈل کے مطابق کیا گیا۔
MoE activation-aware optimization: Llama 4 Maverick جیسے MoE ماڈلز کے لیے پروف کی لاگت تمام 400B پیرامیٹرز کے بجائے صرف عملی طور پر فعال تقریباً 17B پیرامیٹرز کے ساتھ بڑھتی ہے، اسی لیے ایک H100 پر پروف کی رفتار تقریباً 110 tokens/s تک پہنچتی ہے۔
بیچ کی صورت میں بعد ازاں پروف: پروف inference مکمل ہونے کے بعد یکجا طور پر تیار کیا جاتا ہے۔ تیار شدہ متن کو prefill کے طور پر متوازی طور پر پڑھا جاتا ہے اور ہر بیچ میں وزن کے کمٹمنٹ کو صرف ایک بار کھولا جاتا ہے، جس سے بار بار ہونے والی computation کم ہوتی ہے؛ اس کی قیمت یہ ہے کہ ہر Token کے لیے حقیقی وقت میں inline پروف ممکن نہیں رہتا۔
ایک GPU پر streaming execution: ماڈل کے وزن تہہ بہ تہہ میزبان میموری میں رکھے جاتے ہیں اور ایک 80GB H100 میں streaming کے ذریعے بھیجے جاتے ہیں، جہاں ہر تہہ کے لیے الگ پروف تیار ہوتا ہے۔ یوں بڑے MoE ماڈل کو مکمل طور پر video memory میں رکھنے کی ضرورت کے بغیر چلایا جا سکتا ہے۔

ریپوزٹری clone کریں: https://github.com/anthropics/FlashProve سے کوڈ ڈاؤن لوڈ کریں اور عام صارف کی حیثیت سے ریپوزٹری کی root directory میں کام کریں۔
Verifier بنائیں: C++ verifier compile کرنے کے لیے verifier/build.sh چلائیں۔ کامیابی کی علامت یہ ہے کہ output میں THE VERIFIER IS BUILT آئے اور exit code 0 ہو۔
مثالی پروف کی تصدیق: شامل نمونے کو جانچنے کے لیے bin/cp_verify کے ساتھ examples/accepted-proof کے parameters دیں۔ آخری سطر YES ہو تو verifier درست کام کر رہا ہے۔
CPU self-check: proof library کے ٹیسٹ کے لیے blocks/first_look.sh چلائیں اور تصدیق کریں کہ ایماندار پروف قبول اور جعلی پروف مسترد ہوتے ہیں۔
GPU کا مکمل عمل: ایک خالی 80GB H100 اور CUDA 13.2 والی مشین پر examples/quickstart-gpu.sh چلائیں۔ یہ خودکار طور پر ایک چھوٹے ماڈل کی درخواست جمع، پروف اور تصدیق کرے گا۔
حقیقی ماڈل کی تصدیق: سروس فراہم کنندہ سے commitment ID، درخواست، output اور پروف حاصل کرنے کے بعد bin/cp_verify CONFIG PUBLIC_KEY REQUEST TOKEN PROOF -id COMMITMENT_ID سے تصدیق کریں۔ یاد رکھیں کہ commitment ID قابلِ اعتماد ذریعے سے حاصل ہونی چاہیے۔
نتائج کی تشریح: exit code 0 اور آخری سطر YES کا مطلب قبول ہے، 1 کا مطلب مسترد ہے، 5 کا مطلب نتیجہ اخذ نہیں ہو سکا اور ایک بار دوبارہ کوشش کی جا سکتی ہے، جبکہ دیگر codes call یا فائل کی خرابی کی نشاندہی کرتے ہیں۔

وزن ظاہر کیے بغیر قابلِ تصدیق ہونا: ماڈل کے وزن خفیہ رکھتے ہوئے کرپٹوگرافک پروف ثابت کرتا ہے کہ جواب مقررہ ماڈل سے آیا ہے۔
تبدیلی اور ردوبدل سے تحفظ: سروس فراہم کنندہ سستا ماڈل استعمال کرے، روٹنگ کی تہہ میں خفیہ تبدیلی کی جائے یا حملہ آور output بدل دے، تو تصدیق کے دوران یہ ظاہر ہو جائے گا۔
انتہائی کم تصدیقی لاگت: تصدیق کنندہ کو صرف عام CPU اور تقریباً 19MB کا پروف درکار ہوتا ہے، اور تصدیق چند درجن سیکنڈ میں مکمل ہو جاتی ہے؛ GPU یا ماڈل کو دوبارہ چلانے کی ضرورت نہیں۔
بے مثال پیمانہ: پہلی بار 400B پیرامیٹرز والے Llama 4 Maverick پر تقریباً 110 tokens/s کی پروف رفتار حاصل کی گئی، جو سابقہ zkML نظاموں سے کئی orders of magnitude زیادہ ہے۔
MoE کے لیے مخصوص optimization: پروف کی لاگت ہر Token پر عملی طور پر فعال تقریباً 17B پیرامیٹرز کے حساب کے ساتھ بڑھتی ہے۔
سکیورٹی خصوصیات کی formal verification: integrity، reliability اور zero-knowledge کی تینوں بنیادی خصوصیات Lean 4 میں مشینی طور پر قابلِ جانچ ثابت کی گئی ہیں۔

پروجیکٹ کی آفیشل ویب سائٹ: https://www.anthropic.com/research/provable-inference
GitHub ریپوزٹری: https://github.com/anthropics/FlashProve
تکنیکی مقالہ: https://assets.claude.com/8e1d181a83015078581c92d896757041713f0160.pdf

تیسرے فریق کے API پراکسی اور ماڈل روٹنگ کی تصدیق: صارف اعلیٰ کارکردگی والے مخصوص ماڈل کے لیے ادائیگی کرنے کے بعد پروف کے ذریعے تصدیق کر سکتا ہے کہ پراکسی فراہم کنندہ نے خفیہ طور پر اسے سستے ماڈل سے تبدیل نہیں کیا۔
آزاد ماڈل evaluation: جائزہ لینے والے ادارے تصدیق کر سکتے ہیں کہ جانچا جانے والا سروس واقعی مطلوبہ ماڈل چلا رہا ہے، تاکہ ”A کا evaluation اور B کی deployment“ جیسی صورتِ حال سے بچا جا سکے۔
استدلالی سرور میں ردوبدل سے تحفظ: ادارے سرور سے مطالبہ کر سکتے ہیں کہ وہ response کے ساتھ پروف بھی منسلک کرے؛ حملہ آور یا غیر مجاز ماڈل مقررہ وزن کے output کی جعل سازی نہیں کر سکے گا۔
ریگولیٹری تعمیل: نگران ادارے سروس فراہم کنندگان سے باقاعدگی سے استدلالی پروف جمع کرانے کا مطالبہ کر سکتے ہیں، تاکہ تصدیق ہو سکے کہ hardware واقعی منظور شدہ ماڈل کے inference کے لیے استعمال ہو رہا ہے، نہ کہ training یا منظوری کے عمل کو bypass کرنے کے لیے۔
اعلیٰ قدر کے تیسرے فریق کے دعووں کی توثیق: ڈویلپر ثابت کر سکتے ہیں کہ کوڈ کو واقعی کسی جدید سکیورٹی ماڈل نے scan کیا، یا ادارے ثابت کر سکتے ہیں کہ تجارتی منصوبے کا جائزہ مقررہ ماڈل نے لیا، جبکہ دوسرے فریق کو ماڈل کے وزن تک رسائی دینے کی ضرورت نہ ہو۔