FlashProve চালু আছে

FlashProve হলো Anthropic-এর ওপেন-সোর্স করা একটি যাচাইযোগ্য ইনফারেন্স সিস্টেম। এটি জিরো-নলেজ প্রুফ ব্যবহার করে মডেল সেবা প্রদানকারীকে ওজন গোপন রেখেই প্রমাণ করতে দেয় যে কোনো উত্তর নির্দিষ্ট মডেল দ্বারা তৈরি হয়েছে। 400B প্যারামিটারের Llama 4 Maverick-এ পরীক্ষায় FlashProve প্রতি H100-এ প্রায় 110 tokens/s গতি পেয়েছে; প্রতি 1024 token প্রুফের আকার প্রায় 19MB এবং CPU যাচাইকরণে প্রায় 17 সেকেন্ড লাগে। প্রুফ তৈরি করতে সাধারণ ইনফারেন্সের তুলনায় প্রায় 70—95 গুণ বেশি GPU সময় লাগে। এটি এখনও গবেষণা-প্রোটোটাইপ পর্যায়ে রয়েছে; শুধু উৎস প্রমাণ করে, বিষয়বস্তুর সঠিকতা নিশ্চিত করে না।

পরিচয় যাচাই: মডেলের ওজন প্রকাশ না করেই প্রমাণ করা যে কোনো উত্তর নির্দিষ্ট মডেল দ্বারা তৈরি হয়েছে।
মডেল বদলি প্রতিরোধ: সেবা প্রদানকারী বা তৃতীয় পক্ষের রাউটিং প্ল্যাটফর্ম যাতে দামী মডেলের বদলে সস্তা মডেল ব্যবহার করতে না পারে।
আউটপুট পরিবর্তন শনাক্তকরণ: ইনফারেন্স সার্ভারে আক্রমণ হলে বা মধ্যস্থতাকারী Token প্রবাহ পরিবর্তন করলে ব্যবহারকারী যাতে অস্বাভাবিকতা শনাক্ত করতে পারেন।
কমপ্লায়েন্স ও অডিট: নিয়ন্ত্রক সংস্থা, স্বাধীন মূল্যায়নকারী এবং অভ্যন্তরীণ নিরাপত্তা দলকে মেশিনে যাচাইযোগ্য ইনফারেন্স প্রমাণ সরবরাহ করা।
উৎস প্রমাণ: কোড অডিট, বাণিজ্যিক বিশ্লেষণ বা নিরাপত্তা মূল্যায়ন সত্যিই নির্দিষ্ট কোনো মডেল দিয়ে সম্পন্ন হয়েছে কি না তা প্রমাণ করতে ব্যবহার করা যায়।

WeChat-এ ফলো করে “开源” লিখে উত্তর দিন, AI ওপেন-সোর্স প্রকল্পের গ্রুপে যোগ দিন
প্রতিশ্রুতি ও যাচাইকরণ কাঠামো: FlashProve প্রক্রিয়াটিকে অফলাইন ও অনলাইন—এই দুই ধাপে ভাগ করে। সেবা প্রদানকারী প্রথমে নির্দিষ্ট মডেলের ওজনের জন্য একটি ক্রিপ্টোগ্রাফিক কমিটমেন্ট তৈরি করে এবং ওজন প্রকাশ না করেই মডেল ফিঙ্গারপ্রিন্ট প্রকাশ করে। প্রতিটি অনুরোধের সঙ্গে একটি zkSNARK প্রুফ যুক্ত থাকে; ব্যবহারকারী শুধু কমিটমেন্ট, ইনপুট ও উত্তর ব্যবহার করে যাচাই করতে পারেন যে আউটপুটটি সত্যিই ওই মডেল থেকে এসেছে।
জিরো-নলেজ succinct প্রুফ: সিস্টেমটি জিরো-নলেজ সংক্ষিপ্ত প্রমাণ ব্যবহার করে, যাতে যাচাইকারী কয়েক সেকেন্ডের CPU সময়ে প্রায় 19MB প্রুফ পরীক্ষা করতে পারেন এবং 400B মডেল পুনরায় চালানোর প্রয়োজন হয় না। প্রুফ ওজন, মধ্যবর্তী অ্যাক্টিভেশন মান বা বিশেষজ্ঞ নির্বাচন প্রকাশ করে না; শুধু নিশ্চিত করে যে কমিট করা মডেল অনুযায়ী গণনা সম্পন্ন হয়েছে।
MoE অ্যাক্টিভেশন-সচেতন অপ্টিমাইজেশন: Llama 4 Maverick-এর মতো MoE মডেলের ক্ষেত্রে প্রুফের খরচ সব 400B প্যারামিটারের বদলে বাস্তবে সক্রিয় প্রায় 17B প্যারামিটারের সঙ্গে বৃদ্ধি পায়। ফলে একটি H100-এ প্রুফ থ্রুপুট প্রায় 110 tokens/s-এ পৌঁছায়।
ব্যাচভিত্তিক পরবর্তী প্রুফ: ইনফারেন্স শেষ হওয়ার পর একসঙ্গে প্রুফ তৈরি করা হয়। ইতিমধ্যে তৈরি টেক্সটকে prefill হিসেবে সমান্তরালে পড়া হয় এবং প্রতি ব্যাচে মাত্র একবার ওজনের কমিটমেন্ট খোলা হয়, ফলে পুনরাবৃত্ত গণনা কমে। এর বিনিময়ে প্রতিটি Token-এর জন্য রিয়েল-টাইম ইনলাইন প্রুফ দেওয়া সম্ভব হয় না।
একক-GPU স্ট্রিমিং এক্সিকিউশন: মডেলের ওজন স্তর অনুযায়ী হোস্ট মেমরিতে ভাগ করে রাখা হয় এবং একটি 80GB H100-এ স্ট্রিম করা হয়। এরপর স্তর ধরে প্রুফ তৈরি করা হয়, ফলে অতি-বৃহৎ MoE মডেলকে সম্পূর্ণভাবে GPU মেমরিতে না রেখেও চালানো যায়।

রিপোজিটরি ক্লোন করুন: https://github.com/anthropics/FlashProve থেকে কোড ডাউনলোড করুন এবং সাধারণ ব্যবহারকারী হিসেবে রিপোজিটরির রুট ডিরেক্টরিতে কাজ করুন।
ভেরিফায়ার তৈরি করুন: C++ ভেরিফায়ার কম্পাইল করতে verifier/build.sh চালান। সফলতার চিহ্ন হলো THE VERIFIER IS BUILT বার্তা এবং 0 এক্সিট কোড।
নমুনা প্রুফ যাচাই করুন: নিজস্ব নমুনা পরীক্ষা করতে bin/cp_verify-এর সঙ্গে examples/accepted-proof ডিরেক্টরির প্যারামিটার দিন। শেষ লাইনে YES দেখালে ভেরিফায়ার সঠিকভাবে কাজ করছে।
CPU স্ব-পরীক্ষা: প্রুফ লাইব্রেরি পরীক্ষা করতে blocks/first_look.sh চালান এবং নিশ্চিত করুন যে সৎ প্রুফ গ্রহণ করা হচ্ছে ও জাল প্রুফ প্রত্যাখ্যাত হচ্ছে।
GPU সম্পূর্ণ প্রবাহ: একটি খালি 80GB H100 এবং CUDA 13.2-যুক্ত মেশিনে examples/quickstart-gpu.sh চালান। এটি স্বয়ংক্রিয়ভাবে একটি ছোট মডেল অনুরোধ জমা, প্রুফ তৈরি ও যাচাই করবে।
বাস্তব মডেল যাচাই: সেবা প্রদানকারীর কমিটমেন্ট ID, অনুরোধ, আউটপুট ও প্রুফ পাওয়ার পর bin/cp_verify CONFIG PUBLIC_KEY REQUEST TOKEN PROOF -id COMMITMENT_ID দিয়ে যাচাই করুন। মনে রাখবেন, কমিটমেন্ট ID অবশ্যই বিশ্বস্ত উৎস থেকে আসতে হবে।
ফলাফল বিশ্লেষণ: 0 এক্সিট কোড এবং শেষ লাইনে YES গ্রহণযোগ্যতা বোঝায়, 1 প্রত্যাখ্যান বোঝায়, 5 ফলাফল পাওয়া যায়নি—একবার পুনরায় চেষ্টা করা যায়; অন্য কোডগুলো কল বা ফাইল-সংক্রান্ত ত্রুটি নির্দেশ করে।

ওজন প্রকাশ না করে যাচাইযোগ্যতা: মডেলের ওজন গোপন রেখেও ক্রিপ্টোগ্রাফিক প্রুফের মাধ্যমে প্রমাণ করা যায় যে উত্তরটি নির্দিষ্ট মডেল থেকে এসেছে।
বদলি ও পরিবর্তন প্রতিরোধ: সেবা প্রদানকারী সস্তা মডেল ব্যবহার করলে, রাউটিং স্তরে গোপনে মডেল বদলালে বা আক্রমণকারী আউটপুট পরিবর্তন করলে যাচাইকরণের সময় তা প্রকাশ পাবে।
অত্যন্ত কম যাচাইকরণ খরচ: যাচাইকারীর শুধু সাধারণ CPU এবং প্রায় 19MB প্রুফ দরকার; GPU বা মডেল পুনরায় চালানো ছাড়াই কয়েক দশ সেকেন্ডে যাচাই সম্পন্ন হয়।
স্কেল সক্ষমতায় অগ্রগতি: 400B প্যারামিটারের Llama 4 Maverick-এ প্রথমবার প্রায় 110 tokens/s প্রুফ গতি অর্জন করা হয়েছে, যা আগের zkML সিস্টেমগুলোর তুলনায় কয়েক মাত্রার বেশি।
MoE-কেন্দ্রিক অপ্টিমাইজেশন: প্রুফের খরচ প্রতি Token-এ বাস্তবে সক্রিয় প্রায় 17B প্যারামিটারের গণনার সঙ্গে সম্পর্কিত।
নিরাপত্তা বৈশিষ্ট্যের আনুষ্ঠানিক প্রমাণ: অখণ্ডতা, নির্ভরযোগ্যতা ও জিরো-নলেজ—এই তিনটি বৈশিষ্ট্য Lean 4-এ মেশিনে যাচাইযোগ্যভাবে প্রমাণিত হয়েছে।

প্রকল্পের ওয়েবসাইট: https://www.anthropic.com/research/provable-inference
GitHub রিপোজিটরি: https://github.com/anthropics/FlashProve
প্রযুক্তিগত গবেষণাপত্র: https://assets.claude.com/8e1d181a83015078581c92d896757041713f0160.pdf

তৃতীয় পক্ষের API মধ্যস্থতা ও মডেল রাউটিং যাচাই: ব্যবহারকারী নির্দিষ্ট উচ্চক্ষমতার মডেলের জন্য অর্থ দেওয়ার পর প্রুফের মাধ্যমে নিশ্চিত করতে পারেন যে মধ্যস্থতাকারী গোপনে সস্তা মডেলে পরিবর্তন করেনি।
স্বাধীন মডেল মূল্যায়ন: মূল্যায়নকারী সংস্থা নিশ্চিত করতে পারে যে পরীক্ষাধীন সেবায় সত্যিই মূল্যায়নযোগ্য মডেলটি স্থাপন করা হয়েছে, যাতে “মূল্যায়ন করা হয়েছে A-কে, কিন্তু চালু করা হয়েছে B” পরিস্থিতি এড়ানো যায়।
ইনফারেন্স সার্ভার পরিবর্তন প্রতিরোধ: প্রতিষ্ঠান সার্ভারকে প্রতিটি প্রতিক্রিয়ার সঙ্গে প্রুফ যুক্ত করতে বলতে পারে, ফলে আক্রমণকারী বা অনুমতিবিহীন মডেল নির্দিষ্ট ওজনের আউটপুট জাল করতে পারে না।
নিয়ন্ত্রক কমপ্লায়েন্স: নিয়ন্ত্রক সংস্থা সেবা প্রদানকারীকে নিয়মিত ইনফারেন্স প্রুফ জমা দিতে বলতে পারে, যাতে যাচাই করা যায় যে হার্ডওয়্যার সত্যিই অনুমোদিত মডেলের ইনফারেন্সে ব্যবহৃত হয়েছে, প্রশিক্ষণে সরিয়ে নেওয়া বা অনুমোদন এড়িয়ে যাওয়ার কাজে নয়।
উচ্চমূল্যের তৃতীয় পক্ষের দাবির সমর্থন: ডেভেলপার প্রমাণ করতে পারেন যে কোডটি সত্যিই কোনো অত্যাধুনিক নিরাপত্তা মডেল দিয়ে স্ক্যান করা হয়েছে, অথবা প্রতিষ্ঠান প্রমাণ করতে পারে যে বাণিজ্যিক প্রস্তাব নির্দিষ্ট মডেল পর্যালোচনা করেছে। অপর পক্ষকে মডেলের ওজনের সংস্পর্শে না এনেও এটি যাচাই করা যায়।