গুগল অত্যাধুনিক মালিকানাধীন AI মডেলের জন্য বিশ্বের প্রথম ডাবল-ব্লাইন্ড মূল্যায়ন ব্যবস্থা চালু করার ঘোষণা দিয়েছে। এতে বাহ্যিক মূল্যায়নকে একটি এনক্রিপ্টেড “ব্ল্যাক বক্স” পরিবেশে সীমাবদ্ধ রাখা হয়, যাতে মডেল আগে থেকেই পরীক্ষার তথ্য পেয়ে কর্মক্ষমতা উন্নত করতে না পারে।
যেমন পরীক্ষার আগে শিক্ষার্থীরা প্রশ্নপত্র দেখতে না পেলেই তাদের প্রকৃত দক্ষতা প্রতিফলিত হয়, তেমনি বর্তমান AI মডেল মূল্যায়নও একই সমস্যার মুখোমুখি: মডেল যদি আগে থেকেই পরীক্ষার প্রশ্নের সংস্পর্শে আসে (দ্রষ্টব্য: যাকে “বেঞ্চমার্ক দূষণ” বলা হয়), তাহলে মূল্যায়নের ফলাফলের বিশ্বাসযোগ্যতা ব্যাপকভাবে কমে যায়।
গুগল সিঙ্গাপুর ইনস্টিটিউট অব আর্টিফিশিয়াল ইন্টেলিজেন্স সেফটি, OpenMined, AVERI এবং MLCommons-এর সঙ্গে মিলে গোপনীয়তা-সুরক্ষিত পরিবেশে Gemini Flash Lite মডেলের গোপনীয় বেঞ্চমার্ক পরীক্ষা পরিচালনা করেছে, যার লক্ষ্য মূল্যায়নের ফলাফলের অখণ্ডতা বাড়ানো।
প্রচলিত উচ্চ-ঝুঁকির বাহ্যিক মূল্যায়নে দীর্ঘদিন ধরে একটি কঠিন দ্বন্দ্ব রয়েছে: হয় মূল্যায়নকারী পক্ষকে পরীক্ষার প্রম্পট দিতে হয়, ফলে মডেল নির্মাতার আগে থেকেই প্রশ্ন দেখে ফেলার ঝুঁকি থাকে; নয়তো মডেল নির্মাতাকে মডেলের ওজন দিতে হয়, যা মেধাস্বত্ব ফাঁসের ঝুঁকি তৈরি করে।
ডাবল-ব্লাইন্ড মূল্যায়ন এই দ্বন্দ্বের সমাধান করে। গুগল ক্লাউডের গোপনীয় কম্পিউটিং পণ্যসমষ্টির Confidential Space এনক্রিপ্টেড যাচাইয়ের মাধ্যমে নিশ্চিত করে যে বাহ্যিক মূল্যায়নের ডেটা এবং মালিকানাধীন মডেল নিজ নিজ মালিকের কাছে গোপন থাকে: মূল্যায়নকারী পক্ষ Gemini মডেলের ওজন দেখতে পারে না, আবার গুগলও মূল্যায়নকারী পক্ষের পরীক্ষার প্রম্পট দেখতে পারে না।
এই এনক্রিপশন পদ্ধতি কার্যকরভাবে বেঞ্চমার্ক দূষণ প্রতিরোধ করতে পারে এবং একই সঙ্গে সংবেদনশীল ডেটা সুরক্ষিত রাখে। সাইবার নিরাপত্তা বা সরকারি সংস্থার পরিচালিত উচ্চ সংবেদনশীলতার মূল্যায়নের ক্ষেত্রে এটি বিশেষভাবে গুরুত্বপূর্ণ। ডাবল-ব্লাইন্ড মূল্যায়ন স্বাধীন প্রতিষ্ঠানগুলোকে ডেটার সার্বভৌমত্ব ও নিরাপত্তার ক্ষতি না করে উন্নত AI মডেলের কঠোর পরীক্ষা চালানোর সুযোগ দেয়।
গুগল জানিয়েছে, এই পরীক্ষামূলক উদ্যোগ মডেল তদারকির জন্য নতুন দিক উন্মুক্ত করবে এবং পুরো শিল্পকে আরও নিরাপদ, নির্ভরযোগ্য ও জনসাধারণের কাছে বেশি বিশ্বাসযোগ্য AI ব্যবস্থা গড়ে তুলতে সহায়তা করবে।