گوگل نے اعلان کیا ہے کہ اس نے دنیا کی پہلی جدید ملکیتی AI ماڈلز کے لیے ڈبل بلائنڈ تشخیص متعارف کرائی ہے، جس میں بیرونی تشخیص کو خفیہ "بلیک باکس" ماحول تک محدود رکھا جاتا ہے تاکہ ماڈل پہلے سے ٹیسٹ کی معلومات حاصل کرکے اپنی کارکردگی بہتر نہ بنا سکیں۔
جس طرح کسی طالب علم کی حقیقی صلاحیت جانچنے کے لیے ضروری ہے کہ وہ امتحان سے پہلے سوالات نہ دیکھے، اسی طرح موجودہ AI ماڈلز کی تشخیص کو بھی اسی مسئلے کا سامنا ہے: اگر ماڈل ٹیسٹ کے سوالات سے پہلے ہی واقف ہو جائے (یعنی نام نہاد "بینچ مارک آلودگی" ہو)، تو تشخیصی نتائج کی ساکھ شدید متاثر ہوتی ہے۔
گوگل نے سنگاپور انسٹی ٹیوٹ آف اے آئی سیفٹی، OpenMined، AVERI اور MLCommons کے ساتھ مل کر نجی معلومات کے تحفظ والے ماحول میں Gemini Flash Lite ماڈل کا خفیہ بینچ مارک ٹیسٹ کیا، جس سے تشخیصی نتائج کی سالمیت بہتر ہوئی۔
روایتی طور پر زیادہ خطرے والی بیرونی تشخیص کو ایک مشکل صورت حال کا سامنا رہتا ہے: یا تو تشخیص کرنے والا فریق ٹیسٹ کے پرامپٹس فراہم کرے، جس سے ماڈل تیار کرنے والے فریق کے سوالات پہلے دیکھ لینے کا خطرہ ہو؛ یا ماڈل تیار کرنے والا فریق ماڈل کے وزن فراہم کرے، جس سے دانشورانہ املاک افشا ہونے کا خطرہ پیدا ہو۔
ڈبل بلائنڈ تشخیص اس تضاد کو حل کرتی ہے۔ گوگل کلاؤڈ کے خفیہ کمپیوٹنگ مصنوعات کے مجموعے میں شامل Confidential Space کے ذریعے خفیہ تصدیق کی جا سکتی ہے، جس سے بیرونی تشخیصی ڈیٹا اور ملکیتی ماڈل اپنے اپنے مالکان کے لیے نجی رہتے ہیں: تشخیص کرنے والا فریق Gemini ماڈل کے وزن نہیں دیکھ سکتا، جبکہ گوگل بھی تشخیص کرنے والے فریق کے ٹیسٹ پرامپٹس نہیں دیکھ سکتا۔
یہ خفیہ طریقہ بینچ مارک آلودگی کو مؤثر طور پر روکنے کے ساتھ حساس ڈیٹا کا تحفظ بھی کر سکتا ہے، جو سائبر سکیورٹی یا سرکاری اداروں کی جانب سے کی جانے والی انتہائی حساس تشخیص کے لیے خاص طور پر اہم ہے۔ ڈبل بلائنڈ تشخیص آزاد اداروں کو ڈیٹا کی خودمختاری اور سکیورٹی سے سمجھوتا کیے بغیر جدید AI ماڈلز کی سخت جانچ کرنے کے قابل بناتی ہے۔
گوگل نے کہا کہ اسے امید ہے کہ یہ آزمائشی منصوبہ ماڈلز کی نگرانی کے لیے نئی سمت کھولے گا اور پوری صنعت کو زیادہ محفوظ، زیادہ قابل اعتماد اور عوام کا زیادہ اعتماد رکھنے والے AI نظام تشکیل دینے میں مدد دے گا۔