غوغل أعلنت على إطلاق أول تقييم مزدوج التعمية فالعالم لنماذج الذكاء الاصطناعي الاحتكارية المتقدمة، بحيث التقييم الخارجي كيتدار غير فبيئة مشفّرة بحال «الصندوق الأسود»، باش ما يقدرش النموذج يوصل مسبقاً لمعلومات الاختبار ويحسّن الأداء ديالو على هاد الأساس.
بحال التلميذ اللي خاصو ما يشوفش أسئلة الامتحان قبل الوقت باش تعكس النتيجة المستوى الحقيقي ديالو، تقييم نماذج الذكاء الاصطناعي دابا كيعاني من نفس المشكل: إلا تعرّض النموذج مسبقاً لأسئلة الاختبار (ملاحظة: اللي كيتسمّى «تلوّث الاختبار المعياري»)، فالموثوقية ديال نتائج التقييم كتنقص بزاف.
غوغل تعاونات مع معهد سنغافورة لأبحاث سلامة الذكاء الاصطناعي، وOpenMined، وAVERI، وMLCommons، باش تدير اختباراً معيارياً سرياً لنموذج Gemini Flash Lite فبيئة كتضمن حماية الخصوصية، وبهذا كتزيد من سلامة نتائج التقييم.
التقييمات الخارجية التقليدية عالية المخاطر كانت ديماً كتواجه معضلة: يا إما الجهة المقيِّمة تسلّم التعليمات ديال الاختبار، وكيكون خطر أن الجهة اللي طوّرات النموذج تشوف الأسئلة مسبقاً؛ يا إما الجهة اللي طوّرات النموذج تسلّم أوزان النموذج، وكيكون خطر تسرّب الملكية الفكرية.
التقييم المزدوج التعمية كيحل هاد التناقض. فمن خلال Confidential Space، اللي كينتمي لحزمة منتجات الحوسبة السرية فـGoogle Cloud، يمكن باستعمال التحقق المشفّر ضمان بقاء بيانات التقييم الخارجي والنموذج الاحتكاري محميّة عند المالكين ديالها: الجهة المقيِّمة ما كتقدرش تشوف أوزان نموذج Gemini، وغوغل حتى هي ما كتقدرش تشوف تعليمات الاختبار ديال الجهة المقيِّمة.
هاد الوسائل المشفّرة كتقدر تمنع تلوّث الاختبارات المعيارية بشكل فعّال، وفنفس الوقت تحمي البيانات الحساسة، وهاد الشي مهم خصوصاً فالتقييمات عالية الحساسية اللي كتديرها مؤسسات الأمن السيبراني أو الجهات الحكومية. التقييم المزدوج التعمية كيخلّي المؤسسات المستقلة تختبر نماذج الذكاء الاصطناعي المتقدمة بصرامة، بلا ما تضر بسيادة البيانات أو بأمنها.
غوغل قالت إنها كاتمنى هاد التجربة تفتح توجهاً جديداً فمراقبة النماذج، وتعاون القطاع كامل يبني أنظمة ذكاء اصطناعي أكثر أماناً وموثوقية وثقة عند الناس.