Google ilg‘or xususiy AI modellari uchun globaldagi ilk ikki tomonlama ko‘r baholashni taqdim etganini e’lon qildi. Tashqi baholash shifrlangan «qora quti» muhiti bilan cheklanadi, bu modelning ishlashini optimallashtirish uchun test ma’lumotlarini oldindan olishining oldini oladi.
O‘quvchi imtihondan oldin savollarni ko‘rmasagina uning bilim darajasi xolis aks etgani kabi, hozirgi AI modellarini baholash ham xuddi shunday muammoga duch kelmoqda: agar model test savollariga oldindan duch kelsa (izoh: bu «benchmark ifloslanishi» deb ataladi), baholash natijalarining ishonchliligi keskin pasayadi.
Google Singapur Sun’iy intellekt xavfsizligi tadqiqot instituti, OpenMined, AVERI va MLCommons bilan hamkorlikda maxfiylik himoyalangan muhitda Gemini Flash Lite modelining maxfiy benchmark testini o‘tkazib, baholash natijalarining yaxlitligini oshirdi.
An’anaviy yuqori xavfli tashqi baholash doimo ikki mushkul tanlovga duch keladi: yo baholovchi tomon test promptlarini taqdim etadi, bunda model yaratuvchisi savollarni oldindan ko‘rishi mumkin; yo model yaratuvchi tomon model vaznlarini taqdim etadi, bunda intellektual mulk oshkor bo‘lishi xavfi tug‘iladi.
Ikki tomonlama ko‘r baholash esa bu ziddiyatni hal qiladi. Google Cloud maxfiy hisoblash mahsulotlari tarkibidagi Confidential Space shifrlangan tekshiruv orqali tashqi baholash ma’lumotlari va xususiy model o‘z egalaridan yashirin qolishini ta’minlaydi: baholovchi tomon Gemini modeli vaznlarini ko‘ra olmaydi, Google esa baholovchi tomonning test promptlarini ko‘ra olmaydi.
Ushbu shifrlash usuli benchmark ifloslanishining samarali oldini oladi va ayni paytda maxfiy ma’lumotlarni himoya qiladi. Bu, ayniqsa, kiberxavfsizlik yoki davlat tashkilotlari tomonidan o‘tkaziladigan yuqori maxfiylik darajasidagi baholashlar uchun muhimdir. Ikki tomonlama ko‘r baholash mustaqil tashkilotlarga ma’lumotlar suvereniteti va xavfsizligiga zarar yetkazmagan holda ilg‘or AI modellarini qat’iy sinovdan o‘tkazish imkonini beradi.
Google ushbu tajriba model nazorati uchun yangi yo‘nalish ochib, butun sohaga yanada xavfsiz, ishonchli va jamoatchilik ishonchiga ko‘proq sazovor AI tizimlarini yaratishda yordam beradi, deb umid qilmoqda.