Google yazindua teknolojia ya kwanza duniani ya tathmini ya AI isiyo na upendeleo wa pande mbili, ikitumia mazingira yaliyosimbwa kwa usalama wa majaribio ya viwango

Google imetangaza uzinduzi wa tathmini ya kwanza duniani isiyo na upendeleo wa pande mbili kwa miundo ya kisasa ya AI inayomilikiwa, ikiweka tathmini za nje katika mazingira yaliyosimbwa ya “kisanduku cheusi” ili kuzuia miundo kupata mapema taarifa za majaribio na kuboresha utendaji wake.

Kama vile kiwango cha mwanafunzi hakiwezi kuakisiwa kwa usahihi ikiwa ataona maswali ya mtihani kabla ya mtihani, tathmini ya sasa ya miundo ya AI inakabiliwa na tatizo kama hilo: ikiwa muundo unapata mapema maswali ya mtihani (dokezo: hali hii huitwa “uchafuzi wa kiwango”), uaminifu wa matokeo ya tathmini hupungua sana.

Google kwa kushirikiana na Taasisi ya Utafiti wa Usalama wa Akili Bandia ya Singapore, OpenMined, AVERI na MLCommons, imefanya majaribio ya siri ya kiwango cha Gemini Flash Lite katika mazingira ya kulinda faragha, na hivyo kuongeza ukamilifu wa matokeo ya tathmini.

Tathmini za jadi za nje zenye hatari kubwa zimekuwa zikikabiliwa na changamoto mbili: ama upande wa tathmini ukabidhi vidokezo vya majaribio, jambo linalowezesha upande wa muundo kuyaona mapema maswali; au upande wa muundo ukabidhi uzito wa muundo, jambo linaloweza kusababisha kuvuja kwa haki miliki.

Tathmini isiyo na upendeleo wa pande mbili hutatua mgongano huu. Kupitia Confidential Space, iliyo katika mkusanyiko wa bidhaa za kompyuta za siri za Google Cloud, uthibitishaji wa usimbaji huhakikisha kuwa data ya tathmini ya nje na muundo unaomilikiwa vinaendelea kuwa vya faragha kwa wamiliki husika: upande wa tathmini hauwezi kuona uzito wa muundo wa Gemini, na Google haiwezi kuona vidokezo vya majaribio vya upande wa tathmini.

Mbinu hii ya usimbaji inaweza kuzuia kwa ufanisi uchafuzi wa viwango huku ikilinda data nyeti. Ni muhimu hasa kwa tathmini zenye usikivu mkubwa zinazofanywa na mashirika ya usalama wa mtandao au taasisi za serikali. Tathmini isiyo na upendeleo wa pande mbili huwezesha taasisi huru kujaribu kwa ukali miundo ya hali ya juu ya AI bila kuhatarisha mamlaka juu ya data wala usalama.

Google imesema inatumaini kuwa jaribio hili litaanzisha mwelekeo mpya wa usimamizi wa miundo na kusaidia sekta nzima kujenga mifumo ya AI iliyo salama zaidi, yenye kuaminika zaidi na inayotegemewa zaidi na umma.