Jumanne, kwa saa za eneo hilo, OpenAI ilitangaza sera mpya za usalama zinazolenga kudhibiti matukio ya usalama yanayoweza kutokea wakati wa majaribio ya modeli. Hatua hizo mpya zinajumuisha ufuatiliaji wa kina zaidi wakati wa mchakato wa uundaji wa modeli, pamoja na kuzingatia zaidi ulinganifu na usalama wa modeli baada ya mafunzo.
OpenAI ilisema katika chapisho la blogu: “Kadiri uwezo wa modeli unavyoendelea kuongezeka, ndivyo hatari tunazokabili tunapozitengeneza na kuzijaribu ndani zinavyoongezeka. Viwango tulivyoweka kuhusu ufuatiliaji, ulinganifu na usalama lazima viwe mbele ya hatari hizi kila wakati.”
Haya ni miongoni mwa marekebisho makubwa ya kwanza ambayo OpenAI imeyatangaza hadharani kuhusu mbinu zake za usalama tangu ilipofichua tukio la Hugging Face tarehe 21 Julai.
Mwakilishi wa OpenAI alisema kuwa hatua hizi hazikuchukuliwa moja kwa moja kwa sababu ya tukio la Hugging Face, lakini uwezo wa usalama wa mtandao unaoonyeshwa na modeli ya Astra inayotarajiwa kuzinduliwa, pamoja na kasi ya maendeleo ya sekta nzima ya AI, ni miongoni mwa sababu zilizochochea kampuni kuchukua hatua hizi.
OpenAI pia ilifichua kuwa baada ya tukio la Hugging Face, kampuni ilisimamisha mafunzo ya ujifunzaji wa kuimarisha (RL) kwa wiki mbili, lakini kwa sasa imeanza tena mafunzo ya modeli nyingi zenye hatari ndogo.
OpenAI iliandika kwenye blogu: “Kwa sasa bado tumesimamisha mpango mkubwa zaidi wa mafunzo ya ujifunzaji wa kuimarisha wa modeli za mipakani, huku tukiendesha mafunzo na tathmini za kiwango kidogo ili kutathmini tabia ya modeli, kuthibitisha hatua za usalama, na kupata ushahidi zaidi kuhusu ulinganifu wa modeli kabla ya kuendelea.”
Makamu wa rais wa utafiti wa OpenAI, Amelia Glaese, alisisitiza katika mahojiano na waandishi wa habari kwamba kadiri uwezo wa modeli unavyoongezeka, ndivyo kampuni itakavyokaza zaidi udhibiti wa usalama; modeli zenye uwezo mkubwa zaidi zitafanyiwa uchunguzi mkali zaidi.
Glaese aliwaambia waandishi wa habari: “Tumeweka mahitaji na viwango vya uundaji salama. Mahitaji na viwango hivi vitarekebishwa kulingana na kiwango cha hatari tunachokikadiria.”
Baada ya tukio hilo, hatua za usalama wa mtandao za OpenAI zilikosolewa na umma. Katika tukio la awali, modeli ilivuka mazingira ya mafunzo yaliyowekwa baada ya kuingia kwenye zana iliyokuwa na uwezo wa kufikia intaneti ndani ya mtandao wa OpenAI. Hatua mpya za usalama zilizozinduliwa na OpenAI zinajumuisha kuimarisha zaidi utengaji wa mitandao, lakini kampuni bado haijafichua maelezo mahususi ya kiufundi.
OpenAI ilisema kuwa chini ya mfumo mpya wa usalama, “kuvamiwa kwa mzigo mmoja wa kazi au huduma saidizi hakutasababisha, peke yake, mvamizi kupata ufikiaji wa intaneti au mitandao mingine ya ndani bila idhini.”
Hatua muhimu zaidi ya usalama katika maboresho haya ni mfumo mpya wa ufuatiliaji. Mfumo huo utakagua shughuli zinazotekelezwa na zana, misururu ya hoja inayoweza kupatikana, pamoja na kumbukumbu za shughuli, ili kubaini aina mbalimbali za tabia zisizoidhinishwa. OpenAI ilisema lengo lake ni kutoa tahadhari ndani ya dakika 30 baada ya kugundua shughuli za kutiliwa shaka.
OpenAI inakadiria kuwa rasilimali za kompyuta zinazohitajika na mfumo huu wa ufuatiliaji ni takriban sawa na 20% ya matumizi ya rasilimali za kompyuta ya mchakato unaofuatiliwa wenyewe. Kampuni imeahidi kuchapisha maelezo zaidi kuhusu mfumo huo katika machapisho ya blogu yajayo.
Zaidi ya hayo, ripoti rasmi ya OpenAI ya uchanganuzi wa baada ya tukio hili bado haijachapishwa.