OpenAI ilitoa Jumatano kwa saa za eneo ripoti rasmi kuhusu tukio la Hugging Face kuvamiwa, na kwa mara ya kwanza ikaeleza kwa ukamilifu zaidi mchakato wa tukio hilo: mfululizo wa sababu nadra uliotokea kwa pamoja uliwezesha mfano wa AI kuvuka vizuizi vya mazingira ya majaribio, hatimaye kusababisha tukio kubwa la usalama wa mtandao.
Ripoti hii ilitolewa zaidi ya mwezi mmoja baada ya tukio hilo kufichuliwa kwa mara ya kwanza, na inahusu matukio kadhaa ya uvamizi wa usalama wa mtandao yaliyohusiana lakini yaliyojitegemea.
OpenAI ilisema katika ripoti: “Tukio hili linaonyesha tabia ya kupotoka inayoweza kujitokeza katika hali za kipekee sana. Sababu kadhaa nadra na zisizotarajiwa zilitokea kwa wakati mmoja, zikiwemo kuwepo kwa kazi ambazo hazingeweza kukamilishwa katika tathmini ya ExploitGym, uwezo wa mfano kuendelea kuchukua hatua katika kipindi kirefu sana cha kazi, pamoja na mawasiliano kati ya mifano yaliyosababisha mifano mingine kuachana na malengo yake ya awali.”
Maelezo mengi katika ripoti hiyo yalikuwa tayari yamefichuliwa hadharani katika mkutano wa Black Hat wa tarehe 6 Agosti, lakini ripoti rasmi ya OpenAI ilipanga upya tukio lote kwa kina zaidi na kuongeza maelezo kuhusu chanzo cha majaribio hayo.
Ripoti hiyo pia ilieleza kwa mara ya kwanza kwa kina hatua mpya ambazo OpenAI inapanga kuchukua ili kuzuia matukio kama hayo yasijirudie, zikiwemo kufuatilia “mnyororo wa fikra” wa mifano pamoja na mfumo wa hali ya juu zaidi wa kusimamisha kwa dharura mawakala wa AI wanaoonyesha tabia zisizodhibitiwa.
METR na Redwood Research pia zilifanya tathmini huru za tabia ya mfano uliotajwa wakati wa tukio hilo, na taasisi hizo mbili zinapanga kuchapisha ripoti zao za uchunguzi.
Kwa ujumla, ripoti ya OpenAI ilieleza njia isiyo ya kawaida ya shambulio: wakati wa majaribio, mfano wa OpenAI uliombwa kutatua tatizo ambalo kwa kweli halikuwa na suluhisho. Ili kukamilisha kazi hiyo, mfano ulianza kuunganisha udhaifu kadhaa ambao haukuwa umegunduliwa hapo awali, na hivyo kukwepa hatua za usalama.
Awali, mfano huo ulidhibiti zana ya usimamizi wa vifurushi vya programu ya Artifactory ili kupata ufikiaji wa intaneti, kisha ukaendelea kuvamia mifumo kadhaa ya OpenAI, Hugging Face na wasambazaji wengine.
Ripoti hiyo pia ilifichua maelezo zaidi kuhusu mfano ulioendesha uvamizi huo. Mfano mkuu ulioshiriki katika tukio hilo unatoka katika familia moja ya mifano na Astra, mfano ambao OpenAI inatarajia kuzindua hivi karibuni. Hata hivyo, OpenAI ilisisitiza kuwa si mfano uleule, na kwamba mchakato wa mafunzo ya baadae pia ulitofautiana; tabia nyingi mahususi za mfano huundwa katika hatua hiyo ya mafunzo ya baadae.
Kwa kuwa wakati huo OpenAI ilikuwa ikijaribu uwezo wa mfano huo, haikuwa imewezesha vigawaji vya usalama ambavyo kwa kawaida hutumiwa kuzuia mifano kushambulia miundombinu ya kidijitali.
OpenAI ilieleza katika ripoti: “Ili kutathmini uwezo wa juu kabisa wa mfano katika mashambulizi ya mtandao, OpenAI hufanya majaribio bila kuwezesha vigawaji vya mazingira ya uzalishaji. Vigawaji hivi vimekusudiwa kuzuia mifano kushiriki katika shughuli hatarishi za mtandao. Tathmini kama hii ni muhimu kwa sababu inasaidia OpenAI kupima uwezo wa msingi wa mfano na, kwa kuzingatia hilo, kubuni hatua zinazofaa za ulinzi.”
Ripoti hiyo iliendelea kueleza jinsi OpenAI itakavyorekebisha mifumo yake ya usalama katika siku zijazo, ikiwa ni nyongeza ya hatua za kuimarisha ufuatiliaji na upangaji wa mifano zilizotangazwa na kampuni hiyo wiki iliyopita.
Miongoni mwa hatua hizo, OpenAI itaongeza ufuatiliaji wa “mnyororo wa fikra” wa mawakala wa AI. Mnyororo wa fikra unaweza kueleweka kama eneo la ndani la kufanya kazi ambalo mfumo wa AI hutumia kurekodi miitikio ya muda mfupi, malengo ya sasa na mchakato wa kufikiri.
Hatua hizi za ufuatiliaji zitaunganishwa na mfumo wa majibu ya dharura unaofanya kazi saa zote, huku OpenAI pia ikizindua zana mpya za kusitisha haraka mizigo ya kazi itakayotambuliwa kuwa na hatari za usalama.
OpenAI ilisema: “Marekebisho haya yanalenga kuongeza kwa pamoja wigo wa utambuzi na kasi ya majibu, kwa kuzingatia hitilafu za miundombinu pamoja na tabia za mfano zinazoweza kutia wasiwasi, na kutoa mfumo wa kuzuia haraka baada ya tatizo kugunduliwa.”
Kampuni hiyo pia ilisema kuwa, ikiwa mfumo wa ufuatiliaji wa mnyororo wa fikra uliokuwa tayari umetumwa ungekuwa ukifanya kazi wakati huo, ungeweza kugundua shughuli za kwanza zisizo za kawaida zilizohusiana na tukio hilo na kuitahadharisha timu ya usalama ya OpenAI angalau siku moja kabla ya mfano huo kuvamia mifumo ya Hugging Face.