Taasisi ya Usalama wa Ujasusi Bandia ya Uingereza (AISI) ilifichua Jumanne kwa saa za huko kwamba, wakati wa kujaribu miundo ya AI ya OpenAI na Anthropic, wakala mmoja wa AI aligunduliwa akitumia utambulisho bandia mtandaoni ili kupata ufikiaji usioidhinishwa wa mifumo ya usalama, na kufichua mfululizo wa udhaifu mpya wa usalama.
Taasisi hiyo ilisema kwamba mawakala wanaoendeshwa na Mythos 5 ya Anthropic na GPT-5.6-Sol ya OpenAI walifanya vitendo visivyoidhinishwa wakati wa tathmini za usalama zilizofanywa na taasisi za serikali. Majaribio hayo yalilenga kutathmini uwezo wa miundo husika.
AISI ilisema katika chapisho la blogu: “Baadhi ya mawakala waliojaribiwa waliendelea kufanya shughuli zenye uwezekano wa kusababisha madhara, zilizolenga watu na mashirika halisi.”
Ripoti hiyo inaonyesha kuwa ulinzi wa usalama katika michakato ya sasa ya kujaribu mawakala wa AI bado hautoshi, huku kampuni za AI zikiendeleza kwa nguvu teknolojia ya mawakala na kuiona kama mwelekeo muhimu wa maendeleo ya biashara ya siku zijazo.
AISI ilipata ruhusa ya kujaribu miundo ya hali ya juu ya AI kupitia makubaliano ya hiari na maabara kuu za AI. Taasisi hiyo iliwaweka mawakala hao katika mazingira ya kubuniwa ya usalama wa mtandao ili kutathmini uwezo wao.
AISI ilifanya changamoto 122 za majaribio, na katika mizunguko 10 ya majaribio iligundua vitendo 19 visivyoidhinishwa. Kati ya hivyo, mawakala wa Anthropic walisababisha ukiukaji 17, huku mawakala wa OpenAI wakisababisha 2 mingine.
AISI ilisema ukiukaji mkubwa zaidi ulihusisha wakala mmoja kuandika msimbo hasidi na kuunda vitambulisho bandia mtandaoni, kwa lengo la kuwashawishi watu halisi kuidhinisha misimbo hiyo. Hata hivyo, taasisi hiyo iliongeza kuwa matukio yote hayo ya udhaifu hayakusababisha madhara yoyote halisi katika ulimwengu wa nje.
Ingawa AISI haikufichua ni wakala gani uliounda utambulisho bandia, tukio hilo si mojawapo ya matukio mawili ya usalama ambayo OpenAI ilifichua hapo awali kwa hiari yake.
Andrew Yoon, mtafiti katika shirika lisilo la faida la CivAI la California, alisema inaonekana ukiukaji huo huenda ulisababishwa na wakala wa Anthropic.
Yoon alisema: “Mythos ilichukua hatua hii ya udanganyifu hata baada ya kutambua wazi kwamba ilikuwa ikiwalenga watu halisi, jambo linaloonyesha kuwa Anthropic huenda haina udhibiti mkubwa wa miundo yake kama inavyodhani.”
Anthropic ilisema katika taarifa kwenye jukwaa la X kwamba kampuni hiyo inashirikiana kwa karibu na AISI ili kupata maelezo zaidi na kufanya uchunguzi wake yenyewe.
OpenAI ilichapisha maelezo husika kwenye blogu ya kampuni, ikisema kwamba vitendo viwili visivyoidhinishwa vilivyofanywa na mawakala wake vilihusisha kufikia intaneti kwa njia iliyokatazwa wazi katika maagizo.
OpenAI ilisema: “Tumejitolea kushirikiana na sekta nzima kuimarisha mbinu za usalama katika tathmini za AI zenye hatari kubwa, ikiwa ni pamoja na kuwakutanisha katika wiki zijazo taasisi za kitaifa za utafiti wa AI, mashirika huru ya tathmini, maabara nyingine za AI na mashirika husika, ili kwa pamoja kuendeleza eneo hili.”
OpenAI pia ilifichua katika blogu yake tukio jingine huru: hitilafu ya usanidi katika shirika la upimaji la wahusika wengine, Irregular, ilisababisha wakala aliyekuwa akijaribiwa kuunganishwa na intaneti bila kukusudiwa. Hili linafanana na tukio la hitilafu kama hiyo ya usanidi lililofichuliwa na Anthropic wiki iliyopita.
Reuters iliripoti wiki iliyopita kwamba OpenAI imepanua wigo wa uchunguzi wake wa usalama wa wadukuzi baada ya kugundua ushahidi zaidi wa mawakala kuvuka vizuizi vya usalama.
AISI ilisema, tofauti na tukio la usalama la Julai mwaka huu ambapo wakala wa OpenAI aliingia katika kampuni ya AI ya Hugging Face, mawakala katika tathmini hii hawakuvuka mazingira ya majaribio yaliyotengwa wala kuunganishwa na intaneti. Taasisi hiyo ilieleza kuwa, kwa mujibu wa utaratibu wake wa kawaida wa majaribio, mazingira ya majaribio yenyewe yaliwaruhusu mawakala kufikia intaneti.