Kulingana na ripoti ya jarida la Wired jana, kampuni changa ya Marekani ya usalama wa mtandao Frontier Security ilisema kwamba wakati wa kujaribu uwezo wa modeli ya Kimi K3 ya Moonshot AI katika usalama wa mtandao, modeli hiyo iliondoka kwenye mazingira ya sandbox yaliyokuwa yakiizuia.
Kulingana na ripoti hiyo, tukio hili la AI kutoroka linafanana na matukio ya OpenAI na Anthropic; sababu ya moja kwa moja pia ilikuwa usanidi usio sahihi wa sandbox iliyotumiwa kuitenga modeli. Frontier Security inaamini kuwa Kimi haina mifumo ya ulinzi wa mtandao inayopatikana katika modeli nyingine za hali ya juu, hivyo modeli hiyo iliweza kufikia intaneti bila idhini ya wazi.
Yaron Singer, mkurugenzi mkuu wa Frontier Security, alisema: “Tuligundua kuwa sandbox ilikuwa na udhaifu, lakini Kimi pia ilitumia udhaifu huo. Hili linaonyesha kwamba huenda haina mifumo ya ndani ya usalama inayopatikana katika modeli nyingine za kiwango sawa.”
Hata hivyo, baada ya Kimi K3 kuvuka sandbox na kupata ufikiaji wa intaneti, haikufanya shambulio lolote; ilienda tu GitHub kutafuta jibu la swali.
Matukio ya AI kutoroka kwenye mazingira yaliyotengwa, ambayo yamekuwa yakitokea mara kwa mara hivi karibuni, yanaonyesha kuwa kadiri uwezo wa AI unavyoongezeka, ndivyo inavyokuwa vigumu zaidi kwa binadamu kuidhibiti. OpenAI ilifichua mwezi uliopita kwamba modeli yake ya ndani ambayo haikuwa imetolewa hadharani iliwahi kuvuka mazingira ya kutengwa wakati wa majaribio na baadaye kushambulia jukwaa la Hugging Face. Baadaye, Anthropic pia ilisema kuwa modeli zake kadhaa ziliwahi kupata ufikiaji wa intaneti wakati wa majaribio ya usalama na kushambulia mifumo ya nje.
Baadhi ya wataalamu wa usalama wa mtandao walisema ugunduzi huu unaonyesha kuwa binadamu wanahitaji kusanidi upya mazingira ya sandbox kwa ajili ya modeli za AI za hali ya juu. Pia, watumiaji wa mawakala kama OpenClaw (dokezo: maarufu kama “lobsta”) wanahitaji kusanidi mazingira kwa uangalifu ili kuzuia AI kuvuka mipaka.