Anthropic: Hitilafu ya usanidi wa mazingira ya tathmini ya wahusika wengine ilisababisha matukio matatu halisi ya usalama wa mtandao

Kampuni ya akili bandia Anthropic ilitoa tangazo tarehe 30 kwa saa za eneo, ikisema kuwa katika ukaguzi wa tathmini ya usalama wa mtandao wa Claude wake iligundua matukio matatu halisi ya usalama wa mtandao ambayo hayakupaswa kutokea. Sababu ya moja kwa moja ilikuwa hitilafu katika usanidi wa mazingira ya tathmini ya mhusika mwingine.

Katika matukio haya matatu, miundo ya Anthropic ilipewa kazi zisizo na vizuizi za mashambulizi ya mtandao ya “capture the flag”. Ili kuhakikisha usalama, mazingira ya majaribio ya kazi kama hizi yanapaswa kutengwa na intaneti halisi, lakini kulikuwa na kutoelewana kati ya Anthropic na mshirika wake wa tathmini Irregular, jambo lililosababisha miundo iliyokuwa ikitathminiwa kupewa ufikiaji wa intaneti halisi.

Katika tukio la kwanza, Claude Opus 4.7 aliichukulia kampuni halisi yenye jina sawa na lengo la kubuniwa kuwa ndiyo lengo la kazi, akaingia kwenye miundombinu yake na kutoa vitambulisho vya kuingia pamoja na data ya hifadhidata. Hili ndilo lililokuwa tukio kubwa zaidi; muundo huo uliendelea na shambulizi hata baada ya kutambua kuwa ulikuwa mfumo halisi.

Katika tukio la pili, Claude Mythos 5 alichapisha kifurushi hasidi cha Python kwenye PyPI halisi ili kukamilisha kazi. Faili hiyo hasidi ilipakuliwa kwenye mifumo 15 halisi, na kusababisha vitambulisho vya kuingia kuibwa. Muundo huo ulitambua kwa muda mfupi kuwa “ikiwa hii ni intaneti halisi, mambo yatakuwa mabaya”, lakini ukajishawishi kuwa bado ulikuwa katika uigaji.

Muundo wa majaribio ya utafiti wa ndani wa Anthropic ulifanya vizuri kwa kiasi fulani. Ulichanganua takriban shabaha 9000, ukapenya kwenye kampuni halisi kwa kutumia mbinu za msingi, kisha ulipotambua kuwa ulikuwa katika mazingira halisi ukaacha shambulizi kwa hiari.

Anthropic ilisema kuwa miundo yote iliyohusika haikutumia hatua za kawaida za usalama zinazotumika wakati wa kutolewa rasmi, ingawa yote ilipitia mafunzo mahususi ya usalama. Mashambulizi haya yalitumia mbinu chache za msingi pekee. Miundo hiyo haikugundua wala kutumia udhaifu wowote changamano, na haikujaribu kujitoa kutoka katika mazingira ya majaribio au kutoroka kwa makusudi.