Ripoti ya hivi karibuni ya usalama iliyotolewa na Anthropic tarehe 14 Agosti kwa saa za eneo inaonyesha kuwa baadhi ya vichujio vya usalama vya kampuni hiyo, vilivyokusudiwa kuzuia maombi hatari yanayohusiana na silaha za kemikali na kibaolojia, vilishindwa kufanya kazi kwa muda mrefu.
Hali hii ilisababisha maombi mengi yaliyotolewa wakati wakandarasi wa nje walipokuwa wakitoa mrejesho wa kibinadamu kati ya Mei 2025 na Aprili 2026 kutopitia uchujaji. Anthropic imesema kuwa uchunguzi wa ndani hadi sasa haujapata ushahidi kwamba maombi hayo yalitumiwa vibaya kwa vitendo.
Kulingana na maelezo ya Anthropic kuhusu mifumo yake ya usalama, vichujio vyake vya wakati halisi vya maelekezo na majibu huchanganua maingizo ya watumiaji pamoja na maudhui yanayotengenezwa na modeli, na kuzuia modeli kutoa taarifa zinazoweza kutumiwa kutekeleza vitendo hatari inapobaini hatari husika. Kwa mujibu wa IT之家, mfumo huu ni mojawapo ya hatua za usalama za tabaka nyingi zilizowekwa na Anthropic kukabiliana na hatari za kemikali, kibaolojia, mionzi na silaha za nyuklia (CBRN).
Tatizo lililofichuliwa wakati huu linahusisha wakandarasi wa nje wa Anthropic. Ripoti inaonyesha kuwa takriban wakandarasi 50,000 walifanya karibu mazungumzo milioni 133 na modeli katika kipindi husika, huku mtiririko huo ukiwa haujapitishwa kwenye kichujio cha usalama wa kibaolojia kwa karibu mwaka mmoja.
Anthropic imesema kuwa wakandarasi hao walikaguliwa hasa na watoa huduma wa nje, ambao taratibu zao za uchunguzi zilikuwa na mapungufu. Kampuni hiyo ilianzisha uchunguzi wa ndani baadaye na kusema kuwa haikupata ushahidi kwamba maombi hayo yalitumiwa vibaya kwa vitendo. Kwa hiyo, Anthropic imeongeza mahitaji yake yanayohusiana na wakandarasi wa nje.
Anthropic ilikuwa tayari imejumuisha ulinzi wa usalama wa kibaolojia katika mfumo wake wa usalama wa AI. Mnamo Mei 2025, kampuni hiyo iliwasha hatua za ulinzi za Kiwango cha 3 cha Usalama wa AI (ASL-3) wakati wa kuzindua Claude Opus 4, zikiwemo vizuizi vya matumizi vinavyolenga hatari za kutengeneza au kupata silaha za kemikali, kibaolojia, mionzi na nyuklia.
Kulingana na sera ya sasa ya Anthropic ya upanuzi wenye uwajibikaji, vichujio vya wakati halisi vya maelekezo na majibu hufuatilia kila mara maingizo na matokeo ya modeli, na husasishwa kulingana na mifumo hatari, mbinu za kuvuka vizuizi na mbinu za kuficha taarifa zinazogunduliwa kila mara. Kampuni hiyo pia hutumia majaribio ya timu nyekundu, mpango wa zawadi za kugundua dosari na ufuatiliaji wa nje ya mtandao kama hatua za ziada za usalama.
Mwezi Julai 2026, Anthropic ilipofichua hatua za usalama zinazohusiana na Claude Fable 5, ilisisitiza tena hatari katika nyanja za kibaolojia na kemikali. Kampuni hiyo ilisema kuwa uwezo wa msingi wa Fable 5 ukifikia kiwango fulani, unaweza kuwapa wahusika wenye nia mbaya msaada wa ziada, hivyo vichujio vinahitajika kuzuia maombi husika.
Anthropic pia imekubali kuwa vichujio vya usalama vilivyo vikali kupita kiasi vinaweza kuathiri kimakosa shughuli halali za utafiti wa kisayansi. Kwa Fable 5, kwa sasa maombi mengi yanayohusiana na nyanja za kibaolojia na kemikali hupelekwa kwa Claude Opus 4.8 kushughulikiwa, na kampuni inapanga kupunguza hatua kwa hatua wigo wa vizuizi kadiri mifumo ya usalama inavyoboreshwa.
Kwa sasa, Anthropic imesema kuwa imeimarisha mahitaji ya uchunguzi na usimamizi wa wakandarasi wa nje kulingana na matokeo ya uchunguzi. Sera ya kampuni hiyo ya upanuzi wenye uwajibikaji, iliyowekwa wazi kwa umma, pia inaonyesha kuwa inaendelea kurekebisha viwango vya ulinzi wa usalama katika nyanja zenye hatari kubwa, kama vile kemikali na silaha za kibaolojia.