Anthropic mahalliy vaqt bilan 14-avgust kuni e’lon qilgan so‘nggi xavfsizlik hisobotida kompaniyaning kimyoviy va biologik qurollarga oid xavfli so‘rovlarni to‘sish uchun ishlatadigan ayrim xavfsizlik klassifikatorlari uzoq vaqt davomida ishlamay qolgani ma’lum qilindi.
Natijada 2025-yil mayidan 2026-yil apreligacha tashqi pudratchilar tomonidan inson fikr-mulohazalarini taqdim etish jarayonida yaratilgan ko‘plab so‘rovlar filtrlashdan o‘tmagan. Anthropic ichki tekshiruv hozircha tegishli so‘rovlar amalda suiiste’mol qilinganiga oid dalillarni aniqlamaganini bildirdi.
Anthropic e’lon qilgan xavfsizlik mexanizmlari tavsifiga ko‘ra, uning real vaqt rejimidagi prompt va chiqish klassifikatorlari foydalanuvchi kiritmalari hamda model yaratgan kontentni tahlil qiladi va tegishli xavfni aniqlaganda modelning xavfli xatti-harakatlarni amalga oshirishda ishlatilishi mumkin bo‘lgan ma’lumotlarni taqdim etishiga to‘sqinlik qiladi. IT之家 ma’lumotlariga ko‘ra, bu mexanizm Anthropic tomonidan kimyoviy, biologik, radiologik va yadroviy qurollar (CBRN) xavfiga qarshi joriy etilgan ko‘p qatlamli xavfsizlik choralaridan biridir.
Bu safar aniqlangan muammo Anthropic’ning tashqi pudratchilariga taalluqli. Hisobotda aytilishicha, tegishli davrda qariyb 50 ming pudratchi model bilan taxminan 133 million marta suhbatlashgan, biroq bu trafik qariyb bir yil davomida tegishli biologik xavfsizlik klassifikatori tomonidan to‘silmagan.
Anthropic ushbu pudratchilarni asosan tashqi yetkazib beruvchilar tekshirganini, ularning saralash jarayonida kamchiliklar bo‘lganini bildirdi. Kompaniya keyinchalik ichki tekshiruv o‘tkazdi va bu so‘rovlar amalda suiiste’mol qilinganiga dalil topilmaganini ma’lum qildi. Shu sababli Anthropic tashqi pudratchilarga qo‘yiladigan tegishli talablarni kuchaytirdi.
Anthropic bundan avval ham biologik xavfsizlikni o‘zining AI xavfsizlik tizimiga kiritgan edi. 2025-yil may oyida kompaniya Claude Opus 4 taqdimoti chog‘ida AI xavfsizlik darajasi 3 (ASL-3) himoya choralarini ishga tushirdi. Ular kimyoviy, biologik, radiologik va yadroviy qurollarni ishlab chiqish yoki qo‘lga kiritish xavfiga qarshi joriy etish cheklovlarini o‘z ichiga oladi.
Anthropic’ning amaldagi mas’uliyatli kengaytirish siyosatiga ko‘ra, real vaqt rejimidagi prompt va chiqish klassifikatorlari model kiritmalari hamda chiqishlarini uzluksiz kuzatib boradi va aniqlanayotgan zararli andozalar, himoyani chetlab o‘tish usullari hamda chalkashtirish texnikalariga qarab yangilanadi. Kompaniya qizil guruh sinovlari, zaifliklar uchun mukofot dasturi va oflayn monitoringni ham qo‘shimcha xavfsizlik choralari sifatida qo‘llaydi.
2026-yil iyul oyida Anthropic Claude Fable 5 bilan bog‘liq xavfsizlik choralarini e’lon qilganida biologik va kimyoviy sohalardagi xavflarni yana bir bor ta’kidladi. Kompaniya Fable 5’ning asosiy imkoniyatlari muayyan darajaga yetgach, zarar yetkazmoqchi bo‘lgan shaxslarga qo‘shimcha yordam berishi mumkinligini, shu sababli tegishli so‘rovlarni klassifikatorlar yordamida cheklash zarurligini bildirdi.
Anthropic shu bilan birga haddan tashqari qat’iy xavfsizlik klassifikatorlari odatiy ilmiy-tadqiqot faoliyatiga ham to‘sqinlik qilishi mumkinligini tan oldi. Hozircha Fable 5 uchun biologik va kimyoviy sohalarga oid ko‘plab so‘rovlar Claude Opus 4.8 tomonidan ko‘rib chiqish uchun yo‘naltiriladi. Kompaniya xavfsizlik mexanizmlari takomillashgani sari cheklovlar doirasini bosqichma-bosqich toraytirishni rejalashtirmoqda.
Hozirda Anthropic tekshiruv natijalariga ko‘ra tashqi pudratchilarni saralash va boshqarish talablarini kuchaytirganini bildirdi. Kompaniyaning e’lon qilingan mas’uliyatli kengaytirish siyosati ham uning kimyoviy va biologik qurollar kabi yuqori xavfli sohalarga nisbatan xavfsizlik himoyasi standartlarini doimiy ravishda moslashtirayotganini ko‘rsatadi.