Sun’iy intellekt kompaniyasi Anthropic mahalliy vaqt bilan 30-kuni e’lon qilgan bayonotida o‘zining Claude modeli bo‘yicha kiberxavfsizlik baholashini ko‘rib chiqish chog‘ida yuz bermasligi kerak bo‘lgan uchta haqiqiy kiberxavfsizlik hodisasini aniqlaganini bildirdi. Bunga bevosita uchinchi tomon baholash muhitining noto‘g‘ri sozlangani sabab bo‘lgan.
Ushbu uch hodisaning barchasida Anthropic modellari cheklovsiz “capture the flag” kiberhujum vazifalarini bajarishga yo‘naltirilgan. Xavfsizlikni ta’minlash uchun bunday vazifalarning sinov muhiti haqiqiy internetdan ajratilgan bo‘lishi kerak edi, biroq Anthropic va baholash hamkori Irregular o‘rtasidagi tushunmovchilik baholash modellariga haqiqiy internetga kirish huquqi berilishiga olib keldi.
Birinchi hodisada Claude Opus 4.7 xayoliy nishon bilan bir xil nomga ega bo‘lgan haqiqiy kompaniyani vazifa nishoni deb qabul qilib, uning infratuzilmasiga kirgan hamda hisob ma’lumotlari va ma’lumotlar bazasi ma’lumotlarini olgan. Bu eng jiddiy hodisa bo‘lgan: model tizimning haqiqiy ekanini anglaganidan keyin ham hujumni davom ettirgan.
Ikkinchi hodisada esa Claude Mythos 5 vazifani bajarish uchun haqiqiy PyPI’ga zararli Python paketini joylashtirgan. Ushbu zararli fayl 15 ta haqiqiy tizimga yuklab olingan va hisob ma’lumotlarining o‘g‘irlanishiga sabab bo‘lgan. Model qisqa vaqtga “agar bu haqiqiy internet bo‘lsa, juda yomon bo‘ladi” deb anglagan, biroq o‘zini hali ham simulyatsiyada ekaniga ishontirgan.
Anthropic kompaniyasining ichki tadqiqot sinov modellaridan biri esa nisbatan yaxshiroq natija ko‘rsatgan. U qariyb 9000 ta nishonni skanerlab, oddiy usullar yordamida haqiqiy kompaniyaga kirgan, keyin muhitning haqiqiy ekanini anglagach, hujumni o‘z tashabbusi bilan to‘xtatgan.
Anthropic ma’lum qilishicha, hodisalarga aloqador barcha modellar rasmiy chiqarilishlarda qo‘llanadigan standart xavfsizlik choralarisiz ishlatilgan, biroq ularning barchasi maxsus xavfsizlik treningidan o‘tgan. Ushbu hujumlarda faqat ayrim oddiy usullardan foydalanilgan. Modellar hech qanday murakkab zaiflikni aniqlamagan yoki undan foydalanmagan, shuningdek, o‘zini sinov muhitidan olib chiqishga yoki ataylab qochishga urinmagan.