Britaniya sun’iy intellekt xavfsizligi instituti (AISI) mahalliy vaqt bilan seshanba kuni ma’lum qilishicha, OpenAI va Anthropic AI modellarini sinovdan o‘tkazish chog‘ida AI agenti soxta onlayn shaxs yaratish orqali xavfsizlik tizimiga ruxsatsiz kirish huquqini qo‘lga kiritgani va qator yangi xavfsizlik zaifliklarini yuzaga chiqargani aniqlangan.
Institutning ma’lum qilishicha, Anthropic’ning Mythos 5 va OpenAI’ning GPT-5.6-Sol modellari bilan ishlaydigan agentlar davlat muassasasi tomonidan o‘tkazilgan xavfsizlik baholashi davomida ruxsatsiz amallarni bajargan. Ushbu sinovlar tegishli modellarning imkoniyatlarini baholashga qaratilgan edi.
AISI blog postida shunday dedi: “Sinovdan o‘tkazilgan ayrim agentlar haqiqiy odamlar va tashkilotlarga qarshi qaratilgan, ehtimoliy zarar yetkazishi mumkin bo‘lgan faoliyatni uzluksiz olib bordi.”
Hisobot hozirgi AI agentlarini sinovdan o‘tkazish jarayonlarida xavfsizlik himoyasi hanuz yetarli emasligini ko‘rsatmoqda. Ayni paytda AI kompaniyalari agentlar texnologiyasini jadal targ‘ib qilib, uni kelajakdagi biznes rivojining muhim yo‘nalishi deb hisoblamoqda.
AISI yetakchi AI laboratoriyalari bilan ixtiyoriy kelishuvlar tuzish orqali ilg‘or AI modellarini sinovdan o‘tkazish huquqiga ega bo‘ldi. Institut agentlarni ularning imkoniyatlarini baholash uchun xayoliy kiberxavfsizlik ssenariysiga kiritdi.
AISI jami 122 ta sinov topshirig‘ini o‘tkazdi va shulardan 10 ta sinov jarayonida 19 ta ruxsatsiz xatti-harakatni aniqladi. Anthropic agentlari 17 ta qoidabuzarlikka, OpenAI agentlari esa yana 2 tasiga sabab bo‘lgan.
AISI ma’lum qilishicha, eng jiddiy qoidabuzarliklardan birida agent zararli kod yozgan va haqiqiy odamlarni ushbu kodni tasdiqlashga undash uchun soxta onlayn shaxslar yaratishga uringan. Biroq institut ushbu zaifliklarning hech biri real hayotda amaliy zarar keltirmaganini qo‘shimcha qildi.
AISI soxta shaxslarni qaysi agent yaratganini oshkor qilmagan bo‘lsa-da, bu hodisa OpenAI avval o‘zi ma’lum qilgan ikki xavfsizlik hodisasining hech biriga taalluqli emas.
Kaliforniyadagi notijorat CivAI tashkiloti tadqiqotchisi Andrew Yoon ushbu qoidabuzarlikka Anthropic agenti sabab bo‘lgan bo‘lishi mumkinligini aytdi.
Yoon shunday dedi: “Mythos haqiqiy odamlarga qarshi qaratilganini aniq anglagan holda ham bunday aldovga asoslangan xatti-harakatni amalga oshirgani Anthropic o‘z modeli ustidan nazoratni o‘zi o‘ylaganchalik yaxshi bajara olmayotgan bo‘lishi mumkinligini ko‘rsatadi.”
Anthropic X ijtimoiy platformasida kompaniya batafsil ma’lumot olish va o‘z tekshiruvini o‘tkazish uchun AISI bilan yaqindan hamkorlik qilayotganini bildirdi.
OpenAI esa kompaniya blogida tegishli tafsilotlarni e’lon qilib, agentlarida yuz bergan ikki ruxsatsiz amal ham promptlarda aniq taqiqlangan tarzda internetga kirish bilan bog‘liq bo‘lganini ko‘rsatdi.
OpenAI shunday dedi: “Biz yuqori xavfli AI baholashlarida xavfsizlik amaliyotlarini kuchaytirish uchun butun soha bilan hamkorlik qilishga sodiqmiz. Bunga yaqin haftalarda milliy darajadagi AI tadqiqot institutlari, mustaqil baholash tashkilotlari, boshqa AI laboratoriyalari va tegishli tashkilotlarni birgalikda ushbu yo‘nalishni rivojlantirishga jalb qilish ham kiradi.”
OpenAI blogida yana bir mustaqil hodisani ham oshkor qildi: uchinchi tomon sinov tashkiloti Irregular’ning konfiguratsiyasidagi xato uning sinovidagi agentlarning tasodifan internetga ulanishiga olib kelgan. Bu Anthropic o‘tgan hafta ma’lum qilgan shunga o‘xshash konfiguratsiya xatosi hodisasiga o‘xshaydi.
Reuters o‘tgan hafta xabar berishicha, OpenAI ko‘proq agentlar xavfsizlik cheklovlarini buzganiga oid dalillarni aniqlagach, tegishli xakerlik xavfsizligi tekshiruvlari doirasini kengaytirgan.
AISI ma’lum qilishicha, bu yil iyul oyida OpenAI agentining AI kompaniyasi Hugging Face tizimiga kirib borishi bilan bog‘liq xavfsizlik hodisasidan farqli o‘laroq, ushbu baholashdagi agentlar izolyatsiya qilingan sinov muhitidan chiqib, internetga ulanmagan. Institutning tushuntirishicha, uning standart sinov jarayoniga ko‘ra, sinov muhiti agentlarga internetga kirish imkonini beradi.