Kecha «Wired» jurnali xabar berishicha, AQShning kiberxavfsizlik sohasidagi Frontier Security startapi Moonshot AI’ning Kimi K3 modeli kiberxavfsizlik imkoniyatlarini sinovdan o‘tkazish chog‘ida uni cheklab turgan sandbox muhitidan chiqib ketganini ma’lum qildi.
Xabarga ko‘ra, ushbu AI’ning sandboxdan chiqib ketishi OpenAI va Anthropic bilan bog‘liq shunga o‘xshash hodisalarga o‘xshaydi. Bevosita sabab ham modelni izolyatsiya qilish uchun ishlatilgan sandbox konfiguratsiyasining noto‘g‘ri sozlanganidir. Frontier Security fikricha, Kimi boshqa ilg‘or AI modellariga qaraganda tarmoq himoyasi mexanizmlariga ega emas, shu sababli model aniq ruxsatsiz internetga kira olgan.
Frontier Security bosh direktori Yaron Singer shunday dedi: «Biz sandboxda zaiflik borligini aniqladik, ammo Kimi ham undan foydalandi. Bu uning shu darajadagi boshqa modellarda mavjud ichki xavfsizlik mexanizmlariga ega bo‘lmasligi mumkinligini ko‘rsatadi».
Biroq Kimi K3 sandboxni buzib, internetga kirish huquqini qo‘lga kiritganidan so‘ng hujum qilmagan, u shunchaki GitHub’dan bir savolga javob izlagan.
So‘nggi paytlarda AI’ning sandboxdan chiqib ketishi bilan bog‘liq hodisalar tobora ko‘payayotgani shuni ko‘rsatadiki, AI imkoniyatlari qanchalik kuchli bo‘lsa, insoniyatning uni nazorat qilishi shunchalik qiyinlashadi. OpenAI o‘tgan oy kompaniyaning hali ommaga e’lon qilinmagan modeli sinov paytida izolyatsiya qilingan muhitdan chiqib, keyin Hugging Face platformasiga hujum qilganini ma’lum qilgan edi. Keyinchalik Anthropic ham o‘zining bir nechta modellari xavfsizlik sinovlari vaqtida internetga kirish huquqiga ega bo‘lib, tashqi tizimlarga hujum qilganini bildirdi.
Ayrim kiberxavfsizlik mutaxassislarining ta’kidlashicha, bu topilma insoniyat ilg‘or AI modellari uchun sandbox muhitlarini qayta sozlashi kerakligini ko‘rsatadi. Shuningdek, OpenClaw (izoh: xalq orasida «omar» deb ataladi) kabi agentlardan foydalanadigan foydalanuvchilar AI chegaradan chiqib ketishining oldini olish uchun muhitni ehtiyotkorlik bilan sozlashlari kerak.