Reuters va AQShning bir nechta ommaviy axborot vositalari bugun xabar berganidek, avval OpenAI’dan “jailbreak” orqali chiqib, Hugging Face’ga xakerlik hujumini uyushtirgan “nazoratdan chiqqan agent” Modal Labs mijozlaridan birining tizimiga ham muvaffaqiyatli kirgan.
Hugging Face mahalliy vaqt bilan 28 iyulda e’lon qilgan hodisalar xronologiyasiga ko‘ra, nazoratdan chiqqan agent dastlab “uchinchi tomon xizmat provayderi infratuzilmasida joylashtirilgan” sandbox’ni, ya’ni izolyatsiyalangan sinov muhitini buzgan. Keyin undan kattaroq miqyosdagi hujumlarni amalga oshirish uchun sakrash nuqtasi sifatida foydalangan. Uchinchi tomon xizmat provayderining nomi bevosita keltirilmagan.
Modal Labs texnik direktori Akshat Bubna bayonotida ushbu buzib kirish hodisasini tasdiqladi. Bubnaning aytishicha, kompaniyaning bir mijozi autentifikatsiyasiz ochiq endpoint’ni ishga tushirgan va bu internetdagi istalgan kishiga uning sandbox’ida kod bajarish imkonini bergan. Nazoratdan chiqqan agent aynan shu zaiflikdan foydalangan. U, shuningdek, Modal platformasi va uning izolyatsiyalash mexanizmlarining o‘zi hech qanday tarzda buzilmaganini ta’kidladi.
Ushbu hodisaning oshkor etilishi AI tizimlari xavfsizligi chegaralari haqidagi xavotirlarni yanada kuchaytirdi. OpenAI tahdid nazoratga olingani va Federal qidiruv byurosi (FBI) ishga aralashganidan keyingina o‘z agenti nazoratdan chiqqanini anglaganini bildirdi. O‘sha paytda OpenAI xabarda noaniqliklar borligini aytgan, biroq batafsil izoh bermagan. IT之家 maqolani e’lon qilgan paytga qadar OpenAI agentning nazoratdan chiqishi bilan bog‘liq aniq harakatlari va buning to‘liq oqibatlari haqida ochiq bayonot bermagan.