Reuters bugun xabardor manbalarga tayanib xabar berishicha, OpenAI Hugging Face’ga qilingan hujumni tekshirish chog‘ida boshqa avtonom AI agentlarining nazorat qilinadigan muhitdan chiqib ketgan holatlarini ham aniqlagan.
Ayni paytda OpenAI aniq holatlarni tekshirmoqda. Manbalardan biri yuqoridagi “jailbreak” xatti-harakatlarining ta’sir doirasi cheklanganini, hozircha bu agentlarning OpenAI tarmog‘idan chiqib ketganini ko‘rsatuvchi hech qanday belgi yo‘qligini bildirdi.
OpenAI vakili bunga javoban shunday dedi: “Hugging Face’ga qilingan hujumni tekshirishdan tashqari, kompaniyaning boshqa modellari bilan bog‘liq yanada kengroq faoliyatni ham ko‘rib chiqmoqdamiz.”
Yuqoridagi hodisa ko‘lami cheklangan bo‘lsa-da, ushbu agentlarning nazoratdan chiqishi AQSh hukumatini sun’iy intellekt ustidan nazoratni kuchaytirishga undashi mumkin.
IT之家 avval xabar berganidek, Anthropic ham yaqinda o‘zining Claude modeli bilan bog‘liq uchta sodir bo‘lmasligi kerak bo‘lgan real kiberxavfsizlik hodisasi yuz berganini ma’lum qildi. Bunga bevosita sabab uchinchi tomon baholash muhiti konfiguratsiyasidagi xato bo‘lgan.
AI xavfsizligi bo‘yicha ekspertlarning fikricha, yuqoridagi holatlar xavotirli manzarani namoyon etmoqda: ilg‘or AI ishlab chiqayotgan bir guruh laboratoriyalar nihoyatda kuchli va xavfli agentlarni yaratishga qodir, biroq kompaniyalarning o‘zi bu AI’larni nazorat qila olmayapti.
Manbalarning bildirishicha, OpenAI va tashqi ekspertlar hujum qanday sodir bo‘lganini tushunishga harakat qilib, joriy yil boshidan buyon to‘plangan jurnal ma’lumotlarini tahlil qilmoqda.