Axios nashrining bugungi xabariga ko‘ra, NVIDIA, Cisco va CrowdStrike kabi kompaniyalarni o‘z ichiga olgan 120 dan ortiq tashkilotdan iborat ittifoq AI agentlari uchun yangi hodisalar haqida hisobot berish asosini taklif qilmoqda. Unga ko‘ra, ishtirokchi kompaniyalar ayrim agent hodisalari haqida ma’lumot berishi va hodisalarning batafsil qaydlarini saqlashi kerak bo‘ladi.
AI agentlari kompyuter tizimlarida tobora katta mustaqillikka ega bo‘layotgani sababli, xavfsizlikdagi nosozliklar haqida xabar berish va ulardan saboq olishning standart usuli mavjud emas.
The Open Secure AI Alliance (Ochiq xavfsiz sun’iy intellekt alyansi) “Shared AI Findings Exchange” (sun’iy intellekt bo‘yicha umumiy topilmalar almashinuvi, SAFE) deb atalayotgan yo‘riqnomani ishlab chiqmoqda. Bu AI agentlari ishtirokidagi kiberxavfsizlik hodisalari haqida qanday xabar berish bo‘yicha taklif etilayotgan asosdir.
Loyiha model operatorlari, AI ishlab chiquvchilari, bulutli xizmatlar va vosita provayderlari, mustaqil tadqiqotchilar, muhim infratuzilma operatorlari hamda boshqa guruhlarni ishtirok etishga chaqiradi. Davlat idoralari ham “nazorat qilmaydigan kuzatuvchilar” sifatida taklif etiladi.
SAFE a’zolari quyidagi hodisalar haqida xabar berishga rozi bo‘ladi: AI tizimi uchinchi tomon tizimlariga ruxsatsiz kirishi yoki ulardan foydalanishi, maxfiy ma’lumotlarni oshkor qilishi yoxud operator faoliyat ruxsatsiz bo‘lishi mumkinligiga shubha bildirganidan keyin ham ishlab chiqarishdagi nishonlarni tekshirishda davom etishi.
A’zolar sodir bo‘lishiga oz qolgan ayrim hodisalar haqida ham xabar beradi va hodisa dalillarini, jumladan, so‘rovlar, agent kuzatuvlari, vositalardan foydalanish ma’lumotlari, identifikatorlar, ruxsatlar va hisob ma’lumotlarini saqlaydi.
Taklif etilayotgan jadvalga ko‘ra, a’zolar hodisadan keyin imkon qadar tezroq ta’sirlangan tashkilotlarni xabardor qilishi, to‘rt ish kuni ichida SAFE’ga dastlabki maxfiy hisobotni taqdim etishi, tegishli hollarda 30 kun ichida dastlabki faktlar hisobotini e’lon qilishi va 90 kun ichida tuzatish choralari bo‘yicha yangilanish berishi kerak.
SAFE hodisalarni tahlil qiladi, takrorlanadigan nosozliklarni aniqlaydi va umumiy xavfsizlik nazoratlari bo‘yicha tavsiyalar ishlab chiqadi.
NVIDIA kompaniyasining korporativ hisoblash bo‘yicha vitse-prezidenti va bosh menejeri Justin Boitano Black Hat konferensiyasida Axios’ga ma’lum qilishicha, ushbu reja NASA’ning aviatsiya xavfsizligi bo‘yicha hisobot tizimi asosida yaratilgan. Mazkur tizim hodisalarni tekshirish uchun samolyot parvoz yozuvchisi qayd etgan ma’lumotlardan foydalanishi mumkin.
Ittifoq kiberxavfsizlik sohasida mavjud bo‘lgan umumiy tahdid razvedkasi madaniyati kompaniyalarni har qanday holatda ham ishtirok etishga undaydi, deb hisoblaydi. NVIDIA kompaniyasining bosh axborot xavfsizligi direktorining o‘rinbosari va vitse-prezidenti Julien Soriano shunday dedi: “Deyarli hech qanday qarshilikka duch kelmadik. Odamlar ishtirok etishga tayyorligini ko‘ryapmiz, ular ma’lumot almashishni istamoqda.”
Ochiq xavfsiz sun’iy intellekt alyansi Linux Foundation mezbonlik qilayotgan fikr-mulohazalarni yig‘ish jarayoni orqali ushbu taklif yuzasidan hamjamiyat fikrlarini so‘ramoqda.