Mahalliy vaqt bilan seshanba kuni OpenAI yangi xavfsizlik siyosatlari to‘plamini e’lon qildi. Ularning asosiy maqsadi modellarni sinovdan o‘tkazish vaqtida yuz berishi mumkin bo‘lgan xavfsizlik hodisalarini nazorat qilishdir. Yangi xavfsizlik choralari modelni ishlab chiqish jarayonida yanada batafsil monitoring olib borish, shuningdek, mashg‘ulotlardan keyingi bosqichda modelni muvofiqlashtirish va xavfsizligiga e’tiborni yanada kuchaytirishni o‘z ichiga oladi.
OpenAI blog postida shunday dedi: “Modellar imkoniyatlari doimiy ravishda oshib borar ekan, ularni ichki ishlab chiqish va sinovdan o‘tkazish jarayonida duch keladigan xavflar ham ortib bormoqda. Monitoring, muvofiqlashtirish va xavfsizlik bo‘yicha belgilagan standartlarimiz har doim ushbu xavflardan oldinda bo‘lishi kerak.”
Bu OpenAI 21-iyul kuni Hugging Face hodisasini oshkor qilganidan beri xavfsizlik amaliyotlari bo‘yicha ommaga ma’lum qilgan ilk yirik o‘zgarishlardan biridir.
OpenAI vakilining aytishicha, bu choralar bevosita Hugging Face hodisasiga qarshi ishlab chiqilmagan. Biroq tez orada taqdim etiladigan Astra modelining kiberxavfsizlik sohasida namoyon etgan imkoniyatlari va butun AI sanoatining jadal rivojlanishi ham kompaniyani ushbu choralarni ko‘rishga undagan omillardan bo‘lgan.
OpenAI, shuningdek, Hugging Face hodisasidan keyin kuchaytirib o‘qitish (RL) mashg‘ulotlarini ikki haftaga to‘xtatganini, biroq hozirda xavfi pastroq bo‘lgan ko‘plab modellarni o‘qitishni qayta boshlaganini bildirdi.
OpenAI blogida shunday yozdi: “Hozircha eng yirik ilg‘or kuchaytirib o‘qitish dasturimizni to‘xtatib turibmiz. Shu bilan birga, model xatti-harakatlarini baholash, xavfsizlik choralarini tekshirish va jarayonni davom ettirishdan oldin modelni muvofiqlashtirish bo‘yicha ko‘proq dalillarga ega bo‘lish uchun kichik ko‘lamli mashg‘ulotlar va baholashlarni olib bormoqdamiz.”
OpenAI tadqiqotlar bo‘yicha vitse-prezidenti Amelia Glaese jurnalistlarga bergan intervyusida model imkoniyatlari oshgani sari kompaniyaning xavfsizlik nazorat choralariga qo‘yadigan talablari ham kuchayishini ta’kidladi. Eng kuchli modellar eng qat’iy tekshiruvdan o‘tkaziladi.
Glaese jurnalistlarga shunday dedi: “Biz xavfsiz ishlab chiqish bo‘yicha talablar va standartlarni belgilaganmiz. Bu talablar va standartlar baholagan xavf darajamizga qarab o‘zgartiriladi.”
Ushbu hodisadan keyin OpenAI’ning kiberxavfsizlik choralari tashqi tanqidlarga uchradi. Avvalgi hodisada model OpenAI tarmog‘idagi internetga kira oladigan vositaga buzib kirish orqali dastlabki o‘qitish muhitidan chiqib ketgan. OpenAI joriy qilgan yangi xavfsizlik choralari tarmoq izolyatsiyasini yanada kuchaytirishni o‘z ichiga oladi, biroq kompaniya hozircha aniq texnik tafsilotlarni e’lon qilmagan.
OpenAI yangi xavfsizlik tizimi ostida “bitta ish yuki yoki yordamchi xizmatning buzib kirilishi o‘z-o‘zidan hujumchiga internet yoki boshqa ichki tarmoqlarga ruxsatsiz kirish imkonini bermaydi”, deb bildirdi.
Yangilanishdagi eng muhim xavfsizlik chorasi yangi monitoring tizimidir. Ushbu tizim ruxsatsiz xatti-harakatlarni aniqlash uchun vositalar bajargan amallarni, olinishi mumkin bo‘lgan mulohaza izlarini va faollik jurnallarini tekshiradi. OpenAI’ning aytishicha, uning maqsadi shubhali faollik aniqlanganidan keyin 30 daqiqa ichida ogohlantirish berishdir.
OpenAI ushbu monitoring tizimi uchun zarur hisoblash resurslari kuzatilayotgan jarayonning o‘zi sarflaydigan hisoblash resurslarining taxminan 20 foiziga teng bo‘lishini baholadi. Kompaniya kelajakda e’lon qilinadigan blog postlarida ushbu tizim haqida ko‘proq tafsilotlarni ma’lum qilishga va’da berdi.
Bundan tashqari, OpenAI’ning ushbu hodisa bo‘yicha rasmiy keyingi tahlil hisoboti ham hozircha e’lon qilinmagan.