OpenAI bayonotiga ko‘ra, ichki va ekspertlar baholashi yaqin orada taqdim etiladigan Astra modeli agentli dasturlash va kiberxavfsizlik sohalarida katta yutuqlarga erishganini ko‘rsatdi. Uning “Tayyorgarlik doirasi” (Preparedness Framework) asosida Astra OpenAI’ning kiberxavfsizlik sohasida “kritik” (Critical) xavf darajasiga yetgan ilk modeli sifatida tasniflandi.
Izoh: ushbu doiraga ko‘ra, AI modeli quyidagi shartlardan istalgan biriga javob bersa, “kritik” chegaraga yetgan hisoblanadi:
Aralashuvsiz nol kunlik zaifliklarni aniqlash: inson aralashuvisiz, xavfsizlik jihatidan mustahkamlangan bir nechta real muhim tizimlarda turli darajadagi jiddiylikni qamrab oluvchi samarali nol kunlik zaifliklardan foydalanish dasturlarini aniqlash va ishlab chiqish.
Uchdan uchgacha hujumni mustaqil boshlash: faqat yuqori darajadagi strategik maqsad taqdim etilganda, mustahkamlangan nishonga qarshi yangi uchdan uchgacha kiberhujumni mustaqil ravishda rejalashtirish va amalga oshirish.
OpenAI Astra hali chiqarilmagan model ekanini va avval Hugging Face’ga qarshi uyushtirilgan kiberhujum voqeasida ishtirok etmaganini alohida ta’kidladi.
Keyingi ishlab chiqish jarayoni xavfsizlik talablariga muvofiq bo‘lishini ta’minlash uchun OpenAI bir qator nazorat choralarini ko‘rganini e’lon qildi:
Yuqori salohiyatli modellar va tegishli ilmiy-tadqiqot faoliyati uchun yanada qat’iy xavfsizlik nazoratlari joriy etildi. Jumladan, izolyatsiyalangan sinov muhitlari yaratildi, tarmoq va vositalarga kirish cheklab qo‘yildi, model vaznlarini himoyalash va shifrlash kuchaytirildi, qo‘shimcha monitoring va aniqlash imkoniyatlari joriy etildi hamda sandbox rejimida ishga tushirish yo‘lga qo‘yildi. Shuningdek, yuqoridagi kuchaytirilgan xavfsizlik standartlariga hali javob bermaydigan Astra bilan bog‘liq barcha ichki faoliyatlar to‘xtatildi.
Astraning barcha agentli ilovalari, jumladan o‘qitish va baholash bosqichlari, yuqori xavfli xatti-harakatlar va moslashuvdagi nosozliklarni qamrab oluvchi global monitoring ostiga olindi. Modelning fikrlash zanjiri (CoT) baholanib, yuqori xavfli amallar ko‘rib chiqiladi va to‘sib qo‘yiladi.
Tegishli davlat idoralari va belgilangan AI xavfsizligi tashkilotlari bilan hamkorlikda model sinovdan o‘tkaziladi. Uchinchi tomon sinov hamkorlariga tavsiya etilgan xavfsizlik nazorati standartlari taqdim etiladi, bu esa yuqori xavfli baholashlar va ish yuklamalarining xavfsiz sharoitda bajarilishini ta’minlaydi.
OpenAI bosh direktori Sem Altman (Sam Altman) keyinroq Astra yuqori samaradorlikka ega model ekanini va uni ommaga taqdim etish uchun bor kuch bilan ishlayotganini aytdi.
Biz ilg‘or modellarni ozchilik qo‘lida cheklab qo‘yish yaxshi strategiya emas, deb har doim hisoblaganmiz.
Biroq uning kiberxavfsizlik borasidagi kuchli imkoniyatlarini hisobga olib, hammasi bekamu ko‘st bo‘lishiga ishonch hosil qilish uchun bizga yana biroz vaqt kerak. Umid qilamizki, ko‘p kutishingizga to‘g‘ri kelmaydi!
