Business Insider xabariga ko‘ra, sun’iy intellekt sohasidagi eng nufuzli nazoratchilardan biri Beth Barnes bugun ko‘plab xavotirlarga duch kelmoqda.
OpenAI’ning sobiq tadqiqotchisi o‘z izlanishlari orqali sun’iy intellekt imkoniyatlari deyarli har oy o‘sadigan tezlikda jadal rivojlanayotganini isbotlagan edi. Endi esa u sohada sun’iy intellekt rivojining keyingi bosqichiga moslashish uchun yetarli mutaxassislar yo‘qligidan xavotirda.
Barnes 2022-yilda OpenAI’ni tark etib, METR (Model Evaluation and Threat Research, Model baholash va tahdidlarni tadqiq qilish) notijorat tashkilotiga asos soldi. Uning aytishicha, hozirda sun’iy intellekt xavfsizligi tadqiqotlari oldidagi eng katta to‘siq mablag‘ emas, balki kadrlardir.
METR sun’iy intellekt sohasida muhim rol o‘ynaydi: u OpenAI, Anthropic, Google va Meta kabi kompaniyalar bilan yaqin hamkorlik qiladi, eng yangi sun’iy intellekt modellarining imkoniyatlarini mustaqil baholaydi va ular keltirib chiqarishi mumkin bo‘lgan xavflarni o‘rganib, jamoatchilikka nisbatan xolis tahlil natijalarini taqdim etadi.
Biroq METR hozirgi vakansiyalar uchun yillik eng ko‘pi bilan 503 ming dollar maosh taklif qilayotgan bo‘lsa ham (izoh: joriy almashuv kursi bo‘yicha taxminan 3,4 million yuan), kadrlar tanqisligi muammosini hal qila olmayapti.
Barnes shunday dedi: “Ideal sharoitda jamoamizni bir necha barobar kengaytirishni istardik. Aslida, zarur mablag‘ni jalb qila olyapmiz. Rivojlanishimizni haqiqatan cheklayotgan narsa — kadrlar zaxirasi.”
Avvalroq OpenAI va Hugging Face oshkor qilgan sun’iy intellekt xavfsizligi hodisasi sun’iy intellekt imkoniyatlarini qanday baholash va nazorat qilish masalasini yana kun tartibiga olib chiqdi. Joriy yil iyul oyida ilg‘or sun’iy intellekt laboratoriyalarining 1300 dan ortiq xodimi ochiq maktubga imzo chekib, sun’iy intellekt rivoji insoniyatning uni nazorat qilish qobiliyatidan allaqachon o‘zib ketgan bo‘lishi mumkinligidan ogohlantirdi. Yetarli tadqiqotchilar yangi modellarni o‘z vaqtida baholab, ularning haqiqiy imkoniyatlarini aniqlamasa, kelajakda sun’iy intellekt kompaniyalari mahsulotlarni chiqarish sur’atini sekinlashtirishga majbur bo‘lishi mumkin.
OpenAI modelining ushbu hodisadagi xatti-harakati ko‘plab kompaniyalarni hayratga solgan bo‘lsa-da, METR jamoasi bundan unchalik ajablanmadi. Hukumat idoralari, kompaniyalar va hatto diniy tashkilotlar ham sun’iy intellekt rivoji darajasini tushunish va sinash uchun METRga murojaat qilgan.
Shunga qaramay, atigi 35 kishidan iborat METR jamoasida hamma hanuz jiddiy xavotirda.
Business Insider OpenAI xakerlik hodisasini e’lon qilgan kuni METRning AQShning Kaliforniya shtatidagi Berkli shahrida joylashgan ofisiga tashrif buyurdi. Barnesning aytishicha, hozirda sun’iy intellekt xavfsizligi tadqiqotlari sohasidagi eng katta cheklov tadqiqotchilar sonining keskin yetishmasligidir.
U shunday dedi: “Bajarilishi kerak bo‘lgan ishlar juda ko‘p, bizning imkoniyatlarimiz esa ularning barchasini qamrab olishga yetmaydi.”
Uning fikricha, chinakam oqilona jamiyat sun’iy intellektga kiritiladigan investitsiyalarning kattaroq qismini sun’iy intellektni boshqarish, xavfsizlikni baholash va xatarlarni tadqiq qilishga yo‘naltirishi kerak, ayniqsa sun’iy intellekt modellari imkoniyatlari hozirgi darajaga yetgan bir paytda.
“Insoniyat tayyorgarlik jamoasi” deb ataladigan METR ko‘lamini kengaytirmoqchi
Yirik sun’iy intellekt laboratoriyalari yangi modellarni muntazam taqdim etar ekan, METR ushbu modellar tobora uzoqroq va murakkabroq vazifalarni bajara olish qobiliyatini baholashda davom etmoqda.
METRning eng mashhur natijalaridan biri keng iqtibos keltiriladigan trend grafigidir. Unda so‘nggi olti yil ichida sun’iy intellektning murakkab vazifalarni bajarish qobiliyati taxminan har yetti oyda ikki barobar oshgani ko‘rsatilgan.
METR prezidenti Chris Painter jamoani hazil tariqasida “insoniyatning tayyorgarlik jamoasi (humanity's preparedness team)” deb ataydi. Bu nom OpenAI va Anthropic kompaniyalarida xavfsizlik xatarlarini bosh direktorga yetkazish uchun mas’ul bo‘lgan “Tayyorgarlik jamoasi (Preparedness Team)” nomidan olingan.
Painter shunday dedi: “Biz aslida biror kompaniya uchun emas, balki jamoatchilik va uning farovonligi uchun mas’ulmiz.”
Barnes METR mustaqilligini saqlash nihoyatda muhimligini ta’kidladi, chunki shundagina tadqiqot natijalariga kompaniyalarning tijoriy maqsadlari ta’sir ko‘rsatmaydi.
Uning aytishicha, OpenAI’da ishlagan paytidayoq u sohaga sun’iy intellekt kompaniyalaridan mustaqil, sun’iy intellekt rivojini erkin baholay oladigan tadqiqot tashkiloti kerakligini anglagan.
Hozirda METR ilg‘or sun’iy intellekt kompaniyalari va ularning xodimlaridan moliyaviy yordam qabul qilmaydi, biroq hisoblash quvvatini qo‘llab-quvvatlashni qabul qiladi va ushbu kompaniyalar bilan hamkorlikda hali ommaga taqdim etilmagan yangi modellarni tahlil qilib, sinovdan o‘tkazadi.
METR model imkoniyatlarini baholashdan tashqari, sun’iy intellekt kompaniyalarining xavfsizlik choralarini, sun’iy intellektning dasturiy ta’minot muhandislari ish samaradorligiga ta’sirini hamda sun’iy intellektdan boshqa sun’iy intellektni nazorat qilishda foydalanish imkoniyatini ham o‘rgangan.
Barnes kelajakda sun’iy intellekt imkoniyatlarining keyingi bosqichdagi rivojini qanday bashorat qilish va bu o‘zgarishlar sun’iy intellektning o‘z rivojini qanday tezlashtirishini yanada chuqurroq o‘rganishni istashini bildirdi.
METR tadqiqotchisi Neev Parikhning aytishicha, hozirgi kadrlar tanqisligi jamoa o‘rganishi mumkin bo‘lgan masalalar sonini, ayniqsa sun’iy intellektning ichki mulohaza yuritish mexanizmlarini tadqiq qilishni cheklamoqda.
U shunday dedi: “Bu sohada mutaxassislar juda kam. Agar butun sohadagi kadrlar soni 10 barobar oshsa, bundan juda xursand bo‘lardim.”
OpenAI’dagi xavfsizlik hodisasi METR ahamiyatini yanada oshirdi
Joriy yil iyul oyida OpenAI sinov jarayonida uning sun’iy intellekt modeli Hugging Face tizimiga buzib kirib, test javoblarini qo‘lga kiritgani va shu tariqa “aldagani”ni oshkor qildi.
Shundan so‘ng OpenAI bosh direktori Sam Altman bu sun’iy intellekt keltirib chiqaradigan xavfsizlik xatarini ilk bor bunchalik yaqqol his qilganini aytdi.
Aslida, METR bundan avvalroq ham shunga o‘xshash muammolarni oldindan ko‘rgan edi.
Joriy yil may oyida METR hisobot e’lon qilib, hozirgi sun’iy intellekt agentlari “ruxsatsiz joylashtirishni mustaqil ravishda boshlashi to‘liq mumkin”ligini, biroq o‘sha paytda ular o‘z xatti-harakatlarini yashirish qobiliyatiga ega emasligini qayd etdi.
Keyin iyun oyida METR o‘sha paytda hali ommaga taqdim etilmagan GPT-5.6 Sol modelini sinovdan o‘tkazdi va model murakkab testlarda, jumladan to‘g‘ri javobni topish uchun yashirin manba kodini ajratib olishda qayta-qayta aldaganini aniqladi.
Shundan so‘ng METR tadqiqot natijalarini hisobotga jamlab, GPT-5.6 Sol rasman chiqarilishidan oldin OpenAI’ga taqdim etdi.
Iyul oyida esa GPT-5.6 Sol haqiqatan ham OpenAI va Hugging Face o‘rtasidagi xavfsizlik hodisasiga aralashdi.
Shundan so‘ng OpenAI METR va yana bir notijorat tashkilot Redwood Researchni ushbu hodisani birgalikda tekshirishga taklif qilishini e’lon qildi. Ikki tomonning tadqiqot natijalari OpenAI’ning rasmiy texnik hisobotiga muhim manba bo‘ladi.
Painter shunday dedi: “Bugungi kunda bunday muammolar kompaniyalar faoliyatiga haqiqiy ta’sir ko‘rsatmoqda. Nima sodir bo‘lganini butun jamiyat tushunib olishi zarur.”
OpenAI va Anthropicning eng yangi sun’iy intellekt modellari namoyish etgan kiberhujum qobiliyati AQSh jamiyatida ham keng e’tibor uyg‘otdi va Vashingtonda sun’iy intellektni tartibga solishga qaratilgan bir nechta yangi qonun loyihalarining paydo bo‘lishiga turtki berdi.
Ular orasida muhokama qilinayotgan qonun loyihalaridan biri yirik sun’iy intellekt modeli ishlab chiquvchi kompaniyalardan uchinchi tomon tashkilotlari tomonidan xavfsizlik auditidan o‘tishni talab qiladi.
Kelajakda METR shunga o‘xshash vazifani bajarishi mumkin.
Painterning aytishicha, kelajakda aniq tartibga solish tizimi yaratilsa, ko‘proq sun’iy intellekt kompaniyalari xodimlari METRga qo‘shilishga tayyor bo‘lishi mumkin. Garchi maosh kompaniyalarnikiga yaqin bo‘lsa-da, bu yerda aksiyalar orqali rag‘batlantirish mavjud emas.
U shunday dedi: “Oxir-oqibat sohada yagona standartlar shakllanadimi yoki hukumat aniq tartibga solish choralarini joriy qiladimi, menimcha, bu yo‘nalish juda tez kengayishi mumkin.”
METRning joriy yil may oyidagi sun’iy intellekt xatarlari haqidagi hisobotini yozgan tadqiqotchi Ajeya Cotraning aytishicha, hozirda sun’iy intellektni tartibga solish “tartibsiz va oldindan aytish qiyin” ko‘rinishda.
Biroq u baribir optimistik qarashda. U shunday dedi: “Tobora ko‘proq odamlar bu masalaga jiddiy e’tibor qaratmoqda va kelajakda sun’iy intellektni yanada jiddiyroq hamda yetukroq tarzda tartibga solishga intilmoqda.”