AQShning Vermont shtati senatori Berni Sanders yaqinda sun’iy intellekt sohasidagi uchta yetakchi kompaniya rahbarlariga — Anthropic bosh direktori Dario Amodei, OpenAI bosh direktori Sem Altman va Meta asoschisi Mark Sukerbergga xat yo‘llab, kompaniya rahbarlaridan “insonlar nazorat qila olmaydigan mashinalarni yaratishni to‘xtatish”ni talab qildi.
Xatda Sanders joriy yilning 7-oyida yuz bergan bir voqeani tilga oldi: AI agenti OpenAI’ning sandbox muhitidan chiqib ketib, Hugging Face platformasiga bostirib kirgan. O‘sha paytda OpenAI buni “misli ko‘rilmagan kiberxavfsizlik hodisasi” deb atagan.
Sanders ushbu bosh direktorlarni “sun’iy intellekt ishlab chiqishni to‘xtatib turish”ga chaqirdi. Uning aytishicha, agar kompaniya rahbarlari “tegishli choralarni ko‘rmasa”, AQSh Senati aralashadi.
Hozircha hech bir AI kompaniyasi Sanders ilgari surgan ishlab chiqishni to‘liq to‘xtatib turish talabini qabul qilmagan bo‘lsa-da, kompaniyalar ayrim xavflarni kamaytirish choralarini ko‘rmoqda. OpenAI o‘tgan juma kuni mahalliy vaqt bilan Astra modellarining ayrimlarini ishlab chiqish ishlarini to‘xtatib turganini bildirdi. Anthropic kompaniyasining ikki nafar yuqori lavozimli rahbari ham joriy yilning 6-oyida AI ishlab chiqishni global miqyosda to‘xtatib turish imkoniyatini muhokama qilgan.
Biroq boshqa yo‘nalishlarda AI laboratoriyalarining rivojlanish sur’ati aksincha tezlashdi. Anthropic joriy yilning 2-oyida Sanders xatida tilga olingan xavfsizlik majburiyatlaridan birini bekor qildi.
Sanders uzoq vaqtdan beri AI kompaniyalarini tanqid qilib keladi. Joriy yilning 12-oyida senator sun’iy intellekt ma’lumotlar markazlarini qurishga milliy miqyosda moratoriy joriy etish siyosatini ilgari sura boshladi. Ushbu taklif Senatda qo‘llab-quvvatlanmagan bo‘lsa-da, AQShning Nyu-York shtati shunga o‘xshash siyosatni joriy etdi.
Sandersning xati to‘liq:
Hurmatli janob Altman, janob Amodei va janob Sukerberg:
Deyarli har kuni siz ishlab chiqayotgan sun’iy intellekt texnologiyalari nazoratdan chiqib ketayotgani va halokatli oqibatlarga olib kelishi mumkinligi haqidagi yangi xabarlarni ko‘ramiz.
Bu hafta sun’iy intellektdan ilk bor yangi virus yaratishda foydalanilgani haqidagi dahshatli xabarni oldik. Siz bilganingizdek, bunday texnologiya noto‘g‘ri odamlar qo‘liga tushsa, yangi turdagi biologik qurollarni yaratish uchun ishlatilishi va o‘nlab million odamlarning o‘limiga sabab bo‘lishi mumkin.
O‘tgan oy butun dunyo OpenAI bir AI modeli ustidan nazoratni yo‘qotganidan xabar topdi. Natija qanday bo‘ldi? Ushbu model boshqa bir kompaniyaning kompyuter tizimiga bostirib kirdi, bu esa federal qonunlarni yaqqol buzish hisoblanadi. Ichki tekshiruvni yakunlagach, Anthropic va Meta ham o‘z modellarida nazoratdan chiqib ketishga o‘xshash holatlar kuzatilganini ma’lum qildi.
Hujumga uchragan kompaniya ushbu AI bostirib kirishini “misli ko‘rilmagan hodisa” deb atab, “misli ko‘rilmagan choralar” ko‘rish zarurligini bildirdi. Dunyo miqyosida eng ko‘p iqtibos keltiriladigan tirik olimlardan biri Joshua Bengio bu hodisalar “ogohlantiruvchi signal bo‘lishi kerak”ligini aytdi.
Men bu fikrga qo‘shilaman.
Siz rahbarlik qilayotgan kompaniyalarning yetakchi olimlari ham xuddi shunday fikrda, axir ular bu texnologiyani ishlab chiquvchilardir. Siz bilganingizdek, texnologiya sohasidagi ushbu rahbarlar yaqinda xalqaro hamjamiyatni xavfsizlik mexanizmini — falokatning oldini olish uchun “pauza tugmasi”ni yaratishga chaqirdi. Ular “imkoniyatlarning rivojlanish sur’ati tegishli tizimlarni tushunish yoki nazorat qilish qobiliyatimizdan tezda oshib ketishi haqiqiy xavfi mavjud”ligidan ogohlantirdi.
Biroq biz insoniyat AI ustidan nazoratni yo‘qotganini va potensial xavfli viruslar yaratilganini ko‘rib turgan bir paytda, kompaniyalaringiz hech kim to‘liq tushuna olmaydigan, bashorat qila olmaydigan yoki nazorat qila olmaydigan texnologiyani rivojlantirish uchun yuzlab milliard dollar sarflab, poygani davom ettirmoqda.
Bu bema’nilik, mas’uliyatsizlik va nihoyatda xavflidir. Bu, shuningdek, o‘zingiz bergan va’dalarga ziddir:
2023 yilda Anthropic kompaniyasi “imkoniyatlarni kengaytirish bizning ... xavfsizlik tartib-qoidalariga rioya qilish qobiliyatimizdan oshib ketganda, ko‘lamni kengaytirishni to‘xtatish va/yoki yangi modellarni joriy etishni kechiktirishga va’da berishini” bildirgan.
2025 yilda Meta shunday degan: “Agar ilg‘or AI muhim xavf chegarasiga yetgani baholansa va xavfni samarali kamaytirib bo‘lmasa, biz ishlab chiqishni to‘xtatamiz.”
O‘sha lahza yetib keldi. AI imkoniyatlari muhim xavf chegarasiga yetdi. AQSh Markaziy razvedka boshqarmasi rahbari AI modellarini “raqamli yadro quroliga o‘xshaydi”, hatto “qiyomat qurilmasiga deyarli teng” deb ataganining sababi bor.
Janob Altman, janob Amodei va janob Sukerberg: insoniyat manfaati uchun bergan va’dalaringizga rioya qiling. Sun’iy intellekt ishlab chiqishni to‘xtatib turing. Hozir chora ko‘rish hali kech emas, falokatning oldini olish mumkin. Insonlar nazorat qila olmaydigan mashinalarni yaratishni to‘xtating.
Shuni aniq aytmoqchiman: agar hozir tegishli choralarni ko‘rmasangiz, men va AQSh Senatidagi hamkasblarim chora ko‘ramiz.
Hurmat bilan
Bernard Sanders
AQSh senatori