AI modellaridan boshqa AI modellarini o‘qitishda foydalanish yangi avlod AI laboratoriyalari faol o‘rganayotgan yo‘nalishga aylanmoqda. Mahalliy vaqt bilan 28-kuni Anthropic tadqiqotchilar dasturining bir xodimi bu g‘oya amalda qo‘llanganda qanday ko‘rinishga ega bo‘lishi mumkinligini namoyish etdi.
Anthropic “Avtomatlashtirilgan tadqiqotchilar moslashuvdagi muvaffaqiyatsizliklarni ishonchli tarzda yumshata oladi” nomli yangi maqolasini e’lon qildi. Unda AI tizimlaridan foydalanib, modelning bir qator moslashuv mezonlari testlaridagi natijalarini yaxshilash usuli bayon qilingan. Tadqiqot guruhi 10 xil aniq nomos xatti-harakat bo‘yicha testlar o‘tkazdi. Avtomatlashtirilgan tizim yakunda barcha 10 ko‘rsatkichni yaxshiladi va shu bilan birga modelning umumiy qobiliyatlarini qurbon qilmadi.
Ushbu tizim Anthropic tadqiqotchilar dasturi a’zosi Chen Yuehan (transkripsiya) rahbarligida ishlab chiqilgan bo‘lib, uning ish jarayoni an’anaviy ilmiy tadqiqotlarga o‘xshaydi. Avtomatlashtirilgan tizim avval mavjud adabiyotlarni ko‘rib chiqadi, o‘qitish usulini taklif qiladi, so‘ng reja asosida modelni 30 daqiqa davomida o‘qitadi va bir necha urinish orqali test natijalarini bosqichma-bosqich yaxshilaydi. Samarali usullar saqlab qolinadi, samarasizlari esa chiqarib tashlanadi, shu tariqa butun tadqiqot jarayonini tezda kengaytirish mumkin bo‘ladi.
Maqolada qayd etilishicha, umuman olganda, bu natijalar avtomatlashtirilgan moslashuvdan keyingi o‘qitish yaqin kelajakda haqiqatan ham amaliy usulga aylanishi mumkinligini dastlabki tarzda ko‘rsatadi.
Ushbu tadqiqot rekursiv o‘zini-o‘zi takomillashtirish sari tashlangan yana bir qadamdir. Ko‘pchilik rekursiv o‘zini-o‘zi takomillashtirishni AI rivojlanishining keyingi muhim bosqichi deb hisoblaydi. Agar AI modellari o‘zining moslashuvga oid o‘qitish usullarini yaxshilay olsa, yanada kengroq o‘qitish jarayonlarini takomillashtirish ham imkonsiz emas. Shunday bosqichga yetilganda, inson AI tadqiqotchilarining mavjud bo‘lishi hatto asta-sekin zarur bo‘lmay qolishi mumkin.
Maqolada avtomatlashtirilgan moslashuv tadqiqotchilari (AAR) va inson tadqiqotchilarining natijalari ham bevosita taqqoslangan: “Eng yaxshi AAR usullari o‘rtacha atigi 6 soat ichida tajribali inson tadqiqotchilari taklif qilgan yechimlardan o‘zib keta oladi. Insonlar yo‘naltirgan tadqiqot yo‘nalishlari kuchliroq natijalarga olib kelmaydi.”
Xarajatlardagi farq ham shunchalik yaqqol. “AAR uchun har soatga taxminan 4 dollar (izoh: joriy valyuta kursi bo‘yicha taxminan 27 yuan) miqdorida API inferensiyasi xarajati kifoya qiladi, inson tadqiqotchilariga esa har soat uchun 150 dollar (joriy valyuta kursi bo‘yicha taxminan 1 011 yuan) to‘laymiz.”
Biroq bu usulning hanuz sezilarli cheklovlari bor. Avtomatlashtirilgan tizimning samarasi, avvalo, mezon testlari haqiqiy moslashuv maqsadlarini qanchalik aniq aks ettira olishiga bog‘liq. Testlarning o‘zi ishonchli bo‘lgan taqdirda ham, bunday mezonlarni yaratish va uzoq muddat saqlab borish katta mablag‘ talab qiladi. Avtomatlashtirilgan tadqiqotchilar tayanadigan ilmiy adabiyotlarni ham muntazam yangilab va kengaytirib borish kerak.
Manba
Automated researchers can reliably mitigate alignment failures