Matumizi ya modeli za AI kufundisha modeli nyingine za AI yanakuwa mwelekeo unaochunguzwa kwa dhati na maabara za kizazi kipya cha AI. Mnamo tarehe 28 kwa saa za eneo, mtafiti mmoja wa mpango wa utafiti wa Anthropic alionyesha jinsi wazo hili linavyoweza kuonekana linapotekelezwa kikamilifu.
Anthropic imechapisha karatasi yake mpya ya utafiti yenye kichwa “Automated researchers can reliably mitigate alignment failures”, inayoeleza jinsi ya kutumia mifumo ya AI kuboresha utendaji wa modeli katika mfululizo wa majaribio ya viwango vya ulinganifu. Timu ya utafiti iliweka majaribio ya tabia 10 mahususi zisizolingana, na mfumo wa kiotomatiki hatimaye uliboresha vipimo vyote 10 bila kudhoofisha uwezo wa jumla wa modeli.
Mfumo huu ulitengenezwa chini ya uongozi wa Chen Yuehan (tafsiri ya matamshi), mwanachama wa mpango wa utafiti wa Anthropic, na mtiririko wake wa kazi unafanana na utafiti wa jadi. Mfumo wa kiotomatiki kwanza husoma machapisho yaliyopo, kisha unapendekeza mbinu za mafunzo, hufundisha modeli kwa dakika 30 kulingana na mpango huo, na huboresha hatua kwa hatua matokeo ya majaribio kupitia majaribio ya raundi nyingi. Mbinu zinazofanya kazi huhifadhiwa, huku zisizofanya kazi zikitupiliwa mbali, hivyo mchakato mzima wa utafiti unaweza kupanuliwa kwa kasi.
Karatasi hiyo inaonyesha kwamba, kwa ujumla, matokeo haya yanathibitisha awali kuwa mafunzo ya baada ya ulinganifu kiotomatiki yanaweza kuwa mbinu inayowezekana kwa kweli katika siku za karibuni.
Utafiti huu pia ni hatua kuelekea uboreshaji wa kujirudia, ambao watu wengi huuchukulia kuwa hatua muhimu inayofuata katika maendeleo ya AI. Ikiwa modeli za AI zinaweza kuboresha mbinu zao za mafunzo ya ulinganifu, basi huenda pia ikawezekana kuboresha zaidi mchakato mpana wa mafunzo. Hatua hiyo ikifika, watafiti binadamu wa AI wanaweza hata kuanza kupoteza umuhimu wa kuwepo.
Karatasi hiyo pia ililinganisha moja kwa moja utendaji wa watafiti wa ulinganifu wa kiotomatiki (AAR) na watafiti binadamu: “Kwa wastani, mbinu bora zaidi za AAR zilihitaji saa 6 pekee ili kuzidi mipango iliyopendekezwa na watafiti binadamu wenye uzoefu. Mwelekeo wa utafiti ulioongozwa na binadamu haukuleta utendaji bora zaidi.”
Pengo la gharama pia ni kubwa. “AAR huhitaji takribani dola 4 pekee kwa saa kwa gharama za uelekezaji wa API (dokezo: kwa kiwango cha sasa cha ubadilishaji ni takribani yuan 27), ilhali gharama tunayowalipa watafiti binadamu ni dola 150 kwa saa (kwa kiwango cha sasa cha ubadilishaji ni takribani yuan 1,011).”
Hata hivyo, mbinu hii bado ina vikwazo dhahiri. Kwanza, ufanisi wa mfumo wa kiotomatiki unategemea ikiwa majaribio ya viwango yanaweza kuakisi kwa usahihi malengo halisi ya ulinganifu. Hata kama majaribio yenyewe ni ya kuaminika, kuunda na kudumisha viwango hivi kwa muda mrefu bado kunahitaji uwekezaji mkubwa. Machapisho ya utafiti ambayo watafiti wa kiotomatiki hutegemea pia yanahitaji kudumishwa na kupanuliwa kila mara.
Marejeo
Automated researchers can reliably mitigate alignment failures