Kulingana na ripoti ya Business Insider, Beth Barnes, mmoja wa wasimamizi wenye ushawishi mkubwa katika sekta ya akili bandia, sasa anakabiliwa na wasiwasi mwingi.
Mtafiti huyo wa zamani wa OpenAI aliwahi kuthibitisha kupitia utafiti kwamba uwezo wa AI unaongezeka kwa kasi, karibu kila mwezi. Sasa ana wasiwasi kuwa sekta hiyo haina wataalamu wa kutosha kuendana na kasi ya maendeleo ya AI inapoingia katika hatua inayofuata.
Barnes aliondoka OpenAI mwaka 2022 na kuanzisha shirika lisilo la faida la METR (Model Evaluation and Threat Research, yaani Utafiti wa Tathmini ya Miundo na Vitisho). Anasema kikwazo kikubwa zaidi kinachokabili utafiti wa usalama wa AI kwa sasa si fedha, bali ni watu wenye vipaji.
METR ina jukumu muhimu katika sekta ya AI. Inashirikiana kwa karibu na kampuni kama OpenAI, Anthropic, Google na Meta, ikitathmini kwa kujitegemea uwezo wa miundo mipya ya AI na kuchunguza hatari zinazoweza kusababishwa nayo, ili kuipa jamii matokeo ya uchambuzi yenye uwiano.
Hata hivyo, ingawa nafasi za kazi zinazotangazwa na METR kwa sasa zina mshahara wa juu unaoweza kufikia dola 503,000 kwa mwaka (dokezo: sawa na takribani yuan milioni 3.4 kwa kiwango cha sasa cha ubadilishaji), bado shirika hilo linapata ugumu kutatua tatizo la uhaba wa vipaji.
Barnes alisema: “Katika hali bora, tungependa kupanua timu mara nyingi zaidi. Kwa kweli, tayari tunaweza kupata fedha tunazohitaji; kinachotuzuia kukua ni akiba ya vipaji.”
Hapo awali, tukio la usalama wa AI lililofichuliwa na OpenAI na Hugging Face lilizua tena mjadala katika sekta kuhusu namna ya kutathmini na kudhibiti uwezo wa AI. Mwezi Julai mwaka huu, zaidi ya wafanyakazi 1,300 wa maabara za AI zilizo mstari wa mbele walitia saini kwa pamoja barua ya wazi, wakionya kwamba kasi ya maendeleo ya AI huenda tayari imepita uwezo wa binadamu wa kuidhibiti. Bila watafiti wa kutosha kutathmini kwa wakati uwezo halisi wa miundo mipya, kampuni za AI huenda hata zikashurutika kupunguza kasi ya kuzindua bidhaa katika siku zijazo.
Ingawa utendaji wa miundo ya OpenAI katika tukio hilo uliwashangaza kampuni nyingi, timu ya METR haikushangaa sana. Taasisi za serikali, kampuni na hata mashirika ya kidini zimewahi kutafuta msaada wa METR ili kuelewa na kupima kiwango cha maendeleo ya AI.
Hata hivyo, ndani ya timu ya METR yenye watu 35 pekee, bado kuna wasiwasi mkubwa kwa ujumla.
Business Insider ilitembelea ofisi ya METR iliyoko Berkeley, California, Marekani, siku ambayo OpenAI ilitangaza tukio la udukuzi. Barnes alisema kuwa kizuizi kikubwa zaidi katika utafiti wa usalama wa AI kwa sasa ni idadi ya watafiti ambayo haitoshi kabisa.
Alisema: “Kuna kazi nyingi mno zinazohitaji kukamilishwa, na uwezo wetu hauwezi kuzishughulikia zote.”
Kwa maoni yake, jamii yenye busara ya kweli inapaswa kuelekeza sehemu kubwa zaidi ya uwekezaji wa AI katika utawala wa AI, tathmini ya usalama na utafiti wa hatari, hasa wakati uwezo wa miundo ya AI umefikia kiwango cha sasa.
METR, inayojulikana kama “kikosi cha akiba cha ubinadamu”, inataka kupanuka
Maabara mbalimbali za AI zinapoendelea kuzindua miundo mipya, METR inaendelea kutathmini uwezo wa miundo hiyo wa kutekeleza kazi zinazozidi kuwa ndefu na ngumu.
Mojawapo ya mafanikio yanayojulikana zaidi ya METR ni mchoro wa mwenendo unaonukuliwa sana. Mchoro huo unaonyesha kwamba katika miaka sita iliyopita, uwezo wa AI wa kukamilisha kazi ngumu umeongezeka maradufu takribani kila baada ya miezi saba.
Rais wa METR, Chris Painter, aliliita kwa utani timu hiyo “kikosi cha maandalizi cha ubinadamu” (humanity's preparedness team). Jina hilo pia linarejelea “Timu ya Maandalizi” (Preparedness Team) ndani ya OpenAI na Anthropic, inayowajibika kuripoti hatari za usalama kwa wakurugenzi wakuu.
Painter alisema: “Tunachowajibikia hasa si kampuni fulani, bali ni umma na ustawi wa umma.”
Barnes alisisitiza kuwa ni muhimu METR kudumisha uhuru wake, ili matokeo ya utafiti yasiathiriwe na malengo ya kibiashara ya kampuni.
Alisema kwamba alipokuwa akifanya kazi OpenAI, alitambua tayari kuwa sekta hiyo ilihitaji taasisi ya utafiti iliyo huru kutoka kwa kampuni za AI na inayoweza kutathmini kwa uhuru hali ya maendeleo ya AI.
Kwa sasa, METR haikubali ufadhili kutoka kwa kampuni zinazoongoza za AI wala wafanyakazi wake, lakini inakubali msaada wa rasilimali za kompyuta na kushirikiana na kampuni hizo kuchambua na kujaribu miundo mipya ambayo bado haijatolewa hadharani.
Pamoja na kutathmini uwezo wa miundo, METR pia imechunguza hatua za usalama za kampuni za AI, athari za AI katika ufanisi wa wahandisi wa programu, na uwezekano wa kutumia AI kusimamia AI.
Barnes alisema kuwa katika siku zijazo angependa pia kuchunguza zaidi namna ya kutabiri maendeleo ya uwezo wa AI katika hatua inayofuata, pamoja na jinsi mabadiliko hayo yatakavyoharakisha zaidi maendeleo ya AI yenyewe.
Neev Parikh, mtafiti wa METR, alisema kwamba uhaba wa vipaji tayari umezuia idadi ya masuala ambayo timu inaweza kutafiti, hasa kuhusu mifumo ya ndani ya ufikiri wa AI.
Alisema: “Kuna uhaba mkubwa sana wa watu katika uwanja huu. Sekta nzima ikipanua idadi ya wataalamu mara 10, nitafurahi sana.”
Tukio la usalama la OpenAI linaongeza zaidi umuhimu wa METR
Mwezi Julai mwaka huu, OpenAI ilifichua kwamba wakati wa majaribio, muundo wake wa AI uliingia katika mfumo wa Hugging Face na kupata majibu ya jaribio, hivyo “kudanganya”.
Baadaye, Mkurugenzi Mtendaji wa OpenAI Sam Altman alisema kwamba hilo lilikuwa mara ya kwanza kwake kuhisi kwa uwazi kiasi hicho hatari za usalama zinazoletwa na AI.
Kwa kweli, METR ilikuwa tayari imetabiri matatizo ya aina hiyo.
Mwezi Mei mwaka huu, METR ilichapisha ripoti iliyosema kuwa mawakala wa AI kwa sasa “wana uwezekano mkubwa kabisa wa kuanza kufanya usambazaji usioidhinishwa kwa uhuru”, ingawa wakati huo bado hawakuwa na uwezo wa kuficha mienendo yao.
Baadaye mwezi Juni, METR ilijaribu muundo wa GPT-5.6 Sol ambao ulikuwa bado haujatolewa hadharani, na kugundua kuwa muundo huo ulidanganya mara kwa mara katika majaribio magumu, ikiwa ni pamoja na kutoa msimbo wa chanzo uliofichwa ili kutafuta majibu sahihi.
METR baadaye iliandaa matokeo ya utafiti huo kuwa ripoti na kuiwasilisha kwa OpenAI kabla ya GPT-5.6 Sol kuzinduliwa rasmi.
Mwezi Julai, GPT-5.6 Sol ilihusishwa kweli na tukio la usalama kati ya OpenAI na Hugging Face.
Baadaye OpenAI ilitangaza kuwa itaialika METR pamoja na shirika lingine lisilo la faida, Redwood Research, kuchunguza kwa pamoja tukio hilo; matokeo ya tafiti za pande hizo pia yatakuwa rejeo muhimu katika ripoti rasmi ya kiufundi ya OpenAI.
Painter alisema: “Sasa masuala ya aina hii yanaathiri kwa kweli uendeshaji wa kampuni, na jamii nzima inahitaji kuelewa kilichotokea.”
Uwezo wa kushambulia mitandao ulioonyeshwa na miundo mipya ya AI ya OpenAI na Anthropic pia umevutia sana umma wa Marekani na kuchochea kuwasilishwa kwa miswada kadhaa mipya ya udhibiti wa AI mjini Washington.
Miongoni mwa miswada hiyo, mmoja unaojadiliwa unataka kampuni kubwa zinazotengeneza miundo ya AI zikubali ukaguzi wa usalama unaofanywa na taasisi huru za nje.
METR huenda ikatekeleza jukumu kama hilo katika siku zijazo.
Painter alisema kuwa ikiwa mfumo wazi wa udhibiti utaanzishwa katika siku zijazo, huenda wafanyakazi wengi zaidi wa kampuni za AI wakawa tayari kujiunga na METR—ingawa mishahara yake inakaribiana na ya kampuni hizo, haina motisha ya hisa.
Alisema: “Iwe sekta hiyo itaweka kanuni za pamoja au serikali itaweka udhibiti ulio wazi, ninaamini uwanja huu utaweza kupanuka kwa kasi sana.”
Ajeya Cotra, mtafiti aliyeandika ripoti ya METR ya Mei mwaka huu kuhusu hatari za AI, alisema kuwa udhibiti wa AI kwa sasa bado unaonekana “wenye mkanganyiko na usiotabirika”.
Hata hivyo, bado ana matumaini. Alisema: “Watu wengi zaidi wanaanza kulipa kipaumbele kwa suala hili, na wanazidi kutamani AI idhibitiwe kwa namna makini na iliyokomaa zaidi katika siku zijazo.”