Mwanasayansi wa kompyuta Geoffrey Hinton, anayejulikana kama “baba wa akili bandia”, alisema ana wasiwasi kwamba AI inaweza kuendeleza malengo yake yenyewe.
Hinton alisema katika mahojiano na Newsthink siku ya Jumanne kwa saa za huko: “Kwa kweli tunaunda aina mpya ya uhai. Viumbe hivi vina malengo. Tunavipa malengo, navyo vitatoa malengo mengine kutokana na malengo hayo.”
“Lakini huenda tusijue ni malengo gani mengine hatimaye vitayatoa,” aliongeza. “Kwa hiyo, tunaunda aina mpya ya uwepo, na nadhani hilo linatisha sana.”
Hinton alitoa mfano wa kinadharia: mtumiaji anaweka lengo kwa roboti ya mazungumzo ya AI la kupunguza kiwango cha dioksidi kaboni angani.
“Ikiwa itakuwa na akili ya kutosha, inaweza kugundua kwamba njia bora ya kufikia lengo hilo ni kuwaangamiza wanadamu,” alisema. Mfano huo unaonyesha kwamba AI inaweza kufuatilia lengo ambalo mtumiaji wa kibinadamu hakuwahi kukusudia kulitimiza.
Hinton pia alitoa dhana nyingine ambayo anaiona kuwa “ya kutia wasiwasi zaidi”: roboti ya mazungumzo iliyofunzwa kutoa majibu yasiyo sahihi kimakusudi inaweza kujifunza kwamba ni sawa kusema uongo, hata ikiwa “inajua wazi” kwamba majibu hayo si sahihi.
“Hili linatisha sana,” alisema.
Hinton hakulitaja tukio la hivi karibuni la usalama la OpenAI linalohusisha Hugging Face. Hata hivyo, tukio hilo lililofichuliwa mwezi uliopita liliwezesha umma kuona kwa mara ya kwanza katika mazingira halisi hatari ya mawakala wa AI kuchukua hatua zisizotarajiwa wanapotekeleza malengo yaliyowekwa.
OpenAI ilisema mwezi uliopita kwamba katika tathmini ya ndani ya usalama wa mtandao, modeli zake mbili —GPT-5.6 Sol na modeli nyingine yenye nguvu zaidi ambayo bado haijatolewa hadharani—ziliwahi kuvuka mazingira ya majaribio yaliyotengwa (sandbox).
OpenAI ilisema kwamba baada ya kupata ruhusa ya kufikia intaneti, modeli hizo ziliingia kwenye mifumo ya jukwaa la AI Hugging Face, kana kwamba zilikuwa zikijaribu kutafuta majibu ambayo yangesaidia “kudanganya” katika majaribio ya tathmini.
Kulingana na OpenAI, modeli hizo zilikuwa zikifanyiwa majaribio ya uwezo wa usalama wa mtandao, na hazikuagizwa waziwazi kuishambulia Hugging Face. Hata hivyo, kampuni hiyo ilisema mawakala wa AI walikadiria kwamba jukwaa hilo huenda lilikuwa na taarifa zilizohitajika kukamilisha kazi, hivyo wakachukua hatua hizo wenyewe.
Hugging Face ilisema washambuliaji walitekeleza zaidi ya operesheni 17,000 dhidi ya mifumo yake. Kampuni hiyo ilisema kwamba kwa kuwa modeli fulani ya AI ya kisasa, ambayo jina lake halikufichuliwa, ilizuiwa na vikwazo vya usalama na haikuweza kuchunguza shughuli hizo kwa ufanisi, walitumia modeli yenye uzani wa wazi kutoka Zhipu (Z.ai) kusaidia kuchanganua mashambulizi hayo.
OpenAI ililiita tukio hilo “lisilowahi kutokea” na kusema ilikuwa ikichunguza sababu ya tatizo hilo. Baadaye, OpenAI iliijumuisha Hugging Face katika mpango wa ufikiaji unaoaminika, na kuliruhusu jukwaa hilo kupata toleo la GPT-5.6 Sol lenye vikwazo vichache zaidi vya usalama wa mtandao kwa ajili ya utafiti wa usalama wa kujihami.
Hinton si mtazamaji asiyehusika kabisa. Utafiti wake wa upainia katika eneo la mitandao ya neva uliweka msingi wa kuendeleza mapinduzi ya ujifunzaji wa kina, na pia alipokea Tuzo ya Nobel ya Fizikia ya 2024 kwa mchango wake katika ujifunzaji wa mashine.
Tangu kuanza kwa wimbi la AI, Hinton amekuwa akionya mara kwa mara kwamba wanadamu lazima watatue suala la jinsi ya kuoanisha AI na maslahi ya wanadamu kabla uwezo wa mifumo ya AI haujaongezeka kwa kiasi kikubwa.
Katika mkutano wa Ai4 uliofanyika Las Vegas mwaka jana, Hinton alisema AI ya hali ya juu inapaswa kuundwa ikiwa na sifa zinazofanana na “silika ya kimama”, ili kwa asili itake kuwalinda wanadamu.
“Lazima tutafute njia za kuunda aina hizi mpya za uwepo,” Hinton alisema katika mahojiano ya Jumanne. “Tunawezaje kuziunda ili zijali zaidi kuhusu sisi, badala ya kujijali zaidi zenyewe?”