Ruka hadi maudhui makuu
Mtazamo wa Sekta

Mkurugenzi Mtendaji wa Anthropic, Amodei, huzungumzia kila siku kwa mshangao kuhusu AI kuangamiza dunia, wawekezaji wamechoshwa

Kulingana na utabiri wa Polymarket, kuna uwezekano mkubwa Anthropic kufanya IPO mwishoni mwa Oktoba. Mtu mmoja wa benki ya uwekezaji hata anakadiria kuwa Anthropic inaweza kukusanya zaidi ya dola bilioni 60 kupitia IPO (sawa na takriban yuan bilioni 405.517 kwa kiwango cha sasa cha ubadilishaji).

Mkurugenzi Mtendaji wa Anthropic, Amodei, huzungumzia kila siku kwa mshangao kuhusu AI kuangamiza dunia, wawekezaji wamechoshwa

Kulingana na utabiri wa Polymarket, kuna uwezekano mkubwa Anthropic kufanya IPO mwishoni mwa Oktoba.

Mtu mmoja wa benki ya uwekezaji hata anakadiria kuwa Anthropic inaweza kukusanya zaidi ya dola bilioni 60 kupitia IPO (sawa na takriban yuan bilioni 405.517 kwa kiwango cha sasa cha ubadilishaji).

Iwapo hilo litatimia, itakuwa IPO ya pili kwa ukubwa duniani, baada tu ya SpaceX, ambayo mwaka huu ilikusanya dola bilioni 85 (sawa na takriban yuan bilioni 579.214 kwa kiwango cha sasa cha ubadilishaji).

Mkurugenzi Mtendaji wa Anthropic, Amodei, huzungumzia kila siku kwa mshangao kuhusu AI kuangamiza dunia, wawekezaji wamechoshwa

Thamani ya trilioni, IPO kubwa, mapato yakipanda kwa kasi.

Hadithi ilipokuwa karibu kufikia kilele chake, wawekezaji walianza kumshauri Mkurugenzi Mtendaji wa Anthropic Dario Amodei: Tafadhali! Acha kuwatisha watu! Zungumzia kidogo kuhusu AI kuangamiza dunia, na zaidi kuhusu jinsi AI itakavyotengeneza pesa.

Mkurugenzi Mtendaji wa Anthropic, Amodei, huzungumzia kila siku kwa mshangao kuhusu AI kuangamiza dunia, wawekezaji wamechoshwa

Baadhi ya wawekezaji wanaamini kuwa tahadhari ya Dario kuhusu hatari za AI imefikia karibu kiwango cha uraibu:

Hati zake muhimu huandikwa kwa mkono na kuhifadhiwa nje ya mtandao kila mara, kwa hofu ya kuibiwa na wadukuzi;

Anakataa baadhi ya safari za kikazi nje ya nchi kwa kuogopa kutekwa nyara;

Anapokabiliwa na mapendekezo ya wawekezaji ya kuongeza faida, pia huwa na mtazamo wa baridi, akisisitiza kuwa Anthropic inapaswa kuendelea kuweka dhamira ya usalama mbele.

Ikiendelea hivi, watumiaji wa mtandao wanaanza hata kuhofu kuwa IPO ya Anthropic itafeli vibaya…

Mkurugenzi Mtendaji wa Anthropic, Amodei, huzungumzia kila siku kwa mshangao kuhusu AI kuangamiza dunia, wawekezaji wamechoshwa

Wawekezaji pia wamekasirika: Wewe hasa ulikuja kuokoa dunia, au kuendesha kampuni??

Siku chache zilizopita, Dario bado alikuwa na wasiwasi kuwa wafanyakazi wapya waliovutiwa na mishahara mikubwa wangejali zaidi pesa kuliko dhamira ya Anthropic.

Sasa wawekezaji wana wasiwasi tu kwamba anaweza kuchelewesha utengenezaji wa pesa kwa ajili ya dhamira hiyo…

Mkurugenzi Mtendaji wa Anthropic, Amodei, huzungumzia kila siku kwa mshangao kuhusu AI kuangamiza dunia, wawekezaji wamechoshwa

Hili pia si kosa la wawekezaji, kwa sababu Mkurugenzi Mtendaji wa kampuni hii kubwa ya AI yenye thamani ya trilioni anapenda kutabiri “mwisho wa dunia”.

Katika miaka miwili iliyopita, Dario ametoa kwa umakini tahadhari kuhusu karibu kila aina ya matokeo mabaya ambayo AI inaweza kusababisha. Alionya kuwa AI inaweza kuondoa nusu ya ajira za wafanyakazi wa ngazi ya kuanzia ndani ya miaka michache, na kusukuma kiwango cha ukosefu wa ajira hadi 10% hadi 20%.

Hali ya kutatanisha zaidi inaweza kuwa saratani imeponywa, uchumi ukakua kwa 10% kila mwaka, na bajeti ya serikali ikawa na uwiano, lakini moja ya tano ya watu wakakosa kazi.

Suluhisho lake pia ni la aina ya Dario: kulitoza kodi kampuni za AI, kutoa bima ya mshahara kwa wafanyakazi walioathirika, na katika hali mbaya hata kutumia pesa hizo kufadhili kipato cha msingi kwa kila mwananchi.

Zaidi ya hayo, ana wasiwasi pia kuwa AI inaweza kusaidia kutengeneza silaha za kibayolojia, kuanzisha mashambulizi makubwa ya mtandao, au hatua kwa hatua kupata uwezo wa kudanganya, kupanga na kuchukua hatua kwa uhuru.

Alipoulizwa mwaka jana kuhusu uwezekano wa “AI kufanya mambo kuwa mabaya sana”, kiwango alichotaja kilifikia hadi 25%.

Mkurugenzi Mtendaji wa Anthropic, Amodei, huzungumzia kila siku kwa mshangao kuhusu AI kuangamiza dunia, wawekezaji wamechoshwa

Januari mwaka huu, aliandika tena makala ndefu ya takriban maneno 20,000 yenye kichwa “The Adolescence of Technology”. Hata orodha ya sura pekee inaposomwa, tayari inafanana sana na orodha ya hatari kwa binadamu: AI kutoroka udhibiti, silaha za kibayolojia, tawala za kidikteta, kuporomoka kwa ajira na mkusanyiko wa utajiri.

Mkurugenzi Mtendaji wa Anthropic, Amodei, huzungumzia kila siku kwa mshangao kuhusu AI kuangamiza dunia, wawekezaji wamechoshwa

Mnamo Juni, alipendekeza moja kwa moja kuanzishwa kwa utaratibu unaofanana na udhibiti wa anga, ili kufanya majaribio ya lazima kwa modeli zenye nguvu. Ikiwa modeli inaweza kusababisha janga, mamlaka za udhibiti zinapaswa kuwa na uwezo wa kuizuia isizinduliwe.

Hii inajumuisha pia modeli za Anthropic yenyewe.

Hata hivyo, wasiwasi wa Dario haukosi kabisa msingi wa majaribio. Muda mfupi uliopita, Anthropic ilipitia zaidi ya rekodi 140,000 za majaribio ya usalama wa mtandao, na kwa kweli ikagundua matukio matatu.

Mkurugenzi Mtendaji wa Anthropic, Amodei, huzungumzia kila siku kwa mshangao kuhusu AI kuangamiza dunia, wawekezaji wamechoshwa

Modeli tatu za Claude zilikuwa zikifanya “changamoto ya kuteka bendera” katika mazingira ya majaribio ya wahusika wengine, zikiwa na lengo la kuingia kwenye mfumo wa kubuniwa na kutafuta taarifa za siri zilizofichwa humo. Lakini kutokana na hitilafu ya usanidi, mazingira ya majaribio yaliyopaswa kukatwa kutoka mtandao yaliunganishwa bila kutarajiwa na intaneti halisi.

Claude hakujua hilo; ilipokea maelekezo yaliyoandika wazi: hapa hakuna intaneti, kila kitu kilicho mbele yako ni cha kuigwa.

Kwa hiyo, modeli kadhaa ziliichukulia kampuni halisi kama kifaa cha majaribio na kuingia bila idhini kwenye mifumo ya uzalishaji ya taasisi tatu. Katika tukio kubwa zaidi, Claude Opus 4.7 ilivamia miundombinu ya kampuni halisi, ikapata hati za programu na miundombinu, na pia kufikia hifadhidata iliyokuwa na mamia ya mistari ya data za uzalishaji.

Mkurugenzi Mtendaji wa Anthropic, Amodei, huzungumzia kila siku kwa mshangao kuhusu AI kuangamiza dunia, wawekezaji wamechoshwa

Tukio jingine la kushangaza zaidi lilitoka kwa Claude Mythos 5.

Majaribio yalitaka itafute lengo lililofichwa katika mazingira ya kubuniwa. Claude iligundua kuwa ikipakia kifurushi hasidi cha programu chenye jina hilo hilo kwenye hazina ya umma ya Python, PyPI, ingeweza kufanya mfumo lengwa ukipakue na kukisakinisha kiotomatiki.

Ili kukamilisha hatua hii, kwanza ilitafuta anwani za barua pepe, kisha namba za simu; ilipokosa namba ya bure, ilijaribu pia kupata pesa kupitia njia mbalimbali.

Mwishowe, ilitumia huduma nyingine ya bure ya barua pepe, ikafungua akaunti ya PyPI na kupakia kifurushi hasidi cha programu.

Kifurushi hicho kilikaa kwenye intaneti halisi kwa takriban saa moja, na kupakuliwa na kuendeshwa na mifumo 15 halisi. Kichanganuzi cha kampuni moja ya usalama kilitekeleza msimbo hasidi, na kusababisha vitambulisho kuvuja; Claude baadaye ilitumia vitambulisho hivyo kuingia kwenye miundombinu mingine ya kampuni hiyo.

Pia kulikuwa na modeli nyingine ya utafiti wa ndani ambayo, baada ya kushindwa kupata lengo la kubuniwa, ilichanganua takriban malengo 9,000 ya intaneti, na hatimaye kuvamia programu ya kampuni halisi kupitia kurasa za utatuzi zilizo wazi na sindano ya SQL.

Hii tayari inakaribia “AI kujinasua yenyewe kutoka kifungoni”, na ni kama trela halisi ya tahadhari za mwisho wa dunia ambazo Mkurugenzi Mtendaji wao amekuwa akitoa.

Mkurugenzi Mtendaji wa Anthropic, Amodei, huzungumzia kila siku kwa mshangao kuhusu AI kuangamiza dunia, wawekezaji wamechoshwa

Kabla ya hapo, OpenAI pia ilifichua tukio jingine lililokaribia zaidi “kujinasua kutoka kifungoni”.

Katika jaribio la uwezo wa usalama wa mtandao, wakala wa AI aliyeendeshwa na GPT-5.6 Sol na modeli moja ambayo haijatolewa aligundua udhaifu wa siku sifuri katika mazingira ya majaribio, na kuvunja sanduku la mchanga lililotengwa awali na intaneti.

Kisha akakamilisha kuongeza ruhusa na kusogea upande hadi upande, hatimaye akaingia kwenye mfumo wa uzalishaji wa Hugging Face na kuiba moja kwa moja majibu ya maswali ya majaribio kutoka kwenye hifadhidata.

Kwa mtazamo huu… tahadhari za Dario zinazoonekana kama maneno ya kushangaza haziwezi kupuuzwa kabisa.

Sasa ni kuchelewa kwa kiasi fulani kumlaumu Dario kwa kuonekana wa kushangaza. Kwa sababu tangu siku ya kwanza, Anthropic haikuwa kampuni ya kawaida ya AI kwa maana halisi.

Mwishoni mwa 2020, Dario, dada yake Daniela Amodei na kundi la watafiti waliondoka OpenAI. Moja ya tofauti zao ilikuwa imani kwamba OpenAI ilikuwa ikienda haraka sana kibiashara, ushawishi wa Microsoft ukizidi kuongezeka, na muundo wa awali wa utawala ukishindwa kudhibiti hatari za AI ya mipakani.

Mwaka 2021, Anthropic ilianzishwa rasmi.

Haikujifafanua tu kama kampuni ya kibiashara, bali ilisajiliwa kama Public Benefit Corporation, yaani kampuni ya manufaa ya umma. Mbali na faida za wanahisa, bodi pia inaweza kuzingatia kisheria usalama wa AI na maslahi ya umma ya muda mrefu.

Baadaye kampuni ilianzisha pia Long-Term Benefit Trust, utaratibu wa utawala ulio huru kutoka kwa wawekezaji wa kawaida.

Wanachama wa amana hiyo hawamiliki hisa za Anthropic, lakini wanaweza kushiriki katika uchaguzi wa wakurugenzi wa kampuni, kwa lengo la kuzuia shinikizo la kibiashara la muda mfupi lisizidi kabisa dhamira ya usalama.

Kwa maneno mengine, usalama wa AI ni imani iliyochongwa ndani ya kampuni hii tangu Day 0. Wawekezaji bila shaka hawakugundua ghafla baada ya kusaini hundi kwamba Dario anaamini mfumo huu.

Mkurugenzi Mtendaji wa Anthropic, Amodei, huzungumzia kila siku kwa mshangao kuhusu AI kuangamiza dunia, wawekezaji wamechoshwa

Zaidi ya hayo, katika miaka iliyopita, simulizi la usalama limeiletea Anthropic manufaa mengi.

OpenAI ilipoendelea kuingia katika mabishano ya utawala, Anthropic ikawa chaguo lililoonekana kuwa na kiasi na thabiti zaidi.

Wateja wa kampuni walipokuwa na wasiwasi kuhusu usalama wa data, AI kutoroka udhibiti na masuala ya uzingatiaji wa sheria, taswira ya Claude kama “mwanafunzi bora wa usalama” iliifanya iwe rahisi zaidi kuaminiwa.

Usalama pia uliisaidia Anthropic kupata ushawishi katika mijadala ya udhibiti uliovuka kwa mbali ukubwa wa kampuni yenyewe.

Kwa kuwa modeli zote mbili ni za kufungwa, wengine wanaweza kushutumiwa kwa ukiritimba, ilhali Anthropic inaweza kueleza hilo kama kuzuia kuenea kwa uwezo hatari; wengine wanapowekewa vikwazo kwenye modeli zao wanaweza kulaumiwa kwa kuwa vigumu kutumia, lakini Claude anaweza kuvipamba kama uwajibikaji.

(Bila shaka, hilo haliwazuii kusema usalama kwa mdomo huku wakifungua champagne wakati wa IPO.)

Mkurugenzi Mtendaji wa Anthropic, Amodei, huzungumzia kila siku kwa mshangao kuhusu AI kuangamiza dunia, wawekezaji wamechoshwa

Je, si kuchelewa kidogo kwa wawekezaji sasa kulalamika kuwa Dario anafanana sana na mhubiri? Ni kama kununua kanisa halafu kulalamika kwamba watu waliomo humo huhubiri kila mara…

Vyovyote vile, haijalishi Mkurugenzi Mtendaji huyo atasema mambo ya kushangaza kiasi gani, huenda asiweze kuzuia hatua za kampuni kuelekea IPO. Kwa sababu ukitumia Fable mara moja tu, utajikuta umekaa hoi juu ya bomu la atomiki huku ukiona kiti kikilipuka (doge).

Makala hii imetoka katika akaunti ya WeChat ya umma: 量子位 (ID: QbitAI), mwandishi: 听雨, kichwa cha awali “Mkurugenzi Mtendaji wa Anthropic huzungumza kila siku kwa mshangao, wawekezaji wamechoshwa”.

Taarifa ya matangazo: Makala hii ina viungo vya nje (ikiwemo, bila kuishia kwenye, viungo vya tovuti, misimbo ya QR, misimbo ya siri na aina nyingine), vinavyotumika kuwasilisha taarifa zaidi na kuokoa muda wa kuchagua; matokeo ni kwa ajili ya marejeo pekee. Makala zote za IT之家 zilizo na viungo vya nje zinajumuisha taarifa hii.