Cloudflare ilichapisha jana (Agosti 3) makala ya blogu ikitangaza, katika toleo la mapema la majaribio, maktaba ya chanzo huria @cloudflare/computer, inayompa kila wakala wa AI kompyuta pepe huru ya kazi, ikiwa na mfumo wa faili na uwezo wa kutekeleza amri.
Rasmi ilisema kuwa, tofauti na AI za mazungumzo zinazotumia maandishi ya kawaida, mawakala wa AI wa upangaji programu wanahitaji kusoma mara kwa mara msimbo wa chanzo, kuandika upya faili, kuendesha majaribio, kukagua matokeo na kuendelea kufanya marekebisho. Kwa hiyo, wanahitaji eneo la kazi la kuhifadhi faili wanazochakata, pamoja na mazingira ya kuendeshea programu.
Kwa sasa, suluhisho linalotumiwa zaidi katika sekta ni kuwajengea mawakala wa AI kontena. Kontena zinaweza kutoa mazingira yaliyotengwa ya Linux na zana mbalimbali, lakini kuendelea kumpa kila wakala wa AI wa kila mtumiaji kontena maalum kutatumia CPU na kumbukumbu nyingi. Hasa wakati mfumo unahitaji kuendesha kwa wakati mmoja mamia ya mamilioni hadi mabilioni ya mawakala wa AI, mbinu ya kumpa kila wakala kontena inakabiliwa na vikwazo vya upanuzi.
Hapo awali, ili kusawazisha uwezo wa kompyuta na gharama, Cloudflare ilianzisha katika Cloudflare Workers mazingira mepesi ya utekelezaji ya Isolate, yanayoanza haraka. Kazi nyepesi hushughulikiwa na Isolate, huku kazi zenye mzigo mkubwa zikiita kontena.
Maktaba mpya ya chanzo huria @cloudflare/computer inategemea Isolate na imejengwa kuzunguka eneo la kazi (workspace). Inatumia SQLite kusaidia mfumo pepe wa faili, na inaweza kuleta maudhui kutoka hifadhi ya wingu, hazina ya Git au faili maalum.
IT之家 ilinukuu makala hiyo ikieleza kuwa eneo la kazi hutoa zana zinazooana na AI SDK, zikiwemo read, write, edit, ls na exec. Operesheni zote zinaweza kuwekwa viwango vya ruhusa, ukaguzi na ufuatiliaji.
Kifurushi hiki kwa sasa kinatoa aina 2 za mazingira ya utekelezaji. Mazingira yanayotegemea utekelezaji uliotengwa hutumia just-bash (zana ya kubadilisha Shell kuwa JavaScript) kubadilisha msimbo wa Shell kuwa JavaScript na kuuendesha katika Worker ya muda mfupi. Yanafaa kwa uchakataji wa faili, uchakataji wa data na usimamizi wa Git.
Mazingira ya kontena hutumia Cloudflare Containers kutoa mazingira kamili ya Linux, na kusawazisha faili zilizopachikwa kupitia FUSE (mfumo wa faili wa nafasi ya mtumiaji). Yanafaa kwa kuendesha npm, faili asili za binary na zana za majaribio.
Wakala wa AI anapotekeleza amri, modeli ya AI huchagua mazingira yanayofaa ya utekelezaji kulingana na maelezo ya zana. Kazi nyepesi kama kuhariri faili, kuchakata data na kushughulikia hazina za Git hukamilishwa katika mazingira yaliyotengwa; ni pale tu inapohitajika Linux, npm (kidhibiti cha vifurushi vya Node.js) au faili inayoweza kutekelezwa iliyokusanywa ndipo mfumo huita kontena.
Bila kujali mazingira ambamo kazi inatekelezwa, hutumiwa seti ileile ya faili za eneo la kazi, na mabadiliko ya faili husawazishwa. Mfumo pia unaweza kuweka mipaka kwa operesheni ambazo wakala wa AI anaruhusiwa kutekeleza na kurekodi kazi alizokamilisha. Hii hurahisisha kudhibiti mabadiliko yasiyotarajiwa wakati wa kuandika upya faili kwa uhuru, pamoja na kukagua rekodi za operesheni baadaye.
