Jev Inafanya kazi

Jev ni modeli ya AI ya TypeSafe AI ya maamuzi yaliyopangwa. Modeli haizungumzi, haiandiki msimbo wala kuzalisha maandishi yoyote; hufanya jambo moja tu: maamuzi ya mara kwa mara. Hupokea taarifa zisizopangwa na, baada ya hesabu moja ya sambamba, hutoa mara moja uamuzi uliopangwa wenye uwezekano uliosawazishwa. Muda wa kusubiri ni milisekunde 70–500 tu, ingizo hugharimu dola 0.042 kwa token milioni, matokeo ni bila malipo, na kiwango cha makosa ya aina ni 0%. Modeli hii imeundwa kuwa safu ya awali ya mwitikio wa mifumo ya Agent, ikishughulikia maamuzi ya mara kwa mara kama vile uelekezaji, uainishaji, uchujaji wa awali wa hatari na uchujaji wa maudhui, ili modeli kubwa za kisasa zielekeze nguvu kwenye hoja changamano; ni kama kifaa bora cha maamuzi chenye maarifa ya ulimwengu.

Matokeo ya maamuzi yaliyopangwa: Modeli hurudisha tu Choice (chaguo), Score (alama) au Noul (uamuzi wa boolean) ndani ya aina zilizobainishwa awali, pamoja na uwezekano uliosawazishwa.
Maamuzi mengi ya sambamba: Ombi moja linaweza kujibu maswali kadhaa huru kwa wakati mmoja, na muda wa kusubiri hauongezeki kwa uwiano wa moja kwa moja na idadi ya maswali.
Uelekezaji kwa viwango vya uhakika: Mfumo hugawa kazi kiotomatiki kulingana na uhakika uliosawazishwa: uhakika wa juu hutekelezwa moja kwa moja, uhakika wa kati hukaguliwa na modeli kubwa, na uhakika wa chini hupelekwa kwa mhudumu.
Safu ya awali ya kuchuja kwa Agent: Hushughulikia maamuzi madogo ya mara kwa mara kama uelekezaji, uainishaji, uthibitishaji na ukaguzi wa hali, na kupunguza zaidi ya 90% ya miito ya modeli kubwa yenye gharama kubwa.
Uhakikisho wa kutokuwa na makosa ya umbizo: Matokeo hufungwa kikamilifu ndani ya Schema iliyowekwa awali. Kiwango cha makosa ya aina ni 0% kihisabati, hivyo yanaweza kuingizwa moja kwa moja kwenye mkondo wa msimbo.
Maamuzi ya wakati halisi ya kiwango cha milisekunde: Majibu ya milisekunde 70–500 na takriban $0.0004 kwa uamuzi mmoja huwezesha AI kwa mara ya kwanza kutumika katika hali zinazohitaji ucheleweshaji mdogo, kama uendeshaji wa michezo, uchujaji wa maudhui ya wakati halisi na maamuzi ya biashara.

Kuondoa uzalishaji wa kujirudia na kutumia sampuli sambamba: LLM za kawaida huzalisha Token moja baada ya nyingine kwa mpangilio, hivyo kadiri matokeo yanavyokuwa marefu ndivyo hatua za usimbuaji zinavyoongezeka. Jev hutumia parallel sampler iliyoundwa na timu yake kutoa matokeo yote ya maamuzi kwa wakati mmoja katika hesabu moja ya mbele, bila kuhitaji kusimbua neno baada ya neno.
Kuweka kikomo cha nafasi ya matokeo: Msanidi hufafanua Schema mapema, kwa mfano refund_risk={low, medium, high}. Modeli hugawa uwezekano ndani ya chaguo hizo pekee. Uhuru hubadilishwa kwa ufanisi, matokeo yanaweza kuchanganuliwa kila mara na kutumiwa moja kwa moja na msimbo, hivyo kuondoa kwa msingi dhana potofu za umbizo na makosa ya aina.
Mbinu ya mafunzo ya RLCD: Reinforcement Learning for Calibrated Decisions. RLHF huboresha mapendeleo ya binadamu, RLVR huboresha majibu yanayoweza kuthibitishwa, huku RLCD ikiboresha kama uamuzi ni sahihi na kama kiwango cha uhakika kinachotajwa na modeli ni cha kweli. Modeli inaposema ina uhakika wa 90% kwa kundi la kazi, takriban 90% kati yake inapaswa kuwa sahihi; huu ndio msingi wa kihisabati wa ugawaji wa kiotomatiki.
Uhakika kama kiolesura: Kila tokeo huambatanishwa na uwezekano uliosawazishwa. Programu huelekeza kwa kutumia vizingiti: >0.90 hutekelezwa kiotomatiki, 0.7–0.9 hukaguliwa na modeli kubwa, na <0.7 hupelekwa kwa mhudumu, hivyo kutokuwa na uhakika huwekwa wazi kwa mfumo.

Omba Early Access: Tembelea tovuti ya TypeSafe AI https://typesafe.ai/, jiunge na waitlist, na baada ya kukubaliwa pata API key kwenye console.typesafe.ai.
Jaribu kwenye Playground: Katika Playground ya Console, sanidi maswali na ufasili Schema ya matokeo ili kuona moja kwa moja matokeo ya maamuzi yenye uwezekano.
Fafanua Schema: Tumia JSON kutangaza mapema maswali ya kuhukumiwa na aina zake (Choice/Score/Noul pamoja na chaguo zake). Hili ndilo maandalizi pekee la lazima kabla ya kuita huduma.
Ita API: Tuma ombi la POST kwenye https://api.typesafe.ai/v1/systemone, weka kitambulisho cha modeli kuwa jev-latest, tuma maudhui yasiyopangwa na upokee uamuzi uliopangwa pamoja na uwezekano uliosawazishwa.
Tumia SDK rasmi: Sakinisha typesafe-sdk kwa Python na @typesafe-ai/sdk kwa JS/TS; hushughulikia kiotomatiki uundaji wa ombi na uthibitishaji wa aina.

Ucheleweshaji wa chini kabisa: Majibu ya mwisho hadi mwisho ya milisekunde 70–500, mara 40–200 haraka kuliko modeli kubwa za kisasa, yanawezesha AI kuingia kwa mara ya kwanza katika hali za wakati halisi.
Gharama ya chini sana: Ingizo hugharimu dola 0.042 kwa token milioni, matokeo ni bila malipo, na uamuzi mmoja hugharimu takriban $0.0004, hadi mara 444 nafuu kuliko GPT.
Hakuna makosa ya umbizo: Matokeo hufungwa kikamilifu kwenye Schema iliyowekwa awali, na kiwango cha makosa ya aina ni 0% kihisabati.
Uhakika uliosawazishwa: Kila uamuzi huambatanishwa na uwezekano wa kweli kupitia mafunzo ya RLCD. Mfumo unaweza kugawa kazi kiotomatiki kulingana na vizingiti; huu ndio msingi wa kihisabati wa utekelezaji wa kiotomatiki.
Maamuzi mengi ya sambamba: Ombi moja hujibu maswali kadhaa huru kwa wakati mmoja, na muda wa kusubiri hauongezeki kwa uwiano wa moja kwa moja na idadi ya maswali.
Kuhifadhi uwezo wa jumla wa semantiki: Ikilinganishwa na waainishaji wa kawaida, inaweza kushughulikia kazi mpya bila sampuli za mafunzo, bila kuhitaji mafunzo upya kwa kila aina ya uamuzi.

Tovuti rasmi ya mradi: https://typesafe.ai/blog/introducing-system-one-models-and-jev

Uchujaji wa maudhui na uchujaji wa awali wa mapendekezo: Ficha kwa wakati halisi maudhui ya uchochezi au matangazo kwenye mtiririko wa taarifa, au fanya uchujaji wa awali wa uhusiano wa maelfu ya taarifa zilizokusanywa na roboti; modeli yenye gharama kubwa ishughulikie tu uchujaji wa kina.
Uelekezaji wa tiketi na ugawaji wa huduma kwa wateja: Barua pepe moja inaweza kubainisha wakati mmoja idara ya kupewa, kiwango cha dharura, hatari ya kurejesha pesa na kama uingiliaji wa binadamu unahitajika. Tiketi zenye uhakika wa juu hushughulikiwa kiotomatiki moja kwa moja.
Uchujaji wa awali wa udhibiti wa hatari na uzingatiaji: Ainisha kiwango cha hatari cha miamala, mikopo na maudhui ya UGC, huku ukitoa uwezekano. Kesi zenye uhakika wa juu huachiliwa kiotomatiki, na zenye uhakika wa chini hupelekwa kwa mhudumu au kukaguliwa na modeli yenye nguvu.
Safu ya maamuzi ya mkondo wa Agent: Hushughulikia maamuzi madogo ya mara kwa mara kama kuchagua zana, kupanga matokeo, kukagua hali na kuamua kusitisha, na kupunguza zaidi ya 90% ya miito ya modeli kubwa yenye gharama kubwa.