Laya Inafanya kazi

Laya ni modeli ya AI ya maamuzi isiyo ya autoregressive iliyo wazi. Modeli haitengenezi maandishi; inategemea visimbaji pande mbili vya ModernBERT/mmBERT, hufanya upitishaji mmoja wa mbele kwa maandishi pamoja na swali lenye aina, na kutoa matokeo yaliyopangwa pamoja na uwezekano uliosawazishwa kwa takriban 33 ms. Modeli ina uelekezaji wa lugha uliojengewa ndani unaotumia lugha 100+. Ikilinganishwa na modeli iliyofungwa Jev, Laya ina faida zaidi katika usahihi (76.6% dhidi ya 72.7%), usaidizi wa lugha nyingi (lugha 100+) na gharama (usambazaji wa ndani bila malipo).

Uamuzi kwa upitishaji mmoja wa mbele: ingiza hali pamoja na seti ya maswali yenye aina, kisha upitishaji mmoja wa mbele hurudisha matokeo yaliyopangwa moja kwa moja bila kutengeneza maandishi, kwa takriban 33 ms.
Vielezi vitatu vya maamuzi: choice huchagua kipengele kimoja kutoka kwa chaguo na kutoa uwezekano wa kila kipengele; score hutoa alama kwenye kipimo kilichopangwa pamoja na mgawanyo; noul hujibu swali la ndiyo au hapana na kurudisha uwezekano wa ukweli kati ya 0–1.
Uelekezaji wa lugha kiotomatiki: Router hutambua hati na lugha ya ingizo ndani ya <0.5 ms, kisha hugawa kiotomatiki kwenye checkpoint ya Kiingereza au lugha nyingi, hivyo kuzuia kuchagua modeli isiyo sahihi na “kujibu kwa kujiamini lakini kimakosa”.
Udhibiti wa kiwango cha kujiamini: uwezekano una maana ya kitakwimu kupitia mafunzo ya RLCD; kwa kizingiti, maamuzi yenye kujiamini sana yanaweza kupitishwa kiotomatiki, huku yenye kujiamini kidogo yakipelekwa kwa mhudumu.
Violezo vya mtiririko wa kazi vilivyojengewa ndani: hutoa violezo vya maswali vilivyotayarishwa kwa uelekezaji wa modeli, ulinzi dhidi ya sindano za vidokezo, ukaguzi wa usalama wa maudhui na upangaji wa tiketi, tayari kutumika.
Urekebishaji wa ndani: inajumuisha daftari la Kaggle linalosaidia mchakato kamili wa urekebishaji kwa data yako mwenyewe, ikiwemo kutengeneza data, mafunzo ya RLCD, ulinganishaji wa halijoto na tathmini.

Fuata akaunti ya WeChat na ujibu “开源” ili ujiunge na kundi la miradi ya AI ya chanzo huria
Muundo wa pande mbili usio wa autoregressive: unategemea kisimbaji cha pande mbili ModernBERT-large (421M) au mmBERT-base (322M), ambapo tokeni za ingizo huona muktadha wa kabla na baada kwa wakati mmoja. Wakati wa uelekezaji, hautengenezi maandishi herufi kwa herufi; badala yake, hutenga nafasi huru ya [MASK] kwa kila chaguo, hutoa logits za chaguo zote kwa upitishaji mmoja wa mbele, kisha huzisawazisha kuwa mgawanyo wa uwezekano kwa Softmax. Hiki ndicho chanzo cha ucheleweshaji wa kiwango cha 33 ms.
Mafunzo ya uimarishaji ya RLCD: hutumia kanuni kali za alama za kweli kama zawadi, zikiwemo alama ya logaritimu, alama ya duara na alama ya uwezekano wa daraja. Modeli hupata alama ya juu tu inapotoa uwezekano halisi wa posterior; inapokuwa na mashaka, kiwango cha kujiamini hushuka kwa kawaida, hivyo kuzuia tatizo la modeli kubwa za jadi “kujiamini kupita kiasi”.
Utaratibu wa uelekezaji wa lugha: kabla ya forward, Router hutumia Python safi kutambua seti za herufi za Unicode na lugha, kisha kuchagua checkpoint. Kwa kuwa checkpoint ya Kiingereza inaweza kutoa jibu lenye usahihi wa 0 kwa kujiamini kwa 0.95 kwenye herufi zisizo za Kilatini, kiwango cha kujiamini chenyewe hakiwezi kutoa onyo mapema; hivyo uamuzi wa uelekezaji lazima ukamilishwe kabla ya uelekezaji.
Usawazishaji wa uwezekano: checkpoint inayotolewa kiwandani huwa na kujiamini kupita kiasi; halijoto lazima ilinganishwe kwa data yako mwenyewe kulingana na (aina ya swali, idadi ya chaguo). Baada ya ulinganishaji, ECE ya wastani inaweza kushuka kutoka 0.466 hadi 0.081, ndipo uwezekano unaweza kutumiwa moja kwa moja kwa maamuzi ya kupitisha kiotomatiki.

Usakinishaji: pip install laya, kifurushi cha PyPI; ndani ya siku mbili kimeboreshwa kutoka 0.1.0 hadi 0.3.4, kumbuka kuwa kiolesura bado kinabadilika.
Pakia modeli: Router(preload=True) hupakia mapema checkpoint tatu ili kuzuia kujenga upya modeli kila mara lugha inapobadilishwa wakati wa kuanza kwa baridi.
Andaa hali: kusanya maandishi ya kuchanganua kuwa dict, kama {"from": ..., "subject": ..., "body": ...}; inasaidia lugha yoyote au muundo wa JSON.
Fafanua maswali: tumia JSON kuandika seti ya maswali yenye aina, ukibainisha type (choice / score / noul), instructions na criteria (chaguo au kipimo).
Tekeleza utabiri: ita router.predict(state, questions); upitishaji mmoja wa mbele hurudisha majibu yote, Kiingereza hutumia laya, huku Hindi na lugha nyingine zikitumia multilingual kiotomatiki.
Soma matokeo: kutoka res["answers"] pata lebo ya choice, thamani ya score au uwezekano wa noul; res["routing"] itaeleza kwa nini checkpoint hiyo ilichaguliwa.
Udhibiti wa kujiamini: weka kizingiti cha confidence, kama 0.85; maamuzi yenye kujiamini sana yashughulikiwe kiotomatiki, na yenye kujiamini kidogo yapelekwe kwa mhudumu, lakini kwanza fanya ulinganishaji wa halijoto kwenye data yako mwenyewe.

Uelekezaji wa kasi: upitishaji mmoja wa mbele huchukua takriban 33 ms (T4), na katika kundi hushuka hadi 7.2 ms kwa swali, ikiwa ni karibu mara 7.8 kwa kasi kuliko TypeSafe Jev iliyofungwa.
Hakuna hatari ya uzushi: haitengenezi maandishi, hutoa maamuzi yaliyopangwa pekee, hivyo hakuna mzigo wa kuchanganua wala tatizo la kubuni maudhui.
Uwezekano unaoweza kusawazishwa: imefunzwa kwa kanuni kali za RLCD za alama za kweli, hivyo kiwango cha kujiamini kina maana ya kitakwimu na kinaweza kuendesha moja kwa moja mtiririko wa kupitisha kiotomatiki au ukaguzi wa kibinadamu.
Usahihi bora wa usawazishaji: baada ya ulinganishaji wa halijoto, ECE ni 0.081 pekee, bora kuliko 0.246 ya Jev; usahihi wa typed-decisions wa 0.766 pia unazidi 0.727 ya Jev.
Uelekezaji wa lugha nyingi: Router iliyojengewa ndani hutambua lugha 100+ kwa kiwango cha chini ya millisekunde moja na kuchagua checkpoint kiotomatiki, hivyo kuzuia modeli ya Kiingereza “kujibu kwa kujiamini lakini kimakosa” kwenye herufi zisizo za Kilatini.
Chanzo huria kabisa na bila gharama: leseni ya Apache-2.0, uzani uko wazi na inaweza kujihudumia; ikilinganishwa na gharama ya API ya Jev ya $0.042 kwa tokeni milioni, gharama ya matumizi ya muda mrefu ni sifuri.
Matokeo yenye aina: vielezi vya choice / score / noul hushughulikia sehemu kubwa ya matukio ya maamuzi yaliyopangwa, ikiwemo uainishaji, utoaji wa alama na uamuzi wa ndiyo au hapana.

Hazina ya GitHub：https://github.com/NandhaKishorM/laya
Hazina ya modeli ya HuggingFace：https://huggingface.co/convaiinnovations/laya

Upangaji wa kiotomatiki wa tiketi za huduma kwa wateja: tambua idara inayohusika (billing/technical/sales), kiwango cha dharura, kuchanganyikiwa kwa mtumiaji na hatari ya kuondoka; tiketi zenye kujiamini sana zigawiwe kiotomatiki, na zenye kujiamini kidogo zipelekwe kwa mhudumu.
Usalama na ukaguzi wa maudhui: tambua sumu, unyanyasaji na maudhui ya vitisho; kielezi cha noul hutoa uwezekano wa ukiukaji na kinafaa kwa ukaguzi wa wakati halisi kwenye jumuiya na majukwaa ya UGC.
Ulinzi dhidi ya sindano za vidokezo (Guardrails): kwenye lango la mfumo wa Agent, tambua mashambulizi kama kuvunja vizuizi, sindano na kuvuja kwa funguo; ucheleweshaji wa kiwango cha 33 ms unaweza kuingizwa kwenye kila mnyororo wa ombi.
Uelekezaji mahiri wa modeli: katika usanifu wa mchanganyiko wa modeli kubwa, amua ikiwa ombi liende kwenye modeli ndogo au modeli ya kisasa, ukifanya uamuzi wa uelekezaji kwa gharama ndogo sana na kuokoa gharama za uelekezaji.