Xing4.0-29B-Intent Inafanya kazi

Xing4.0-29B-Intent ni modeli maalum ya uelewa wa nia iliyotolewa kwa chanzo huria na Maabara ya Xingchen, iliyoboreshwa kwa kutumia Xing4.0-29B-A4B. Xing4.0-29B-Intent hutumia muundo wa kategoria＋vigezo, na kubadilisha lugha asilia ya mtumiaji kuwa matokeo ya uainishaji wa nia na uchimbaji wa vigezo kwa wakati mmoja. Inaunga mkono aina nne za kazi: utambuzi wa nia, utambuzi wa huluki, uchimbaji wa uhusiano na uchimbaji wa matukio. Matokeo ya modeli huwa na tokeni kadhaa tu, huku muda wa majibu ukiwa katika kiwango cha mamia ya milisekunde. Alama yake ya jumla ya 58 katika tathmini ilizidi modeli 18 za matumizi ya jumla. Tayari imetumika katika huduma kwa wateja wa mawasiliano ya simu na nyumba mahiri, na inafaa kuwa safu ya kuingizia maana kwa Agent.

Utambuzi wa nia: Huamua sentensi ya mtumiaji iko katika kategoria gani ya biashara, na inaunga mkono nia moja au nia nyingi katika sentensi moja.
Uchimbaji wa vigezo: Wakati wa kutambua nia, huchota huluki, thamani na sifa zinazohitajika kukamilisha kazi.
Matokeo ya muundo uliounganishwa: Hupanga matokeo katika umbizo la JSON la ”kategoria＋vigezo”; kazi nne za utambuzi wa nia, utambuzi wa huluki, uchimbaji wa uhusiano na uchimbaji wa matukio hutumia umbizo moja la ingizo na towe.
Uchanganuzi sambamba wa kazi nyingi: Inaunga mkono nia nyingi, vigezo vingi na huluki nyingi katika sentensi moja, na inaweza kurejesha seti nyingi za matokeo kwa wakati mmoja kama safu ya JSON.
Ubadilishaji unaoendeshwa na Schema: Msanidi hufafanua mapema kategoria zinazowezekana, maelezo ya kategoria na sehemu zinazoweza kuchotwa; modeli hutambua na kujaza thamani ndani ya mfumo wa biashara uliowekwa.
Kiingilio cha maana cha Function Calling: Hupatia programu za Agent/mawakala mahiri uamuzi wa nia na uchimbaji wa vigezo vya kuita vitendaji, hivyo kuunganisha lugha asilia na utekelezaji wa mifumo ya biashara.

Fuatilia akaunti ya WeChat na ujibu “开源” ili kujiunga na kikundi cha mawasiliano cha miradi ya AI ya chanzo huria
Msingi na usanifu wa modeli: Modeli imeboreshwa kwa kutumia msingi wa jumla wa Xingchen Xing4.0-29B-A4B, na hutumia usanifu wa MoE. Ina takribani vigezo bilioni 29 kwa jumla, huku kila Token ikiwezesha takribani vigezo bilioni 4 tu. Hivyo hudumisha uwezo wa kutoa matokeo yenye muundo huku ikipunguza matumizi ya kompyuta na kufikia muda wa majibu wa kiwango cha mamia ya milisekunde.
Mfumo wa uchanganuzi wa maana unaoendeshwa na muundo wa USP uliounganishwa: Modeli hutumia mfumo wa USP, unaoweka pamoja kazi mseto kama uelewa wa nia, utambuzi wa huluki, uchimbaji wa uhusiano na uchimbaji wa matukio katika umbizo la matokeo ya JSON ya viwango vya ”kategoria＋vigezo”. Hii huondoa hitaji la mifumo ya chini kuunda mantiki tofauti ya uchanganuzi kwa kila aina ya kazi, na kufanya uhamishaji na uunganishaji kuwa wa gharama ndogo sana.
Mbinu ya uzalishaji yenye vikwazo vya Schema: Wakati wa uelekezaji, msanidi anapaswa kutoa kategoria zinazowezekana, maelezo ya kategoria na ufafanuzi wa sehemu zinazoweza kuchotwa. Modeli hutambua na kujaza thamani ndani ya sheria zilizowekwa za sehemu, huku matokeo yakibanwa kikamilifu katika muundo uliofafanuliwa mapema. Hii huepuka kutotabirika kwa maandishi huru, huhakikisha sehemu thabiti, umbizo linaloweza kuthibitishwa na udanganyifu mdogo.
Mafunzo ya matokeo yenye muundo: Modeli imetumia takribani rekodi milioni 2.753 za data maalum ya urekebishaji unaosimamiwa, zilizoundwa upya kutoka seti 61 za data za umma zinazohusisha nyanja 19 na lugha 52. Hii huwezesha uwezo wa kutoa matokeo yenye muundo, ambapo wastani wa tokeni kadhaa tu hukamilisha mfululizo mzima wa uamuzi wa uainishaji wa nia＋uchimbaji wa vigezo.

Pata rasilimali: Pakua uzani wa modeli, hazina ya msimbo na seti za data zinazoambatana kutoka GitHub au HuggingFace.
Andaa mazingira: Weka picha rasmi ya uelekezaji, au fuata maelezo ya modeli ya msingi na utumie vLLM au SGLang kuunda huduma ya modeli.
Sakinisha SDK: Unganisha kupitia Python SDK inayotolewa na hazina, au ita API ya wingu ya mfumo wa Tianyi AI Open Platform bila kuhitaji uwekaji wa modeli.
Fafanua Schema ya biashara: Bainisha kategoria za nia zinazowezekana, maelezo ya kategoria na sehemu zinazoweza kuchotwa kwa kila kategoria.
Unda vidokezo: Tumia SDK kuunganisha ingizo la mtumiaji na Schema kuwa ombi linalotambuliwa na modeli.
Anzisha mwito: Tuma ombi kwa huduma ya modeli; modeli itatoa matokeo yenye muundo wa JSON yenye tokeni kadhaa.
Changanua matokeo: Soma nia na thamani za sehemu kulingana na muundo wa kategoria＋vigezo, na uthibitishe sehemu endapo kuna hitilafu.
Unganisha na biashara: Pitisha matokeo yenye muundo kwa mfumo wa chini kwa ajili ya utekelezaji; kwa shughuli nyeti, thibitisha ruhusa au pata uthibitisho wa mtumiaji kwanza.

Ujumuishaji wa utambuzi wa nia na uchimbaji wa vigezo: Modeli moja hukamilisha uainishaji wa nia na uchimbaji wa vigezo kwa pamoja, hivyo kupunguza kazi ya uchanganuzi inayojirudia katika mifumo ya chini.
Majibu ya haraka: Kwa wastani hutoa tokeni kadhaa tu, na muda wa majibu ya matokeo kamili uko katika kiwango cha mamia ya milisekunde, hivyo inafaa kwa mwingiliano wa mara kwa mara na wa wakati halisi.
Gharama ndogo ya mwito: Katika usanifu wa MoE, kila Token huwezesha takribani vigezo 4B tu. Ikilinganishwa na modeli kubwa za jumla, tofauti ya gharama hupungua mara kadhaa katika matukio yenye mamilioni ya miito kwa siku.
Matokeo thabiti na ya kuaminika: Matokeo yamebanwa kikamilifu ndani ya muundo wa JSON wa Schema iliyofafanuliwa mapema, hivyo sehemu ni thabiti na umbizo linaweza kuthibitishwa.
Uchanganuzi changamano wa nia nyingi: Inaunga mkono nia nyingi, vigezo vingi na huluki nyingi katika sentensi moja, na huzirejesha kwa pamoja kama safu ya JSON.
Umbizo moja kwa aina nne za kazi: Uelewa wa nia, utambuzi wa huluki, uchimbaji wa uhusiano na uchimbaji wa matukio hutumia umbizo moja la ”kategoria＋vigezo” la ingizo na towe, hivyo gharama ya uhamishaji kwa mifumo ya chini ni ndogo sana.

Hazina ya GitHub: https://github.com/XingChen-AGI/Xing4.0-29B-Intent
Hazina ya modeli ya HuggingFace: https://huggingface.co/XingChen-AGI/Xing4.0-29B-Intent

Huduma kwa wateja mahiri / uelekezaji wa tiketi: Hutambua nia ya mazungumzo ya mteja na kuchota taarifa muhimu, kisha hukamilisha kiotomatiki uainishaji na uelekezaji wa tiketi; imetumika katika huduma kwa wateja ya mawasiliano ya simu ya nambari nyingi.
Mwingiliano wa sauti wa vituo: Katika wasaidizi wa sauti, kokpiti mahiri, vituo vya udhibiti vya IoT na matukio mengine, huchanganua maagizo ya mazungumzo ya mtumiaji kuwa maagizo yenye muundo ya kudhibiti vifaa.
Roboti za IM za biashara: Katika hatua ya awali ya kuanzisha biashara, haihitaji data nyingi yenye lebo ili kujenga haraka uwezo wa utambuzi wa nia na uelekezaji wa maswali na majibu.
Safu ya kuingizia maana ya Agent / Function Calling: Hupatia mawakala mahiri uamuzi wa nia wenye udanganyifu mdogo na uchimbaji wa vigezo vya kuita vitendaji, hivyo kuunganisha lugha asilia na utekelezaji wa zana.
Uchimbaji wa taarifa wa kazi nyingi: Hukamilisha sambamba utambuzi wa huluki, uchimbaji wa uhusiano na uchimbaji wa matukio kutoka kwa sentensi moja, kwa mfano ”badilisha mkutano uwe Ijumaa alasiri, na uhamishe mahali uwe ghorofa ya tatu” → huchota kwa wakati mmoja mabadiliko ya muda na mahali.