Piccolo Inafanya kazi

Piccolo ni mfululizo wa modeli za kufanya maamuzi uliotolewa kwa chanzo huria na timu ya AgentScope ya Alibaba, ukiwa na ukubwa wa 27B, 9B na 4B. Piccolo inaweza kutoa moja kwa moja matokeo ya maamuzi yaliyopangwa na uwezekano, na inaweza kuunganishwa katika mtiririko wa kazi wa mawakala kwa ajili ya kuchagua zana, kutathmini ruhusa na kurejesha utendaji baada ya hitilafu. Inaweza kutumika katika uchakataji wa data na kufanya maamuzi ya wakati halisi kwenye michezo. Modeli ya 27B ilifikisha 92.21% kwenye JevBench Public na 68.59 kwenye Text Decision Index. Timu iliunda na kutoa kwa chanzo huria vigezo viwili vya majaribio vya matukio, HarnessJevBench na DataJevBench. Utafiti na uundaji wake hutumia mfumo wa kujiboresha kwa kujirudia, ambapo mawakala wa utafiti huchanganua maswali yaliyokosewa na kuboresha data ili kuwezesha maendeleo endelevu.

Kuchagua zana: Kulingana na kazi, ushahidi na vikwazo, huamua ni zana ipi itakayotumiwa kutoka kwa zana zinazopatikana, kwa mfano kuchagua mfumo wa maagizo wakati wa kuuliza tarehe ya uwasilishaji.
Uelekezaji wa modeli: Wakati modeli kadhaa zinaweza kukamilisha kazi, huchagua rasilimali ya utekelezaji kwa kuzingatia mambo kama bajeti.
Uchujaji wa muktadha na kumbukumbu: Huhifadhi taarifa muhimu na kuchuja maudhui yaliyopitwa na wakati au yasiyohusiana.
Tathmini ya ruhusa na uaminifu: Hufanya maamuzi ndani ya mipaka ya ruhusa, kwa mfano kuchagua kuhifadhi rasimu badala ya kuituma moja kwa moja ikiwa imepewa ruhusa ya kuhifadhi rasimu pekee.
Uthibitishaji wa ukamilishaji na urejeshaji baada ya hitilafu: Huendelea kuthibitisha wakati ushahidi hautoshi na huamua iwapo itajaribu tena wakati wa hitilafu za muda.
Maamuzi ya uchakataji wa data: Huamua mpangilio wa kusafisha na kuondoa nakala, huchagua mpango wa muhtasari, huomba taarifa za ziada wakati sehemu fulani zinakosekana, na huamua iwapo data inahitaji kutotambulisha taarifa kabla ya kutumwa nje.
Maamuzi ya wakati halisi kwenye michezo: Kulingana na picha ya mchezo, hutoa mwongozo wa kiwango cha vitufe kwa vitendo mfululizo kama kusogea, kushambulia na kukwepa, na kuauni michezo ya vitendo, mafumbo na ubao.

Fuata WeChat na ujibu “开源” ili ujiunge na kikundi cha majadiliano kuhusu miradi ya AI ya chanzo huria
Muundo wa kiolesura cha maamuzi: Piccolo ni kipengele maalumu cha kufanya maamuzi kinachopokea “hali, swali, chaguo” kama ingizo. Kupitia umakini wa prompt wa pande mbili, swali na chaguo hurejeleana, kisha uwezekano wa kila chaguo husomwa moja kwa moja kutoka kwa logits za tokeni za chaguo. Hutoa maamuzi yaliyopangwa ambayo programu inaweza kutumia moja kwa moja, bila kutoa maandishi yoyote ya kuzalisha wakati wa mchakato mzima. Kwa asili hutumia kituo cha mwisho /v1/systemone kinachooana na Jev, pamoja na mpangilio wa ingizo wa flex_twice ili kuboresha njia ya uelekezaji.
Uhandisi wa data uliounganishwa: Data ya mafunzo huanzia kwenye sampuli milioni 6.65 zilizokusanywa kutoka jumuiya ya chanzo huria, zinazojumuisha kazi za uainishaji, urejeshaji, hoja za kihisabati, tathmini ya mapendeleo na matumizi ya zana. Data yote hupangwa katika muundo wa maamuzi wa “hali, swali, chaguo, mgawanyo lengwa”, huku lebo ngumu na lebo laini zikitumia kiolesura kimoja cha usimamizi. Timu ilijenga mfumo wa lebo za kisemantiki wenye vipimo 13 vya uwekaji lebo na thamani 551 zilizofafanuliwa awali kwa msingi wa Data-Juicer. Data yote huondolewa nakala kabla ya kuingizwa kwenye hifadhi, na mwingiliano na vigezo vya tathmini hukaguliwa na kuondolewa ili kuhakikisha utengano kati ya mafunzo na tathmini.
Mzunguko wa kujiboresha kwa kujirudia: Utafiti na uundaji huendeshwa na mawakala wa utafiti, huku ishara kuu ikiwa ni hasara ya KL kwa kila swali. Baada ya kujumlisha data kwa vipande vya lebo za kisemantiki, data yenye upendeleo unaoendelea kuwa juu hukaguliwa upya, majibu hutafutwa katika nyenzo zinazofanana au michanganyiko zaidi ya masharti huundwa kwa kulenga. Sampuli zenye maudhui yanayofanana ambazo tayari zimejifunzwa vya kutosha hupunguzwa kwa sampuli au huhifadhiwa kama kumbukumbu wakilishi. Uwiano wa uteuzi, ukaguzi wa uandishi upya, uundaji lengwa na upunguzaji wa sampuli huunganishwa kuwa mipango mbalimbali ya majaribio. Uhandisi wa Data wa Kimaajenti hupanga mawakala wengi kufuata “kubuni mpango → kujenga jaribio → kupokea mrejesho wa matokeo → kusasisha utambuzi”. DataJuicer-Sandbox hupanga uchakataji wa data, mafunzo na tathmini kuwa mtiririko wa kazi unaoweza kutekelezwa, huku binadamu akiweka tu lengo, bajeti na wigo wa data.

Jaribio la mtandaoni: Tembelea tovuti rasmi https://decisionplayground.agentscope.io/ ili kujaribu moja kwa moja; hakuna upakuaji unaohitajika na unaweza kuona utendaji wa Piccolo katika kazi mbalimbali za kufanya maamuzi.
Pakua modeli: Kutoka Hugging Face, chagua kulingana na mahitaji yako uzani kamili wa 4B/9B/27B au GGUF katika viwango vitatu vya BF16, Q8_0 na Q4_K_M. Kwa GGUF, pakua vipande vyote kwenye saraka moja.
Endesha ndani ya kifaa: Sakinisha QwenPaw kutoka kwenye msimbo wa chanzo pamoja na runtime ya llama.cpp inayoendana na Piccolo. Katika Models → QwenPaw Local → Decision models, pakua GGUF na ubofye Start, kisha katika Default models thibitisha kuwa modeli chaguo-msingi ya maamuzi imeelekezwa kwake.
Washa ukaguzi wa kiotomatiki: Katika menyu ya modeli ya mazungumzo, washa Use decision model, kisha katika mipangilio ya uidhinishaji wa zana chagua Decision Model Mode. Piccolo itaweza kukagua kiotomatiki kila mwito wa zana, huku ikihifadhi uwezekano wa ukaguzi wa kibinadamu.
Washa ukandamizaji wa muktadha: Baada ya kuwasha Context Compaction, washa Decision Model Compaction. Piccolo itaamua ni matokeo yapi ya zana yenye uhusiano mdogo yanaweza kubanwa wakati muktadha unapokuwa na msongamano.
Unganisha kupitia API: Ili kuiweka kwenye mtiririko wako wa kazi uliotengenezwa mwenyewe, rejelea utekelezaji wa mfano wa uelekezaji katika saraka ya inference/ ya hifadhi na mfano wa ombi dogo katika examples/. Tumia kituo cha asili /v1/systemone, tuma ombi kwa muundo wa “hali, swali, chaguo”, kisha changanua maamuzi yaliyopangwa na uwezekano.
Tazama marudio ya maonyesho: Baada ya kuiga hifadhi, endesha Arena shirikishi katika arena/. Unaweza kusitisha, kuburuta na kutazama moja baada ya nyingine uwezekano wa chaguo za kila uamuzi katika marudio tisa yaliyohifadhiwa, yakiwemo mapambano ya 《绝区零》.

Chanzo huria kwa ukubwa wote na leseni rahisi: Modeli za 4B, 9B na 27B, pamoja na uzani wake wote, zimetolewa chini ya Apache-2.0. Pia hutolewa kwa uzani kamili na GGUF katika viwango vitatu, zikisaidia uwekaji wa kila aina kuanzia wingu hadi kifaa cha ndani.
Utendaji bora kwa ukubwa mdogo: 4B pekee inafikia 87.01% kwenye JevBench Public na 58.00 kwenye Decision Index, ikizidi kiwango cha 9B cha washindani wengi na kukidhi mahitaji ya miito ya mara kwa mara na yenye kuzingatia gharama ya modeli za maamuzi.
Matokeo bora ya tathmini: 27B ilifikisha 92.21% kwenye JevBench Public na 68.59 kwenye Decision Index. Katika ulinganisho wa modeli 11 wa timu, ilishika nafasi ya kwanza katika HarnessJevBench, DataJevBench na JevBench.
Kiolesura cha maamuzi chenye ucheleweshaji mdogo: Husoma moja kwa moja logits za tokeni za chaguo na kurudisha matokeo pamoja na uwezekano katika muundo uliopangwa. Kwa umakini wa pande mbili na mpangilio wa flex_twice, inafaa kiasili kwa hatua za kufanya maamuzi mara kwa mara ndani ya mtiririko wa kazi.
Muunganisho rahisi na mfumo ikolojia wa Alibaba: Modeli inasimamiwa kwenye ModelScope na tayari imeunganishwa kwenye tawi kuu la QwenPaw. Inaweza kuwezesha kwa mbofyo mmoja uidhinishaji wa zana kiotomatiki na ukandamizaji wa muktadha. Kwa kuwa ina chanzo kimoja na mfumo wa AgentScope, njia ya kuanza ni fupi.
Uhandisi wa stack nzima ulio wazi: Bomba la data la kujiboresha kwa kujirudia pamoja na vigezo vya matukio vya HarnessJevBench na DataJevBench vimetolewa kwa chanzo huria, hivyo jumuiya inaweza kuvizalisha upya na kuchangia.

Tovuti rasmi ya mradi: https://decisionplayground.agentscope.io/
Hifadhi ya GitHub: https://github.com/agentscope-ai/Piccolo

Uidhinishaji wa kiotomatiki wa zana za mawakala: Ikiunganishwa kwenye QwenPaw au runtime ya Agent iliyotengenezwa mwenyewe, hutathmini kila mwito wa zana, huruhusu shughuli za kusoma pekee na kuzuia amri hatari kama kufunika au kuandika data, hivyo kuchukua nafasi ya uidhinishaji wa kibinadamu wa kila kipengee.
Ukandamizaji wa muktadha na uchujaji wa kumbukumbu: Shinikizo la muktadha linapoongezeka, hutathmini ni ujumbe gani wa zamani na matokeo gani ya zana yenye uhusiano mdogo, kisha huamua kuyabana au kuyatupa huku ikihifadhi taarifa muhimu.
Maamuzi ya mtiririko wa kazi wa uchakataji wa data: Hufanya maamuzi katika hatua za kuingiza, kusafisha, kutotambulisha taarifa na kuwasilisha data, kama vile kuamua mpangilio wa kusafisha na kuondoa nakala, kuomba taarifa ya ziada wakati sehemu ya kodi inakosekana, na kuamua iwapo barua pepe inahitaji kutotambulishwa kabla ya kutumwa nje.
Ruhusa za mchakato wa biashara na uthibitishaji: Katika udhibiti wa utekelezaji wa Agent, huamua iwapo operesheni inazidi mamlaka, iwapo ushahidi wa kazi unatosha kutangaza kukamilika, na iwapo kujaribu tena wakati wa hitilafu ya muda.
Maamuzi ya wakati halisi katika michezo na mazingira shirikishi: Kulingana na picha ya mchezo, hutoa mwongozo wa vitendo wa kiwango cha vitufe kwa kusogeza, kushambulia na kukwepa wahusika, na pia inaweza kutumika katika michezo ya kimkakati kama Othello na Sokoban inayohitaji kutathmini hali ya ubao.