Muse Glimmer – Muundo mkubwa wa lugha wa Meta wenye vigezo bilioni 30, uliotolewa kama chanzo huria Inafanya kazi

Muse Glimmer ni muundo mkubwa wa lugha wa Meta wenye vigezo bilioni 30, ulioboreshwa mahususi kwa mtiririko wa kazi wa Agent anayeendesha ndani ya kifaa muda wote. Kupitia teknolojia ya quantization ya 4bit, muundo unaweza kuendesha kwa urahisi kwenye GPU moja yenye 24GB ya VRAM au Apple Silicon, huku upungufu wa utendaji wa uelekezaji ukiwa mdogo sana. Majaribio yanaonyesha kuwa muundo huu unaweza kushughulikia mazungumzo ya wakati halisi na mwingiliano wa mawakala kwenye RTX 5090, M4/M5 Max, na majukwaa mengine, huku teknolojia ya decoding ya kubashiri ya DFlash ikiwezesha kuongeza kasi hadi mara 3.1. Pia unaongoza washindani wa ukubwa sawa katika vigezo kadhaa kama MCP Atlas na SWE-Bench Pro.

Uelekezaji wa Agent ndani ya kifaa: Unaunga mkono uendeshaji wa chinichini muda wote na umeboreshwa mahususi kwa mtiririko wa kazi wa mawakala, ukiruhusu upangaji wa kazi tata bila kuhitaji muunganisho wa intaneti.
Utekelezaji bora wenye VRAM ndogo: Kwa kutumia quantization ya 4bit, muundo wenye vigezo 30B unaweza kuendesha ndani ya kifaa kwenye GPU moja yenye 24GB ya VRAM au Mac yenye 32GB ya kumbukumbu iliyounganishwa.
Mazungumzo ya mwingiliano wa wakati halisi: Kwenye M4 Max, M5 Max na PC za hali ya juu, huwezesha mazungumzo laini na majibu ya haraka ya Agent kwa mazingira yanayohitaji ucheleweshaji mdogo.
Aina nyingi za data na matumizi ya zana: Unaunga mkono majaribio ya mawakala kama MCP Atlas, pamoja na matumizi ya zana, uundaji wa msimbo na hoja za hatua nyingi.

Fuata akaunti ya WeChat na ujibu “开源” ili ujiunge na kikundi cha mawasiliano cha miradi ya AI ya chanzo huria
Muundo na ukubwa wa modeli: Muse Glimmer umejengwa kwa usanifu wa Transformer, ukiwa na jumla ya vigezo bilioni 30. Kupitia mafunzo ya baada ya uundaji na urekebishaji wa maagizo kwa kazi za Agentic, umeimarisha uwezo wake wa kutumia zana, kuunda msimbo na kufanya hoja za hatua nyingi.
Ukandamizaji wa quantization ya 4bit: Teknolojia ya quantization yenye biti chache hupunguza kwa kiasi kikubwa ukubwa wa muundo, na kufanya muundo wenye vigezo 30B kuendesha ndani ya kifaa kwenye GPU moja yenye 24GB ya VRAM au Mac yenye 32GB ya kumbukumbu iliyounganishwa. Majaribio yanaonyesha kuwa upungufu wa utendaji katika kazi za mawakala ni mdogo sana.
Decoding ya kubashiri ya DFlash: Muundo umeunganishwa na utaratibu wa decoding ya kubashiri unaotumia muundo wa rasimu kuzalisha tokeni mbadala kwa haraka, kisha muundo mkuu huzithibitisha kwa wakati mmoja. Kwenye RTX 5090, huongeza kasi hadi mara 3.1, na kasi ya decoding kufikia 233 tok/s.
Mfumo wa uelekezaji wa majukwaa mengi: Kwa Apple Silicon, muundo umebadilishwa kupitia ExecuTorch; kwa GPU za NVIDIA, umebadilishwa kupitia llama.cpp, ili kuhakikisha uzoefu thabiti na bora wa uelekezaji wa ndani kwenye majukwaa mbalimbali ya maunzi.

Maandalizi ya mazingira: Hakikisha kifaa chako kina GPU ya NVIDIA yenye zaidi ya 24GB ya VRAM, au Mac ya Apple Silicon yenye 32GB ya kumbukumbu iliyounganishwa (M4/M5 Max inapendekezwa).
Pakua uzani wa modeli: Tembelea hazina ya Hugging Face meta-models/Muse-Glimmer-30B na upakue faili za modeli ya quantization ya 4bit pamoja na faili za usanidi.
Chagua mfumo: Watumiaji wa NVIDIA wapakie modeli kupitia llama.cpp; watumiaji wa Apple Silicon watumie ExecuTorch kwa utendaji bora zaidi.
Anzisha uelekezaji: Tumia kiolesura cha ndani kinachoendana kupakia modeli, kisha washa decoding ya kubashiri ya DFlash ili kupata kasi ya juu zaidi ya uelekezaji.
Unganisha mtiririko wa kazi wa Agent: Tumia itifaki ya MCP au API ya ndani kuunganisha modeli kwenye hifadhidata ya maarifa binafsi, hazina za msimbo na mnyororo wa zana, ili kutekeleza kazi za kiotomatiki zinazoendelea chinichini.

Utendaji bora kabisa wa ndani: Baada ya quantization ya 4bit, upungufu wa utendaji ni mdogo sana. Katika kazi kama SWE-Bench Pro na DeepSearch QA, unawazidi kwa kiasi kikubwa Gemma4-31B na Qwen3.6-27B.
Mahitaji nafuu ya maunzi: Unavunja kizuizi cha VRAM katika utekelezaji wa ndani wa miundo mikubwa, kwani VRAM ya 24GB inaweza kuendesha modeli yenye vigezo 30B, na hivyo kupunguza gharama kwa wasanidi binafsi na biashara ndogo na za kati.
Ongezeko kubwa la kasi ya uelekezaji: Ukiwa na decoding ya kubashiri ya DFlash, kasi ya decoding kwenye RTX 5090 huongezeka kutoka 74.9 tok/s hadi 233 tok/s, sawa na kuongeza kasi mara 3.1.
Usalama na udhibiti: Hesabu hufanyika 100% ndani ya kifaa, bila data kutoka nje. Katika jaribio la usalama la Siren AgentDojo, kiwango cha mashambulizi yaliyofanikiwa ni cha chini kuliko cha washindani, hivyo kuunganisha utendaji na faragha.

Maktaba ya modeli ya HuggingFace: https://huggingface.co/meta-models/Muse-Glimmer-30B

Msaidizi wa AI wa ndani: Kama Agent binafsi anayeendesha chinichini muda wote, hushughulikia usimamizi wa ratiba, uandishi wa rasimu za barua pepe, ukaguzi wa msimbo na kazi nyingine za kila siku bila kutegemea API za wingu.
Sekta zinazohitaji faragha: Unafaa kwa maeneo kama afya, fedha na sheria yenye mahitaji makubwa sana ya utiifu wa data, huku ukihakikisha kuwa data muhimu inabaki 100% ndani ya kifaa.
Mnyororo wa zana za wasanidi: Unganisha kwenye IDE au terminal ili kutoa ukamilishaji wa msimbo nje ya mtandao, uundaji wa majaribio ya kiotomatiki na uelewaji wa msimbo wa kiwango cha hazina, ukiunga mkono kazi za uhandisi wa programu za kiwango cha SWE-Bench.
Utekelezaji kwenye vifaa vya ukingoni: Endesha kwenye vituo vya kazi vyenye VRAM ya 24GB+ au Mac zenye utendaji wa juu, na kuzipa timu ndogo na za kati uwezo wa AI wa kiwango cha biashara kwa gharama nafuu.