Muse Spark Open Inafanya kazi

Muse Spark Open ni modeli kubwa ya multimodali ya Meta yenye chanzo huria, inayotumia usanifu wa wataalamu mchanganyiko wa sparsity, ikiwa na jumla ya vigezo bilioni 816 na vigezo bilioni 42 vinavyoamilishwa kwa kila uendeshaji wa utabiri. Inaauni muktadha wa Token milioni 1 na inaweza kuchakata maandishi, picha, video na sauti, huku ikilenga hasa upangaji programu na kazi za Agent. Muse Spark Open, kwa kutumia mfumo wa MLX, inaweza kuendeshwa ndani ya nchi kwenye kompyuta mbili za M5 Ultra Mac Studio. Uwezo wake wa jumla na wa upangaji programu kwa sasa uko nyuma ya miundo kadhaa ya chanzo huria ya China, kama vile MiMo-V2.6-Pro, GLM-5.3 na Kimi K3.

Uelewa wa muktadha mrefu sana: Inaauni dirisha la muktadha la Token milioni 1, hivyo inaweza kuchakata nyaraka na hifadhidata kubwa za msimbo kwa wakati mmoja.
Uchakataji wa asili wa multimodali: Inaweza kupokea na kuelewa pembejeo za maandishi, picha, video na sauti.
Uwezo wa upangaji programu: Inaweza kurekebisha hitilafu, kuongeza vipengele na kukamilisha ujenzi wa miradi, hivyo kufaa kwa kazi changamano za uhandisi wa programu.
Utekelezaji wa kazi za Agent: Inaweza kutekeleza kwa kujitegemea kazi za hatua nyingi za kufikiri kwa muda mrefu, kama kutumia DaVinci Resolve kukamilisha uhariri wa video.
Uendeshaji wa ndani kwenye kompyuta za mezani: Baada ya kuboreshwa kupitia mfumo wa MLX, inaweza kuendesha modeli kamili ndani ya nchi kwenye kompyuta mbili za M5 Ultra Mac Studio.
Uoanifu na mifumo na chipsi nyingi: Inaauni mifumo maarufu ya uendeshaji wa utabiri kama SGLang, vLLM na llama.cpp, na inaoana na chipsi za NVIDIA, AMD, Apple na Intel.
Wito wa API wa wingu: Inaweza kutumiwa kupitia API kwenye majukwaa kama OpenRouter, Groq na Together AI.

Fuata WeChat na ujibu “开源” ili kujiunga na kikundi cha mawasiliano cha miradi ya AI yenye chanzo huria
Usanifu wa wataalamu mchanganyiko wa sparsity (MoE): Jumla ya vigezo vya modeli ni bilioni 816, lakini ni takribani vigezo bilioni 42 pekee vinavyoamilishwa katika kila uendeshaji wa utabiri. Kwa kutumia utaratibu wa uelekezaji, kila Token hugawiwa kwa mitandao michache ya wataalamu ili kuchakatwa. Hii hudumisha uwezo wa modeli huku ikipunguza kwa kiasi kikubwa gharama ya hesabu, na kufanya iwezekane kuendesha modeli kubwa sana kwenye maunzi yenye mipaka.
Dirisha la muktadha la kiwango cha milioni: Kwa kutumia teknolojia bora ya kuchakata mfuatano mrefu, dirisha la muktadha limepanuliwa hadi Token milioni 1. Hivyo modeli inaweza kujumuisha kwa wakati mmoja hifadhidata ndefu za msimbo, nyaraka nyingi au taarifa za video ndefu, na kukidhi mahitaji ya “kumbukumbu” katika kazi za muda mrefu.
Utabiri uliosambazwa chini ya usanifu wa kumbukumbu ya pamoja: Usanifu wa kumbukumbu ya pamoja wa Apple M5 Ultra huruhusu GPU iliyounganishwa ya kila Mac Studio kutumia hadi 512GB ya kumbukumbu. Vifaa viwili kwa pamoja vina takribani 1TB, huku kipimo data cha kumbukumbu kikiwa 1.2TB/s. Kwa msaada wa toleo jipya la mfumo wa MLX, vifaa viwili vinaweza kufanya kazi kwa ushirikiano kama kompyuta moja kuu na kuhifadhi modeli kamili yenye vigezo bilioni 816.
Uharakishaji kupitia kokwa maalum za GPU: Meta imeipatia SGLang kokwa maalum za Helion GPU zinazoweza kuboresha mipangilio kiotomatiki. Hizi hutoa uharakishaji wa kiwango cha kokwa wa mara 1.03–3.95 kwenye GPU za NVIDIA na AMD, na kuongeza utendaji wa mwisho hadi mwisho kwa takribani 3% kwenye AMD MI350.

Upatikanaji wa huduma: Ita moja kwa moja modeli kupitia API za majukwaa kama OpenRouter au Together AI.
Pakua uzani wa modeli: Kwa uwekaji wa ndani, nenda Hugging Face kupakua uzani ulio wazi.
Chagua mfumo wa uendeshaji wa utabiri: Kulingana na mazingira ya maunzi, tumia SGLang, vLLM, TensorRT-LLM, Hugging Face Transformers, Apple MLX, llama.cpp au Unsloth kupakia modeli.
Andaa mazingira ya maunzi: Kwa wingu, tumia GPU za NVIDIA au AMD; kwenye kompyuta ya mezani ya ndani, kompyuta mbili za M5 Ultra Mac Studio zinaweza kuendesha modeli kamili.
Andika msimbo wa wito: Tumia mifumo kama PyTorch kuandika hati ya utabiri, ingiza vidokezo vya maandishi, picha, video au sauti, na weka maudhui ya muktadha ndani ya Token milioni 1.
Tekeleza kazi za Agent: Tumia API au uendeshaji wa ndani kuendesha mtiririko wa kazi wa Agent wa hatua nyingi, kama upangaji programu na uhariri wa video.

Kiwango kikubwa: Ina jumla ya vigezo bilioni 816, huku kila uendeshaji wa utabiri ukiamilisha vigezo bilioni 42 pekee. Ni modeli yenye uzani ulio wazi yenye nguvu zaidi ya Meta nchini Marekani hadi sasa.
Muktadha mrefu sana: Inaauni dirisha la muktadha la Token milioni 1, na inaweza kuchakata nyaraka ndefu na hifadhidata kubwa za msimbo kwa wakati mmoja.
Multimodali asilia: Huchakata kwa pamoja maandishi, picha, video na sauti, na inaweza kuendesha moja kwa moja zana za multimodali kama uhariri wa video.
Inaweza kuendeshwa ndani ya nchi kwenye kompyuta ya mezani: Baada ya kuboreshwa kupitia mfumo wa MLX, inaweza kuendeshwa kikamilifu kwenye kompyuta mbili za M5 Ultra Mac Studio, na kuhamisha mtiririko wa kazi wa Agent hadi kwenye mazingira ya ndani.
Ekolojia iliyo wazi: Uzani umefunguliwa kikamilifu, inaunga mkono mifumo saba mikuu kama SGLang, vLLM na llama.cpp, na inaendana na chipsi za NVIDIA, AMD, Apple na Intel.
Uwezo mkubwa wa kubinafsisha: Waendelezaji wanaweza kutumia PyTorch kufanya urekebishaji maalum na uendelezaji zaidi wa modeli.

Tovuti rasmi ya mradi: https://dev.meta.ai/resources/blog/build-with-muse-spark-open
Mkusanyiko wa modeli wa HuggingFace: https://huggingface.co/collections/meta-models/muse-spark-open

Uendelezaji na matengenezo ya iOS: Kurekebisha hitilafu, kuongeza vipengele vipya na kukamilisha ujenzi wa mradi wa mteja wa chanzo huria Ice Cubes.
Uhariri wa video wa baada ya utayarishaji: Kutumia DaVinci Resolve kukagua nyenzo fremu kwa fremu, kuchagua vipande bora na kuvipunguza kuwa video ya wima.
Ukaguzi wa hifadhidata kubwa za msimbo: Kutumia muktadha wa Token milioni 1 kuchanganua muundo na matatizo ya hazina nzima ya msimbo kwa wakati mmoja.
Uchakataji wa nyaraka ndefu sana: Kuingiza kwa wakati mmoja ripoti au makala za utafiti zenye mamia ya kurasa kwa ajili ya muhtasari, maswali na majibu, pamoja na ulinganishaji wa taarifa.
Uelewa wa nyenzo za multimodali: Kuchanganua kwa pamoja maudhui ya maandishi, picha, video na sauti kwa ajili ya ukaguzi au uchanganuzi wa maudhui kwa kina.