Muse Spark Open চালু আছে

Muse Spark Open হলো Meta-এর ওপেন-সোর্স করা মাল্টিমোডাল বৃহৎ ভাষা মডেল। এটি স্পার্স Mixture-of-Experts আর্কিটেকচার ব্যবহার করে, যার মোট প্যারামিটার ৮১৬০ বিলিয়ন এবং প্রতি ইনফারেন্সে সক্রিয় প্যারামিটার ৪২০ বিলিয়ন। এটি ১০ লক্ষ Token কনটেক্সট সমর্থন করে এবং টেক্সট, ছবি, ভিডিও ও অডিও প্রক্রিয়া করতে পারে। এর প্রধান লক্ষ্য প্রোগ্রামিং ও Agent কাজ। MLX ফ্রেমওয়ার্কের ভিত্তিতে Muse Spark Open দুটি M5 Ultra Mac Studio-তে স্থানীয়ভাবে চালানো যায়। তবে সামগ্রিক ও প্রোগ্রামিং সক্ষমতায় এটি MiMo-V2.6-Pro, GLM-5.3 এবং Kimi K3-এর মতো কয়েকটি চীনা ওপেন-সোর্স মডেলের তুলনায় আপাতত পিছিয়ে।

দীর্ঘ কনটেক্সট বোঝাপড়া: ১০ লক্ষ Token কনটেক্সট উইন্ডো সমর্থন করে, ফলে একবারে দীর্ঘ নথি ও কোডবেস প্রক্রিয়া করা যায়।
নেটিভ মাল্টিমোডাল প্রক্রিয়াকরণ: টেক্সট, ছবি, ভিডিও ও অডিও, এই চার ধরনের ইনপুট গ্রহণ ও বুঝতে পারে।
প্রোগ্রামিং সক্ষমতা: Bug ঠিক করা, ফিচার যোগ করা এবং প্রজেক্ট বিল্ড সম্পন্ন করতে পারে; জটিল সফটওয়্যার ইঞ্জিনিয়ারিং কাজের জন্য উপযোগী।
Agent কাজ সম্পাদন: দীর্ঘ সময় ধরে স্বয়ংক্রিয়ভাবে বহু-ধাপের রিজনিং কাজ সম্পন্ন করতে পারে, যেমন DaVinci Resolve পরিচালনা করে ভিডিও এডিট করা।
ডেস্কটপে স্থানীয়ভাবে চালানো: MLX ফ্রেমওয়ার্কের অপ্টিমাইজেশনের মাধ্যমে দুটি M5 Ultra Mac Studio-তে সম্পূর্ণ মডেল স্থানীয়ভাবে চালানো যায়।
বহু ফ্রেমওয়ার্ক ও চিপ সমর্থন: SGLang, vLLM, llama.cpp-এর মতো প্রধান ইনফারেন্স ফ্রেমওয়ার্ক সমর্থন করে এবং NVIDIA, AMD, Apple ও Intel চিপের সঙ্গে সামঞ্জস্যপূর্ণ।
ক্লাউড API ব্যবহার: OpenRouter, Groq, Together AI-এর মতো প্ল্যাটফর্মে API হিসেবে ব্যবহার করা যায়।

WeChat-এ ফলো করে “开源” লিখে উত্তর পাঠান, AI ওপেন-সোর্স প্রজেক্ট গ্রুপে যোগ দিন
স্পার্স Mixture-of-Experts (MoE) আর্কিটেকচার: মডেলটির মোট প্যারামিটার ৮১৬০ বিলিয়ন, কিন্তু প্রতিটি ইনফারেন্সে মাত্র প্রায় ৪২০ বিলিয়ন প্যারামিটার সক্রিয় হয়। রাউটিং প্রক্রিয়ার মাধ্যমে প্রতিটি Token অল্পসংখ্যক Expert নেটওয়ার্কে পাঠানো হয়। এতে মডেলের সক্ষমতা বজায় রেখেই গণনাগত ব্যয় উল্লেখযোগ্যভাবে কমে, ফলে সীমিত হার্ডওয়্যারে অতি-বৃহৎ মডেল চালানো সম্ভব হয়।
মিলিয়ন-স্তরের কনটেক্সট উইন্ডো: দক্ষ দীর্ঘ-সিকোয়েন্স প্রক্রিয়াকরণ প্রযুক্তি ব্যবহার করে কনটেক্সট উইন্ডো ১০ লক্ষ Token পর্যন্ত বাড়ানো হয়েছে। এতে মডেল একবারে দীর্ঘ কোডবেস, একাধিক নথি বা দীর্ঘ ভিডিওর তথ্য গ্রহণ করতে পারে এবং দীর্ঘমেয়াদি কাজের “স্মৃতি” চাহিদা পূরণ করে।
ইউনিফায়েড মেমরি আর্কিটেকচারে বিতরণকৃত ইনফারেন্স: Apple M5 Ultra-এর ইউনিফায়েড মেমরি আর্কিটেকচার প্রতিটি Mac Studio-এর ইন্টিগ্রেটেড GPU-কে সর্বোচ্চ 512GB মেমরি ব্যবহারের সুযোগ দেয়। দুটি ডিভাইসে মোট প্রায় 1TB মেমরি এবং 1.2TB/s মেমরি ব্যান্ডউইডথ পাওয়া যায়। নতুন MLX ফ্রেমওয়ার্কের সাহায্যে দুটি ডিভাইস একটি সুপারকম্পিউটারের মতো সমন্বিতভাবে কাজ করতে পারে এবং ৮১৬০ বিলিয়ন প্যারামিটারের সম্পূর্ণ মডেল ধারণ করতে পারে।
কাস্টম GPU কার্নেল ত্বরণ: Meta SGLang-এর জন্য স্বয়ংক্রিয়ভাবে অপ্টিমাইজ হওয়া কাস্টম Helion GPU কার্নেল সরবরাহ করেছে। এটি NVIDIA ও AMD GPU-তে কার্নেল-স্তরে 1.03–3.95 গুণ ত্বরণ দেয় এবং AMD MI350-এ প্রান্ত-থেকে-প্রান্ত কর্মক্ষমতা প্রায় 3% বাড়ায়।

অ্যাক্সেসের মাধ্যম: OpenRouter বা Together AI-এর মতো প্ল্যাটফর্মের API-এর মাধ্যমে সরাসরি মডেল কল করুন।
মডেল ওজন ডাউনলোড: স্থানীয়ভাবে ডিপ্লয় করতে চাইলে Hugging Face থেকে ওপেন ওজন ডাউনলোড করুন।
ইনফারেন্স ফ্রেমওয়ার্ক নির্বাচন: হার্ডওয়্যার পরিবেশ অনুযায়ী SGLang, vLLM, TensorRT-LLM, Hugging Face Transformers, Apple MLX, llama.cpp বা Unsloth-এর মতো ফ্রেমওয়ার্ক বেছে নিয়ে মডেল লোড করুন।
হার্ডওয়্যার প্রস্তুত: ক্লাউডে NVIDIA বা AMD GPU ব্যবহার করুন; স্থানীয় ডেস্কটপে দুটি M5 Ultra চিপের Mac Studio দিয়ে সম্পূর্ণ মডেল চালানো যায়।
কল করার কোড লিখুন: PyTorch-এর মতো ফ্রেমওয়ার্ক ব্যবহার করে ইনফারেন্স স্ক্রিপ্ট লিখুন, টেক্সট, ছবি, ভিডিও বা অডিও প্রম্পট ইনপুট দিন এবং ১০ লক্ষ Token-এর মধ্যে কনটেক্সট নির্ধারণ করুন।
Agent কাজ সম্পাদন: API বা স্থানীয় রানটাইমের মাধ্যমে প্রোগ্রামিং, ভিডিও এডিটিংয়ের মতো বহু-ধাপের Agent ওয়ার্কফ্লো চালান।

বৃহৎ পরিসর: মোট ৮১৬০ বিলিয়ন প্যারামিটার এবং প্রতি ইনফারেন্সে মাত্র ৪২০ বিলিয়ন সক্রিয় প্যারামিটার; এটি এখন পর্যন্ত Meta-এর সবচেয়ে শক্তিশালী মার্কিন ওপেন-ওয়েট মডেল।
দীর্ঘ কনটেক্সট: ১০ লক্ষ Token কনটেক্সট উইন্ডো সমর্থন করে এবং একবারে দীর্ঘ নথি ও বড় কোডবেস প্রক্রিয়া করতে পারে।
নেটিভ মাল্টিমোডাল: টেক্সট, ছবি, ভিডিও ও অডিও একসঙ্গে প্রক্রিয়া করতে পারে এবং ভিডিও এডিটিংয়ের মতো মাল্টিমোডাল টুল সরাসরি চালাতে পারে।
ডেস্কটপে স্থানীয়ভাবে চালানো যায়: MLX ফ্রেমওয়ার্কের অপ্টিমাইজেশনের মাধ্যমে দুটি M5 Ultra Mac Studio-তে সম্পূর্ণ মডেল চালানো যায় এবং Agent ওয়ার্কফ্লো স্থানীয় পরিবেশে আনা যায়।
উন্মুক্ত ইকোসিস্টেম: ওজন সম্পূর্ণ উন্মুক্ত; SGLang, vLLM, llama.cpp-সহ সাতটি প্রধান ফ্রেমওয়ার্ক সমর্থন করে এবং NVIDIA, AMD, Apple ও Intel চিপের সঙ্গে সামঞ্জস্যপূর্ণ।
উচ্চমাত্রায় কাস্টমাইজযোগ্য: ডেভেলপাররা PyTorch-এর ভিত্তিতে মডেলটি Fine-tune ও পুনরায় উন্নয়ন করতে পারেন।

প্রজেক্টের অফিসিয়াল ওয়েবসাইট：https://dev.meta.ai/resources/blog/build-with-muse-spark-open
HuggingFace মডেল রিপোজিটরি：https://huggingface.co/collections/meta-models/muse-spark-open

iOS ডেভেলপমেন্ট ও রক্ষণাবেক্ষণ: ওপেন-সোর্স ক্লায়েন্ট Ice Cubes-এর Bug ঠিক করা, নতুন ফিচার যোগ করা এবং প্রজেক্ট বিল্ড সম্পন্ন করা।
ভিডিও পোস্ট-প্রোডাকশন: DaVinci Resolve পরিচালনা করে ফুটেজ ফ্রেম ধরে পরীক্ষা করা, সেরা অংশ বাছাই করা এবং উল্লম্ব ভিডিও হিসেবে ক্রপ করা।
বড় কোডবেস পর্যালোচনা: ১০ লক্ষ Token কনটেক্সট ব্যবহার করে একবারে সম্পূর্ণ কোড রিপোজিটরির কাঠামো ও সমস্যা বিশ্লেষণ করা।
দীর্ঘ নথি প্রক্রিয়াকরণ: একবারে শত-পৃষ্ঠার রিপোর্ট বা গবেষণাপত্র পড়ে সারসংক্ষেপ, প্রশ্নোত্তর ও তুলনামূলক বিশ্লেষণ করা।
মাল্টিমোডাল উপাদান বোঝাপড়া: টেক্সট, ছবি, ভিডিও ও অডিও একসঙ্গে বিশ্লেষণ করে সমন্বিত কনটেন্ট পর্যালোচনা বা বিশ্লেষণে ব্যবহার করা।