LFM2.5-24B-A2B চালু আছে

LFM2.5-24B-A2B হলো Liquid AI-এর প্রকাশিত ওপেন-ওয়েট রিজনিং মডেল এবং LFM2.5 সিরিজের ফ্ল্যাগশিপ। এতে মোট 24B প্যারামিটার রয়েছে, তবে প্রতি টোকেনে মাত্র 2.45B সক্রিয় হয়। 40-স্তরীয় MoE আর্কিটেকচারটি 131K কনটেক্সট ও 16টি ভাষা সমর্থন করে। উত্তর দেওয়ার আগে LFM2.5-24B-A2B-কে অবশ্যই চিন্তার ধারা তৈরি করতে হয়। এটি ডিভাইস-ভিত্তিক Agent-এর জন্য বিশেষভাবে অপ্টিমাইজ করা হয়েছে। LiveClaw-এ এর স্কোর 48.09, যা 50% বেশি প্যারামিটারের Qwen3.6-35B-A3B-কে ছাড়িয়ে যায়। M5 Max-এ ডিকোডিং গতি 184 tok/s, যা একই শ্রেণির MoE মডেলগুলোর মধ্যে সর্বোচ্চ গতির চেয়ে 1.7 গুণ বেশি। স্থানীয় ব্যক্তিগত স্থাপনার রিজনিং ও টুল কলিংয়ের জন্য এটি উপযোগী; জ্ঞান-নির্ভর কাজে রিট্রিভালের সঙ্গে ব্যবহার করার পরামর্শ দেওয়া হয়।

ডিভাইস-ভিত্তিক Agent রিজনিং: ব্যক্তিগত ডিভাইসে দ্রুত ও গোপনীয়ভাবে চলা বুদ্ধিমান Agent-এর জন্য বিশেষভাবে তৈরি।
শুধু রিজনিং মোড: উত্তর দেওয়ার আগে স্বয়ংক্রিয়ভাবে দৃশ্যমান চিন্তার ধারা তৈরি করে এবং কম সক্রিয়করণ ব্যয়ে উত্তরের মান বজায় রাখে।
ফাংশন কলিং: চার ধাপের টুল কলিং প্রক্রিয়া নেটিভভাবে সমর্থন করে এবং OpenClaw, Hermes Agent, Pi, OpenCode-এর মতো ফ্রেমওয়ার্কে সরাসরি যুক্ত করা যায়।
বহু ফরম্যাটে স্থাপনা: নেটিভ, FP8, GGUF, ONNX, MLX-4bitসহ বিভিন্ন সংস্করণ রয়েছে, যা GPU, CPU, Apple Silicon এবং এজ ডিভাইস সমর্থন করে।
দীর্ঘ কনটেক্সট প্রক্রিয়াকরণ: 131,072 tokens কনটেক্সট সমর্থন করে এবং দীর্ঘ নথি ও বহু-পালা Agent ট্রাজেক্টরি প্রক্রিয়া করতে পারে।
বহুভাষিক সক্ষমতা: ইংরেজি, চীনা, জাপানি, কোরিয়ান, আরবি-সহ 16টি ভাষা সমর্থন করে; 128K ভোকাবুলারি অ-লাতিন ভাষার টোকেনাইজেশন উন্নত করে।
দ্রুত রিজনিং: Apple M5 Max-এ 184 tok/s, একই শ্রেণির MoE মডেলের তুলনায় সর্বোচ্চ 1.7 গুণ দ্রুত; একক B300-এ 21K tok/s-এর বেশি।

WeChat-এ ফলো করে “开源” লিখে উত্তর দিন, AI ওপেন-সোর্স প্রকল্পের আলোচনাগোষ্ঠীতে যোগ দিন
MoE স্পার্স অ্যাক্টিভেশন আর্কিটেকচার: মডেলটিতে মোট 24B প্যারামিটার রয়েছে, তবে প্রতিটি MoE ব্লকে 64টি বিশেষজ্ঞ থাকে। রিজনিংয়ের সময় top-4 রাউটিংয়ের মাধ্যমে মাত্র 4টি সক্রিয় হয়, ফলে প্রতি টোকেনে প্রকৃত গণনার পরিমাণ মাত্র 2.45B প্যারামিটার। এটিই “বড় সক্ষমতা, কম গণনা ব্যয়”-এর মূল ভিত্তি। মডেলটি সব জ্ঞান সংরক্ষণ করে, কিন্তু প্রতিটি ফরোয়ার্ড ধাপে তার একটি ছোট অংশ ব্যবহার করে। তাই একই মোট প্যারামিটারের মডেলের তুলনায় রিজনিংয়ের খরচ অনেক কম হয়।
মিশ্র স্তর নকশা: কনভলুশন + GQA-ভিত্তিক 40-স্তরের নেটওয়ার্কটি 30টি “ডুয়াল-গেটেড শর্ট কনভলুশন ব্লক” এবং 10টি GQA স্তর নিয়ে গঠিত। শর্ট কনভলুশন স্থানীয় সিকোয়েন্স বৈশিষ্ট্য দ্রুত সংগ্রহ করে, আর অ্যাটেনশন স্তর দীর্ঘ-দূরত্বের নির্ভরতা মডেল করে। দুটির পর্যায়ক্রমিক ব্যবহার মডেলকে লিনিয়ার স্তরের দক্ষ গণনা বজায় রেখেও দীর্ঘ কনটেক্সট সক্ষমতা দেয়। এটাই এজ ডিভাইসে LFM আর্কিটেকচারের উচ্চ গতি ও কম মেমরি ব্যবহারের কাঠামোগত ভিত্তি।
ভোকাবুলারি ইন-প্লেস সম্প্রসারণ ও দীর্ঘ কনটেক্সট প্রশিক্ষণ: পূর্ববর্তী LFM2-24B-A2B-এর মূল আর্কিটেকচার বজায় রেখে ইন-প্লেস tokenizer সম্প্রসারণের মাধ্যমে ভোকাবুলারি 65K থেকে দ্বিগুণ করে 128K করা হয়েছে। এতে চীনা, জাপানি প্রভৃতি অ-লাতিন ভাষায় token দক্ষতা উল্লেখযোগ্যভাবে উন্নত হয়েছে। কনটেক্সট উইন্ডো 32K থেকে বাড়িয়ে 131K করা হয়েছে এবং 300B tokens দীর্ঘ কনটেক্সটের বিশেষ মধ্যবর্তী প্রশিক্ষণের মাধ্যমে মডেলটি স্থিতিশীল দীর্ঘ-সিকোয়েন্স প্রক্রিয়াকরণ সক্ষমতা অর্জন করেছে।
তিন ধাপের প্রশিক্ষণ প্রক্রিয়া: প্রি-ট্রেনিংয়ে প্রায় 33T tokens ব্যবহার করা হয়। মধ্যবর্তী প্রশিক্ষণে প্রথমে 32K কনটেক্সটে 2T tokens উচ্চমানের ডেটা দিয়ে রিজনিং, গণিত, কোড এবং নির্দেশনা অনুসরণের সক্ষমতা উন্নত করা হয়; 131K কনটেক্সটে 300B tokens দিয়ে দীর্ঘ পাঠ্য প্রক্রিয়াকরণে বিশেষ মনোযোগ দেওয়া হয়। উভয় ধাপেই টুল কলিং ও বহু-পালা মিথস্ক্রিয়ার ডেটা যুক্ত করা হয়। পোস্ট-ট্রেনিংয়ে SFT→শিক্ষক বিশেষায়ন→নন-Agent ও Agent—দুই রাউন্ডের বহু-ডোমেইন একই-নীতি ডিস্টিলেশন→OpenClaw, Hermes-এর মতো বাস্তব Agent ফ্রেমওয়ার্কে রিইনফোর্সমেন্ট লার্নিং—এই পাঁচ ধাপের পাইপলাইন ব্যবহার করা হয়, যাতে মডেল বাস্তব টুল পরিবেশে সত্যিকার অর্থে “চিন্তা-করা-কল-করা-যাচাই-করা” শিখতে পারে।

মডেল সংগ্রহ: Hugging Face থেকে LiquidAI/LFM2.5-24B-A2B ডাউনলোড করুন এবং হার্ডওয়্যার অনুযায়ী নেটিভ BF16, FP8, GGUF, ONNX অথবা MLX-4bit সংস্করণ বেছে নিন।
পরিবেশ ইনস্টল: Python পরিবেশে transformers>=5.0.0 ইনস্টল আছে কিনা নিশ্চিত করুন, অথবা vLLM, SGLang, llama.cpp, LM Studio-এর মতো রিজনিং ফ্রেমওয়ার্ক স্থাপন করুন।
মডেল লোড: AutoModelForCausalLM.from_pretrained() ব্যবহার করে bfloat16 নির্ভুলতায় মডেল লোড করুন।
প্রম্পট তৈরি: tokenizer.apply_chat_template() ব্যবহার করে স্বয়ংক্রিয়ভাবে ChatML ফরম্যাটের টেমপ্লেট প্রয়োগ করে কথোপকথন ফরম্যাট করুন।
প্যারামিটার সেটিং: জেনারেশনের সময় অফিসিয়ালভাবে প্রস্তাবিত temperature=0.1, top_k=50, repetition_penalty=1.05 ব্যবহার করুন। চিন্তার ধারা-ভিত্তিক কাজে max_new_tokens 4096 বা তার বেশি সেট করা যেতে পারে।
টুল কলিং কনফিগার: টুলের তালিকা JSON ফরম্যাটে system prompt-এ লিখুন। মডেল <|tool_call_start|> চিহ্ন ব্যবহার করে ফাংশন কল আউটপুট দেবে; সম্পাদনের পর tool ভূমিকা ব্যবহার করে ফলাফল ফেরত দিন।
Agent ফ্রেমওয়ার্কে যুক্ত করা: OpenAI-সামঞ্জস্যপূর্ণ ইন্টারফেসের মাধ্যমে স্থানীয়ভাবে পরিষেবা চালু করুন, তারপর OpenClaw, Hermes Agent, Pi অথবা OpenCode-এর মতো Agent ফ্রেমওয়ার্কে যুক্ত করুন।

চরম দক্ষতা: মোট 24B প্যারামিটারের মধ্যে মাত্র 2.45B সক্রিয় হয়। Apple M5 Max-এ 184 tok/s গতি পাওয়া যায়, যা একই শ্রেণির MoE মডেলগুলোর তুলনায় সর্বোচ্চ 1.7 গুণ দ্রুত এবং মেমরি ব্যবহারও কম।
ছোট দিয়ে বড়কে পরাজিত: Agent ও টুল বেঞ্চমার্কে 50% বেশি প্যারামিটারের Qwen3.6-35B-A3B-এর সমকক্ষ। LiveClaw-এ 48.09 বনাম 38.19, আর AutomationBench-এ দ্বিতীয় স্থানের চেয়ে 3 গুণ বেশি।
সম্পূর্ণ রিজনিং: বিশুদ্ধ চিন্তার ধারা-ভিত্তিক মডেলটি আগে চিন্তা করে, পরে উত্তর দেয়; কম সক্রিয়করণ ব্যয়ের কারণে প্রতিটি রিজনিং টোকেনও সাশ্রয়ী।
নেটিভ Agent সক্ষমতা: প্রকাশের সময়ই OpenClaw, Hermes, Pi, OpenCode-এর মতো প্রধান ফ্রেমওয়ার্কে Agentic RL প্রশিক্ষণ সম্পন্ন করেছে; টুল কলিং সরাসরি ব্যবহারযোগ্য।
উন্মুক্ত ও সীমাহীন: বেস এবং পোস্ট-ট্রেনিং উভয় মডেলের ওয়েট উন্মুক্ত; স্বাধীনভাবে ডাউনলোড, ফাইন-টিউন ও বাণিজ্যিকভাবে ব্যবহার করা যায়।
সব প্ল্যাটফর্মে সমর্থন: llama.cpp, MLX, vLLM, SGLang, ONNX নেটিভভাবে সমর্থন করে এবং Apple, AMD, Qualcomm, NVIDIA হার্ডওয়্যারের সঙ্গে সামঞ্জস্যপূর্ণ।

HuggingFace মডেল লাইব্রেরি: https://huggingface.co/LiquidAI/LFM2.5-24B-A2B

ডিভাইস-ভিত্তিক ব্যক্তিগত Agent: MacBook-এর মতো ব্যক্তিগত ডিভাইসে সারাদিন স্থানীয় Agent চালিয়ে পরিকল্পনা, টুল কলিং ও কাজ সম্পাদন করা যায়; পুরো প্রক্রিয়ায় ডেটা ডিভাইসের বাইরে যায় না।
অফলাইন/এজ সহকারী: GGUF, ONNX, MLX ফরম্যাটে নেটওয়ার্ক দুর্বল বা নেটওয়ার্কবিহীন পরিবেশে (গাড়ি, দুর্গম এলাকা, এমবেডেড টার্মিনাল) স্থাপন করে অফলাইন রিজনিং সুবিধা দেওয়া যায়।
বুদ্ধিমান টুল সমন্বয়: OpenClaw, Hermes Agent, OpenCode-এর মতো ফ্রেমওয়ার্কের ড্রাইভিং মডেল হিসেবে সময়সূচিভিত্তিক ব্রিফিং তৈরি, ফাইল সাজানো, কোড পরিচালনার মতো বহু-পদক্ষেপের ওয়ার্কফ্লো সম্পাদন করে।
ব্যবসায়িক প্রক্রিয়া স্বয়ংক্রিয়করণ: ToolSandbox এবং τ³-Bench Banking-এ এর সুবিধা কাজে লাগিয়ে ব্যাংকিং, নিয়োগ, অর্ডারসহ এমন ব্যবসায়িক কথোপকথন পরিচালনা করা যায়, যেখানে সিস্টেমে তথ্য অনুসন্ধান ও বহুবার নিশ্চিতকরণ প্রয়োজন।