MiniCPM5-2B চালু আছে

MiniCPM5-2B হলো মিয়ানবিই ইন্টেলিজেন্স, OpenBMB কমিউনিটি এবং সিংহুয়া বিশ্ববিদ্যালয়ের যৌথভাবে উন্মুক্ত করা প্রান্তিক ভাষা ভিত্তি মডেল। মডেলটিতে প্রায় ২৫০ কোটি প্যারামিটার রয়েছে, 128K কনটেক্সট সমর্থন করে এবং ৩৪টি বেঞ্চমার্কে গড় স্কোর 53.9। এটি একাধিক 4B-স্তরের মডেলকে ছাড়িয়ে 2B-স্তরের ওপেন-সোর্স SOTA অর্জন করেছে। মডেলটি টুল কল, গভীর অনুসন্ধান, কোড জেনারেশনসহ Agent সক্ষমতা প্রান্তিক ডিভাইসে নিয়ে এসেছে এবং 6GB মেমরির ডিভাইসে চলতে পারে। একই সঙ্গে প্রশিক্ষণ ডেটা, RL ফ্রেমওয়ার্ক Meshy এবং JustRL II অ্যালগরিদম উন্মুক্ত করা হয়েছে। তাই এটি প্রান্তিক ডিভাইসের একটি শক্তিশালী ছোট মডেল হিসেবে বিবেচিত।

প্রান্তিক ডিভাইসে সংলাপ ও প্রশ্নোত্তর: স্থানীয় ডিভাইসেই ভাষা মডেল চালিয়ে দৈনন্দিন প্রশ্নোত্তর, লেখা, সারাংশসহ বিভিন্ন কাজ সম্পন্ন করা যায়; ডেটা ক্লাউডে আপলোডের প্রয়োজন নেই।
দীর্ঘ টেক্সট বোঝা: 128K কনটেক্সট সমর্থন করে, তাই মিটিং নোট, চুক্তি ও দীর্ঘ নথি স্থানীয়ভাবে প্রক্রিয়াকরণ করে গুরুত্বপূর্ণ তথ্য নির্ভুলভাবে বের করা যায়।
কোড জেনারেশন ও মেরামত: কোড সম্পূর্ণ করা থেকে বাস্তব রিপোজিটরি-স্তরের মেরামত (SWE-bench Verified 46.4) পর্যন্ত; স্থানীয় কোডিং সহকারী হিসেবে ব্যবহারযোগ্য।
টুল কল: নেটিভ ফাংশন কল সমর্থন করে এবং প্রয়োজনে অনুসন্ধান, গণনা, ডেটাবেস ইন্টারঅ্যাকশনসহ বাহ্যিক টুল ব্যবহার করতে পারে।
গভীর অনুসন্ধান: অনুসন্ধান Agent সক্ষমতা রয়েছে; এটি স্বয়ংক্রিয়ভাবে বহু ধাপের অনুসন্ধান পরিকল্পনা করে উত্তর সমন্বয় করতে পারে।
হাইব্রিড রিজনিং: enable_thinking সুইচের মাধ্যমে দ্রুত উত্তর ও গভীর চিন্তা মোডে পরিবর্তন করা যায়, ফলে দক্ষতা ও জটিল সমস্যা সমাধানের মধ্যে ভারসাম্য থাকে।
স্থানীয় ব্যাচ কাজ: জীবনবৃত্তান্ত বাছাই, পরীক্ষার খাতা মূল্যায়ন, চুক্তি বিশ্লেষণের মতো গোপনীয়তাসংবেদনশীল কাজ ডিভাইসেই কম খরচে সমান্তরালভাবে সম্পন্ন করা যায়।

WeChat-এ অনুসরণ করে “开源” লিখে উত্তর দিন এবং AI ওপেন-সোর্স প্রকল্পের আলোচনা গ্রুপে যোগ দিন
স্ট্যান্ডার্ড Dense Transformer আর্কিটেকচার: মডেলটি স্ট্যান্ডার্ড LlamaForCausalLM কাঠামো ব্যবহার করে এবং এতে মোট 42টি স্তর রয়েছে। KV Cache-এর খরচ কমাতে GQA ব্যবহার করা হয়েছে এবং নেটিভভাবে 131,072 token কনটেক্সট সমর্থন করে। আর্কিটেকচার সম্পূর্ণ স্ট্যান্ডার্ড হওয়ায় vLLM, llama.cpp, Ollama-এর মতো প্রধান ফ্রেমওয়ার্কে কাস্টম kernel ছাড়াই নেটিভভাবে লোড করা যায়।
সম্পূর্ণ Agent সক্ষমতা উন্নয়ন: প্রি-ট্রেনিং পর্যায় থেকেই Agent সক্ষমতার ভিত্তি তৈরি করা হয়। প্রথমে 200B স্কেলের Agent Midtraining-এর মাধ্যমে কাজ ভাঙা ও টুল ব্যবহারের পূর্বজ্ঞান যুক্ত করা হয়। এরপর টুল কল, ওয়েব অনুসন্ধান ও কোড Agent-সহ বিভিন্ন ক্ষেত্রের ৫০ লাখ SFT ট্রাজেক্টরি দিয়ে মডেলকে নিয়মমাফিক কাজ শেখানো হয়। শেষে Agent RL-এর মাধ্যমে বহু-পর্যায়ের ইন্টারঅ্যাকশনে কৌশলের স্থিতিশীলতা নিশ্চিত করা হয়।
Meshy রিইনফোর্সমেন্ট লার্নিং ফ্রেমওয়ার্ক: Meshy প্রচলিত RL প্রশিক্ষণের কেন্দ্রীয় কন্ট্রোলার ও Ray নির্ভরতা বাদ দিয়ে প্রশিক্ষণ, ইনফারেন্স এবং পুরস্কার গণনাকে সমমানের নোড সেবা হিসেবে মডেল করে। TransferQueue-এর ডেটা প্রস্তুতির অবস্থা ব্যবহার করে নিয়ন্ত্রণ প্রবাহ চালানো হয় এবং সিঙ্ক্রোনাস, অ্যাসিঙ্ক্রোনাস ও সম্পূর্ণ অ্যাসিঙ্ক্রোনাস—এই তিন মোডে নমনীয়ভাবে পরিবর্তন করা যায়। ফলে বৃহৎ RL প্রশিক্ষণ সহজে সম্প্রসারণযোগ্য ও হালকা স্থাপনা উপযোগী হয়।
JustRL II পুরস্কার শেখার অ্যালগরিদম: প্রান্তিক মডেলের দীর্ঘ চিন্তাশৃঙ্খল RL-এ “পুরস্কার সংকেতের কারণে মডেলের বিচ্যুতি” এবং “GRPO-তে অপর্যাপ্ত ক্রেডিট বণ্টন”—এই দুই সমস্যার সমাধানে JustRL II ডেটা পর্যায়ে তিন ধাপের পাইপলাইনে প্রশিক্ষণ নমুনা ক্যালিব্রেট করে। অ্যালগরিদম পর্যায়ে GRPO-তে Critic যুক্ত করে token-স্তরের ক্রেডিট বণ্টন করা হয়, ফলে দীর্ঘ রিজনিং চেইনে প্রতিটি ধাপের অবদান নির্ভুলভাবে আলাদা করা যায়।
UltraX ফাংশন-কলভিত্তিক ডেটা পরিশোধন: UltraX বড় মডেল দিয়ে ওয়েব টেক্সট এন্ড-টু-এন্ড পুনর্লিখনের প্রচলিত পদ্ধতি বাদ দিয়ে একটি 0.6B হালকা মডেল প্রশিক্ষণ দেয়, যা কাঠামোবদ্ধ সম্পাদনা অপারেশন পূর্বাভাস করে; এরপর নির্ধারিত এক্সিকিউটর তা লাইন ধরে প্রয়োগ করে। এতে পুনর্লিখনের ফলে অর্থের বিচ্যুতি ও কাঠামো নষ্ট হওয়া এড়ানো যায়, আবার সম্পাদনা অপারেশন সংরক্ষণ ও অডিট করা যায় বলে পুরো প্রক্রিয়া অনুসরণযোগ্য থাকে। পরীক্ষায় দেখা গেছে, 16B tokens পরিশোধিত কর্পাসে প্রশিক্ষণের ফলাফল মূল 20B tokens কর্পাসে পূর্ণ প্রশিক্ষণের ফলাফলকেও ছাড়িয়ে যায়।
UltraData স্তরভিত্তিক ডেটা ব্যবস্থাপনা ব্যবস্থা: কোড ডেটায় L0–L3 ধাপে ধাপে পরিচালনা প্রয়োগ করা হয়। RL ডেটায় তিন ধাপের পাইপলাইনের মাধ্যমে যাচাই-অযোগ্য, অবিশ্বস্ত পুরস্কারযুক্ত এবং অসামঞ্জস্যপূর্ণ কঠিনতার নমুনা বাদ দেওয়া হয়। উচ্চমানের ডেটা সংকেত দিয়ে ছোট মডেলের সক্ষমতার সীমাবদ্ধতা পূরণ করা হয়; 4B মডেলকে ছাড়িয়ে যাওয়ার এটি একটি গুরুত্বপূর্ণ প্রকৌশলগত ভিত্তি।

হার্ডওয়্যার শর্ত যাচাই করুন: BF16 মূল ওজনের আকার প্রায় 4.7GiB। অথবা প্রায় 1.2GB GGUF quantized সংস্করণ 6GB মেমরির ফোন বা সাধারণ ল্যাপটপে চালানো যায়।
মডেলের ওজন সংগ্রহ করুন: HuggingFace বা 魔搭 কমিউনিটি থেকে প্রয়োজনীয় সংস্করণ ডাউনলোড করুন এবং প্রয়োজন অনুযায়ী BF16 / GGUF / MLX / GPTQ / SFT ফরম্যাট বেছে নিন।
ইনফারেন্স ফ্রেমওয়ার্ক ইনস্টল করুন: ক্লাউড বা উচ্চ-সমান্তরালতার ক্ষেত্রে vLLM ব্যবহার করুন (≥0.21.0 নেটিভ সমর্থন করে, একক GPU-তে TP=1 যথেষ্ট)। স্থানীয় হালকা স্থাপনার জন্য llama.cpp, Ollama বা SGLang ব্যবহার করুন। CPU পরিবেশে মিয়ানবিই-এর নিজস্ব Arclight ফ্রেমওয়ার্ক ব্যবহার করা যায়।
মডেল লোড ও চালান: স্ট্যান্ডার্ড Llama আর্কিটেকচার হিসেবে সরাসরি লোড করা যায়; কোনো কাস্টম kernel প্রয়োজন নেই।
চিন্তা মোড পরিবর্তন করুন: চ্যাট টেমপ্লেটের enable_thinking সুইচ দিয়ে দ্রুত উত্তর বা গভীর রিজনিং নিয়ন্ত্রণ করুন এবং কাজের কঠিনতা অনুযায়ী মোড বেছে নিন।
টুল কল/Agent সংযুক্ত করুন: মডেলের নেটিভ ফাংশন কল ও গভীর অনুসন্ধান সক্ষমতা ব্যবহার করে সংশ্লিষ্ট স্থাপনা Cookbook এবং Agent Skills-এর সঙ্গে স্থানীয় Agent ওয়ার্কফ্লো তৈরি করুন।

2B-স্তরের ওপেন-সোর্স SOTA: ৩৪টি বেঞ্চমার্কে গড় স্কোর 53.9; পরীক্ষিত সব 4B-স্তরের মডেলকে ছাড়িয়ে গেছে।
প্রান্তিক ডিভাইসের সাধারণ Agent-এর ভিত্তি: টুল কল, গভীর অনুসন্ধান ও কোড জেনারেশনের মতো Agent-এর মূল সক্ষমতা নেটিভভাবে সংযুক্ত। Agent তালিকায় ২০ স্কোর নিয়ে শীর্ষে, Granite 4.2 8B, Qwen3.5 9B-এর মতো বড় মডেলের চেয়েও এগিয়ে।
অত্যন্ত সহজ স্থাপনা: স্ট্যান্ডার্ড Llama আর্কিটেকচার এবং সব ফরম্যাটে প্রকাশ; vLLM, Ollama, llama.cpp-তে পরিবর্তন ছাড়াই লোড করা যায়। INT4 সংস্করণ মাত্র 1.2GB এবং 6GB মেমরির ডিভাইসেই চলে।
নেটিভ 128K দীর্ঘ কনটেক্সট: ১৩০ হাজার token কনটেক্সট প্রান্তিক ডিভাইসে মিটিং নোট, চুক্তির মতো দীর্ঘ নথি স্থানীয়ভাবে প্রক্রিয়াকরণের ভিত্তি দেয়।
সম্পূর্ণ ওপেন-সোর্স: শুধু ওজন নয়, প্রশিক্ষণ ডেটা (UltraData সিরিজ), RL ফ্রেমওয়ার্ক (Meshy), RL অ্যালগরিদম (JustRL II) এবং প্রশিক্ষণ Recipe-ও উন্মুক্ত; সম্পূর্ণ পুনরুৎপাদন ও দ্বিতীয় পর্যায়ের উদ্ভাবন সম্ভব।
দক্ষ ইনফারেন্স: প্রতি কাজে গড়ে প্রায় 21K output tokens; সমমানের মডেলের তুলনায় token খরচ কম, তাই প্রান্তিক ডিভাইসে দ্রুত চলে এবং কম বিদ্যুৎ ব্যবহার করে।
বিস্তৃত চিপ ইকোসিস্টেম: AMD, Intel, MediaTek, Qualcomm এবং Ascend, Hygon, Kunlunxin, Moore Threads-সহ 9টি চীনা চিপে Day0 অ্যাডাপ্টেশন।

GitHub রিপোজিটরি: https://github.com/OpenBMB/MiniCPM
HuggingFace মডেল সংগ্রহ: https://huggingface.co/collections/openbmb/minicpm5

গোপনীয়তাসংবেদনশীল নথি প্রক্রিয়াকরণ: মিটিং নোট, চুক্তি ও অভ্যন্তরীণ ইমেইলের প্রশ্নোত্তর ও সারাংশ স্থানীয়ভাবে সম্পন্ন হয়; পুরো প্রক্রিয়ায় ডেটা ডিভাইসের বাইরে যায় না।
নিয়োগ ও মানবসম্পদ: জীবনবৃত্তান্ত স্থানীয়ভাবে ব্যাচে বাছাই, প্রার্থীর তথ্য বের করে কাঠামোবদ্ধ তুলনা করা যায়; জীবনবৃত্তান্ত ক্লাউডে আপলোডের প্রয়োজন নেই।
প্রান্তিক কোডিং সহকারী: অফলাইনে কোড সম্পূর্ণ করা, ডিবাগিং পরামর্শ, এমনকি রিপোজিটরি-স্তরের ত্রুটি মেরামত করা যায়; কোড সম্পদের নিরাপত্তা বজায় থাকে।
স্থানীয় গভীর অনুসন্ধান: স্বয়ংক্রিয়ভাবে বহু ধাপের ওয়েব অনুসন্ধান পরিকল্পনা করে উত্তর সমন্বয় করে; গবেষণা, মূল্যতুলনা ও তথ্য সংগ্রহে উপযোগী।
শিক্ষা ও মূল্যায়ন: পরীক্ষার খাতা মূল্যায়ন, বাড়ির কাজের ব্যাখ্যা ও ভুল প্রশ্ন বিশ্লেষণ স্থানীয়ভাবে ব্যাচে সমান্তরালভাবে করা যায়, ফলে স্কুল ও প্রশিক্ষণ প্রতিষ্ঠানের খরচ কমে।