MiniCPM5-2B Faoliyat yuritmoqda

MiniCPM5-2B — Mianbi Intelligence, OpenBMB hamjamiyati va Tsinghua universiteti tomonidan birgalikda ochiq manbali tarzda ishlab chiqilgan qurilma ichida ishlovchi til bazaviy modeli. Model taxminan 2,5 milliard parametrga ega, 128K kontekstni qo‘llab-quvvatlaydi, 34 ta benchmark bo‘yicha o‘rtacha 53.9 natija qayd etib, ko‘plab 4B darajadagi modellarni ortda qoldiradi va 2B darajadagi ochiq manbali SOTA natijasiga erishadi. Model vositalardan foydalanish, chuqur qidiruv va kod generatsiyasi kabi Agent imkoniyatlarini qurilma ichida ishlashga moslashtirgan; u 6GB tezkor xotirali qurilmalarda ishlashi mumkin. Shuningdek, o‘qitish ma’lumotlari, Meshy RL freymvorki va JustRL II algoritmi ochiq manbali qilib taqdim etilgan. Uni qurilma ichidagi “kichik, ammo kuchli” model deb atash mumkin.

Qurilma ichidagi dialog va savol-javob: til modelini bevosita mahalliy qurilmada ishga tushirib, kundalik savol-javob, yozish, umumlashtirish kabi vazifalarni bajaradi; ma’lumotlarni bulutga yuklash shart emas.
Uzun matnni tushunish: 128K kontekstni qo‘llab-quvvatlaydi, yig‘ilish bayonnomalari, shartnomalar va uzun hujjatlarni mahalliy tarzda qayta ishlab, asosiy ma’lumotlarni aniq ajratib oladi.
Kod generatsiyasi va tuzatish: kodni to‘ldirishdan tortib, haqiqiy repozitoriy darajasidagi tuzatishlargacha (SWE-bench Verified 46.4) bajaradi va mahalliy kodlash yordamchisi sifatida ishlashi mumkin.
Vositalardan foydalanish: funksiyalarni chaqirishni tabiiy ravishda qo‘llab-quvvatlaydi hamda so‘rov, hisoblash, ma’lumotlar bazasi bilan o‘zaro aloqa kabi amallarni bajarish uchun tashqi vositalarni zaruratga ko‘ra chaqira oladi.
Chuqur qidiruv: qidiruv Agent imkoniyatiga ega; bir necha bosqichli qidiruvni mustaqil rejalashtirib, javoblarni birlashtira oladi.
Aralash fikrlash: enable_thinking tugmasi orqali tezkor javob va chuqur fikrlash rejimlari o‘rtasida almashadi, samaradorlik va murakkab masalalarni yechishni uyg‘unlashtiradi.
Mahalliy ommaviy vazifalar: rezyumelarni saralash, imtihon ishlarini tekshirish va shartnomalarni tahlil qilish kabi maxfiylikka sezgir vazifalarni qurilmaning o‘zida kam xarajat bilan parallel bajarish mumkin.

WeChat’da kuzatib boring va “开源” so‘ziga javob yuboring, AI ochiq manbali loyihalar guruhiga qo‘shiling
Standart Dense Transformer arxitekturasi: model standart LlamaForCausalLM tuzilmasidan foydalanadi va jami 42 qatlamdan iborat. KV Cache xarajatlarini kamaytirish uchun GQA ishlatiladi, 131,072 tokenli kontekst tabiiy ravishda qo‘llab-quvvatlanadi. Arxitektura to‘liq standart bo‘lgani sababli vLLM, llama.cpp va Ollama kabi asosiy freymvorklar maxsus kernel talab qilmasdan modelni bevosita yuklay oladi.
Agent imkoniyatlarini to‘liq zanjir bo‘ylab rivojlantirish: Agent imkoniyatlari oldindan o‘qitish bosqichidanoq maqsadli shakllantiriladi. Avval 200B miqyosidagi Agent Midtraining orqali vazifalarni parchalash va vositalardan foydalanish bo‘yicha boshlang‘ich bilimlar beriladi, keyin vositalarni chaqirish, veb-qidiruv va kod Agenti kabi ssenariylarni qamrab olgan 500 mingta SFT traektoriyasi yordamida modelga tartibli bajarish o‘rgatiladi. Yakunda Agent RL orqali ko‘p bosqichli muloqotda strategiya barqarorligi ta’minlanib, “ishlaydigan va qulay” to‘liq imkoniyatlar zanjiri yaratiladi.
Meshy mustahkamlovchi o‘qitish freymvorki: Meshy an’anaviy RL o‘qitishidagi markaziy boshqaruvchi va Ray bog‘liqligini olib tashlaydi, o‘qitish, inferens va mukofotni hisoblash jarayonlarining barchasini teng huquqli tugun xizmatlari sifatida modellashtiradi. TransferQueue dagi ma’lumotlar tayyorligi holatidan foydalanib, amaliy boshqaruv oqimini harakatga keltiradi. U sinxron, asinxron va to‘liq asinxron rejimlar o‘rtasida moslashuvchan almashish imkonini berib, keng ko‘lamli RL o‘qitishni osonroq kengaytiriladigan va yengilroq joylashtiriladigan qiladi.
JustRL II mukofot asosidagi o‘qitish algoritmi: qurilma ichidagi modellarda uzun fikrlash zanjiriga ega RL jarayonidagi “mukofot signali modelni noto‘g‘ri yo‘naltirishi” va “GRPO kreditlarni qo‘pol taqsimlashi” kabi ikki asosiy muammoni hal qilish uchun JustRL II ma’lumotlar tomonida o‘qitish namunalarini uch bosqichli konveyer orqali kalibrlaydi, algoritm tomonida esa GRPO ga Critic mexanizmini qo‘shib, token darajasida kredit taqsimotini amalga oshiradi va uzun xulosa chiqarish zanjiridagi har bir qadam hissasini aniq ajratadi.
UltraX funksiyalarni chaqirishga asoslangan ma’lumotlarni takomillashtirish: UltraX katta model yordamida veb-sahifa matnini boshidan oxirigacha qayta yozishning an’anaviy usulidan voz kechadi. Buning o‘rniga tuzilmaviy tahrirlash amallarini bashorat qiluvchi 0.6B hajmdagi yengil model o‘qitiladi, so‘ng deterministik ijrochi bu amallarni qatorma-qator amalga oshiradi. Bu qayta yozish natijasidagi ma’no siljishi va tuzilmaning buzilishidan saqlaydi, tahrirlash amallarini saqlash va audit qilish mumkinligi sababli butun jarayonni kuzatiladigan qiladi. Amaliy sinovlarda 16B tokenli takomillashtirilgan korpusda o‘qitish samarasi dastlabki korpusning 20B tokenli to‘liq o‘qitish natijasidan ham oshgan.
UltraData darajali ma’lumotlarni boshqarish tizimi: kod ma’lumotlari L0–L3 bosqichma-bosqich boshqariladi, RL ma’lumotlari esa tekshirib bo‘lmaydigan, mukofoti ishonchsiz yoki murakkabligi mos kelmaydigan namunalarni chiqarib tashlash uchun uch bosqichli konveyerdan o‘tkaziladi. Yuqori sifatli ma’lumot signali kichik model sig‘imi kamchiligini qoplaydi; bu kichik parametrlar soni bilan 4B modeldan o‘zib ketishning asosiy muhandislik poydevoridir.

Apparat shartlarini tekshiring: BF16 original og‘irliklari taxminan 4.7GiB hajmga ega. Yoki taxminan 1.2GB hajmdagi GGUF kvantlash versiyasini 6GB tezkor xotirali telefon yoki oddiy noutbukda ishga tushirish mumkin.
Model og‘irliklarini oling: kerakli versiyani HuggingFace yoki ModelScope hamjamiyatidan yuklab oling va zaruratga ko‘ra BF16 / GGUF / MLX / GPTQ / SFT formatlaridan birini tanlang.
Inferens freymvorkini o‘rnating: bulut yoki yuqori parallellik talab qilinadigan holatlarda vLLM dan foydalaning (≥0.21.0 versiyasi tabiiy ravishda qo‘llab-quvvatlaydi, bitta karta uchun TP=1 yetarli), mahalliy yengil joylashtirish uchun llama.cpp, Ollama yoki SGLang dan foydalaning; CPU muhitida Mianbi tomonidan ishlab chiqilgan Arclight freymvorkidan foydalanish mumkin.
Modelni yuklang va ishga tushiring: standart Llama arxitekturasi sifatida bevosita yuklanadi, hech qanday maxsus kernel talab qilinmaydi.
Fikrlash rejimini almashtiring: chat shablonidagi enable_thinking tugmasi orqali tezkor javob yoki chuqur xulosa chiqarish rejimini boshqaring va rejimni vazifa murakkabligiga qarab tanlang.
Vositalar va Agent funksiyalarini ulang: modelning tabiiy funksiyalarni chaqirish hamda chuqur qidiruv imkoniyatlaridan foydalanib, tegishli joylashtirish Cookbook va Agent Skills yordamida mahalliy Agent ish jarayonlarini yarating.

2B darajasidagi ochiq manbali SOTA: 34 ta benchmark bo‘yicha o‘rtacha 53.9 natija qayd etadi va sinovdan o‘tgan barcha 4B darajadagi modellarni kichik hajm bilan ortda qoldiradi.
Qurilma ichidagi universal Agent prototipi: vositalarni chaqirish, chuqur qidiruv va kod generatsiyasi kabi agentning asosiy imkoniyatlari tabiiy ravishda integratsiya qilingan. Agent reytingida 20 ball bilan birinchi o‘rinda turadi va Granite 4.2 8B, Qwen3.5 9B kabi kattaroq modellarni ortda qoldiradi.
Juda qulay joylashtirish: standart Llama arxitekturasi va barcha formatlarda chiqarilishi tufayli vLLM, Ollama va llama.cpp modifikatsiyasiz bevosita yuklay oladi. INT4 versiyasi atigi 1.2GB hajmda bo‘lib, 6GB xotirali qurilmalarda ishlaydi.
Tabiiy 128K uzun kontekst: 130 ming tokenli kontekst qurilma ichida yig‘ilish bayonnomalari, shartnomalar va boshqa uzun hujjatlarni mahalliy qayta ishlash uchun asos yaratadi.
To‘liq zanjir bo‘ylab ochiq manbali: faqat og‘irliklar emas, balki o‘qitish ma’lumotlari (UltraData seriyasi), RL freymvorki (Meshy), RL algoritmi (JustRL II) va o‘qitish Recipe ham birgalikda ochiq taqdim etiladi. Bu to‘liq qayta tiklash va ikkilamchi innovatsiyani amalga oshirish imkonini beradi.
Samarali inferens: bitta vazifada o‘rtacha taxminan 21K output tokens ishlatiladi, token sarfi shu darajadagi modellarinikidan kam, qurilma ichida ishlash tezroq va energiya tejamkorroq.
Keng chip ekotizimi: AMD, Intel, MediaTek, Qualcomm, Ascend, Hygon, Kunlunxin va Moore Threads kabi 9 ta chip uchun Day0 moslashuvini qamrab oladi.

GitHub repozitoriysi: https://github.com/OpenBMB/MiniCPM
HuggingFace model kutubxonasi: https://huggingface.co/collections/openbmb/minicpm5

Maxfiylikka sezgir hujjatlarni qayta ishlash: yig‘ilish bayonnomalari, shartnomalar va ichki elektron xatlar bo‘yicha savol-javob hamda xulosa chiqarish mahalliy tarzda bajariladi, ma’lumotlar jarayon davomida qurilmadan chiqmaydi.
Rekruting va inson resurslari: rezyumelarni mahalliy tarzda ommaviy saralash, nomzodlar ma’lumotlarini ajratib olish va tuzilmaviy taqqoslash amalga oshiriladi, rezyumelarni bulutga yuklashga hojat qolmaydi.
Qurilma ichidagi kodlash yordamchisi: kodni to‘ldirish, nosozliklarni tuzatish bo‘yicha tavsiyalar va hatto repozitoriy darajasidagi xatolarni tuzatish oflayn bajariladi, kod aktivlari xavfsizligi ta’minlanadi.
Mahalliy chuqur qidiruv: ko‘p bosqichli veb-qidiruvni avtomatik rejalashtirib, javoblarni birlashtiradi; tadqiqot, narxlarni taqqoslash va ma’lumot to‘plash uchun mos.
Ta’lim va tekshirish: imtihon ishlarini tekshirish, uy vazifalarini tahlil qilish va xatolarni tahlil qilish mahalliy tarzda ommaviy parallel bajariladi, maktablar va ta’lim markazlari xarajatlarini kamaytiradi.