MiniCPM-V 4.7 Faoliyat yuritmoqda

MiniCPM-V 4.7 — Mianbi Intelligent va OpenBMB hamkorligida ochiq manba sifatida taqdim etilgan, qurilma tomonida ishlaydigan multimodal katta model bo‘lib, 35B-A3B (MoE) va 1B versiyalarini o‘z ichiga oladi. Flagman versiya dunyodagi telefonda yo‘qotishsiz va ravon ishlay oladigan ilk ochiq manbali MoE multimodal modelidir. Ilg‘or ekspertlarni rejalashtirish texnologiyasi yordamida u iPhone’da taxminan 3GB xotira bilan 13+ tokens/s tezlikka erishadi va 34 ta benchmarkda bir xil toifadagi modellarni ortda qoldiradi; 1B versiya esa boshlang‘ich darajadagi qurilmalar uchun mo‘ljallangan.

Umumiy vizual tushunish: rasmlardagi obyektlarni aniqlash, bir nechta rasmni taqqoslash va vizual savol-javob; MMBench’da 91.72 ball bilan bir xil toifadagi modellarni ortda qoldiradi.
Hujjat va OCR tahlili: rasm/PDF ichidagi matn, jadvallar va diagrammalarni aniqlash; OCRBench’da 91.2 ball.
Matematika va STEM mulohazasi: matematik masalalar va ilmiy savollarga javob berish; MMMU 80.22, MathVista 88 ball.
Uzun videolarni tushunish: uzoq davom etadigan videolar mazmunini tushunish va tegishli savollarga javob berish; LongVideoBench’da 68.9 ball.
Qurilma tomonida ravon ishlash: 35B model iPhone’da atigi taxminan 3GB xotira egallaydi va 13+ tokens/s tezlikda real vaqt rejimida generatsiya qiladi.
Arzon moslashtirish va fine-tuning: ochiq manbali self-replay fine-tuning yangi vazifalarni o‘rganishda eski qobiliyatlarni saqlab qoladi.

WeChat’da kuzatib boring va “开源” deb javob yuboring, AI ochiq manba loyihalari guruhiga qo‘shiling
Ilg‘or ekspertlarni rejalashtirish (LES): MoE modelining 65.6 GiB hajmdagi og‘irliklarini to‘liq xotiraga joylab bo‘lmaydi, shuning uchun ekspertlarning aksariyati SSD’da saqlanadi va kerak bo‘lganda o‘qiladi. Biroq qatlamma-qatlam marshrutlash avvalgi qatlam natijasiga bog‘liq bo‘lgani uchun har bir qatlam diskdan o‘qishni kutadi. LES qo‘shni qatlamlar kirishlarining yuqori o‘xshashligidan foydalanib, joriy qatlam marshrutlash xususiyatlari asosida keyingi qatlamga kerak bo‘ladigan ekspertlarni oldindan bashorat qiladi va fonda oldindan yuklaydi. Shu bilan birga, yuklangan va haqiqiy marshrutlash tomonidan tanlangan ekspertlarni ustuvor hisoblab, hisoblash va o‘qishni bir vaqtda amalga oshiradi. Amaliy sinovlarda tezlik 5 baravar oshgan, chiqish sifati esa yo‘qotilmagan.
Og‘irliklarni saqlash va o‘qishni optimallashtirish: qatlamma-qatlam aralash aniqlikdagi kvantlash orqali og‘irliklarning saqlash hajmi va uzatish miqdori kamaytiriladi. Shuningdek, ekspert og‘irliklarining fayldagi joylashuvi qayta tashkil qilinadi: avval uch joyga tarqalgan parametrlar raqamlar bo‘yicha ketma-ket joylashtiriladi. Natijada SSD bir marta ketma-ket o‘qish orqali to‘liq ekspertni oladi va yuklash xarajatlari sezilarli kamayadi.
Vizual tokenlarni siqish: LLaVA-UHD v4 asosida tokenlar vizual enkoder ichida oldindan siqiladi, shu orqali keyingi hisoblashlar boshidanoq kamaytiriladi. 4x/16x siqish darajalari qo‘llab-quvvatlanadi; 16x rejimida asosiy ko‘rsatkichlar deyarli yo‘qotishsiz saqlanadi va tasvir tafsilotlari bilan real vaqtli interaksiya uyg‘unlashadi.
DSpark spekulyativ dekodlash: yengil qoralama modul bir martada bir nechta nomzod tokenlarni yaratadi, asosiy model ularni parallel tekshirganidan so‘ng guruhlab chiqaradi. Bir nechta token MoE ekspertlarini o‘qish va rejalashtirish kabi doimiy xarajatlarni bo‘lishib oladi. Amaliy sinovlarda generatsiya tezligi o‘rtacha 1.17 baravar oshgan, sifatga esa ta’sir qilmagan.

Modelni olish: model og‘irliklari va kodini GitHub yoki Hugging Face’dan yuklab oling.
Mahalliy tezkor sinov: Hugging Face Spaces’dagi rasmiy Web Demo’ga (MiniCPM-V-4.7-Demo) kirib, o‘rnatmasdan onlayn sinab ko‘ring.
Ilovani o‘rnatish: GitHub’dagi MiniCPM-V-Apps repozitoriysidan iOS/Android mijozini yuklab olib, telefon yoki planshetga to‘g‘ridan-to‘g‘ri o‘rnating.
Inferens freymvorkini tanlab joylashtirish: apparat platformasiga qarab modelni yuklash va mahalliy inferens xizmatini ishga tushirish uchun llama.cpp, Ollama, MLX yoki vLLM/SGLang’dan birini tanlang.
LES tezlashtirishini yoqish (ixtiyoriy): qurilma tomonida 35B-A3B modelini ishga tushirganda, ochiq manba hujjatlariga muvofiq ilg‘or ekspertlarni rejalashtirishni yoqing va 3GB xotirada ravon ishlashga erishing.
Vizual siqish rejimini tanlash: ehtiyojga qarab 4x yoki 16x siqish rejimini tanlang.

GitHub repozitoriysi: https://github.com/OpenBMB/MiniCPM-V
HuggingFace model kutubxonasi: https://huggingface.co/collections/openbmb/minicpm-v-47

Qurilma tomonidagi MoE bo‘yicha dunyodagi ilk model: qurilma tomonida yo‘qotishsiz va ravon ishlaydigan dunyodagi ilk ochiq manbali MoE multimodal katta model.
Yuqori xotira samaradorligi: 65.6 GiB og‘irlikka ega 35B model ishlashi uchun atigi taxminan 3GB xotira talab qiladi, bu 16GB qurilma xotirasining 1/4 qismiga teng.
Inferens tezligi bo‘yicha yetakchi: iPhone 17 Pro Max’da amaliy sinovda 13+ tokens/s, iPad Pro M4’da 17+ tokens/s; LES texnologiyasi tezlikni 5 baravar oshiradi.
Bir xil toifadagi modellardan har tomonlama ustun: 34 ta nufuzli benchmarkda Qwen3.6-35B-A3B’dan ustun, hatto hajmi kattaroq Qwen 27B va Gemma-4 31B modellaridan ham yuqori natija ko‘rsatadi.
Samaradorlik va unumdorlik bo‘yicha Pareto optimalligi: qisqaroq inferens vaqtida yuqoriroq umumiy ball olib, qurilma tomonidagi multimodal modellar uchun “unumdorlik-samaradorlik” chegarasini yangilaydi.
Ikki versiya bilan keng qamrov: 35B flagman modeli imkoniyatlar chegarasini kengaytiradi, 1B ixcham modeli esa boshlang‘ich darajadagi qurilmalarda ham yuqori sifatli multimodal ishlashni ta’minlaydi.

Mobil ofis va hujjatlarni qayta ishlash: telefon/planshetda to‘g‘ridan-to‘g‘ri suratga olish yoki PDF import qilish, matnni aniqlash, jadvallarni ajratib olish, diagrammalarni tushunish va hujjatlar bo‘yicha savol-javobni real vaqt rejimida bajarish mumkin. Bulutga yuklash talab etilmaydi, maxfiylikni himoya qilgan holda mobil ofis samaradorligi oshiriladi.
Oflayn ta’lim yordami: o‘quvchilar tarmoqsiz qurilmalarda surat orqali masala izlash, matematik mulohaza va ilmiy savol-javoblardan foydalanishi mumkin. Qurilma tomonida ishlaydigan 35B model yuqori sifatli AI repetitorini internet sharoiti yomon hududlarga ham olib kiradi.
Avtomobil va robotlar vizual tizimi: Day-0 chip moslashuvi yordamida model avtomobil tizimlari va robot terminallariga joylashtirilib, atrof-muhitni real vaqt rejimida aniqlash, to‘siqlarni tushunish hamda inson-mashina vizual interaksiyasini amalga oshiradi.
Video mazmunini tushunish va moderatsiya: uzun videolarni tushunish qobiliyati qurilma tomonida yozilgan uzun videolar uchun mazmun xulosasi, asosiy kadrlar bo‘yicha savol-javob va muvofiqlik tekshiruvini qo‘llab-quvvatlaydi. Bu xavfsizlik inspeksiyasi, kontent yaratish kabi sohalarda qo‘llanadi.