MiniCPM5-2B 運営中

MiniCPM5-2Bは、面壁智能、OpenBMBコミュニティ、清華大学が共同でオープンソース化したエッジ向け言語基盤モデルです。約25億パラメータ、128Kコンテキストに対応し、34項目のベンチマーク平均で53.9を達成。多数の4Bクラスモデルを上回り、2BクラスのオープンソースSOTAに到達しています。ツール呼び出し、ディープサーチ、コード生成などのAgent機能をエッジデバイスに搭載し、6GBメモリの端末で動作可能です。さらに、トレーニングデータ、RLフレームワークMeshy、JustRL IIアルゴリズムも公開しており、まさにエッジ向けの「小さな強力モデル」といえます。

エッジでの対話・質疑応答：言語モデルをローカルデバイス上で直接実行し、日常的な質問応答、執筆、要約などを処理できます。データをクラウドにアップロードする必要はありません。
長文理解：128Kコンテキストに対応し、会議議事録、契約書、長文書をローカルで処理して重要情報を正確に抽出できます。
コード生成・修正：コード補完から実際のリポジトリレベルの修正（SWE-bench Verified 46.4）まで対応し、ローカルコーディングアシスタントとして利用できます。
ツール呼び出し：関数呼び出しをネイティブサポートし、必要に応じて外部ツールを呼び出して検索、計算、データベース操作などを実行できます。
ディープサーチ：検索Agent機能を備え、複数ステップの検索を自律的に計画して回答を統合できます。
ハイブリッド推論：enable_thinkingスイッチにより、高速応答モードと深い思考モードを切り替え、効率と難問解決を両立できます。
ローカル一括処理：履歴書選考、試験答案の採点、契約書分析など、プライバシーに関わるタスクをデバイス上で低コストに並列処理できます。

WeChatで「开源」と返信して、AIオープンソースプロジェクト交流グループに参加
標準Dense Transformerアーキテクチャ：標準のLlamaForCausalLM構造を採用し、全42層で構成されています。GQAによりKV Cacheのコストを削減し、131,072 tokenのコンテキストをネイティブサポートします。アーキテクチャが完全に標準化されているため、vLLM、llama.cpp、Ollamaなどの主要フレームワークでカスタムkernelなしにネイティブロードできます。
全工程でのAgent能力育成：事前学習段階からAgent向けの設計を取り入れ、まず200B規模のAgent Midtrainingでタスク分解とツール利用の事前知識を注入します。次に、ツール呼び出し、ウェブ検索、コードAgentなどのシナリオを網羅した50万件のSFT軌跡で、適切な実行方法を学習させます。最後にAgent RLで整合性を高め、複数ターンの対話における方策の安定性を確保し、「動作し、使いやすい」完全な能力チェーンを形成します。
Meshy強化学習フレームワーク：Meshyは従来のRLトレーニングにおける中央制御装置とRay依存を取り除き、トレーニング、推論、報酬計算をすべて対等なノードサービスとしてモデル化します。TransferQueue内のデータ準備状態を利用して実際の制御フローを駆動し、同期、非同期、完全非同期の3モードを柔軟に切り替えられるため、大規模RLトレーニングの拡張性を高め、デプロイを軽量化します。
JustRL II報酬学習アルゴリズム：エッジモデルの長い思考連鎖RLにおける「報酬信号によるモデルの偏り」と「GRPOの粗い信用割り当て」という2つの課題に対し、JustRL IIはデータ側で3段階のパイプラインを用いて学習サンプルを校正します。アルゴリズム側ではGRPOにCriticを導入してトークン単位の信用割り当てを実現し、長い推論連鎖における各ステップの貢献度を正確に区別します。
UltraX関数呼び出し型データ精錬：UltraXは、大規模モデルでウェブテキストをエンドツーエンドに書き換える従来手法を採用せず、構造化された編集操作を予測する0.6Bの軽量モデルを学習し、決定論的な実行器で1行ずつ反映します。書き換えによる意味のずれや構造破壊を避けられるだけでなく、編集操作を保存・監査できるため、全工程を追跡可能です。実測では、16B tokensの精錬コーパスで、元の20B tokensコーパスを全面学習した場合を上回る効果を達成しています。
UltraData段階的データガバナンス体系：コードデータにはL0–L3の段階的なガバナンスを適用し、RLデータには3段階のパイプラインを適用して、検証不能、報酬の信頼性不足、難易度不一致のサンプルを除去します。高品質なデータ信号で小規模モデルの容量上の不利を補うことが、4Bモデルを上回る能力を小さなパラメータ数で実現する重要なエンジニアリング基盤です。

ハードウェア条件を確認：BF16のオリジナル重みは約4.7GiBです。約1.2GBのGGUF量子化版を使えば、6GBメモリのスマートフォンや一般的なノートPCで実行できます。
モデル重みを取得：HuggingFaceまたは魔搭コミュニティから必要なバージョンをダウンロードし、用途に応じてBF16 / GGUF / MLX / GPTQ / SFTなどの形式を選択します。
推論フレームワークをインストール：クラウドまたは高同時実行環境ではvLLM（≥0.21.0でネイティブ対応、単一GPUのTP=1で実行可能）、ローカルの軽量デプロイではllama.cpp、Ollama、SGLangを使用します。CPU環境では面壁が独自開発したArclightフレームワークを利用できます。
モデルをロードして実行：標準Llamaアーキテクチャとして直接ロードでき、カスタムkernelは不要です。
思考モードを切り替え：チャットテンプレートのenable_thinkingスイッチで、高速応答または深い推論を制御し、タスクの難易度に応じてモードを選択します。
ツール呼び出し／Agentを接続：モデルのネイティブな関数呼び出しとディープサーチ機能を活用し、提供されているデプロイ用CookbookとAgent Skillsを組み合わせて、ローカルAgentワークフローを構築します。

2BクラスのオープンソースSOTA：34項目のベンチマーク平均で53.9を達成し、評価対象となったすべての4Bクラスモデルを上回っています。小さなモデルで大きな成果を実現します。
エッジ向け汎用Agentの基盤：ツール呼び出し、ディープサーチ、コード生成など、Agentの中核能力をネイティブに統合しています。Agentランキングで20点を獲得して首位となり、Granite 4.2 8BやQwen3.5 9Bなどのより大きなモデルを上回ります。
優れたデプロイ性：標準Llamaアーキテクチャと全形式での提供により、vLLM、Ollama、llama.cppで変更なしに直接ロードできます。INT4版はわずか1.2GBで、6GBメモリのデバイスでも動作します。
128Kの長大コンテキストにネイティブ対応：13万tokenのコンテキストにより、会議議事録や契約書などの長文書をエッジでローカル処理するための基盤を提供します。
全工程をオープンソース化：重みだけでなく、トレーニングデータ（UltraDataシリーズ）、RLフレームワーク（Meshy）、RLアルゴリズム（JustRL II）、トレーニングRecipeまで公開し、完全な再現と二次的なイノベーションが可能です。
高効率な推論：1タスクあたりの平均出力は約21K output tokensで、同クラスのモデルよりtoken消費が少なく、エッジでより高速かつ省電力に動作します。
幅広いチップエコシステム：AMD、Intel、MediaTek、Qualcommに加え、昇腾、海光、昆仑芯、摩尔线程など9種類の中国製チップにDay0対応しています。

GitHubリポジトリ：https://github.com/OpenBMB/MiniCPM
HuggingFaceモデルコレクション：https://huggingface.co/collections/openbmb/minicpm5

機密文書の処理：会議議事録、契約書、社内メールの質疑応答と要約をローカルで行い、データをデバイス外に出しません。
採用・人事：履歴書をローカルで一括選考し、候補者情報を抽出して構造化比較できます。履歴書をクラウドにアップロードする必要はありません。
エッジコーディングアシスタント：コード補完、デバッグ提案、さらにはリポジトリレベルの不具合修正までオフラインで実行し、コード資産を保護します。
ローカルディープサーチ：複数ステップのウェブ検索を自動計画して回答を統合し、調査、価格比較、情報収集に活用できます。
教育・採点：試験答案の採点、宿題の講評、誤答分析をローカルで一括並列処理し、学校や教育サービスのコストを削減します。