
ファーウェイは本日、パラメータ数5050億の盤古 openPangu-2.0-Proモデル(モデル重み、基本推論コード)と技術報告書を正式にオープンソースとして公開したと発表した。
盤古 openPanguはファーウェイのオープンソースAIモデルブランドであり、昇騰ネイティブの学習・推論技術を通じて、業界が昇騰を有効活用するためのベストプラクティスを提供することを目指している。

openPangu-2.0-Proは、昇騰NPU上で学習された大規模Mixture of Experts(MoE)言語モデルで、パラメータ規模は約505B、トークンあたりのアクティブパラメータ規模は約18B。512kのコンテキスト長に対応し、学習データの総量は約34T tokensに達する。学習後の段階では、高速・低速を統合したファインチューニング(SFT)と複数分野の強化学習(RL)を実施し、オンライン蒸留(OPD)によって能力の統合を完了している。

openPangu-2.0-Proは、モデルアーキテクチャを全面的にアップグレードしている。
Attentionアーキテクチャ:高効率なMLAを継承し、DSA+SWAの独立した階層型混合アーキテクチャを採用。層の比率は1:2となっている。SWA層は局所ウィンドウのモデリングを担当し、DSA層はスパースなグローバル集約を担当することで、精度を維持しながら長系列推論における計算量、VRAM使用量、メモリアクセスの負荷を大幅に低減する。
トポロジーアーキテクチャ:従来の残差接続を4ストリームのmHCアーキテクチャへとアップグレードし、表現の多様性と汎化能力を向上させている。
自己投機モジュール:3ヘッドのMTPアーキテクチャを採用し、一度に追加で3トークンを予測することで、モデルの推論速度を大幅に向上させる。
Muonオプティマイザー:学習時にMuonオプティマイザーを採用し、より速い収束速度を実現している。
今年6月のファーウェイ開発者大会HDC 2026の基調講演で、ファーウェイ常務取締役、製品投資評価委員会主任、端末BG会長の余承東氏は、openPangu 2.0について、6月30日から新たにオープンソース化する事前学習コード、学習後コード、学習演算子を含む7つの主要コンポーネントを順次公開すると発表した。
6月30日、パラメータ数92BのopenPangu-2.0-Flashモデルが正式にオープンソースとして公開された。
openPangu-2.0-Proの総パラメータ数がわずか505Bであることについて、余承東氏は、計算能力の大部分を国内の他企業の需要に充てており、自社に残した数量は非常に限られていると説明していた。また、AIの計算コストは非常に高く、ファーウェイはレイテンシーとスループットの向上により重点を置いているという。
openPangu-2.0モデル関連のコンポーネントは、オープンソースプラットフォームで順次公開されている。公開先:
https://ai.gitcode.com/ascend-tribe/openPangu-2.0-Pro
