
アリババクラウドの「魔搭 ModelScopeコミュニティ」公式アカウントは昨日(12日)深夜、アリババのQwenチームがQwen3.8-2.4T-A95Bモデルの重みを正式に公開したと発表した。
今回、Qwen-Maxクラスのモデルとして初めて重みがオープンソース化された。モデルの総パラメータ数は2.4Tで、各Tokenで95Bパラメータをアクティブ化し、ネイティブで262,144 Tokenのコンテキストに対応するほか、1,010,000 Tokenまで拡張できる。
Qwen3.8はQwen3.5の混合アーキテクチャを継承し、プログラミング、オフィス業務、科学研究、長期Agentタスクのエンドツーエンドの完遂能力を重点的に向上させている。公式クラウド版のQwen3.8-Maxは、この公開重みモデルをベースに、さらに多くの本番環境向け機能を追加している。
公式評価では、コーディングAgent、汎用Agent、専門業務、長文コンテキストなどの分野をカバー。Opus 4.8、Fable 5、GPT 5.6 Solなどのモデルと比較すると、各項目の結果は一長一短で、PaperBenchやIFBenchなどのBenchmarkでは、掲載モデルの中でも高い成績を収めた。

上記の関連リンクは以下のとおり。
モデル: https://modelscope.cn/models/Qwen/Qwen3.8-2.4T-A95B
blog: https://qwen.ai/blog?id=qwen3.8
Qwen Studio: https://chat.qwen.ai
Qwen3.8-2.4T-A95Bは因果言語モデルで、総パラメータ数は2.4T、各Tokenで95Bをアクティブ化する。モデルの各MoE層には512個の専門家が含まれ、各Tokenは10個のルーティング専門家を選択すると同時に、1個の共有専門家をアクティブ化する。
モデルは複数ステップのMTP(Multi-Token Prediction)トレーニングも実施しており、対応する仕組みを備えた推論エンジンに、複数の後続Tokenを予測する能力を提供する。
紹介によると、Qwen3.8-Maxのオフィス業務およびAgent向けの追加学習は、次の3つの段階にまとめられる。
実環境を継続的に拡張し、これらの独立した次元で分離する。タスク(Task)(単一タスク → 複数タスク → 日をまたぐタスク)、ワークスペース(Workspace)(複数ファイル → 階層ディレクトリ → 複雑で異種なディレクトリ)、Harness(異なるカテゴリー、バージョン、スキル)。これにより、環境数は個別にカスタマイズした統合に依存せず、組み合わせによって自然に増加できる。
実際のタスクにおける異種の検証方法を内包した、統一的な報酬システムを構築する。このシステムは、実行ベースの検証、テキストおよびレンダリング後の視覚出力に対するrubric評価、さらにagenticチェックをカバーする。複数の形式とモダリティを1つの報酬システムに統合することで、すべての環境に一貫性と信頼性のある報酬シグナルを提供し、タスク専用verifierの保守に伴う本質的な不整合を解消する。
オンラインデータ・イコライザーを構築し、各batchを再構成することで、タスク、難易度、ワークスペース、Harnessにおける分布を高度に均衡させる。batch間の勾配分散を低減し、強化学習のトレーニング計算能力を安定的かつ継続的に拡張できるようにする。
