科大訊飛傘下の詞元星火は本日、端末側向け汎用大規模モデル「星火 X2.5-4B」と「星火 X2.5-1.7B」の2モデルを発表し、オープンソース化した。
発表によると、2つのモデルは最長100万Tokenのコンテキストウィンドウをネイティブサポートしており、現在の端末側モデルでこの規模のコンテキストに対応する唯一の製品だという。
2つのモデルは混合アテンションアーキテクチャを採用し、エージェント、コード、数学、指示追従などの中核能力を中心に最適化されている。中国国内製のコンピューティングプラットフォームを用いて全工程のトレーニングを完了し、約20兆Tokenの多様なデータで事前学習を行った。
製品のアフターサービスを例にすると、ユーザーは完全なアフターサービスマニュアルをモデルに入力できる。「購入から10日後に機器が故障し、第三者製の消耗品を使用していた」といった複雑な問題に対して、モデルは章をまたぐ規定を関連付けて総合的な判断を示し、新たな条件が加わっても前段の状況を維持しながら継続的に提案できる。
個人のオフィス業務では、星火 X2.5-4Bが元データの分析からバイリンガルレポートの納品まで、全工程を実行できる。Domuxスマートホームテストセットでは、星火 X2.5-1.7Bの制御指令に対するエンドツーエンド実行正解率が90.3%、平均応答時間が0.85秒に達した。モデルはロボットの操作制御、ターゲット追跡、ナビゲーション判断などのシーンにも適用でき、ロボット本体やエッジデバイスに導入可能だ。
星火 X2.5-4Bおよび1.7Bは、NVIDIA、ファーウェイ、Hygon、後摩などのハードウェアプラットフォームをサポートし、vLLM、SGLang、llama.cppなどの主要な推論フレームワークと互換性がある。Ollama、LM Studioなどのツールを使って迅速に導入できる。本日より、モデルの重みがHugging Face、GitHubなどのプラットフォームで公開され、対応APIも科大訊飛の星辰MaaSプラットフォームで提供開始された。期間限定で無料となっている。
9月7日には、科大訊飛が星火 X2.5-293B汎用大規模モデルを正式発表し、コードやエージェントなどの中核能力をさらに強化する予定だ。IT之家では、その際に詳しい報道をお届けする。
参考資料：
Hugging Faceのアドレス： https://huggingface.co/collections/XHToken/spark-x25
Githubのアドレス： https://github.com/XHToken/Spark-X2.5
科大訊飛星辰MaaSプラットフォームへの接続： https://maas.xfyun.cn/modelSquare