Ant Groupは昨日、次世代のネイティブ混合推論モデルLing-3.0-flashを正式にオープンソース化しました。極めて高いインテリジェンス密度、エンドツーエンドのAgentクローズドループ、低コストでの大規模展開を特徴としています。
ファーウェイは本日、昇騰でLing-3.0-flashモデルの0 Day対応を同時に完了したと発表しました。今回の対応では、CANN PyPTO演算子プログラミングフレームワークを初めて導入し、複雑な融合演算子の提供サイクルを短縮するとともに、演算子の導入や推論フレームワークの性能チューニングを効率的に行い、完全なデプロイプロジェクトも公開します。
今回の対応は昇騰A2、A3シリーズ製品と全面的に互換性があり、公式の標準デプロイソリューションも提供されます。開発者は公式イメージを利用して、推論サービスを迅速に起動できます（ハードウェア要件は昇騰A2シリーズ製品：8カード、昇騰A3シリーズ製品：4カード）。
CANN PyPTOプログラミングフレームワークは、PTO ISA（仮想命令セット）を基盤にTileプログラミングパラダイムを構築しています。開発者はTensorレベルのAPIを通じて計算ロジックを正確に定義でき、フレームワークが分割スケジューリング、データ転送、コード生成までの全工程を自動的に処理します。
また、CANNBot PyPTO Agentはマルチエージェントフレームワークを構築し、演算子開発全体を7つの段階（Stage）に分解して自動的に進行します。各段階は、役割が明確なサブエージェントが連携して実行します。すべてのスケジューリングは統合オーケストレーターpypto-op-orchestratorが担当し、サブエージェント間ではメモリ機構と機械可読な状態を通じて情報を交換することで、コンテキストをシームレスに引き継ぎます。
このプロセスは、自然言語による演算子要件の入力から始まり、自動生成、検証、チューニングを経て、精度基準を満たし、性能最適化を完了した実機搭載可能な演算子を生成するまで進みます。全工程で各段階間の引き継ぎに人手を介する必要はありません。このワークフローは演算子プログラミング体験を大幅に向上させるだけでなく、演算子の提供サイクルも大きく短縮します。各段階のロジックは以下のとおりです。
