Xing4.0-29B-Intent 運営中

Xing4.0-29B-Intentは星辰実験室がオープンソースで公開する意図理解専用モデルで、Xing4.0-29B-A4Bをベースにファインチューニングされています。Xing4.0-29B-Intentはカテゴリ＋パラメータ構造を採用し、ユーザーの自然言語を意図分類とパラメータ抽出の結果に同時変換します。意図認識、エンティティ認識、関係抽出、イベント抽出の4種類のタスクに対応しています。モデルの出力はわずか数十トークンで、応答遅延は数百ミリ秒レベルです。評価総合スコアは58で、18種類の汎用モデルを上回っています。すでに通信カスタマーサービスやスマートホームのシナリオで導入されており、Agentのセマンティック入力層として適しています。

意図認識：ユーザーの発話がどの業務カテゴリに属するかを判定し、単一意図と1文中の複数意図に対応します。
パラメータ抽出：意図を認識すると同時に、タスク完了に必要なエンティティ、数値、属性を抽出します。
統一された構造化出力：「カテゴリ＋パラメータ」のJSON形式で結果を整理し、意図認識、エンティティ認識、関係抽出、イベント抽出の4種類のタスクで同じ入出力形式を共有します。
複数タスクの並列解析：1文に含まれる複数の意図、パラメータ、エンティティに対応し、JSON配列で複数の結果を一括返却できます。
Schema駆動の適応：開発者が候補カテゴリ、カテゴリの説明、抽出可能なフィールドを事前定義し、モデルは既定の業務フレームワーク内で認識と値の入力を行います。
Function Callingのセマンティック入力：Agent／インテリジェントエージェントアプリケーションに意図判定と関数呼び出しパラメータ抽出を提供し、自然言語と業務システムの実行をつなぎます。

WeChatで「オープンソース」と返信すると、AIオープンソースプロジェクト交流グループに参加できます
モデル基盤とアーキテクチャ：星辰の汎用基盤モデルXing4.0-29B-A4Bをベースにファインチューニングされ、MoEアーキテクチャを採用しています。総パラメータ数は約290億で、各Tokenでは約40億パラメータのみをアクティブ化し、構造化出力能力を維持しながら計算コストを抑え、数百ミリ秒レベルの応答遅延を実現します。
USP統一モード駆動セマンティック解析フレームワーク：モデルはUSPフレームワークを採用し、意図理解、エンティティ認識、関係抽出、イベント抽出などの異種タスクを「カテゴリ＋パラメータ」の階層型JSON出力形式に統一して制約します。これにより、下流システムはタスクごとに解析ロジックを個別対応する必要がなく、移行・導入コストを大幅に抑えられます。
Schema制約付き生成メカニズム：推論時に開発者は候補カテゴリ、カテゴリの説明、抽出可能なフィールドの定義を提供する必要があります。モデルは既定のフィールド規則内で認識と値の入力を行い、出力は事前定義された構造に厳密に制約されます。自由文のランダム性を避け、フィールドの確定性、形式の検証可能性、低い幻覚率を保証します。
構造化出力トレーニング：モデルは約275.3万件の専用教師ありファインチューニングコーパス（61の公開データセットを再構成し、19分野、52言語をカバー）を使用して構造化出力能力を学習しています。平均わずか数十トークンで、意図判定とパラメータ抽出を含む完全な意思決定フローを実行できます。

リソースの取得：GitHubまたはHuggingFaceからモデルの重み、コードリポジトリ、関連データセットをダウンロードします。
環境の準備：公式推論イメージをデプロイするか、基盤モデルの説明を参考にvLLM、SGLangでモデルサービスを構築します。
SDKのインストール：リポジトリが提供するPython SDKで接続するほか、天翼AIオープンプラットフォームのクラウドAPIを呼び出して、デプロイなしで利用することもできます。
業務Schemaの定義：候補となる意図カテゴリ、カテゴリの説明、各カテゴリで抽出可能なフィールドを宣言します。
プロンプトの組み立て：SDKを使用してユーザー入力とSchemaを、モデルが認識できるリクエストに組み立てます。
呼び出しの実行：モデルサービスにリクエストを送信し、数十トークンのJSON構造化結果を取得します。
結果の解析：カテゴリ＋パラメータ構造に従って意図とフィールド値を読み取り、異常時にはフィールドを検証します。
業務システムとの接続：構造化結果を下流システムに渡して実行し、機密性の高い操作では事前に権限を検証するか、ユーザーに確認します。

意図認識とパラメータ抽出の一体化：1つのモデルで意図分類とパラメータ抽出を同時に行い、下流での重複した解析作業を削減します。
高速な応答：平均出力はわずか数十トークンで、完全な結果の応答遅延は数百ミリ秒レベルに達し、高頻度のリアルタイム対話に適しています。
低い呼び出しコスト：MoEアーキテクチャにより、各Tokenでアクティブ化されるパラメータは約4Bです。汎用大規模モデルと比較して、1日数百万回呼び出すシナリオでもコスト差を大幅に縮小できます。
安定した信頼性の高い出力：結果は事前定義されたSchemaのJSON構造内に厳密に制約され、フィールドが明確で形式を検証できます。
複数意図の複雑な解析：1文に含まれる複数の意図、パラメータ、エンティティに対応し、JSON配列で統一して返却します。
4種類のタスクで形式を統一：意図理解、エンティティ認識、関係抽出、イベント抽出で同じ「カテゴリ＋パラメータ」の入出力形式を共有し、下流への移行コストを大幅に抑えます。

GitHubリポジトリ：https://github.com/XingChen-AGI/Xing4.0-29B-Intent
HuggingFaceモデルリポジトリ：https://huggingface.co/XingChen-AGI/Xing4.0-29B-Intent

スマートカスタマーサービス／チケットルーティング：顧客との対話の意図を認識して重要情報を抽出し、チケットの分類と振り分けを自動で行います。通信業界の大規模カスタマーサービスで導入されています。
端末音声インタラクション：音声アシスタント、スマートコックピット、IoTコントロールセンターなどで、ユーザーの口頭指示を構造化されたデバイス制御指示に解析します。
企業IMボット：業務の立ち上げ段階で大量のアノテーションデータを必要とせず、意図認識と質問応答ルーティング機能を迅速に構築できます。
Agent／Function Callingセマンティック入力層：インテリジェントエージェントに低幻覚率の意図判定と関数呼び出しパラメータ抽出を提供し、自然言語とツール実行をつなぎます。
複数タスクの情報抽出：1文からエンティティ認識、関係抽出、イベント抽出を並列に実行します。例えば「会議を金曜日の午後に変更して、場所を3階に変えて」→時間と場所の変更を同時に抽出できます。