Mistral Large 4 運営中

Mistral Large 4は、フランスのMistral AIが開発したフラッグシップモデルで、「Le Chonk（太った猫）」の愛称で呼ばれています。Mistral Large 4は細粒度MoEアーキテクチャを採用し、総パラメータ数は1.05T、毎回約49Bのみをアクティブ化します。1.6Bのビジョンエンコーダーを備え、ネイティブマルチモーダルと1Mのコンテキストに対応しています。Mistral Large 4はMistral APIで提供されており、ベンチマークではソフトウェアエンジニアリング、財務ワークフロー、リモートセンシング画像の位置特定で優れています。ローカル導入が可能なサイバー防御および企業の主権AI用途を主眼としています。

ネイティブマルチモーダル理解：テキストと画像を同時に読み取り、テキストを出力できます。コンテキストウィンドウは最大1M tokenです。
長い工程のソフトウェアエンジニアリング：実際の開発タスクであるDeepSWE v1.1で62%を達成し、コード作成や複数ステップの開発に対応します。
企業財務分析：Finch財務ワークフローベンチマークで67%を獲得し、乱雑な表からの数値抽出、モデリング、レポート作成を得意とします。
画像内の位置特定：リモートセンシング画像などの複雑な画像から対象を囲んで示せます。DIOR-RSVGでは73%を達成し、災害被害の評価や送電線の点検に利用できます。
図面からCADへの変換：技術図面をCADモデルに変換できます。公式発表によると、半導体関連のテストで上位の成績を収めています。
サイバー防御：プレビュー版では、制限を減らしサイバーセキュリティ機能を強化したモデルを提供し、脆弱性スキャンなどの防御タスクに利用できます。
多言語対応と主権AI導入：160以上の言語で学習され、自社サーバーまたはEU法で保護された地域内のAPIに導入できます。

WeChatでフォローし、「オープンソース」と返信すると、AIオープンソースプロジェクトの交流グループに参加できます。
細粒度Mixture of Experts（MoE）アーキテクチャ：モデルの総パラメータ数は1.05Tで、多数の「専門家」サブネットワークに分割されています。各トークンの処理では、その一部だけをアクティブ化し、画像入力を処理する1.6Bのビジョンエンコーダーも備えています。疎なアクティベーションによって、大規模モデルの容量と小規模モデルに近い推論コストを両立させる仕組みで、各トークンの計算コストは49Bの密モデルに近い水準です。
ゼロからの学習と自社計算資源：モデルは完全にゼロから学習され、2か月をかけ、約4000基のNVIDIA Grace Blackwellを使用しました。すべてMistralが所有する欧州のデータセンターで学習を完了しています。これにより学習プロセスを管理可能かつデータ追跡可能にし、主権AIという位置付けを支えています。顧客は外国政府による供給停止の影響を受けないモデルを利用できます。
継続的な強化学習によるポストトレーニング：公開されているのはプレビュー版であり、重みの公開前には性能が変化する可能性があります。推論、コード、財務ワークフローなどのタスクにおける長い工程の性能を、RLによって継続的に高める方針です。
画像内の位置特定（Grounding）：マルチモーダル機能を基盤に、画像内にある対象の具体的な位置座標を出力できます。ビジョンエンコーダーが画像特徴を抽出し、言語指示とクロスモーダルに対応付けることで、リモートセンシングや図面などの場面でピクセルレベルの特定を実現します。

アカウント登録：Mistral Studio公式サイトにアクセスして登録・ログインします。
API Keyの作成：コンソールでAPIキーを生成し、認証付きの呼び出しに使用します。
モデルIDの確認：モデル「mistral-large-4」を選択します。
接続方法の選択：APIhttps://api.mistral.aiを直接呼び出せます。
リクエストの作成：リクエスト送信時にAPI Key、モデル名、入力内容を含めます。

スパースMoEアーキテクチャ：総パラメータ数1.05Tのうち、毎回49Bのみをアクティブ化し、超大規模モデルの容量と小規模モデルに近い推論コストを両立します。
公式発表では欧米最強のオープンウェイトモデルであり、30億ユーロのDラウンド調達後に登場した初のフラッグシップです。
主権と安全性の制御：欧州の自社データセンターで学習され、重みをダウンロードして自社環境に導入できます。外国政府による供給停止の影響を受けません。
ネイティブマルチモーダルと高度な画像内位置特定：1Mのコンテキストと画像内の対象を指定・囲む能力を備え、クローズドな最先端モデルを上回ります。
プレビュー版のベンチマークで優れた成績：DeepSWEソフトウェアエンジニアリングで62%、Finch財務で67%を達成し、いずれも同条件の競合を上回っています。

長い工程のソフトウェアエンジニアリング：要件分析、コーディング、デバッグまでの一連の開発タスクを自律的に完了します。
企業財務分析：乱雑な表や文書から数値を抽出し、モデリングやレポート作成を行います。照合や監査に適しています。
リモートセンシング画像の評価：保険会社による航空写真を使った暴風雨被害の評価、電力会社による送電線の点検、農場による作物の生育監視などに利用できます。
サイバー防御：脆弱性スキャンや攻防演習に対応します。重みをローカルにダウンロードすれば、クローズドモデルの安全ガードレールによる遮断を受けません。
法律・契約審査：法律業務全体の支援に利用できます。Harveyの合格率は15%で、現時点では全体として合格水準に達しておらず、初期段階の能力です。