Muse Spark Open 運営中

Muse Spark OpenはMetaがオープンソース化したマルチモーダル大規模モデルで、疎なMixture of Expertsアーキテクチャを採用しています。総パラメータ数は8160億、1回の推論で有効化されるパラメータ数は420億、100万Tokenのコンテキストに対応し、テキスト、画像、動画、音声を処理できます。主にプログラミングとAgentタスクに重点を置いています。Muse Spark OpenはMLXフレームワークにより、2台のM5 Ultra Mac Studio上でローカル実行できます。総合能力とプログラミング能力は、MiMo-V2.6-Pro、GLM-5.3、Kimi K3など複数の中国製オープンソースモデルに現時点では及びません。

超長文コンテキスト理解：100万Tokenのコンテキストウィンドウに対応し、非常に長い文書やコードベースを一度に処理できます。
ネイティブなマルチモーダル処理：テキスト、画像、動画、音声の4種類のモダリティを入力として受け取り、理解できます。
プログラミング能力：バグ修正、機能追加、プロジェクトのビルドを行い、複雑なソフトウェアエンジニアリングタスクに対応できます。
Agentタスクの実行：DaVinci Resolveを操作して動画編集を完了するなど、複数ステップの推論タスクを長時間自律的に実行できます。
デスクトップでのローカル実行：MLXフレームワークによる最適化により、2台のM5 Ultra Mac Studio上で完全なモデルをローカル実行できます。
複数フレームワーク・チップへの対応：SGLang、vLLM、llama.cppなどの主要な推論フレームワークをサポートし、NVIDIA、AMD、Apple、Intelのチップと互換性があります。
クラウドAPI呼び出し：OpenRouter、Groq、Together AIなどのプラットフォームを通じて、API形式で利用できます。

WeChatをフォローして「オープンソース」と返信すると、AIオープンソースプロジェクト交流グループに参加できます。
疎なMixture of Experts（MoE）アーキテクチャ：モデルの総パラメータ数は8160億に達しますが、1回の推論で有効化されるのは約420億パラメータ בלבדです。ルーティング機構によって各Tokenを少数のエキスパートネットワークに割り当てて処理することで、モデル容量を維持しながら計算コストを大幅に削減し、超大規模モデルを限られたハードウェア上で実行できるようにします。
100万級のコンテキストウィンドウ：効率的な長系列処理技術を採用し、コンテキストウィンドウを100万Tokenまで拡張しています。これにより、非常に長いコードベース、複数の文書、長時間の動画情報を一度に取り込み、長時間のタスクに必要な「記憶」に対応できます。
ユニファイドメモリアーキテクチャによる分散推論：Apple M5 Ultraのユニファイドメモリアーキテクチャでは、各Mac Studioの統合GPUが最大512GBのメモリを使用できます。2台で合計約1TB、メモリ帯域幅は1.2TB/sに達します。新しいMLXフレームワークにより、2台のデバイスが1台のスーパーコンピューターのように協調動作し、8160億パラメータのモデル全体を収容できます。
カスタムGPUカーネルによる高速化：MetaはSGLang向けに自動チューニング可能なカスタムHelion GPUカーネルを提供しています。NVIDIAおよびAMD GPU上でカーネルレベルの1.03～3.95倍の高速化を実現し、AMD MI350ではエンドツーエンド性能を約3%向上させます。

アクセス方法を取得：OpenRouterやTogether AIなどのプラットフォームのAPIからモデルを直接呼び出します。
モデルウェイトをダウンロード：ローカルデプロイが必要な場合は、Hugging Faceからオープンウェイトをダウンロードします。
推論フレームワークを選択：ハードウェア環境に応じて、SGLang、vLLM、TensorRT-LLM、Hugging Face Transformers、Apple MLX、llama.cpp、Unslothなどのフレームワークを選び、モデルを読み込みます。
ハードウェア環境を準備：クラウドではNVIDIAまたはAMD GPUを使用し、ローカルのデスクトップ環境ではM5 Ultraチップ搭載のMac Studioを2台用意して完全なモデルを実行します。
呼び出しコードを記述：PyTorchなどのフレームワークで推論スクリプトを作成し、テキスト、画像、動画、音声のプロンプトを入力して、100万Token以内のコンテキストを設定します。
Agentタスクを実行：APIまたはローカル実行によって、プログラミングや動画編集などの複数ステップのAgentワークフローを動かします。

大規模モデル：総パラメータ数8160億、1回の推論で有効化されるのは420億で、これまででMeta最強の米国製オープンウェイトモデルです。
超長文コンテキスト：100万Tokenのコンテキストウィンドウに対応し、非常に長い文書や大規模コードベースを一度に処理できます。
ネイティブマルチモーダル：テキスト、画像、動画、音声を統合的に処理し、動画編集などのマルチモーダルツールを直接操作できます。
デスクトップでのローカル実行：MLXフレームワークによる最適化により、2台のM5 Ultra Mac Studio上で完全に動作し、Agentワークフローをローカル環境に移行できます。
オープンなエコシステム：ウェイトを完全公開し、SGLang、vLLM、llama.cppなど7つの主要フレームワークをサポート。NVIDIA、AMD、Apple、Intelのチップと互換性があります。
高いカスタマイズ性：開発者はPyTorchを基盤として、モデルのファインチューニングや二次開発を行えます。

プロジェクト公式サイト：https://dev.meta.ai/resources/blog/build-with-muse-spark-open
Hugging Faceモデルコレクション：https://huggingface.co/collections/meta-models/muse-spark-open

iOS開発・保守：オープンソースクライアントIce Cubesのバグを修正し、新機能を追加してプロジェクトをビルドします。
動画のポストプロダクション：DaVinci Resolveを操作して素材をフレーム単位で確認し、優れた映像を選別して縦型動画に編集します。
大規模コードベースのレビュー：100万Tokenのコンテキストを使い、コードリポジトリ全体の構造と問題を一度に分析します。
超長文書の処理：数百ページ規模のレポートや論文を一度に読み込み、要約、質疑応答、相互比較を行います。
マルチモーダル素材の理解：テキスト、画像、動画、音声を同時に解析し、総合的なコンテンツ審査や分析に活用します。