Muse Glimmer – Metaがオープンソース化した300億パラメータの大規模言語モデル 運営中

Muse Glimmerは、Metaがオープンソース化した300億パラメータの大規模言語モデルで、24時間ローカルで動作するAgentワークフロー向けに深く最適化されています。4bit量子化技術により、24GBのVRAMを搭載した単体GPUまたはApple Silicon上でスムーズに動作し、推論性能の低下もごくわずかです。実測ではRTX 5090、M4/M5 Maxプラットフォーム上でリアルタイム対話やインテリジェントエージェントとのインタラクションに対応し、DFlash推測デコード技術との組み合わせで最大3.1倍の高速化を実現。MCP Atlas、SWE-Bench Proなど複数のベンチマークで同サイズの競合モデルを上回っています。

ローカルAgent推論：24時間バックグラウンドで常駐動作し、インテリジェントエージェントのワークフロー向けに深く最適化。インターネット接続なしで複雑なタスクのスケジューリングを実行できます。
少ないVRAMで効率的に導入：4bit量子化技術を採用し、30Bパラメータモデルを24GB VRAMの単体GPUまたは32GBユニファイドメモリのMac上でローカル実行できます。
リアルタイム対話：M4 Max、M5 Max、およびハイエンドPC上でスムーズな対話とリアルタイムAgent応答を実現し、低遅延が求められるシーンに対応します。
マルチモーダル対応とツール呼び出し：MCP Atlasなどのエージェントベンチマークに対応し、ツール利用、コード生成、複数ステップ推論の能力を備えています。

WeChatでフォローして「開源」と返信すると、AIオープンソースプロジェクト交流グループに参加できます
モデルのアーキテクチャと規模：Muse GlimmerはTransformerアーキテクチャを基盤とし、総パラメータ数は300億です。Agenticタスク向けの追加学習と指示チューニングにより、ツール呼び出し、コード生成、複数ステップ推論の能力を強化しています。
4bit量子化による圧縮：低ビット量子化技術でモデルサイズを大幅に圧縮し、30Bパラメータを24GB VRAMの単体GPUまたは32GBユニファイドメモリのMac上でローカル実行できます。実測では、エージェントタスクにおける性能低下もごくわずかです。
DFlash推測デコード：推測デコード機構を統合し、ドラフトモデルで候補tokenを高速生成した後、メインモデルが並列検証します。RTX 5090では最大3.1倍の高速化を実現し、デコード速度は233 tok/sに達します。
クロスプラットフォーム推論フレームワーク：Apple Silicon向けにはExecuTorch、NVIDIA GPU向けにはllama.cppに対応し、異なるハードウェアプラットフォームでも一貫した高効率のローカル推論体験を実現します。

環境の準備：24GB以上のVRAMを備えたNVIDIA GPU、または32GBのユニファイドメモリを備えたApple Silicon Mac（M4/M5 Max推奨）を用意します。
重みのダウンロード：Hugging Faceリポジトリ meta-models/Muse-Glimmer-30B にアクセスし、4bit量子化版のモデルファイルと設定ファイルをダウンロードします。
フレームワークの選択：NVIDIAユーザーはllama.cppでモデルを読み込み、Apple Siliconユーザーは最高の性能を得るためにExecuTorchで実行します。
推論の開始：対応するローカル推論UIでモデルを読み込み、最高の推論速度を得るためにDFlash推測デコードを有効にします。
Agentワークフローへの接続：MCPプロトコルまたはローカルAPIを通じて、個人ナレッジベース、コードリポジトリ、ツールチェーンにモデルを接続し、バックグラウンド常駐の自動タスク処理を実現します。

卓越したローカル性能：4bit量子化後の性能低下はごくわずかで、SWE-Bench Pro、DeepSearch QAなどのタスクでGemma4-31BやQwen3.6-27Bを大幅に上回ります。
導入しやすいハードウェア要件：大規模モデルのローカル導入におけるVRAMの壁を打ち破り、24GB VRAMで30Bパラメータモデルを実行可能。個人開発者や中小企業の利用コストを削減します。
推論速度の飛躍的向上：DFlash推測デコードを統合し、RTX 5090ではデコード速度が74.9 tok/sから233 tok/sへ向上。3.1倍の高速化を実現します。
安全性と制御性：100%ローカルで計算を行い、データをデバイス外に出しません。Siren AgentDojoの安全性テストでは競合モデルを下回る攻撃成功率を達成し、性能とプライバシーを両立しています。

HuggingFaceモデルリポジトリ：https://huggingface.co/meta-models/Muse-Glimmer-30B

ローカルAIアシスタント：バックグラウンドに常駐するパーソナルエージェントとして、スケジュール管理、メールの下書き、コードレビューなどの日常業務を処理。クラウドAPIに依存する必要はありません。
プライバシーに敏感な業界：医療、金融、法律など、データコンプライアンス要件が非常に厳しい分野に適しており、重要なデータを100%ローカルデバイス内に保持できます。
開発者ツールチェーン：IDEやターミナルに統合し、オフラインでのコード補完、自動テスト生成、リポジトリ単位のコード理解を提供。SWE-Benchレベルのソフトウェアエンジニアリングタスクにも対応します。
エッジデバイスへの導入：24GB以上のVRAMを備えたワークステーションや高性能Mac上で動作し、中小チームに低コストでエンタープライズ級のAI機能を提供します。