LFM2.5-24B-A2B 運営中

LFM2.5-24B-A2Bは、Liquid AIが提供するオープンウェイトの推論モデルで、LFM2.5シリーズのフラッグシップです。総パラメータ数は24B、トークンごとのアクティブパラメータはわずか2.45B、40層のMoEアーキテクチャを採用し、131Kコンテキストと16言語に対応しています。LFM2.5-24B-A2Bは回答前に必ず思考の連鎖を生成し、エッジデバイス上のAgent向けに最適化されています。LiveClawでは、パラメータ数が50%多いQwen3.6-35B-A3Bを上回る48.09を記録し、M5 Max上でのデコード速度は184 tok/sに達します。これは同クラスのMoEモデルの最速値の1.7倍です。ローカルなプライベート環境での推論やツール呼び出しに適しており、知識集約型のタスクでは検索機能との併用が推奨されます。

エッジデバイス向けAgent推論：個人デバイス上で高速かつプライベートに動作するローカルAgent向けに設計されています。
純粋な推論モード：回答前に明示的な思考の連鎖を自動生成し、低いアクティベーションコストで回答品質を実現します。
関数呼び出し：4段階のツール呼び出しフローをネイティブサポートし、OpenClaw、Hermes Agent、Pi、OpenCodeなどのフレームワークに直接接続できます。
多形式での展開：ネイティブ、FP8、GGUF、ONNX、MLX-4bitなどのバージョンを提供し、GPU、CPU、Apple Silicon、エッジデバイスに対応します。
長文コンテキスト処理：131,072 tokensのコンテキストに対応し、長文書や複数ターンのAgent軌跡を処理できます。
多言語対応：英語、中国語、日本語、韓国語、アラビア語など16言語をカバーし、128K語彙で非ラテン系言語のトークン化を最適化しています。
高速推論：Apple M5 Max上で184 tok/sを実現し、同クラスのMoEモデルより最大1.7倍高速、単一のB300では21K tok/sを超えます。

WeChatでフォローして「オープンソース」と返信すると、AIオープンソースプロジェクト交流グループに参加できます
MoEスパースアクティベーションアーキテクチャ：モデル全体で24Bのパラメータを持ちますが、各MoEブロックには64個のエキスパートがあり、推論時にはtop-4ルーティングによって4個だけをアクティブ化します。そのため、1トークンあたりの実際の計算量はわずか2.45Bパラメータです。これが「大容量・低計算コスト」の中核です。モデルはすべての知識を保存しながら、各フォワード処理では一部だけを使用するため、総パラメータ数が同じモデルよりもはるかに低い推論コストを実現します。
混合層設計：畳み込みとGQAによる40層のネットワークは、30個の「デュアルゲート短畳み込みブロック」と10層のGQA混合層で構成されています。短畳み込みは局所的な系列特徴を効率的に抽出し、アテンション層は長距離依存関係をモデル化します。両者を交互に配置することで、線形層の高効率な計算を維持しながら長いコンテキストにも対応します。これが、LFMアーキテクチャがエッジデバイス上で高速かつ省メモリで動作する構造的基盤です。
語彙のインプレース拡張と長文コンテキスト学習：前世代のLFM2-24B-A2Bの主要アーキテクチャを維持しつつ、インプレースでtokenizerを拡張し、語彙を65Kから128Kへ倍増させました。これにより、中国語や日本語などの非ラテン言語におけるトークン効率が大幅に向上しています。コンテキストウィンドウは32Kから131Kへ拡張され、300B tokensを用いた長文コンテキスト特化の中期学習と組み合わせることで、安定した長系列処理能力を獲得しています。
3段階の学習プロセス：事前学習では約33T tokensを使用します。中期学習では、まず32Kコンテキストで2T tokensの高品質データを用いて推論、数学、コード、指示追従能力を強化し、131Kコンテキストでは300B tokensを用いて長文処理に集中します。両段階にツール呼び出しと複数ターンの対話データを組み込んでいます。後学習では、SFT→教師による専門化→非AgentとAgentの2段階にわたる多領域・同一方針の蒸留→OpenClawやHermesなどの実際のAgentフレームワークでの強化学習という5段階のパイプラインを採用し、実際のツール環境で「思考・呼び出し・検証」を行う能力をモデルに習得させています。

モデルの取得：Hugging FaceからLiquidAI/LFM2.5-24B-A2Bをダウンロードし、ハードウェアに応じてネイティブBF16、FP8、GGUF、ONNX、MLX-4bitのいずれかを選択します。
環境の構築：Python環境にtransformers>=5.0.0をインストールするか、vLLM、SGLang、llama.cpp、LM Studioなどの推論フレームワークを導入します。
モデルの読み込み：AutoModelForCausalLM.from_pretrained()を使用し、bfloat16精度でモデルを読み込みます。
プロンプトの構成：tokenizer.apply_chat_template()を使用して、ChatML形式のテンプレートを自動適用し、対話を整形します。
パラメータ設定：生成時は公式推奨値であるtemperature=0.1、top_k=50、repetition_penalty=1.05を使用します。思考の連鎖を必要とするタスクでは、max_new_tokensを4096以上に設定できます。
ツール呼び出しの設定：ツール一覧をJSON形式でsystem promptに記述します。モデルは<|tool_call_start|>マーカーを使って関数呼び出しを出力し、実行後はtoolロールで結果を返します。
Agentフレームワークへの接続：OpenAI互換インターフェースでローカルサービスを起動し、OpenClaw、Hermes Agent、Pi、OpenCodeなどのAgentフレームワークに接続します。

圧倒的な効率：総パラメータ数24Bのうちアクティブなのは2.45Bのみで、Apple M5 Max上で184 tok/sを実現します。同クラスのMoEモデルより最大1.7倍高速で、メモリ使用量も最小限です。
小が大に勝る：Agentおよびツールベンチマークで、パラメータ数が50%多いQwen3.6-35B-A3Bと互角の性能を発揮します。LiveClawでは48.09対38.19を記録し、AutomationBenchでは2位を3倍上回ります。
完全な推論：純粋な思考の連鎖モデルとして、まず考えてから回答します。低いアクティベーションコストにより、各推論トークンも低コストです。
ネイティブAgent能力：リリース時点でOpenClaw、Hermes、Pi、OpenCodeなど主要フレームワーク内でAgentic RLの学習を完了しており、ツール呼び出しをすぐに利用できます。
制限のないオープン性：ベースモデルと後学習モデルはいずれもウェイトを公開しており、自由にダウンロード、ファインチューニング、商用利用できます。
全プラットフォーム対応：llama.cpp、MLX、vLLM、SGLang、ONNXをネイティブサポートし、Apple、AMD、Qualcomm、NVIDIAのハードウェアと互換性があります。

Hugging Faceモデルリポジトリ：https://huggingface.co/LiquidAI/LFM2.5-24B-A2B

エッジデバイス向けプライベートAgent：MacBookなどの個人デバイス上でローカルAgentを終日稼働させ、計画、ツール呼び出し、タスク実行を行います。データはデバイス外に出ません。
オフライン／エッジアシスタント：GGUF、ONNX、MLX形式で、ネットワークが不安定または利用できない環境（車載、屋外、組み込み端末）に展開し、オフライン推論を提供します。
インテリジェントなツール運用：OpenClaw、Hermes Agent、OpenCodeなどのフレームワークの駆動モデルとして、定期レポートの生成、ファイル整理、コード操作などの複数ステップのワークフローを実行します。
業務プロセスの自動化：ToolSandboxやτ³-Bench Bankingでの強みを活かし、銀行、採用、注文など、システム照会と複数回の確認が必要な業務対話を処理します。