Liquid AI の LFM2.5-2.6B がオンデバイスエージェントを2.5GB・220tok/sで実現

記事のサマリー（TL;DR）

• Liquid AI の LFM2.5-2.6B は2.5GB未満のメモリで動作し、Apple M5 Max で 220トークン/秒、AMD Ryzen CPU で 113トークン/秒 を達成
• ツール呼び出し・命令追従の主要ベンチマークで、パラメータ数が4倍のモデル（Qwen3.5-9B・Gemma-4-E4B 等）に互角以上の精度
• Hugging Face 上で即日公開。llama.cpp・MLX・vLLM・ONNX など主要推論ライブラリに対応

クラウド依存なしで動くエージェントを目指す開発者・情シス担当者への実務的含意

LFM2.5-2.6B が示すのは「エッジAIエージェント」の実用性がスマートフォンレベルのハードウェアに届いてきたという事実です。日本国内では医療・金融・製造分野を中心に、クラウド送信を避けてオンプレミスまたはデバイス上でLLMを動かしたいという需要が高まっています。本モデルは2.5GB以下のメモリで動作するため、M2/M3チップ搭載のMacBook Proや業務用Windows PCでも追加インフラなしに推論可能です。

また、kintone・Salesforce などの業務SaaSに対してAPIを通じてツール呼び出しを行うエージェント構成を検討する場合、ローカル実行による低レイテンシと通信コスト削減は現実的なメリットになります。RAGパイプラインの中間ステップにローカルエージェントを挟む構成も、このサイズ感のモデルであれば試しやすいでしょう。

コーディング精度については大規模モデルに明確な差があると開発元自身が認めているため、コード生成を主用途とする場合はより大きなモデルと用途別に使い分けることが現実的です。

詳細

LFM2.5-2.6B の概要

LFM2.5-2.6B（Liquid Foundation Model 2.5、26億パラメータ）は、Liquid AI が設計したオンデバイス向けのエージェントモデルです。ツール呼び出し（tool calling）とマルチステップワークフローをサポートしながら、ラップトップからスマートフォンまでの一般的なハードウェアで動作するよう設計されています。

主な特長は以下の3点です。

• クラス最高水準のエージェント性能: ツール利用・命令追従・マルチステップタスクにおいて、パラメータ数が4倍のモデルと互角以上の精度
• エージェント向け強化学習（Agentic RL）: 最も普及しているエージェントハーネス内でトレーニングし、互換性を向上
• 高効率な推論: Apple M5 Max で 220トークン/秒、AMD Ryzen AI Max+ 395 で 113トークン/秒。メモリ使用量は 2.5GB未満

エッジデバイス向けエージェントモデルの構築手法

LFM2.5-2.6B は約 34兆トークン で事前学習済みです。ミッドトレーニングフェーズでコンテキストウィンドウを 128Kトークン に拡張した後、ベースモデルをエージェントとして機能させるための4段階のポストトレーニングが実施されています。

1. 教師あり微調整（SFT: Supervised Fine-Tuning）

ツール利用・Web検索・ハーネストラジェクトリなどのエージェント系データに高い重みを置いたSFTを2ラウンド実施します。

2. 教師モデルの専門化（Teacher Specialization）

数学・コード・ツール利用などドメインごとに専門教師モデルを1つずつトレーニングします。

3. マルチドメインオンポリシー蒸留（MOPD: Multi-Domain On-Policy Distillation）

専門教師モデルを単一のスチューデントモデルへ蒸留します。

4. エージェント強化学習（Agentic RL）

実際のエージェントハーネス内でマルチターンの強化学習を実施。異なるツール・システムプロンプト・マルチターンタスク環境をまたいで動作できるよう学習します。

Agentic RL パイプラインのアーキテクチャ:

• Training Engine: モデルの最適化を担当
• Rollout Engine: 最新ポリシーを使用してアクションを生成
• RL Framework: ロールアウト起動・トラジェクトリと報酬の収集・モデル更新を統括
• Sandbox Service: アクションを実行する環境。Blackbox Harness（OpenClaw や Hermes Agent 等）がエージェントをホストし、タスク環境との連携を調整
• Harness Proxy: エージェントハーネスをブラックボックスとして扱いながら、RL学習サンプルの再構成・検証に必要なトークンレベルのトラジェクトリを透過的に取得

ベンチマーク結果

LFM2.5-2.6B（2.6B）を、自身の最大4倍のパラメータを持つモデルと比較評価しました。対象はSTEM・命令追従・ツール利用・エージェントタスクです。

命令追従の全ベンチマーク（IFBench・Multi-IF・IFStruct）でトップ。ツール利用も BFCLv4 を除く全てで首位（BFCLv4 は 9.7B の Qwen3.5-9B がわずかに上回る程度）。エージェントタスクでは Gemma 両モデルを上回り、Qwen3.5 シリーズとは同水準。コーディングは LiveCodeBenchv6 で大規模モデルに明確な差をつけられており、コード生成が主用途の場合は上位モデルの選択が推奨されます。

CPU・GPU での推論速度

LFM2.5-2.6B はリリース初日から主要な推論ライブラリに対応しています。

対応ライブラリ: llama.cpp / MLX / vLLM / SGLang / ONNX

CPU 推論

LFM2 アーキテクチャの効率性により、テスト対象の中で最速を記録しました。

• Apple M5 Max: 220トークン/秒
• AMD Ryzen AI Max+ 395: 113トークン/秒
• スマートフォン相当（約30トークン/秒）: エージェントとして十分動作可能

GPU 推論

同サイズクラスで最速となり、高並列時に 約15,000出力トークン/秒 を達成。単一 H100 で 1日あたり約 13億トークン を処理できます。

LFM2.5-2.6B の使い方

高ボリュームのオンデバイスエージェントが必要な場合に適したモデルです。

まず、transformers の最新バージョン（transformers>=5.0.0）をインストールします。

pip install -U transformers

次に、モデルをロードして実行します。

from transformers import AutoModelForCausalLM, AutoTokenizer

model_id = "LiquidAI/LFM2.5-2.6B"
model = AutoModelForCausalLM.from_pretrained(
    model_id,
    device_map="auto",
    dtype="bfloat16",
    # attn_implementation="flash_attention_2"  # 対応GPU上ではコメントアウトを解除
)
tokenizer = AutoTokenizer.from_pretrained(model_id)

prompt = "What is C. elegans?"
input_ids = tokenizer.apply_chat_template(
    [{"role": "user", "content": prompt}],
    add_generation_prompt=True,
    return_tensors="pt",
    tokenize=True,
).to(model.device)

output = model.generate(
    input_ids,
    do_sample=True,
    temperature=0.2,
    top_k=80,
    repetition_penalty=1.05,
    max_new_tokens=512,
)
print(tokenizer.decode(output[0], skip_special_tokens=False))

今すぐ試す方法

• ダウンロード: LFM2.5-2.6B-Base および LFM2.5-2.6B が Hugging Face 上で公開済み
• ブラウザデモ: WebGPU デモをセットアップ不要でブラウザから実行可能
• ハーネス連携: OpenClaw・Hermes Agent・Pi などのローカルエージェント実行ガイドを参照