エッジで動く推論モデル LFM2.5-24B-A2B、ツール呼び出しとエージェント用途の話

モデル

エッジで動く推論モデル LFM2.5-24B-A2B、ツール呼び出しとエージェント用途の話

スポンサーリンク

LFM2.5-24B-A2Bが公開。エッジで動く推論モデル。

この記事のポイント

  • デバイス上でプライベートなエージェントを動かすための推論モデル
  • コンテキスト長が32Kから131Kに、語彙が65Kから128Kに拡張された
  • 24Bパラメータで2Bがアクティブ、テキスト専用、ツール呼び出し対応

数字で見る

この記事に出てくる数字

総パラメータ数 24B
アクティブパラメータ数 2B
コンテキストウィンドウ 131K

どこで使えるか

エッジで推論したい人向け。131Kの長文脈とツール呼び出しが使える。 Hugging Faceで公開済み テキスト専用、ツール呼び出し推奨、ライセンスはother

スポンサーリンク

解説

かみくだいて説明します

LiquidAIが2026年10月12日に公開したLFM2.5-24B-A2Bは、パラメータが24Bあるものの、実際に計算に使われるのは2Bだけの手軽な推論モデルです。
24Bと2Bの差が大きいのですが、これは一度に動く部分だけを切り替えているということですか?
そうです。全部を同時に動かすのではなく、必要な部分だけを選んで計算する仕組みで、これならスマートフォンなどの端末だけで動かしても速く、データも外に出ません。
端末だけで動くなら、データが外に出ないのは安心ですね。ツール呼び出しの対応はどうなっていますか。
対応しています。4つのステップで外部のツールを呼び出せるようになっていて、検索やデータ取得を自動で走らせるエージェント向けに設計されています。
では、前モデルとの違いが気になります。処理できる文字の量や単語の区切り方はどう変わりましたか。
前モデルから処理できる文字の量が32Kから131Kに増え、単語を区切る仕組みも65Kから128Kに倍になりました。
131Kもあれば、長いマニュアルを一度に読み込めそうです。専門用語では何と呼ぶんですか。
専門用語ではコンテキストウィンドウと呼びますが、長い文章を一度に読み込む範囲のことです。分厚い小説1冊分以上を、端末のメモリの中に収められるイメージです。
小説1冊分以上読み込めるなら、前のモデルより複雑な推論もできるようになったということですね!
正確には推論能力が一段階上がりました。答えを出す前に必ず考えるタグを入れてから返すようになり、手順を踏む作業の精度が改善されています。
考えるタグを必ず入れるなら、知識を問われるタスク単体では向いていないと理解しました。
知識だけを問うタスク単体では限界があります。検索やWeb検索を組み合わせることで、初めて本来の力を発揮する設計になっています。
最後に、ファミリー最後のモデルということですが、今後さらに小さなモデルも出続ける見通しですか。
ファミリーのモデルは、230Mから24B-A2Bまでの幅広いサイズが既に揃っています。端末上で動くエージェントの需要がどう変わるかはまだ見えていませんが、ツール呼び出しの精度向上について今後詳しく分かってくる予定です。

出典

この記事のもとになった情報

※ 本文と音声は生成 AI が作成しています。内容は出典をご確認ください。
本作品のキャラクターには株式会社Live2Dの著作物であるサンプルデータが株式会社Live2Dの定める規約に従って用いられています。本作品は制作者の完全な自己の裁量で制作されています。このキャラクターモデルは株式会社Live2Dより許諾を得て商用利用しています。

スポンサーリンク

-モデル