LFM2.5-350M-Diffusionが公開。32トークンを並列生成し推論速度を向上。
この記事のポイント
- LFM2.5-350Mを拡散モデルに転換
- 32トークンブロックを並列でノイズ除去
- 温度0.8から0.4の anneal 指定必須
数字で見る
この記事に出てくる数字
| 並列ブロック長 | 32-token |
|---|---|
| 温度 anneal | 0.8→0.4 |
どこで使えるか
並列生成で速度を上げたい人向け。温度 anneal 指定は必須 Hugging Faceで公開済み greedy decode不可、温度 anneal 必須
スポンサーリンク
解説
かみくだいて説明します
LiquidAI が 2026 年 10 月 3 日に、LFM2.5-350M-Diffusion という新しいモデルを公開しました。従来の 1 回で 1 トークンずつ出す仕組みを、32 トークンの塊をまとめて処理する形に作り替えています。
32 個まとめて出すんですか。その分、処理にかかるステップ数はどうなるんですか?
処理の回数は減りますが、代わりに 1 回あたりの計算量が増えます。まるで一度に 1 枚しか焼けないトースターを、段ボール箱のように重ねて焼くオーブンに変えたようなものです。全体としての時間は短くなりますが、その分、一度に使う計算資源は増えます。
なるほど、時間と資源のトレードオフですね。現場で組み込む技術者から見ると、このモデルを動かすのに専用のハードが必要になりますか。
そこはまだ分かっていません。公開されているのは推論コードと SGLang という配信フレームワーク、それに評価用のスクリプトだけです。動かす環境の要件については明記されていません。
評価方法は公開されているんですか。温度パラメータの 0.8 から 0.4 への下げ方は、なぜ必要だったんですか。
0.8 から 0.4 に下げるのは、生成の初めは自由度を高くして、後半になるほど結果を絞り込むためです。まるで絵の具を混ぜる時、最初は水で薄く広げて、最後は濃縮して線を描くようなものです。これがないと、同じ文章が何度も繰り返されてしまいます。
なるほど。NFE という数字は、具体的にどのくらいが標準的な値なんですか。
NFE は 32 トークンの塊 1 回あたりのノイズ除去ステップ数を指します。具体的な数値は明記されていませんが、同じ評価枠組みで非思考モードの全モデルを測定したとあります。
では、同じ枠組みで測ったということは、他社モデルとの比較結果も出ているんですか。
比較結果については、論文の要旨には直接言及されていませんが、評価スクリプトが公開されていることから、他社モデルとの比較も可能かもしれません。
最後に、このモデルを実際の開発現場で使う場合、一番気をつけるべき点はどこなんですか。
貪欲デコード、つまり最も確率の高い文字だけを毎回選ぶやり方をしないことです。温度を 0.8 から 0.4 に下げる設定を必ず通してください。今後の展開としては、SGLang での本番配信テストがどう進むかが見ものですが、詳細なスケジュールは未定です。
出典
この記事のもとになった情報
- Hugging Face:LiquidAI/LFM2.5-350M-Diffusion-Exp
- 公開日:2026-10-03
※ 本文と音声は生成 AI が作成しています。内容は出典をご確認ください。
本作品のキャラクターには株式会社Live2Dの著作物であるサンプルデータが株式会社Live2Dの定める規約に従って用いられています。本作品は制作者の完全な自己の裁量で制作されています。このキャラクターモデルは株式会社Live2Dより許諾を得て商用利用しています。