FLUX 3 Image Klein の軽量化版、GPU のメモリを減らして画像生成する話

モデル

FLUX 3 Image Klein の軽量化版、GPU のメモリを減らして画像生成する話

スポンサーリンク

FLUX 3 Image Kleinの軽量化版が公開。GPU メモリを 2.62 GB に減らして画像生成できる。

この記事のポイント

  • テキストから画像生成と編集の5.6Bモデル
  • Unsloth Dynamic 2.0で層ごとの精度を最適
  • 19件のレンダリングでbf16とLPIPS比較

数字で見る

この記事に出てくる数字

パラメータ数 5.6B

どこで使えるか

GPU メモリに余裕がない人向け。19 件の比較で精度低下を抑える層別量子化を採用 Hugging Faceで公開済み 16ステップ蒸留版。1024x1024で評価

スポンサーリンク

解説

かみくだいて説明します

Black Forest Labs が公開した画像生成モデル FLUX 3 Image Klein の 5.6B パラメータ版を、unsloth が GGUF 形式で量子化して Hugging Face に公開しました。2026 年 10 月 16 日のリリースです。
量子化で軽量化したんですね。使う側からすると、どれくらい重さが変わるんですか?
おすすめの UD-Q4_K_XL は 3.93 GB です。一番小さい UD-Q2_K_XL ですと 2.62 GB になります。同じサイズで均一に量子化したファイルよりも、品質が良くなっています。
均一ではなく層ごとに精度を変えているんですね。感度を測定して決めているんですか。
各層の感度を測定して、必要な精度だけ残す Unsloth Dynamic 2.0 という手法を使っています。重さの配分を、必要な部分にだけ集中させるイメージです。
数値で比較したんですね。均一版よりも品質が上がっているんですか。
1024x1024 の画像を 19 回生成して、bf16 の本来のモデルと比べた結果です。UD-Q4_K_XL の LPIPS は 0.038 で、均一版の Q4_K_M の 0.060 よりも数値が小さくなっています。
数値が小さいほどズレが少ないんですね。この数字は量子化によるズレだけを測っているんですか。
そうです。LPIPS は数値が低いほど画像のズレが少ないことを示します。同じ bf16 を二度生成した場合は 0 になるので、この数字は量子化によるズレだけを測っています。
10 枚までの参考画像で編集も同じモデルで回るんですね。では、組み込む技術者から動かすのに何が要りますか?
画像生成と画像編集は同じモデルで回ります。動かすには GitHub に公開されている推論コードと、Qwen3-VL-4B-Instruct というテキストエンコーダーが必要です。
では、研究している人から見ると、この量子化版で何がまだ解けていないんですか。
品質のズレをさらに減らす方向の改良は、そこはまだ分かっていません。当面は 3.93 GB の UD-Q4_K_XL をおすすめしています。
最後に、今後どうなっていくんですか?
BF16の distilled パッケージには、テキストエンコーダーと画像オートエンコーダーが含まれています。

出典

この記事のもとになった情報

※ 本文と音声は生成 AI が作成しています。内容は出典をご確認ください。
本作品のキャラクターには株式会社Live2Dの著作物であるサンプルデータが株式会社Live2Dの定める規約に従って用いられています。本作品は制作者の完全な自己の裁量で制作されています。このキャラクターモデルは株式会社Live2Dより許諾を得て商用利用しています。

スポンサーリンク

-モデル