vLLM Semantic Router の判断モデル d3、マルチモーダル入力を処理して選択肢を選ぶ話

モデル

vLLM Semantic Router の判断モデル d3、マルチモーダル入力を処理して選択肢を選ぶ話

スポンサーリンク

d3 はマルチモーダル入力を処理し、選択肢の中から答えを選ぶ判断モデルとして公開された

この記事のポイント

  • テキスト画像動画を一括判定する
  • vLLMエンジンでローカル動作可能
  • AMD MI325Xで測った内部評価

数字で見る

この記事に出てくる数字

解像度上限 1.6MP
フレームレート 2fps
モデル規模 27B

どこで使えるか

マルチモーダル判断モデルで推論コストを削りたい人向け Hugging Faceで公開済み Engineモードで利用。MI325Xで動作確認済み

スポンサーリンク

解説

かみくだいて説明します

2026年10月10日にvllm-srが、d3という27Bのマルチモーダル判断モデルを公開しました。テキストや画像、動画を入力すると、選択肢の選定やyes か no か、段階評価を一度の呼び出しで確率として返します。テキストを生成するのではなく、判断結果だけを返す仕組みです。
一度に全部の質問に答えるんですか? 画像や動画の読み取り条件はどのようになっていますか?
画像は1枚あたり最大1.6メガピクセル、動画は1秒あたり2フレーム、通算32フレームまで読み取ります。それぞれの解像度は画像が最大1.6メガピクセル、動画も最大0.2メガピクセルです。リクエスト内のすべての質問が、入力された画像と動画を同時に参照します。
なるほど、全部の質問が同じ画像を見ますね。では、自分で動かすときの環境選びはどうなっていますか。
実行コマンドにプラットフォームの指定を付けます。auto、cpu、cuda、rocmの4つから選べますが、autoを指定するとマシンに合わせた環境を自動で検出します。開発版チャンネルで動きますので、安定版のリリースを待たずに手元で試せます。
開発版チャンネルで手元で試せるんです。では、作る立場の人から見ると、これは既存の生成モデルを置き換える話ですか、まだ別の使い道ですか。
既存のモデルを置き換えるものではありません。テキストを生成するモデルと使い分けます。判断だけを速く返す必要がある場面、例えば大量のリクエストからルーティング先を決める場合や、yes か no かを自動で判定するパイプラインに組み込む場合に特化しています。
ルーティング先を決める、ですか。そこがまだ掴めません。やさしく言い直してください。
d3はルーティングの窓口ではなく、画像や動画を含むリクエストを受け取って質問に答えるモデルです。vLLM Semantic Routerが仕切りの役割を果たします。
仕切りの窓口ですね! 性能の評価はどのようになっていますか。
公開ベンチマークと内部評価、両方出しています。動画の複数選択肢質問応答で、1問あたり3つの選択肢から正解を選ぶトップ1精度を測りました。
内部評価と公開ベンチマーク、両方出しているんです。では、安定版のリリース時期は決まっていますか。
Engine モードと Decision 3.0 は、安定版の vLLM Semantic Router に入るまで開発版チャンネルで提供される。
最後に、手元で動かすときのモデルのダウンロード容量は分かっていますか。
27Bのモデルです。具体的なダウンロード容量やディスク使用量については、そこはまだ分かっていません。まずは開発版チャンネルで手元のマシンにモデルをダウンロードし、プラットフォームを自動検出してから試す形になります。

出典

この記事のもとになった情報

  • Hugging Face:vllm-sr/d3
  • 公開日:2026-10-10

※ 本文と音声は生成 AI が作成しています。内容は出典をご確認ください。
本作品のキャラクターには株式会社Live2Dの著作物であるサンプルデータが株式会社Live2Dの定める規約に従って用いられています。本作品は制作者の完全な自己の裁量で制作されています。このキャラクターモデルは株式会社Live2Dより許諾を得て商用利用しています。

スポンサーリンク

-モデル