Nemotron 3.5 Super VL 120B の GGUF 版が公開。商用利用も可能。
この記事のポイント
- 120Bパラメータのマルチモーダルモデル
- Mamba-2とMoEを組み合わせ1Mトークン対応
- 12Bアクティブパラメータで商用利用可能
数字で見る
この記事に出てくる数字
| 総パラメータ | 120B |
|---|---|
| 有効パラメータ | 12B |
| 最大コンテキスト | 1M |
どこで使えるか
商用利用や1Mトークン対応が要る人向け。12Bアクティブで低コスト推論可能 Hugging Faceで公開済み ライセンスはother
スポンサーリンク
解説
かみくだいて説明します
NVIDIA が開発し、unsloth が 2026-10-15 に公開した NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-GGUF は、画像とテキストを同時に扱うモデルです。全パラメータ数は 120B で、実際に動くのは 12B です。最大 1M トークンの長い文章や動画まで処理できます。
全体は 120B なのに実際に使うのは 12B だけなんですね。作る側からすると、重さも半分以下で済むのでサーバーの負担がかなり減りそうですか。
はい。Expert を切り替える MoE という仕組みを使っているため、必要な部分だけ計算して動きます。BF16 の高精度版と、NVFP4 という軽量化版の 2 種類を用意しています。
軽量化版の NVFP4 ですね。実際に組み込む場合、どれくらいメモリが節約できるんですか。
NVFP4 は最適化されたデプロイ用です。BF16 はカスタマイズやドメイン適応、完全精度評価に対応しています。メモリを節約したい場合は、NVFP4 リリースをご覧ください。
切り替えの仕組みは分かりますが、Mamba-2 と呼ばれる層が普通の Attention とどう違うのか、もう少し簡単に説明してもらえますか。
普通の Attention は文章のすべての文字を一度に比べるのに対し、Mamba-2 は前の文字の情報を要約して次へ渡すイメージです。長い文章を扱うとき、一度に全部を比べなくても良くなるため、計算量が抑えられます。
要約を次へ渡す感じですね。では、動画の理解はどう対応しているんですか。
C-RADIOという視覚エンコーダーと接続層を組み合わせています。Multi-Token Predictionで推測的デコーディングができて、生成を高速化できるんです。
複数のトークンを一度に出すことで動画の処理も早くなるんですね。研究している人から見ると、これで何が改善されるんですか。
動画やドキュメントだけでなく、推論やマルチモーダル、長文脈、多言語まで網羅的に評価されています。推論パラメータやスコアリング設定を公開しているので、再現性も確保されています。
評価の条件まで公開されているので、自分で同じ条件で試せますね。最後に、実用化に向けてまだ何が解けていないんですか。
商用利用と非商用利用の両方に対応していますが、OpenMDW License 1.1 の具体的な制限項目については、ここでお答えできません。モデルのアップデートや、他のベンチマーク結果が出次第、改めてお知らせします。
出典
この記事のもとになった情報
- Hugging Face:unsloth/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-GGUF
- 公開日:2026-10-15
※ 本文と音声は生成 AI が作成しています。内容は出典をご確認ください。
本作品のキャラクターには株式会社Live2Dの著作物であるサンプルデータが株式会社Live2Dの定める規約に従って用いられています。本作品は制作者の完全な自己の裁量で制作されています。このキャラクターモデルは株式会社Live2Dより許諾を得て商用利用しています。