Tev1-4B-experimentalの GGUF 版が公開。画像入力に対応し、Q4_K_M で 2.80GB。
この記事のポイント
- 4Bパラメータのマルチモーダルモデル
- llama.cpp b11159で量子化し画像入力に対応
- Q4_K_Mは2.80GBでローカル実行可能
数字で見る
この記事に出てくる数字
| モデルサイズ | 4B |
|---|---|
| Q4_K_M容量 | 2.80GB |
| Web UIポート | 8080 |
どこで使えるか
画像入力をローカルで試したい人向け。Q4_K_Mで2.80GB。 Hugging Faceで公開済み
スポンサーリンク
解説
かみくだいて説明します
bartowskiが2026年9月24日にHugging Faceで公開したTev1-4B-experimentalのローカル用モデルファイルです。容量は2.80GBのQ4_K_M版を推奨しており、これはサイズと性能のバランスが取りやすい形です。
自宅のパソコンで動かす場合、特別な準備は要るんですか?
llama.cppという処理エンジンが必要です。llama.appを使えば簡単に準備できます。準備が完了すると、ブラウザだけでチャットができる画面が自動的に開きます。アドレスバーにはlocalhostの8080番ポートを入力すればいいです。
なるほど。そのエンジンに対応しているソフトはどれくらいあるんですか?
LM Studio、koboldcpp、ramalama、Jan AI、Text Generation Web UI、LoLLMs、Atomic Chatの7つのソフトでも動作します。
画像も扱えるんですか? そこがまだ掴めません。
画像の入力に対応しています。モデル本体とは別に、mmproj-togethercomputer_Tev1-4B-experimental-bf16.ggufとmmproj-togethercomputer_Tev1-4B-experimental-f16.ggufという2つの補助ファイルが必要です。この補助ファイルは、モデルが画像の情報を正しく読み取るための翻訳機のような役割を果たします。
なるほど。元のモデルとの違いはどうなっているんですか?
元のモデルはtogethercomputerがTev1-4B-experimentalとして公開したものです。今回のファイルは、その中身を圧縮してローカル環境向けに整えた形です。圧縮の度合いによってファイルの重さが変わりますが、推奨しているQ4_K_Mはサイズとパフォーマンスのバランスが良い設定です。
正確には。では、このモデルの実際の処理速度や精度の数値は公開されていますか?
そこはまだ分かっていません。公開されているのはファイルの容量と動作確認済みのソフト名だけで、ベンチマークの数値や他のモデルとの比較データは記載されていません。
最後に。開発元のbartowskiさんは、今後も容量の違うバージョンを出してくる予定なんですか?
今後、このQ4_K_M版と画像対応の補助ファイル2種類がセットで公開されています。詳しいロードマップや数値データが揃い次第、改めてお伝えします。
出典
この記事のもとになった情報
- Hugging Face:bartowski/togethercomputer_Tev1-4B-experimental-GGUF
- 公開日:2026-09-24
※ 本文と音声は生成 AI が作成しています。内容は出典をご確認ください。
本作品のキャラクターには株式会社Live2Dの著作物であるサンプルデータが株式会社Live2Dの定める規約に従って用いられています。本作品は制作者の完全な自己の裁量で制作されています。このキャラクターモデルは株式会社Live2Dより許諾を得て商用利用しています。