Hemmingway-1の llama.cpp 版 GGUF が公開。Q4_K_M で 17.44GB。
この記事のポイント
- ヘミングウェイの量化版
- llama.cpp b10964で生成
- Q4_K_Mは17.44GB
どこで使えるか
ローカルで推論したい人向け。llama.cpp b10964以降が必要 Hugging Faceで公開済み ライセンスはapache-2.0
スポンサーリンク
解説
かみくだいて説明します
bartowskiがHugging Faceで、2026-09-21にAIの文章生成モデル「Hemmingway-1」の軽量化版データを発表しました。17.44GBのQ4_K_Mという容量を選び、llama.cppという処理ソフトの最新バージョンで変換しています。
軽量化版というのは、もとのモデルから情報を削って小さくしたんですか?
そうです。もとのモデルは重くて手元のパソコンでは動かない場合もありますが、圧縮というのは辞書を必要な単語だけ残して薄い版を作るようなイメージです。容量を減らしても、文章を生成する能力は大きく落ちないように調整しています。
動かす条件が明確になっているのは、安心できますね。
公式のllama.cppのリリース番号b10964以上が必要です。ファイルが複数のパーツに分かれている場合もありますので、ダウンロード時に全部のパーツを同じ場所に保存する必要があります。
開発者が組み込むときの手間は、どのくらい変わりますか?
組み込み自体は既存の仕組みと変わらないので、モデルを切り替えるだけで新しい文章生成能力を使えます。ただし、モデルの構造が新しい場合、古いソフトでは動かない可能性があります。
つまり、b10964以上の環境があれば旧来の環境でも問題ないということですね。
正確には、b10964以上のバージョンがあれば旧来の環境でも問題なく動きます。b10964より前のバージョンをお使いの場合は、その部分だけ更新すれば対応できます。
では、実際に文章を生成する側の使い勝手はどうなっていますか?
標準で搭載されているllama-serverという機能を使えば、ブラウザから直接チャット形式で文章の生成ができます。初期設定ではローカルの8080番ポートで開くようになっています。
8080番ポートで開くのは、開発者向けの標準的な設定なんですね。
初期状態ではパソコンの中だけで開く設定になっていますので、外部からのアクセスは自動的にブロックされます。中身を確認したい場合は、ブラウザのアドレスバーにlocalhostを打ち込むだけで表示されます。
最後に、このデータを使って実務に組み込む場合の注意点は何ですか?
容量と性能のバランスはQ4_K_Mで十分ですが、より高精度が必要な場合は別の圧縮形式も用意されています。そこまでの詳細な仕様や、他のモデルとの比較データについては、そこはまだ分かっていません。
出典
この記事のもとになった情報
- Hugging Face:bartowski/Altworld_Hemmingway-1-GGUF
- 公開日:2026-09-21
※ 本文と音声は生成 AI が作成しています。内容は出典をご確認ください。
本作品のキャラクターには株式会社Live2Dの著作物であるサンプルデータが株式会社Live2Dの定める規約に従って用いられています。本作品は制作者の完全な自己の裁量で制作されています。このキャラクターモデルは株式会社Live2Dより許諾を得て商用利用しています。