ollama v0.40.4が公開。推論時のモデル再利用と Codex 連携を改善した。
この記事のポイント
- llama.cppの更新で判断モデルと埋め込みに対応
- 推論経路で検証済みマニフェストとロード済みモデルを再利用
- speculative rollback後の再帰状態を圧縮
どこで使えるか
推論速度を上げたい人向け。検証済みマニフェストの再利用でオーバーヘッドを削減。 GitHubで公開済み ライセンスはMIT
スポンサーリンク
解説
かみくだいて説明します
github-actions[bot] が 2026-10-14、ollama のバージョン 0.40.4 を公開しました。llama.cpp を b11521 に更新し、EmbeddingGemma 2 に対応します。
0.40.4 ですか。EmbeddingGemma 2 が使えるようになるんですか?
はい。EmbeddingGemma 2 は文章の内容を機械が理解しやすい番号の羅列に置き換えるモデルです。文章の検索や分類が正確になります。サーバー側では、一度検証したモデルの情報を毎回読み直すのを避け、推論の速度を安定させました。
番号の羅列に置き換えるんですか。性能も変わりますか。
性能そのものは llama.cpp の b11521 への更新によるものです。判断モデルの処理能力が上がります。MLX 環境では、推論中に一時的に元に戻った状態を compact に整理する仕組みが入りました。
compact に整理する、というのはまだ掴めません。やさしく説明してください。
推論中にエラーで処理を戻す際、戻った分のデータが机の上に散らかったままになっていたのを、引き伸ばして引き出しにしまうように整えるイメージです。メモリ使用量が抑えられます。
引き出しにしまう感じですね。MLX を使っている開発者は、メモリが足りなくなって止まるケースが減るんですか。
はい。推論中にエラーで戻り値を再生成する際、以前は戻った分のデータがそのまま残っていましたが、今回の修正で必要な分だけ残すようになりました。処理が重くなるトラブルが減ります。
なるほど。Codex の picker にも出たんですか。
はい。Codex の /model picker でコマンドを打つ際、すでにダウンロードしてあるモデルが選択肢に追加されます。手元で動かすモデルを選ぶ手間が省けます。
選ぶ手間が省けるんですか。開発者が自分でモデルをダウンロードする手順は、このバージョンで変わりますか。
ダウンロードの手順自体は変わりません。picker が既存のモデルを自動で認識するだけなので、ダウンロード先や保存場所は従来通りです。
じゃあ、MLX-C の性能アップ幅はどのくらいですか。
MLX-C の具体的な数値については、今回の公開内容に明記されていません。そこはまだ分かっていません。
最後に、次のアップデートで何が追加される見込みですか。
今後のアップデートでは、llama.cppの更新やEmbeddingGemma 2の追加、推論ルートの最適化などが予定されています。
出典
この記事のもとになった情報
- GitHub:v0.40.4
- 公開日:2026-10-14
※ 本文と音声は生成 AI が作成しています。内容は出典をご確認ください。
本作品のキャラクターには株式会社Live2Dの著作物であるサンプルデータが株式会社Live2Dの定める規約に従って用いられています。本作品は制作者の完全な自己の裁量で制作されています。このキャラクターモデルは株式会社Live2Dより許諾を得て商用利用しています。