ollamaが Metal 版の GPU 演算を CUDA 用に書き換えた。
この記事のポイント
- MetalカーネルをCUDAに移植した
- MetalカーネルをCUDAに移植した
- CUDAへ移植対応
どこで使えるか
○「Mac 以外でローカル LLM を動かしたい人向け。GPU 環境が要る」 GitHubで公開済み v0.40.5-rc0はプレリリース版、ライセンスはMIT
スポンサーリンク
解説
かみくだいて説明します
ollama のバージョン 0.40.5 が、2026-10-15 に github-actions[bot] によって公開されました。MLX の Metal 向けカスタムカーネルを CUDA へ移植する変更がメインです。
Metal から CUDA への移植なんですね。開発環境が変わる人にとって、これはどのくらい楽になるんですか。
従来は Metal 環境でしか動かなかった MLX 用の高速演算部分が、CUDA 環境でも動くようになります。同じコードを Metal 向けと CUDA 向けで別々に書き換える手間がなくなります。
なるほど。同じコードで両方動くようになるんですね。では、OpenAI の部分はどう変わったんですか。
OpenAI の Responses API で、カスタムツール呼び出しの履歴を受け付けるようになりました。開発者が独自の関数を追加して呼び出す場合でも、その記録をシステム側が正しく保存します。
カスタムツール呼び出しというのがまだ掴めません。もう少しやさしく言うとどうなりますか。
料理の注文に例えると分かりやすいです。これまで AI が決められたメニューの中から選ぶしかありませんでしたが、今度は開発者が好きな追加メニューを自由に注文できるようになります。注文した内容が厨房の記録に残る仕組みが整ったということです。
なるほど。好きなメニューを注文して、その記録も残るんですね。では、クラウドの支払いエラー表示はどう変わったんですか。
クラウドの支払いエラー表示が明確になりました。エラー内容が分かりやすくなることで、開発者がスムーズに対応できます。
確かにエラーメッセージが分かりやすくなると開発の効率が上がりますね。最後に、MLX のバージョンアップとドキュメント面の変更は、現場にどのような影響がありますか。
MLXのバージョンアップと、ドキュメントのモデル推奨事項や表記の統一に関する修正ですね。これらは開発環境の安定性や一貫性に寄与する変更です。
表記の統一が修正されたんですか。では、次回のアップデートで CUDA 対応が安定版になる見通しはありますか。
CUDA 対応は v0.40.5-rc0 でリリース候補として公開済みです。安定版への移行時期については、要旨には具体的な記載がありません。
出典
この記事のもとになった情報
- GitHub:v0.40.5
- 公開日:2026-10-15
※ 本文と音声は生成 AI が作成しています。内容は出典をご確認ください。
本作品のキャラクターには株式会社Live2Dの著作物であるサンプルデータが株式会社Live2Dの定める規約に従って用いられています。本作品は制作者の完全な自己の裁量で制作されています。このキャラクターモデルは株式会社Live2Dより許諾を得て商用利用しています。