MLX 0.32.3が公開。バグ修正と Apple Silicon 向け最適化が進む
この記事のポイント
- GPUフェンス待ちに native eventsを使う
- CUDAのネイティブイベントへ変更
- GIL保持中のデッドロックも修正
数字で見る
この記事に出てくる数字
| GQAサイズ | 12, 16 |
|---|---|
| head dim | 256 |
| nanobind | 3.0.1 |
どこで使えるか
Apple Silicon で推論を組む人向け。CUDA 待機もネイティブイベントで軽量化 GitHubリリースページから入手可能 v0.32.3でM5 ultraチューニング等追加
動画を見る
スポンサーリンク
解説
かみくだいて説明します
zcbenzがGitHubで、2026-09-29にmlxのバージョン0.32.3を公開しました。今回の更新では、モデルの学習や推論を速くするカーネルの最適化と、メモリリークやデッドロックを起こすバグの修正が中心です。
多くのバグが直ったんですね。では、開発者が実際に組み込むとき、以前のコードをそのまま使えますか?
基本的にはそのまま動きますが、Pythonの関数で引数のデフォルト値が変わった箇所がいくつかあります。例えば配列から要素を取り出す関数では、軸の指定を省略したときに末尾を指すようになりました。既存のスクリプトで明示的に軸を指定していた部分は影響ありません。
軸の指定を省略したときの動きが明確になったんですね。では、GPUのメモリを確保する仕組みにどんな変更がありますか?
Windows環境でグラフィックカードのVRAMの上限を正確に取得する仕組みを追加しました。従来は推定値を使っていたため、モデルを大きく読み込んだときに予期せず落ちることがありましたが、これで正確な予算枠を把握できるようになります。MetalやCUDAのバックエンドでも、コマンドキューの解放漏れを修正して、プロセス終了時のメモリ残りを減らしています。
プロセス終了時のメモリ残りが減るんですね。では、長い文章を処理するときの注意機構にどんな改良がありますか?
はい、長い系列を扱うアテンション機構に改良があります。NAXカーネルの行オーバーフローを修正し、32Kを超える入力でメモリが溢れる問題を解消しました。これにより、より長い系列でも安定して処理できます。
32Kまで処理幅が広がったんですね。では、量子化された行列同士の掛け算にどんな変更がありますか?
量子化された行列同士の掛け算、通称qmmです。これは辞書を小型のポケット版に圧縮して持ち歩くような仕組みで、容量は減りますが読み取り時に正確に復元する必要があります。今回の修正ではグローバルスケールを適用する仕組みをCUDAとMetal両方のバックエンドに追加しました。従来は量子化された次元が32の倍数でない場合に数値が崩れる不具合がありましたが、これで正確にスケールを適用できるようになります。
数値が崩れずに精度を保てるんですね。では、開発者が自分でカスタムカーネルを書くときのインターフェースにどんな変更がありますか?
カスタムカーネルの作成を支援するインターフェースとして、ALiBiレイヤーの型ヒントとドキュメントを追加しました。また、配列のバッファサイズを直接取得する関数も追加したため、メモリ割り当ての制御がより細かくなりました。CIのテスト環境では、スコープ付きの環境変数utilityを使えるようになり、開発者の検証作業がスムーズになります。
検証作業がスムーズになるんですね。最後に、このバージョンでまだ解決していない課題はありますか。
量子化された行列の掛け算で、形状が不規則な入力を扱う場合の動作がまだ安定していない箇所があります。そこはまだ分かっていません。次回の更新で対応予定ですが、詳細なスケジュールは現時点では公開されていません。
出典
この記事のもとになった情報
- GitHub:v0.32.3
- 公開日:2026-09-29
※ 本文と音声は生成 AI が作成しています。内容は出典をご確認ください。
本作品のキャラクターには株式会社Live2Dの著作物であるサンプルデータが株式会社Live2Dの定める規約に従って用いられています。本作品は制作者の完全な自己の裁量で制作されています。このキャラクターモデルは株式会社Live2Dより許諾を得て商用利用しています。