ONNX Runtime 1.30.0が公開。生成AIの推論性能と信頼性が向上
この記事のポイント
- 生成AI推論のCPU・GPU性能向上が課題
- CUDAやWebGPU、AVX-512等で最適化
- FP4 QMoEカーネルがCUDAビルドで既定有効
どこで使えるか
生成AI推論のCPU・GPU性能向上が課題 GitHubリリースページで公開済み ソースビルド時はFP4/QMoE無効化オプションあり
スポンサーリンク
解説
かみくだいて説明します
GitHubの tianleiwu が 2026年 9月 11日、AI推論ライブラリ ONNX Runtime 1.30.0 を公開しました。生成AIの推論範囲を広げ、CPUとGPUの速度を向上させ、Go言語のバインディングを追加し、ランタイムの信頼性を強化しています。
開発現場で使う側から見ると、どの変更が特に効いてきますか。
CPUとGPUの両方で新しい演算カーネルが追加されています。CPU側では AVX-512 や Arm64 NEON、SVE に対応した LinearAttention カーネルと、AVX2 用の LayerNorm 加速が組み込まれました。GPU側では CUDA 向けの PagedAttention と INT4 の KV cache が標準で使えるようになり、WebGPU 側でも PagedAttention の改良と GPT-OSS への対応が進んでいます。
INT4 の KV cache というのは、まだイメージが掴めません。もう少し分かりやすく言うとどうなりますか。
文章を生成する時に、直前の文脈を覚えておくためのメモリ領域です。これをページ単位で区切って使うようにしたのが PagedAttention で、INT4 に圧縮することで同じメモリで倍以上の文脈を扱えるようになります。
メモリをページ単位で区切って使う仕組みですね。FP4 の QMoE カーネルが既定値になったとありますが、ビルド時の切り替え方はどうなっていますか。
ソースからビルドする場合は、ビルドオプションで無効化できます。Windows 向けのビルド対応も今回追加されました。同時に FP16 の活性化と INT4 や INT8 の重みを扱う compact カーネルセットが既定になり、全カーネルセットを維持したい場合は別のビルドオプションで対応します。
対応カーネルがない場合に安定動作を優先する設計ですね。既定値の変更はビルド環境の確認が必須になります。
ハードウェアアクセラレーションが利用できない場合に、FP32 に切り替える仕組みです。対応するカーネルがない CPU 割り当ての FP16 ノードが対象で、動作の安定性を優先する設計になっています。
では、モデル読み込み時の検証強化で、特にどの演算子が対象になっていますか。
Split や Scan、GatherND、ScatterND、SpaceToDepth、Crop、Conv、Normalizer、プーリングなど、形状とランク、パラメータの検証が強化されています。モデルグラフの入れ子深さを制限し、外部データの場所を正規化して読み込み時の脆弱性を減らしています。
形状とランクの検証が手厚くなるので、モデル読み込み時のエラーが減りそうです。
WebGPU プラグインは 0.4.0 に、CUDA プラグインは 0.2 にバージョンが引き上げられました。Linux AArch64 向けのプラグイン EP パッケージングにも対応しています。
最後に、次バージョンでどの機能が標準化される見込みですか。
次期リリースでは、Go バインディングの追加と DeepSeek Engram 演算子の追加が見込まれます。FP8 の DeepGEMM MoE デコードパスは固定形状のワークロードに限定されています。
出典
この記事のもとになった情報
- GitHub:ONNX Runtime v1.30.0
- 公開日:2026-09-11
※ 本文と音声は生成 AI が作成しています。内容は出典をご確認ください。
本作品のキャラクターには株式会社Live2Dの著作物であるサンプルデータが株式会社Live2Dの定める規約に従って用いられています。本作品は制作者の完全な自己の裁量で制作されています。このキャラクターモデルは株式会社Live2Dより許諾を得て商用利用しています。