ONNX Runtime WebGPU Plugin EP の高速化と新演算子対応、ブラウザ推論のパフォーマンス改善

ツール・基盤

ONNX Runtime WebGPU Plugin EP の高速化と新演算子対応、ブラウザ推論のパフォーマンス改善

スポンサーリンク

ONNX Runtime WebGPU Plugin EP 0.4.0 が公開。カーネルの高速化、Qwen-3.5 や DeepSeek 向け演算子の追加、PagedAttention の最適化、Linux AArch64 パッケージ対応が含まれる。

この記事のポイント

  • WebGPU版の速度と安定性を改善
  • MatMulNBitsの広タイル実行を最適化した
  • サブグループシャッフルで高速化した

数字で見る

この記事に出てくる数字

version 0.4.0

どこで使えるか

ブラウザだけで生成モデルを動かしたい人向け。WebGPU 対応ブラウザが要る GitHub Releaseで公開済み Linux AArch64パッケージも利用可能

スポンサーリンク

解説

かみくだいて説明します

edgchen1が2026年9月23日にGitHubで公開したONNX RuntimeのWebGPUプラグインが、バージョン0.4.0に更新されました。モデルの計算をブラウザやローカルのGPUで動かすための仕組みで、行列計算の速度を上げる改良と、QwenやDeepSeekといったモデルの対応範囲を広げる作業が行われています。
ブラウザの中でGPUを使えるようにする仕組みなんですね。では、現場でこのモデルを組み込んでいる技術者から見ると、今回の改良で手元で動かす負担はどれくらい減るんですか。
行列の掛け算を、小さなグループに分けて並列で処理する部分を強化しています。例えば大きな表計算を、何人かのチームで同時に分担して解くイメージです。これによって同じ処理にかかる時間が短縮され、メモリも効率的に使えるようになります。
複数のチームで同時に作業する感じですね。専門の言葉でサブグループと仰っていましたが、そこがまだ掴めません。具体的にどのくらいの速度差が出るんですか。
具体的な数値の公開はまだありません。ただ、行列計算の幅を広げる実行パスを追加し、活性化関数を8つ追加で結合したことで、同じモデルを動かす際の計算ステップが削減されます。開発者が待ち時間を短く感じられる水準を目指しています。
計算ステップが減って待ち時間が短くなるんですね。では、長い文章を扱うモデルを動かす技術者から見ると、メモリ不足で止まるトラブルがどれくらい減るんですか。
PagedAttentionは、長い文章の情報を必要な部分だけ取り出す仕組みです。従来のように文章全体を一度にメモリに読み込むのではなく、必要なページだけを呼び出すため、メモリの使用量が抑えられます。今回の更新でメタデータの整備とGPT-OSSへの対応が進みました。
必要な部分だけ呼び出す方式なんですね。では、開発者が自分でビルドする手間について、今回の公開資料には具体的な記載があるんですか。
開発者が自分でビルドする手間については、今回の公開資料に具体的な記載はありません。ただ、Linuxの環境でもWebGPUプラグインのパッケージが利用可能になったため、環境ごとの設定が以前より簡単になります。
Linuxの環境でも使えるようになったんですね。では、ブラウザの中で動くプログラムについて、開発者が組み込む技術者から見ると、これまでの制限はどう変わったんですか。
ブラウザの中で動くプログラムとはWASMを指します。今回の更新でサブグループのサイズを制御する基盤を整え、WASM向けの実行パスを有効にしました。これにより、ブラウザの中でもGPUの性能をより引き出しやすくなります。
WASMの中でもGPUの性能を引き出せるようになったんですね。最後に、今後の開発で特に注目される点はどこですか。
Qwen-3.5の演算やDeepSeek Engramの寄与演算のためのカーネルが追加されました。これにより、これらのモデルの対応範囲が広がったことになります。

出典

この記事のもとになった情報

※ 本文と音声は生成 AI が作成しています。内容は出典をご確認ください。
本作品のキャラクターには株式会社Live2Dの著作物であるサンプルデータが株式会社Live2Dの定める規約に従って用いられています。本作品は制作者の完全な自己の裁量で制作されています。このキャラクターモデルは株式会社Live2Dより許諾を得て商用利用しています。

スポンサーリンク

-ツール・基盤