ONNX v1.23.0 の仕様と演算子を追加した話

ツール・基盤

ONNX v1.23.0 の仕様と演算子を追加した話

スポンサーリンク

ONNX v1.23.0が公開。SwiGLU や 6 ビット量子化型を追加。

この記事のポイント

  • 外部KVキャッシュでNaNが発生
  • Attentionの因果マスクを修正
  • 同パスのNaNを回避

どこで使えるか

SwiGLUや量子化型を使うモデル開発者向け。外部KVのNaNを回避し推論を安定化。 GitHubリリースページで公開済み Python環境でpip install onnxで利用可能

スポンサーリンク

解説

かみくだいて説明します

sfatimarさんがGitHubで公開したONNXの最新版、バージョン1.23.0が、2026-09-19にリリースされました。IR Versionが13から14に上がり、新しい演算子としてSwiGLUやEinsum-28が追加され、量子化データ型にFLOAT6E2M3とFLOAT6E3M2が新たに加わりました。
量子化の新しい型が2つ増えたんですね。これはモデルを小さくする処理ですか。
はい、モデルの重みを細かく刻んで容量を減らす作業です。辞書の言葉を短いメモ書きに置き換えるようなイメージで、情報はそのままに必要最小限のデータだけを残します。
そこがまだ掴めません。メモ書きにしても、計算する時の正確さは保てるんですか。
正確には、FLOAT6E2M3やFLOAT6E3M2という新しい量子化データ型が追加されています。これにより、より効率的な表現が可能になりますが、具体的な精度の比較については要旨には記載がありません。
では、Attention演算子の修正が多数入っていますが、これは推論の速度に直接響く話ですか。
Attentionはモデルが文章や画像の関連性を見る仕組みで、今回の修正は主に計算の正確さを整えるものです。causal-maskの型不一致やKVキャッシュのNaN対策が中心なので、速度よりも安定した動作を目指す改修と言えます。
安定性が主ですね。Grouped MatMulのRFC提案も目につきますが、これは現場で既に使われている処理を置き換える話ですか。
RFCは正式な仕様策定前の提案段階です。現状ではまだ組み込み可能な状態ではなく、仕様が決まってから実装が追加される見通しです。
参考実装の修正が非常に多いですが、これは開発者が自分で書き直す手間が増えるということですか。
逆です。公式が用意する動作確認用のコードを最新に登録し直したため、開発者が手動でバグを潰す必要が減ります。ScatterNDやGatherElementsなど、これまで型落ちしていた出力形状の計算を正確に返すように更新しました。
最後に、IR Version 14への移行で、既存のモデルをそのまま読み込めなくなるケースは出ますか。
IR Versionが13から14に変わるため、古いモデルはそのままでは読み込めなくなります。変換アダプターを通さないといけないのは当然ですが、変換の手順や具体的な時間、失敗率についてはまだ分かっていません。

出典

この記事のもとになった情報

  • GitHub:v1.23.0
  • 公開日:2026-09-19

※ 本文と音声は生成 AI が作成しています。内容は出典をご確認ください。
本作品のキャラクターには株式会社Live2Dの著作物であるサンプルデータが株式会社Live2Dの定める規約に従って用いられています。本作品は制作者の完全な自己の裁量で制作されています。このキャラクターモデルは株式会社Live2Dより許諾を得て商用利用しています。

スポンサーリンク

-ツール・基盤