Unsloth Studioが、ユーザーが指定した GPU の順序を推論で維持するようになった
この記事のポイント
- GPUの指定順序が並び替わっていた
- 起動とリロードで判定を統一した
- 全GPU指定時のみ順序を維持する
どこで使えるか
複数のGPUを指定順で使いたい人向け。起動時とリロード時の判定を統一した GitHubのリリースページから入手可能 Windows ARM64環境限定
スポンサーリンク
解説
かみくだいて説明します
GitHubでdanielhanchenが2026-09-16に公開したunslothai/unslothの更新では、Windows ARM64版のStudioモードで複数のGPUを使う際のデバイス順序と--tensor-splitによる負荷配分の不具合を修正しました。
複数のGPUの順序が逆になってしまうと、実際に使うカードと別のカードに計算が振られてしまうんですね。技術者として現場で組み込む場合、この修正で手元の並べ替えはそのまま維持されるんですか。
維持されます。これまでユーザーが指定した順序をシステム側が昇順に並べ替えていたのをやめ、環境変数とコマンドライン引数の両方で順序を共有する仕組みに改めました。
環境変数と引数で別々に管理されていたのが、同じルールで動くようになったということですね。では、--tensor-splitで60と40の割合を指定したとき、カードを並べ替えた場合でも指定した割合通りに分配されるんですか。
そうです。配分比率はユーザーが指定した順序に追従するようになり、並べ替えを無効化する方向に動きます。ただし、重複するデバイス名が入力された場合はエラーとして拒否するようになりました。
重複入力は拒否されるけど、指定した順序通りに配分されるのは安心ですね。ただ、4回のレビューでP1のバグが4つも見つかったとありますが、具体的にどれくらいの規模の修正だったんですか。
修正範囲は広いです。デバイスフラグの受け渡し、並べ替えの判定ロジック、モデル再読み込み時の比較関数、そして環境変数の継承先など、関連する処理のほぼ全てを修正しました。
関連する処理のほぼ全てを直したわけですね。--tensor-splitの値が子プロセスに届かない場合に並べ替えが解除されていたとありましたが、それはどういう状態だったんですか。
並列実行で環境変数をクリアした場合、親プロセスの設定が子に伝わらず、システム側が勝手に順序を戻そうとしていた状態です。子プロセスの実際の環境変数を参照するようにしたことで、この誤った戻し処理を止めています。
子プロセスの実際の状態を見るようにして、勝手に順序を戻すのを防いだということですね。では、Vulkanを使った場合や単一GPUのホストでは、この修正の影響は変わらないんですか。
変わりません。単一GPUのホストや、見えているGPUを全て指定した場合、修正前の動作と同じく配置権限を譲る処理は行われず、従来通り動作します。
条件によって動き方が変わるのではなく、単一GPUや全指定の場合は従来通りで安定しているんですね。最後に、Windows ARM64版の他の機能や、今後のアップデート予定についてはどうなっていますか。
Windows ARM64版の機能や今後のアップデート予定については、GPU順序の修正が完了し、全GPU指定時でも順序が維持されるようになりました。
出典
この記事のもとになった情報
- GitHub:Windows ARM64 Binaries
- 公開日:2026-09-16
※ 本文と音声は生成 AI が作成しています。内容は出典をご確認ください。
本作品のキャラクターには株式会社Live2Dの著作物であるサンプルデータが株式会社Live2Dの定める規約に従って用いられています。本作品は制作者の完全な自己の裁量で制作されています。このキャラクターモデルは株式会社Live2Dより許諾を得て商用利用しています。