Swift 1.5 Qwen3.8-27Bが推論トークンを 58.5% 削減し、9.18 倍高速になった
この記事のポイント
- Qwen3.8-27Bの推論効率向上モデル
- 思考トークンを58.5%削減し9.18倍高速化
- 27BパラメータのGGUF形式で公開
どこで使えるか
推論トークンを削減して高速化を図りたい人向け。思考時間を短縮しつつ精度を維持したい開発者向け。 Hugging Faceで公開済み ライセンスはother
スポンサーリンク
解説
かみくだいて説明します
2026年9月22日にukisaiがSwift 1.5 Qwen3.8-27BのGGUF版を公開しました。思考トークンを58.5%減らし、ベースモデルより0.35%高いスコアで、複数のタスクにおよそ9.18倍の速度向上を実現しています。
思考トークンを減らしながら精度も上がるんですか? 作る側からすると、既存のモデルとどう使い分ける話になりますか。
Swift 1.5は全般的にベースやSwift 1.0より強く、特にコーディングやエージェント作業で優れています。学習では、無駄に長い推論をするトークンを特定してペナルティを与え、強化学習とOPDで精度を回復させています。
無駄に長い推論をするトークンを特定してペナルティ、というのは少し難しいですが、要するにモデルが余計なことを考えるのを制限して、その分だけ本題に集中させる仕組みですね。
正確にはその通りです。モデルが迷って延々と考え込む状態を減らし、必要な推論だけを圧縮するように調整しています。実測では、ゲームのコードを1つ書くのにベースモデルが104.6分かかったのを、Swift 1.5は11.39分で終えています。
104.6分が11.39分だと、推論にかかるコストが大幅に抑えられますね。研究している人から見ると、どの評価基準で測った結果ですか。
LiveCodeBenchとTerminal Bench 2.1で評価しています。Terminal Bench 2.1ではエージェント呼び出しごとの推論トークンを合算して報告しており、コード生成とエージェント作業の両方でベースモデルやSwift 1.0を上回る数値を出しています。
では、手元のパソコンやサーバーで動かす場合の準備は簡単ですか。llama.cppに対応したランタイムで動くというのは、既存の推論ツールとそのまま組み合わせやすいという話ですね。
llama.cppに対応したランタイム、例えばllama-serverを使えばそのまま動きます。GGUF形式で出力されているので、一般的な推論サーバーに読み込ませるだけで利用可能です。
学習データは公開されていますか。中身を見て自分で調整したい場合の手順は、まだ明言されていないということですね。
データセットはHugging Faceで公開されていますが、そのまま使うのではなく、強化学習の環境に組み直す必要があります。詳しい手順は公開されていないため、そこはまだ分かっていません。
最後に、今後モデルのアップデートは予定されていますか。
今回はロングホライズンとエージェント、コーディングのタスクに力を入れて、ポストトレーニングをさらに拡張したみたいですね
出典
この記事のもとになった情報
- Hugging Face:ukisai/Swift-1.5-Qwen3.8-27B-GGUF
- 公開日:2026-09-22
※ 本文と音声は生成 AI が作成しています。内容は出典をご確認ください。
本作品のキャラクターには株式会社Live2Dの著作物であるサンプルデータが株式会社Live2Dの定める規約に従って用いられています。本作品は制作者の完全な自己の裁量で制作されています。このキャラクターモデルは株式会社Live2Dより許諾を得て商用利用しています。