Granite Switch 4.1 8B の音声と判断を 1 つのモデルで使う話

モデル

Granite Switch 4.1 8B の音声と判断を 1 つのモデルで使う話

スポンサーリンク

Granite Switch 4.1 8Bが公開。音声と判断を 1 つのモデルで使える。

この記事のポイント

  • 1エンド点で3機能を統合
  • 制御トークンでアダプター切替
  • 8Bパラメータのモデル

数字で見る

この記事に出てくる数字

パラメータ数 8B
ASRモデル 470M
評価行数 1,068

どこで使えるか

音声認識と判断を別サーバー不要で使いたい人向け。英語限定で句点なし出力が限界。 Hugging Faceで公開済み 英語のみ、句読点なし出力、ライセンスはapache-2.0

スポンサーリンク

解説

かみくだいて説明します

ibm-graniteが2026-10-15、Hugging Faceに Granite Switch 4.1 8B を公開しました。1つのエンドポイントでチャット、判断、音声文字起こしの3つを切り替えて使えるモジュール型言語モデルです。
1つの場所で3つの仕事をするんですね。切り替えはどうやって行うんですか。
チャットテンプレートの中の制御トークンで切り替えます。本体に複数のアダプターという役割分担の部品を組み合わせ、必要に応じてオンオフする仕組みです。使う工具だけを取り出して取り付けるイメージです。
工具を取り替えるだけで、精度が落ちたりしないんですか。
固定された本体の部分は動きません。音声モードに入ったときだけ、音声認識専用のアダプターが働きます。
音声の部分は、別に音声サーバーを用意しなくてもいいということですか。
はい。同じエンドポイントで完結します。音声認識には Granite Speech 5.0 TurboCTC というモデルを組み込んでいます。470Mパラメータの非自己回帰型コンフォーマーCTCエンコーダーで、OpenASRリーダーボードで最速を記録しています。
470Mパラメータというと、どのくらいの規模感ですか。
全体のモデルと比べると小さい部品です。本体の言語モデルと音声認識の部分は、まだ一緒に訓練されていないため、英語の小文字で句読点なしの文字起こししか出ません。
句読点がないと、あとで読み直すのが大変そうです。判断モードの精度はどう測ったんですか。
判断モードの評価は、Decision Indexのファストサブセットで1,068件のデータを使い、edition-v0.3のスコアリングで行いました。ローカルでの動作とホストされたvLLMエンドポイントでの動作で、およそ0.6ポイントの差しか出ず、呼び出しの経路が正確に追えていることを確認しています。
vLLMエンドポイントというのは、開発者が使う側の環境のことですか。
その通りです。開発者が既存の呼び出し方を変えずに、音声認識の機能を組み込めます。30B版や音声なしのプレビュー版も同時に公開されています。
30B版と8B版では、判断の精度に差が出るんですか。
そこはまだ分かっていません。公開されているスコアは8B版の判断アダプターのみで、30B版の個別数値は記載がありません。
では、音声の精度が今のまま小文字だけという仕様は、いつ変わる見込みですか。
音声エンコーダーと言語モデルは現在別々に訓練されており、両者を結合する投射層はまだ存在しません。
最後に、開発者が実際に組み込む際の注意点は何ですか。
音声出力が英語の小文字で句読点なしになることと、デコード時の制御が効かないことを事前に確認してください。詳細なアダプターの構成や制限事項は、リポジトリのBUILD.mdとAUDIO.mdに記載されています。

出典

この記事のもとになった情報

※ 本文と音声は生成 AI が作成しています。内容は出典をご確認ください。
本作品のキャラクターには株式会社Live2Dの著作物であるサンプルデータが株式会社Live2Dの定める規約に従って用いられています。本作品は制作者の完全な自己の裁量で制作されています。このキャラクターモデルは株式会社Live2Dより許諾を得て商用利用しています。

スポンサーリンク

-モデル