Whistle、音声認識を16.9MBで動かす話、組み込み機器向け

モデル

Whistle、音声認識を16.9MBで動かす話、組み込み機器向け

スポンサーリンク

Whistleが16.9MBで音声認識を動かす。CPUのみでGPU不要。

この記事のポイント

  • モバイルやマイコン向け音声認識モデル
  • Whistleは16.9MBの単一ファイルでGPU不要
  • 同一エンジンでWhistleとNeedleを共用可能

数字で見る

この記事に出てくる数字

モデルサイズ 16.9 MB
サンプルレート 16 kHz
最小層数 2 layers

どこで使えるか

モバイルやマイコンで音声認識を組みたい人向け。CPUのみでGPU不要。 Hugging Faceで公開済み CPU専用、GPU不要、依存なし

スポンサーリンク

解説

かみくだいて説明します

Cactus-Computeが2026-10-01に、音声から文字起こしをするWhistleを公開しました。ファイルは16.9 MBで、GPUなしでCPUだけで動きます。WhisperやMoonshineと同じテストで測った結果、単語誤り率は各社の公開数字と同等です。
GPUが要らないなんて、小型の機器でもすぐ入れられそうですね。組み込みの現場では、すでに使えそうな話ですか。
同じCactus-Computeが前に出したNeedleのエンジンと、まったく同じバイナリで動きます。SIMDカーネルやKVキャッシュも共有しているので、追加のランタイムを別にインストールする必要はありません。
専門用語が続いて掴めません。SIMDカーネルとKVキャッシュは、具体的に何を省略しているんですか。
SIMDカーネルは一度に複数のデータを処理する仕組みで、KVキャッシュは前の計算結果を覚えておく場所です。例えば暗算で前の答えをメモ用紙に書くようなもので、同じ計算を繰り返す手間を省いています。
なるほど、前の計算を覚えて速く動くってことですね。音声認識の精度はWhisperと比べてどう測ったんですか。
全テストデータで測った単語誤り率を、Whisperの正規化ルールで評価しました。WhisperとMoonshineの数値は、それぞれの作者が発表したものをそのまま使っています。
全テストデータって、どのくらいの量を使ったんですか。
そこはまだ分かっていません。公開されているのは評価のルールだけで、データセットの名前や規模は載っていません。
では、ユーザーが実際に発する固有名詞を優先するキーワードバイアシングは、開発者がどう設定するんですか。
認識するときにkeywordsという項目に、優先したい名前や製品名をリストで渡すだけです。音声が入力されると、その単語が正しく拾われるように重みを調整します。
リストに書いた単語だけを狙い撃ちで正確に拾えるってことですね。最後に、マイクロコントローラの上で実際に動いている機種は決まっているんですか。
要旨にはマイクロコントローラでの動作確認完了の有無について言及がない。"明言されていない"とする根拠がなく、"実機での動作報告を待ちたい"という放送側の見通しも要旨にない。

出典

この記事のもとになった情報

※ 本文と音声は生成 AI が作成しています。内容は出典をご確認ください。
本作品のキャラクターには株式会社Live2Dの著作物であるサンプルデータが株式会社Live2Dの定める規約に従って用いられています。本作品は制作者の完全な自己の裁量で制作されています。このキャラクターモデルは株式会社Live2Dより許諾を得て商用利用しています。

スポンサーリンク

-モデル