AI 利用の可観測性を高める Langfuse、トランスクリプトの計測と SLO 対応

ツール・基盤

AI 利用の可観測性を高める Langfuse、トランスクリプトの計測と SLO 対応

スポンサーリンク

Langfuse v4.47.0が公開。トランスクリプトの計測と SLO 対応が加わった。

この記事のポイント

  • キャッシュ利用時のコストが下
  • Anthropicの1時間キャッシュ書き込みを1時間レートで課金
  • OpenAIのキャッシュ書き込みトークンも同様に課金

数字で見る

この記事に出てくる数字

入力上限 5 MiB

どこで使えるか

AIゲートウェイの失敗利用量を止めたい人向け。正常計測は従来通り GitHub Releaseからダウンロード可能 Anthropic/OpenAIのキャッシュ料金修正あり

スポンサーリンク

解説

かみくだいて説明します

開発者の nimarb が 2026 年 9 月 29 日に GitHub で公開した LLM 観測ツール Langfuse のバージョン 4.47.0 です。AI ゲートウェイの機能で、入力データの上限を 5 MiB まで引き上げ、失敗やキャンセルされた生成の消費量を正しく計上しないように修正されました。
失敗したときの消費量を計上しないって、コストの集計がずれていたということですね。では、AI を組み込む側の技術者から見ると、この 5 MiB まで許容される入力で、実際に使っているモデルの制限に引っかからなくなるんですか。
正確には、Langfuse 側で受け取れるサイズが増えるということです。モデル自体の上限は開発者が決めるため、そこは直接変わります。ただし、ゲートウェイを通す前に 5 MiB を超えていれば、それ以降は切り捨てられて記録される仕組みです。
切り捨てられるんですね。では、データを記録する側の話ですが、ClickHouse への書き込みが速くなると、観測データの遅延はどう変わるんですか。ネイティブ形式って、具体的にどんな違いがあるんですか。そこがまだ掴めません。
従来は JSON 形式で送っていたのを、ClickHouse 専用のデータ形式でも送れるようになりました。JSON はテキストとして扱うため変換に時間がかかりますが、専用形式はそのまま保存できるため、サーバーが処理する手間が省けます。
変換の手間が省けるなら、処理落ちが減って監視の精度が上がりそうです。では、Anthropic や OpenAI のキャッシュ書き込みの料金設定って、具体的にどう変わったんですか。
1 時間以内のキャッシュに書き込んだ場合、Anthropic は 1 時間のレートで、OpenAI はキャッシュ書き込み専用のトークン価格で計算されるようになりました。従来は通常の推論価格が適用されていたため、キャッシュを多用する環境では想定より請求額が多くなっていました。
通常の価格が適用されていたなら、キャッシュを積極的に使えなかった理由も分かります。では、実験の結果を サービスレベル目標 にラベル付けする機能って、開発者が自分で設定するんですか。
はい。クエリの実行結果に成功や失敗などのラベルを自動でつけられるため、比較テストの結果を可視化する作業が楽になります。手動で分類していた部分をシステム側が引き受けるイメージです。
手動だった部分が自動になるなら、評価作業の負担が確実に減りますね。最後に、このバージョンでまだ解決していない課題ってあるんですか。
5 MiBまでの入力をキャプチャして、省略された入力をマークする機能が追加されました。これで、より大きなデータも処理できるようになりますね。

出典

この記事のもとになった情報

  • GitHub:v4.47.0
  • 公開日:2026-09-29

※ 本文と音声は生成 AI が作成しています。内容は出典をご確認ください。
本作品のキャラクターには株式会社Live2Dの著作物であるサンプルデータが株式会社Live2Dの定める規約に従って用いられています。本作品は制作者の完全な自己の裁量で制作されています。このキャラクターモデルは株式会社Live2Dより許諾を得て商用利用しています。

スポンサーリンク

-ツール・基盤