AI の推論を一元管理する LiteLLM のアップデート、コスト管理とセキュリティの改善

ツール・基盤

AI の推論を一元管理する LiteLLM のアップデート、コスト管理とセキュリティの改善

スポンサーリンク

LiteLLM v1.101.0が公開。Docker 署名の検証方法とコスト管理が改善

この記事のポイント

  • 署名検証の方法が2通りある
  • 公開鍵かタグでcosign検証する
  • 改ざん検出は可能だが鍵配布は別

数字で見る

この記事に出てくる数字

型ファイル数 47
ホットスポット 16
猶予期間 3日

どこで使えるか

Dockerイメージの改ざんを検出したい運用者向け。cosignで署名検証できる GitHubのリリースページで入手可能 Dockerイメージはcosignで署名済み

スポンサーリンク

解説

かみくだいて説明します

BerriAIのlitellmが、2026-09-15にv1.101.0を公開しました。yucheng-berriさんを筆頭に、Dockerイメージの署名検証や、BedrockのNova Sonic対応、FriendliのGLM-5.3モデル追加などが含まれています。
開発者向けのツールがアップデートしたんですね。今回は主に何が変わったんですか。
大きく分けて3つです。1つ目がルーティングの精度上げで、複雑さによってリクエストを振り分けるcomplexity_routerに、画像などのリクエストに対応するモードが加わりました。これは郵便物の仕分け機のように、重さや大きさで宛先を変える仕組みです。2つ目がコスト管理の強化で、Webhook-onlyの環境でも予算アラートが届くようになりました。3つ目がセキュリティで、Dockerイメージをcosignというツールで署名し、改ざんされていないか検証できるようになります。
コスト管理がWebhookだけでも届くようになったんですか。設定は難しくなりますか。
設定自体は既存のWebhook URLを指定するだけで、手間が増えるわけではありません。正確には、それまでWebhookだけだとアラートが出なかったケースが、今回は予算枠を超えた時点で通知されるようになります。
ルーティングの精度が上がったというのは、具体的にどれくらい速くなるんですか。
公開資料には具体的な数値は載っていません。ただし、入力テキストが長すぎると自動で切り替わる仕組みが追加されています。
入力テキストが長すぎると自動で切り替わるんですか。それは開発者が手動で選んでいた部分を、システムが判断するということですか。
そうです。開発者がモデル名を直接指定していた部分を、complexity_routerがリクエストの性質を見て最適なパスに流すようになります。
Dockerの署名検証は、なぜ今回必要だったんですか。
第三者がイメージを差し替えるリスクを減らすためです。cosignで署名すれば、ダウンロードしたイメージがBerriAIが公開したものそのものか、誰でもコマンド一つで確認できます。
cosignというのは、具体的にどう使うんですか。そこがまだ掴めません。
封筒のシールのようなものです。開発者がコマンドを一つ打つだけで、そのシールが本物か偽物か判定できます。先ほどのDockerイメージに貼れば、中身が入れ替わっていないと保証される仕組みです。
開発現場で使う場合、このアップデートはすぐに取り込めますか。
GitHubのリポジトリから直接pullするか、パッケージマネージャー経由でv1.101.0を指定すれば更新可能です。ただし、Bedrockのストリーミング設定やツール検索機能の追加など、新しい機能の活用には各サービスの設定確認が必要です。
最後に、次回のアップデートで何が来るか分かっていますか。
次回の内容はまだ公開されていません。ただし、今回のcomplexity_routerの改良やコスト管理の機能は、今後のバージョンでも引き続き拡張される見通しです。

出典

この記事のもとになった情報

  • GitHub:v1.101.0
  • 公開日:2026-09-15

※ 本文と音声は生成 AI が作成しています。内容は出典をご確認ください。
本作品のキャラクターには株式会社Live2Dの著作物であるサンプルデータが株式会社Live2Dの定める規約に従って用いられています。本作品は制作者の完全な自己の裁量で制作されています。このキャラクターモデルは株式会社Live2Dより許諾を得て商用利用しています。

スポンサーリンク

-ツール・基盤