大規模言語モデルの呼び出しを一元管理する LiteLLM の最新安定版リリース

ツール・基盤

大規模言語モデルの呼び出しを一元管理する LiteLLM の最新安定版リリース

スポンサーリンク

LiteLLM v1.103.0がリリース。Docker イメージの署名検証に対応。

この記事のポイント

  • 改ざん検知の手順を明記
  • cosignで公開鍵かタグで検証
  • 条件付きで改ざんを検出可能

どこで使えるか

Dockerイメージの改ざんを検知したい運用者向け。cosignで公開鍵かタグで署名を検証 GitHub Releasesで公開済み Dockerイメージはcosignで署名済み

スポンサーリンク

解説

かみくだいて説明します

BerriAI が GitHub で、大規模言語モデルのアプリケーションプログラミングインターフェースを中継するツール litellm のバージョン v1.103.0 を、2026-09-28 に公開しました。
中継するソフトの更新なんですね。開発者が実際に組み込む立場から見ると、コストの計算方法がどう変わったんですか?
キャッシュされたリアルタイム音声トークンを、読み取り専用の安いレートで請求する仕組みが追加されました。また、リトライ回数を記録して上限を設ける修正も入っています。
音声のデータを使いまわしたときの料金が安くなるんですね。ただ、リトライの上限を設けると、一時的にエラーが増える場合もあるんじゃないですか?
上限を超えた場合は、スパンログの予算でツールとガードレールのインデックスを制限します。また、ベッドロックでS3に保存されたファイルの削除と一覧表示をサポートしました。
改ざんチェックができるのは安心ですね。認証の仕組みで、チームごとにアクセス権限を分ける場合、設定の手間は増えますか?
設定の手間は増えません。むしろ一度読み込んだチーム情報をキャッシュして、同じリクエスト内で何度もデータベースを参照しないように最適化されています。初回のキャッシュを使う仕組みですが、要するにメモ帳に書き写して、何度も辞書を引かなくて済むようにしたものです。
辞書を引く回数を減らすイメージですね。では、対応する AI モデルの価格表も更新されていますが、どこが新しく追加されたんですか?
Azure の gpt-chat-latest のレートが追加され、FriendliAI の llama-3.1 に関する古いエントリが削除されました。また、Bedrock の S3 に保存されたファイルの削除と一覧表示に対応しました。
古いモデルのデータが消えて、新しい価格表が整うんですね。運用側から見ると、ログの出力量はどう変わりますか?
不要なログ出力を大幅に減らせます。uvicorn のアクセスログから特定のパスを除外できたり、タイムアウトが連続したときも 1 行にまとめて記録するようになりました。
管理画面が見やすくなって運用が楽になりますね。最後に、次のバージョンで予定されている機能はありますか。
現時点で今後の予定については明言されていませんが、公開された変更点には認証の更新や管理画面の改善が含まれています。

出典

この記事のもとになった情報

  • GitHub:v1.103.0
  • 公開日:2026-09-28

※ 本文と音声は生成 AI が作成しています。内容は出典をご確認ください。
本作品のキャラクターには株式会社Live2Dの著作物であるサンプルデータが株式会社Live2Dの定める規約に従って用いられています。本作品は制作者の完全な自己の裁量で制作されています。このキャラクターモデルは株式会社Live2Dより許諾を得て商用利用しています。

スポンサーリンク

-ツール・基盤