PyPIサプライチェーン攻撃後のlitellmに代わる3つのオープンソース代替案

PyPI上のlitellmバージョン1.82.7と1.82.8は、サプライチェーン攻撃により認証情報を盗むマルウェアに侵害されました。AIコーディングエージェントを使用している開発者で移行が必要な方のために、ソースで言及されている3つのオープンソース代替案を紹介します。

Bifrost

現在利用可能な最も直接的なlitellm代替品とされています。Go言語で書かれており、litellmよりも約50倍高速なP99レイテンシを主張しています。Apache 2.0ライセンスで、20以上のプロバイダーをサポートしています。litellmからの移行は、ベースURLの1行変更のみで完了します。

Kosong

Kimiによってオープンソース化され、Kimi CLIで使用されているLLM抽象化レイヤーです。litellmよりもエージェント指向が強く、メッセージ構造を統一し、プラグ可能なチャットプロバイダーによる非同期ツールオーケストレーションを提供します。OpenAI、Anthropic、Google VertexなどのAPI形式をサポートしています。

Helicone

強力な分析・デバッグ機能を備えたAIゲートウェイです。100以上のプロバイダーをサポートしています。BifrostやKosongよりも重いですが、可観測性の面ではより機能豊富です。