Trois alternatives open-source à litellm après l'attaque de la chaîne d'approvisionnement PyPI
Les versions 1.82.7 et 1.82.8 de litellm sur PyPI ont été compromises par un logiciel malveillant volant des identifiants dans une attaque de la chaîne d'approvisionnement. Pour les développeurs utilisant des agents de codage IA qui doivent migrer, voici trois alternatives open-source mentionnées dans la source.
Bifrost
Décrit comme le remplacement le plus direct de litellm actuellement disponible. Écrit en Go, il revendique une latence P99 ~50 fois plus rapide que litellm. Sous licence Apache 2.0 et prend en charge plus de 20 fournisseurs. La migration depuis litellm ne nécessite qu'un changement d'URL de base sur une seule ligne.
Kosong
Une couche d'abstraction LLM open-source par Kimi et utilisée dans Kimi CLI. Plus orienté agent que litellm, il unifie les structures de messages et fournit une orchestration d'outils asynchrone avec des fournisseurs de chat modulaires. Prend en charge OpenAI, Anthropic, Google Vertex et d'autres formats d'API.
Helicone
Une passerelle IA avec de solides capacités d'analyse et de débogage. Prend en charge plus de 100 fournisseurs. Plus lourd que Bifrost ou Kosong mais plus riche en fonctionnalités côté observabilité.
📖 Read the full source: r/LocalLLaMA
👀 See Also
Plugin de sécurité Claude Code : Intégrer la sécurité applicative dans le flux de travail du développeur
Anthropic a lancé un plugin de conseils de sécurité pour Claude Code qui identifie et corrige les vulnérabilités pendant le codage. Disponible pour tous les utilisateurs via la place de marché des plugins, pas seulement Enterprise. Discussion pour savoir s'il devient un assistant léger, une couche sérieuse d'AppSec ou un pont vers Claude Security.
Isolement des agents IA avec WebAssembly : Autorité zéro par défaut
Cosmonic soutient que le sandboxing traditionnel (seccomp, bubblewrap) échoue pour les agents IA à cause de l'autorité ambiante. Le modèle basé sur les capacités de WebAssembly accorde zéro autorité par défaut, nécessitant des importations explicites pour le système de fichiers, le réseau ou les identifiants.
McpVanguard : Proxy de sécurité open-source pour les agents d'IA basés sur MCP
McpVanguard est un proxy de sécurité et un pare-feu à 3 couches qui se place entre les agents d'IA et les outils MCP, ajoutant une protection contre l'injection de prompts, le parcours de chemins et d'autres attaques avec une latence d'environ 16 ms.
Sieve : Scanneur local de secrets pour historiques de chats d’outils de codage IA
Sieve analyse l'historique des conversations des assistants de codage IA comme Cursor, Claude Code, Copilot, etc., à la recherche de clés API et de tokens divulgués. L'analyse est entièrement locale, avec occultation et coffre-fort du trousseau macOS.