Три альтернативы с открытым исходным кодом для litellm после атаки на цепочку поставок PyPI
Версии litellm 1.82.7 и 1.82.8 на PyPI были скомпрометированы вредоносным ПО для кражи учетных данных в результате атаки на цепочку поставок. Для разработчиков, использующих AI-агенты для программирования, которым необходимо мигрировать, вот три альтернативы с открытым исходным кодом, упомянутые в источнике.
Bifrost
Описывается как наиболее прямая замена litellm, доступная в настоящее время. Написана на Go, заявляет о ~50x более быстрой P99-задержке по сравнению с litellm. Лицензирована под Apache 2.0 и поддерживает 20+ провайдеров. Миграция с litellm требует только изменения базового URL в одной строке.
Kosong
Слой абстракции LLM с открытым исходным кодом от Kimi, используемый в Kimi CLI. Более ориентирован на агентов, чем litellm, унифицирует структуры сообщений и предоставляет асинхронную оркестрацию инструментов с подключаемыми провайдерами чата. Поддерживает OpenAI, Anthropic, Google Vertex и другие форматы API.
Helicone
AI-шлюз с мощными аналитическими и отладочными возможностями. Поддерживает 100+ провайдеров. Более тяжеловесный, чем Bifrost или Kosong, но более функциональный в плане наблюдаемости.
📖 Read the full source: r/LocalLLaMA
👀 Смотрите также
Защита разделителями повышает устойчивость Gemma 4 к инъекциям промптов с 21% до 100% в тестовом бенчмарке из 6100+ примеров
Бенчмарк протестировал 15 моделей на 7 типах атак (6100+ тестов), используя случайные разделители вокруг ненадежного контента. Gemma 4 E4B улучшила показатель защиты с 21,6% до 100% при использовании разделителя + строгого промпта.
Безопасный удалённый доступ с Tailscale для OpenClaw
Microsoft взломана: вредоносное ПО в репозиториях GitHub нацелено на пользователей Claude и Gemini
Microsoft отключила более 70 репозиториев на GitHub после того, как хакеры внедрили вредоносное ПО, крадущее учетные данные, нацеленное на ИИ-агентов Claude Code и Gemini CLI.
Ward: Инструмент с открытым исходным кодом перехватывает команды npm install, чтобы блокировать атаки через цепочку поставок для пользователей Claude Code.
Ward — это инструмент с открытым исходным кодом, который подключается к менеджерам пакетов и проверяет каждый пакет до запуска скриптов установки. Когда Claude Code выполняет npm install, Ward автоматически проверяет пакеты на наличие вредоносного ПО, тайпсквоттинга, подозрительных скриптов и аномалий версий.