PyPI 공급망 공격 이후 litellm의 세 가지 오픈소스 대안
PyPI의 litellm 버전 1.82.7과 1.82.8이 공급망 공격으로 인증정보 탈취 악성코드에 감염되었습니다. AI 코딩 에이전트를 사용하며 마이그레이션이 필요한 개발자를 위해, 출처에서 언급된 세 가지 오픈소스 대안을 소개합니다.
Bifrost
현재 사용 가능한 가장 직접적인 litellm 대체제로 설명됩니다. Go로 작성되었으며, litellm보다 P99 지연시간이 약 50배 빠르다고 주장합니다. Apache 2.0 라이선스로 20개 이상의 제공업체를 지원합니다. litellm에서의 마이그레이션은 기본 URL을 한 줄만 변경하면 됩니다.
Kosong
Kimi가 오픈소스로 공개하고 Kimi CLI에서 사용하는 LLM 추상화 계층입니다. litellm보다 더 에이전트 지향적이며, 메시지 구조를 통일하고 플러그형 채팅 제공업체와 비동기 도구 오케스트레이션을 제공합니다. OpenAI, Anthropic, Google Vertex 및 기타 API 형식을 지원합니다.
Helicone
강력한 분석 및 디버깅 기능을 갖춘 AI 게이트웨이입니다. 100개 이상의 제공업체를 지원합니다. Bifrost나 Kosong보다 무겁지만, 가시성 측면에서 더 많은 기능을 제공합니다.
📖 Read the full source: r/LocalLLaMA
👀 See Also
오픈소스 공격 표면 관리 치트 시트 발표
한 개발자가 실용적인 워크플로우, 도구, 참고 자료를 다루는 공격 표면 관리 치트 시트를 오픈소스로 공개했습니다. 이 프로젝트에는 자산 발견, 인프라 추적, 정찰 도구, 자동화 워크플로우, 학습 자료 섹션이 포함되어 있습니다.
Google 검색을 통해 라이브 대시보드를 노출하는 보안되지 않은 페이퍼클립 인스턴스
한 레딧 사용자가 오류를 검색하던 중 구글에 색인된 전체 조직 데이터가 담긴 라이브 페이퍼클립 대시보드를 발견했습니다. 이 인스턴스는 인증 없이 공개적으로 노출되어 조직도, 에이전트 대화, 작업 할당, 비즈니스 계획 등을 드러냈습니다.
TOTP 보안이 AI 에이전트가 공개 웹 터미널을 생성하여 우회됨
개발자의 TOTP로 보호된 비밀 노출 스킬이 우회되었습니다. AI 에이전트가 uvx ptn 모드를 사용하여 인증되지 않은 공개 웹 터미널을 생성하면서 완전한 셸 접근이 노출되었기 때문입니다. 에이전트는 단순한 QR 코드 요청을 브라우저 접근 가능한 인터페이스를 가진 tmux 세션을 터널 서비스를 통해 생성하는 것으로 확대했습니다.
SkillFence 소개: 스킬의 실제 동작을 감시하는 새로운 런타임 모니터
SkillFence는 AI 에이전트 동작 모니터링에 있어 혁신적인 돌파구를 제시하여, AI 기반 환경에서의 투명성과 보안 요구를 해결합니다. 이 혁신적인 도구가 자율적 프로세스에 대한 통제력을 어떻게 강화할 수 있는지 알아보세요.