260개 이상의 AI 에이전트 및 도구 모음집 (오픈소스 및 셀프 호스팅 중심)
대규모로 정리된 AI 개발 도구 모음
한 개발자가 현재 사용 가능한 가장 포괄적인 AI 에이전트 및 프레임워크 목록을 편집했습니다. 이 목록은 오픈소스와 자체 호스팅 옵션을 강조하며, 저장소는 CC0 라이선스를 따르고 추가 항목에 대한 풀 리퀘스트를 받습니다.
주요 카테고리와 도구
목록은 도구를 여러 기능적 카테고리로 구성합니다:
- 로컬 LLM 실행기: Ollama (162k 스타), llama.cpp, vLLM, LM Studio, Jan, LocalAI, GPT4All, Llamafile
- 자체 호스팅 에이전트: OpenClaw (9k에서 188k 스타로 성장 중으로 기록됨), Open WebUI, LibreChat, LobeChat, Anything LLM, DB-GPT
- 오픈소스 프레임워크: Smolagents (HuggingFace), DeerFlow (ByteDance, #1 트렌딩), LangGraph, CrewAI, AutoGen, Mastra
- 에이전트용 오픈 웨이트 모델: Llama 4, Qwen 3 (MCP 네이티브), DeepSeek V3/R1, GLM-4 (가장 낮은 환각 현상으로 설명됨), Gemma 3, Phi-4
- 오픈소스 비디오 생성: Wan 2.1 (자체 호스팅 가능, 제한 없음), HunyuanVideo, LTX Video
- 오픈소스 음성 도구: LiveKit Agents, Rasa, Pipecat, Vocode
- 브라우저 인프라: Browser Use (Manus 내부에서 사용됨), Skyvern, Agent S2
저장소는 벡터 데이터베이스 (Chroma, Qdrant, Milvus, Weaviate), RAG 엔진 (RAGFlow, Pathway), 안전 도구 (NeMo Guardrails, LLM Guard)도 포함합니다.
📖 전체 출처 읽기: r/LocalLLaMA
👀 See Also
SIDJUA V1.0: AI 에이전트를 위한 셀프 호스팅 거버넌스 플랫폼
SIDJUA V1.0은 Docker에서 실행되는 AI 에이전트를 위한 무료, 자체 호스팅 거버넌스 플랫폼으로, 라즈베리 파이를 포함합니다. 이 플랫폼은 에이전트 작업에 대한 필수 검문소, 암호화된 자격 증명 저장소, 네트워크 격리, 세분화된 예산 제어 기능을 제공합니다.
GLiGuard: 오픈소스 3억 파라미터 안전 모더레이션 모델, LLM 가드레일 대비 16배 속도 향상 주장
Fastino Labs가 GLiGuard를 출시했습니다. 이는 3억 개의 파라미터를 가진 인코더 기반 모델로, 단일 패스로 여러 안전 작업을 수행하며 23~90배 더 큰 모델과 동등하거나 더 나은 성능을 내면서 최대 16배 더 빠르게 실행됩니다.
vLLM 내부: 고처리량 LLM 추론 시스템의 해부
Aleksa Gordić가 vLLM의 핵심 구성 요소인 엔진, KV 캐시 관리자, 페이지드 어텐션, 연속 배칭을 분석합니다. 청크 프리필 및 분리형 P/D와 같은 고급 기능도 다룹니다.
RubyLLM: 모든 주요 AI 제공업체를 위한 하나의 Ruby 프레임워크
RubyLLM은 OpenAI, Anthropic, Gemini, Ollama 등 800개 이상의 모델을 하나의 Ruby API로 통합합니다. 채팅, 비전, 툴, 에이전트, 스트리밍, Rails 통합을 지원하며 의존성은 3개뿐입니다.