OpenEvol: 대화 기록을 활용한 LLM의 오프라인 자가 개선 파이프라인
OpenEvol의 기능
OpenEvol은 AI 대화 기록을 자동으로 학습 데이터로 변환하는 대규모 언어 모델용 오프라인 자기 개선 파이프라인입니다. 이 도구는 대화에서 가치 높은 교환을 마이닝하고, 품질을 판단하며, 수동 라벨링이나 독점 데이터 플라이휠 없이 미세 조정 데이터셋을 생성합니다.
작동 방식
파이프라인은 네 가지 자동화 단계를 거쳐 실행됩니다:
- 대화에서 가치 높은 교환 마이닝
- 선택적 교사 LLM을 사용한 규칙 기반 품질 판단
- SFT, 선호도, 사전 학습 데이터셋 합성
- 한 번의 명령으로 미세 조정
이를 통해 모델이 자신의 경험으로부터 학습하는 폐쇄 루프가 생성됩니다.
기술적 세부사항
시작하기 위해 GPU가 필요하지 않습니다. 전체 파이프라인은 모의 또는 OpenAI 호환 교사 백엔드와 함께 CPU에서 실행됩니다. 학습 준비가 되면 GPU를 사용할 수 있습니다.
다섯 가지 교사 백엔드가 지원됩니다:
- 모의(Mock)
- 규칙 기반(Rule-based)
- OpenAI 호환 API (모든 로컬 프록시 작동)
- HuggingFace Transformers
- vLLM
사용 옵션
OpenEvol을 사용하는 세 가지 방법:
- 오프라인 배치 실행을 위한 CLI
- 자동화를 위한 REST API 서버
- 채팅에서 직접 파이프라인 실행을 트리거할 수 있는 OpenClaw 데스크톱 플러그인
품질 관리
모든 배치는 자동으로 점수가 매겨집니다. 승인율이 80% 미만으로 떨어지면 학습이 차단되고 인간 검토를 위해 플래그가 지정되어 사용자가 학습에 사용할 데이터를 제어할 수 있습니다.
이러한 유형의 도구는 데이터를 외부 서비스로 전송하지 않고 실제 대화 기록을 사용하여 AI 코딩 에이전트를 개선하려는 개발자에게 유용합니다.
📖 Read the full source: r/openclaw
👀 See Also
OmniCoder-9B 파인튜닝은 8GB VRAM 시스템에서 에이전트 코딩에 강력한 성능을 보여줍니다.
레딧 사용자가 Opus 트레이스에서 Qwen3.5-9B를 파인튜닝한 OmniCoder-9B를 OpenCode로 테스트했으며, 8GB VRAM 시스템에서 100k 컨텍스트 길이에 Q4_K_M GGUF 양자화를 사용하여 초당 40개 이상의 토큰 속도를 보고했습니다.
클로드 코드 플랜 모드로 재작업률을 40%에서 거의 0%로 줄입니다
한 개발자가 Claude Code로 30개 이상의 코딩 세션을 추적한 결과, 계획 모드를 건너뛰면 40%의 경우 작업을 처음부터 다시 해야 했습니다. 계획 모드를 사용하면 재작업률이 거의 제로로 떨어졌으며, 한 기능은 계획 없이 35분 이상 걸리던 것을 계획 후 17분 만에 완료했습니다.
Agent Memory Protocol (AMP): MCP 기반 상호운용 가능한 AI 에이전트 메모리를 위한 공개 사양
AMP는 MCP 호환 AI 에이전트의 지속적인 메모리를 위해 6가지 핵심 동사(인코딩, 리콜, 포겟, 통합, 핀, 통계)를 정의하는 표준 인터페이스입니다. 규정 준수 테스트 스위트와 참조 구현을 포함합니다.
AskAlf: 셀프 호스팅 AI 워크플로우를 위한 오픈소스 멀티 에이전트 오케스트레이션 플랫폼
AskAlf는 자체 하드웨어에서 실행되는 오픈소스 멀티 에이전트 오케스트레이션 플랫폼으로, pgvector에 저장된 10계층 인지 메모리를 갖춘 자율 시스템을 통해 조율되는 전문 작업자를 동적으로 생성합니다.