카파시의 자율 연구 프로젝트: AI 에이전트가 밤새 LLM 학습 실험을 실행합니다
카파시의 자동연구 프로젝트가 하는 일
안드레이 카파시가 "AI 연구자 루프" 개념을 보여주는 "autoresearch"라는 작은 저장소를 공개했습니다. 이 시스템은 AI 에이전트를 사용하여 단일 GPU에서 밤새 LLM 훈련 실험을 자율적으로 실행합니다.
작동 방식
에이전트는 다음과 같은 워크플로우를 따릅니다:
train.py파일을 지속적으로 수정합니다- 5분짜리 나노챗 훈련 실험을 실행합니다
- 검증 비트퍼바이트(
val_bpb) 지표가 개선되었는지 확인합니다 - 사용자가 자는 동안 이 사이클을 반복합니다
설정 및 구성
이 프로젝트는 매우 간단한 설정을 가지고 있습니다:
- 하드웨어: 하나의 GPU
- 파일: 하나의 메인 파일
- 지표: 하나의 주요 지표(
val_bpb)
사람은 program.md에 연구 조직 프롬프트를 작성하고, 에이전트가 코드 반복 작업을 처리합니다.
실험 처리량
실험당 고정된 5분 예산으로, 시스템은 시간당 약 12개의 실험을 실행할 수 있습니다.
이 접근 방식은 AI 에이전트가 매개변수 공간과 훈련 구성을 자율적으로 탐색할 수 있는 자동화된 연구의 실용적인 구현을 보여주며, 언어 모델을 다루는 개발자들의 실험 주기를 가속화할 수 있습니다.
📖 전체 소스 읽기: r/LocalLLaMA
👀 See Also
오픈소스 CLAUDE.md가 Claude Code 에이전트를 몇 시간 동안 생산적으로 유지하며, 루핑 상태에 빠지지 않도록 함
단 70줄짜리 CLAUDE.md 파일 하나로 Claude Code 에이전트가 이야기만 늘어놓고 수정 작업을 반복하는 문제를 막습니다. 세션이 3시간짜리 실패에서 완전한 생산적 수명 주기로 바뀝니다.
Intuno: AI 에이전트 발견 및 통신을 위한 오픈 소스 네트워크
Intuno는 AI 에이전트가 기능을 등록하고, 의미론적 검색을 통해 서로를 발견하며, 3줄의 Python 코드로 함수를 호출할 수 있는 오픈소스 네트워크입니다. Claude Desktop 또는 Cursor에서 사용할 수 있는 MCP 통합을 포함하고 있습니다.
클로드, 일레븐랩스, 플럭스로 구축된 멀티 에이전트 토론 앱
한 개발자가 Claude를 활용한 다중 에이전트 토론 앱을 만들었습니다. 이 앱은 사용자가 두 개의 페르소나와 주제를 선택하면 Claude가 각 측의 입장에 맞는 주장을 생성합니다. AI 심판이 토론을 평가하고 승자를 선정합니다.
CLAUDE.md: 드롭인 파일로 Claude 출력 토큰을 63% 절감
CLAUDE.md는 코드 변경 없이 Claude의 출력 장황함을 약 63% 줄이는 단일 파일입니다. Claude 응답의 아첨, 장황함, 서식 노이즈를 대상으로 합니다.