NerfGuard: 코딩 요청을 저렴한 모델로 라우팅하여 비용을 3배 절감하는 분류기
속도와 제어성을 위해 Claude Code에서 Codex로 전환한 팀은 토큰당 과금에 큰 부담을 느꼈습니다. 일일 요금이 상당했고, 모든 작업에 최상위 모델과 최대 추론을 사용하고 있었기 때문입니다. 그래서 그들은 NerfGuard를 만들었습니다. 각 요청을 필요한 최소한의 모델과 추론 깊이로 라우팅하는 빠른 분류기입니다.
핵심은 주어진 코딩 요청에 필요한 최소 지능을 결정하는 분류기입니다. 여기에 자동 토큰 효율화 기술을 적용합니다. 결과적으로 동일한 품질을 유지하면서 토큰 소비는 대폭 줄이고, 지능과 추론이 적절히 배분되어 속도도 크게 향상됩니다. 팀은 최대 3배 절감과 하루에 한 사람당 도구 사용 및 에이전트 응답 대기 시간에서 몇 시간을 절약했습니다.
출처의 주요 내용:
- 분류기가 각 요청에 가장 저렴한 모델 + 추론 깊이로 라우팅
- 추가 자동 토큰 효율화 기술
- 결과: 동일 비용으로 3배 사용량
- 속도 향상: 하루에 한 사람당 몇 시간 절약
- 조절 한도에 도달하기 전에 더 많은 사용량
현재 여러 AI 회사의 엔지니어들이 사용 중입니다. 도구는 nerfguard.com에서 확인할 수 있습니다.
대상: 코딩 에이전트(Claude Code, Codex 등)를 사용하며 비용 대비 출력을 최대화하고 대기 시간을 줄이려는 팀.
📖 전체 출처 읽기: HN AI Agents
👀 See Also
Claude Code와 MCP를 사용한 Datadog 경고 트라이아지 자동화
한 개발자가 Claude Code 기술과 Datadog의 MCP 서버를 활용하여 cron 작업을 통해 모니터링 경고를 자동으로 확인하고, 문제를 분류하며, 수정 PR을 여는 시스템을 구축했습니다. 이 설정은 약 30분이 소요되며, 격리된 작업 트리에서 병렬 AI 에이전트를 실행합니다.
클로드 텍스트 어드벤처 스킬 v1.1.0, 캠페인 아크와 향상된 NPC 기능 추가
Claude 텍스트 어드벤처 스킬 업데이트 v1.1.0에서는 캐릭터 진행 상황이 여러 모험에 걸쳐 지속되는 캠페인 아크, 숨겨진 스탯과 레벨을 가진 NPC, 선택적 시각/오디오 모듈이 도입되었습니다. Claude Desktop 또는 claude.ai에서 사용하려면 GitHub 릴리스에서 text-adventure.zip을 다운로드하세요.
블랙 LLAB: 동적 모델 라우팅 및 도커 샌드박스 AI 에이전트를 위한 오픈소스 아키텍처
한 개발자가 Mistral 3B를 사용해 로컬과 클라우드 모델 간 프롬프트를 라우팅하고, OpenClaw 통합으로 AI 에이전트를 격리된 Docker 컨테이너에서 실행하는 시스템인 Black LLAB를 오픈소스로 공개했습니다.
devopsiphai: 오픈소스 Claude Code 기술이 6단계에 걸쳐 운영 상태를 감사합니다
devopsiphai는 6단계 프로세스와 ARC 프레임워크를 사용하여 프로덕션 프로젝트의 운영 가능성을 감사하고, 문자 등급과 노력 추정 작업이 포함된 구조화된 TODO.md를 출력하는 오픈소스 Claude Code 스킬입니다.