프로젝트 헤드룸: 넷플릭스 엔지니어의 오픈소스 도구, AI 토큰 비용 90% 절감

Netflix 시니어 엔지니어 Tejas Chopra가 오픈소스로 공개한 Project Headroom은 LLM에 도달하기 전에 컨텍스트 윈도우 입력을 압축하는 로컬 프록시입니다. 초기 추정에 따르면 최대 90%의 토큰이 중복되며, 2026년 1월 이후 이 도구는 2000억 개의 토큰에 걸쳐 사용자들에게 총 70만 달러를 절감했습니다.

작동 방식

Headroom은 개발자 머신의 8787 포트에서 프록시로 실행됩니다. headroom wrap 명령어로 LLM CLI를 래핑합니다. 예:

headroom wrap codex

대화 기록, 로그, 도구 출력, 파일, RAG 청크 등 모든 입력을 파싱하여 무손실, 가역 압축을 적용합니다. 특히 다음 항목을 효과적으로 줄입니다:

• 서버 로그: 90% 제거
• MCP 도구 출력: 70% 중복 JSON
• 데이터베이스 출력: 반복적인 스키마
• 파일 트리: 반복 메타데이터

Python과 Node로 구축된 Headroom의 현재 버전은 v0.22이며 GitHub에서 2,000개의 별과 120개의 포크를 받았습니다.

중요성

Chopra는 일상적인 디버깅과 리팩토링 과정에서 발생한 287달러의 Claude Sonnet 청구서에서 영감을 받았습니다. 원인은 그의 명령어가 아니라 상용구, JSON 스키마, 머신 메타데이터였습니다. 그는 "이것은 산문도 창작 글도 아닙니다. 텍스트로 위장한 압축 가능한 데이터입니다."라고 썼습니다.

기본적으로 Claude의 접두사 캐시 TTL은 5분에 불과하며, 비활성화 후 전체 컨텍스트가 새로고침됩니다. 더 긴 TTL을 설정할 수 있지만 쓰기 비용이 두 배가 되어 읽기 비용을 90% 절감합니다. Headroom은 이러한 트레이드오프를 우회합니다.

대안

다른 도구들도 있습니다: RTK (Rust Token Killer)는 장황한 명령 출력을 줄이고, LeanCTX는 변형입니다. Token Company (Y Combinator 투자)와 같은 상용 옵션은 압축 서비스를 제공합니다. 그러나 Headroom의 핵심 기능은 가역 압축과 개발자 워크플로우 내에 머무른다는 점입니다.