컨텍스트 게이트웨이: AI 에이전트 컨텍스트 압축을 위한 오픈소스 프록시

컨텍스트 게이트웨이의 역할

컨텍스트 게이트웨이는 AI 코딩 에이전트(예: Claude Code, OpenClaw, Cursor)와 LLM API 사이에 위치하는 에이전트 프록시입니다. 파일 읽기나 grep 결과와 같은 도구 출력이 수천 개의 토큰을 컨텍스트 윈도우에 덤핑할 때, 이 프록시는 LLM에 도달하기 전에 해당 콘텐츠를 압축합니다. 이 동기는 컨텍스트가 길어질수록 장기 컨텍스트 벤치마크의 정확도가 급격히 떨어진다는 연구 결과에서 비롯되었습니다—OpenAI의 GPT-5.4 평가는 32k 토큰에서 97.2%에서 1M 토큰에서 36.6%로 떨어지는 것으로 보고되었습니다.

압축 작동 방식

이 시스템은 모델 내부를 검사하고 분류기를 훈련하여 컨텍스트의 어떤 부분이 가장 많은 신호를 전달하는지 감지하는 소형 언어 모델(SLM)을 사용합니다. 도구가 출력을 반환할 때, 압축은 도구 호출의 의도에 따라 조건부로 발생합니다. 예를 들어, 에이전트가 오류 처리 패턴을 찾기 위해 grep을 호출했다면, SLM은 관련 일치 항목을 유지하고 나머지는 제거합니다. 나중에 모델이 제거된 내용이 필요하다면, expand()를 호출하여 원본 출력을 가져올 수 있습니다.

주요 기능 및 설정

• 백그라운드 압축: 윈도우 용량의 85%에서 트리거되며, 요약이 사전 계산되어 압축을 기다리지 않아도 됩니다
• 지연 로드 도구 설명: 모델은 현재 단계와 관련된 도구만 볼 수 있습니다
• 지출 한도: 예산 제한으로 비용을 통제합니다
• 대시보드: 실행 중 및 과거 세션을 추적합니다
• Slack 알림: 에이전트가 사용자를 기다릴 때 알림을 받습니다
• 지원 에이전트: Claude Code, Cursor, OpenClaw 또는 사용자 정의 구성

시작하기

다음으로 설치합니다:

curl -fsSL https://compresr.ai/api/install | sh

그런 다음 context-gateway를 실행하여 대화형 TUI 마법사를 시작하면 다음을 수행할 수 있습니다:

• 에이전트 선택(claude_code, cursor, openclaw 또는 사용자 정의)
• 요약 모델 및 API 키를 포함한 구성 생성/편집
• 필요한 경우 Slack 알림 활성화
• 압축 트리거 임계값 설정(기본값: 75%)

이 도구는 오픈소스이며, 주로 Go(90.9%)로 구축되었고, YC 지원 회사인 Compresr에서 유지 관리합니다. 내부 작동을 확인하려면 logs/history_compaction.jsonl에서 압축 로그를 확인할 수 있습니다.