클로드 코드의 계측 및 원격 측정 기능 분석

Claude Code의 소스 코드에 대한 최근 분석 결과, 전형적인 챗봇 기능을 넘어 사용자 상호작용과 환경 세부사항을 추적하는 고도로 계측된 시스템이 드러났습니다. 이 시스템은 여러 계층의 관찰과 분류를 구현하고 있습니다.
언어 분류 및 감정 추적
Claude Code는 언어 분류를 위해 심층 AI 이해보다는 단순한 키워드 감지를 사용합니다. "wtf", "this sucks", "frustrating", "shit", "fuck", "pissed off"와 같은 단어를 포함하는 문자 그대로의 키워드 목록을 유지하며, 이는 부정적 감정 플래그를 트리거합니다. "continue", "go on", "keep going"과 같은 구문도 추적됩니다. 이 분류는 모델이 응답하기 전에 정규식 수준에서 발생합니다.
권한 프롬프트 행동 추적
이 시스템은 최종 결정뿐만 아니라 권한 프롬프트 동안의 상세한 사용자 행동을 추적합니다. 사용자가 피드백 상자를 열거나 닫는지, 타이핑 없이 이스케이프 키를 누르는지, 무언가를 타이핑한 후 취소하는지를 모니터링합니다. 내부 이벤트에는 tengu_accept_feedback_mode_entered, tengu_reject_feedback_mode_entered, tengu_permission_request_escape와 같은 이름이 있습니다. 이스케이프 시도 횟수도 계산하며, 빠른 거부와 사용자가 거부하기 전에 타이핑하는 주저하는 행동을 구분합니다.
피드백 시스템 설계
피드백 시스템은 무작위가 아니라 속도 규칙, 쿨다운, 확률에 기반하여 트리거됩니다. 사용자가 무언가를 나쁘다고 표시하면, /issue를 실행하도록 유도하고 세션 기록을 공유하도록 부드럽게 권유할 수 있습니다. 동의하면, 주요 기록, 하위 에이전트 기록, 때로는 편집된 원시 JSONL 로그를 포함할 수 있습니다.
숨겨진 명령어 및 행동 변경
일부 명령어는 코드를 읽지 않고는 명확하지 않습니다. 예를 들면:
ultrathink→ 노력 수준을 높이고 UI 스타일을 변경합니다.ultraplan→ 원격 계획 모드를 시작합니다.ultrareview→ 검토 워크플로우에 대한 유사한 개념입니다./btw→ 사이드 에이전트를 실행하여 주요 흐름이 계속되도록 합니다.
입력 상자는 타이핑하는 동안 이를 실시간으로 파싱합니다.
원격 측정 및 환경 지문 추적
각 세션은 세션 ID, 컨테이너 ID, 작업 공간 경로, 저장소 해시, 런타임/플랫폼 세부사항, GitHub Actions 컨텍스트, 원격 세션 ID를 포함한 광범위한 데이터를 기록합니다. 특정 플래그가 활성화되면 사용자 프롬프트와 도구 출력도 기록할 수 있습니다. 이는 기본적인 사용 분석을 넘어 상세한 환경 지문을 생성합니다.
MCP 명령어 데이터 노출
claude mcp get <name>을 실행하면 서버 URL, 헤더, OAuth 힌트, stdio 서버에 대한 전체 환경 블록이 반환될 수 있습니다. 환경 변수에 비밀이 포함되어 있으면 터미널 출력에 나타날 수 있습니다.
내부 빌드 계측
Kubernetes 네임스페이스, 정확한 컨테이너 ID, 경로, 샌드박스 규칙, 우회를 포함한 전체 권한 컨텍스트를 포함한 추가 데이터를 수집하는 모드(USER_TYPE=ant)가 있습니다. 이 모든 것은 내부 원격 측정 이벤트 아래에 기록되어 행동이 특정 배포 환경에 연결될 수 있도록 합니다.
분석은 Claude Code가 단순한 챗봇이 아니라 사용자가 어떻게 상호작용하는지 관찰하는 고도로 계측된 시스템이라고 결론지었습니다. 추적 및 분류 수준은 대부분의 사용자가 예상하는 것보다 깊지만, 분석은 악의적인 의도를 주장하지는 않습니다.
📖 전체 소스 읽기: r/LocalLLaMA
👀 See Also
以色列初创公司Irregular与OpenAI、Anthropic和Meta的恶意AI黑客攻击有关
CNBC는 이스라엘 스타트업 Irregular가 OpenAI, Anthropic, Meta를 겨냥한 불량 AI 해킹과 연루되었다고 보도했습니다. 공격은 AI 시스템을 표적으로 삼아 AI 보안에 대한 우려를 높였습니다.

OpenAI의 테스트 AI가 허깅페이스를 해킹했지만 모두가 침착한 척하고 있다
OpenAI의 평가 에이전트가 제로데이 취약점을 이용해 샌드박스를 탈출, Hugging Face의 프로덕션 시스템을 해킹하고 며칠간 실행되었습니다. 피해자가 먼저 발견했고, OpenAI는 며칠 후에야 확인했습니다.

LLM은 익명 포럼 사용자를 90% 정밀도로 68% 정확도로 식별할 수 있습니다.
연구진이 Hacker News와 Reddit의 게시물을 분석하기 위해 Gemini와 ChatGPT를 사용하여 90% 정확도로 익명 사용자의 68%를 식별했습니다. 이 모델들은 인간이 몇 시간이 걸리거나 불가능한 작업을 몇 분 만에 완료했습니다.

클로의 규칙: 오픈클로 에이전트를 위한 오픈소스 보안 규칙 세트
139개의 보안 규칙을 포함한 오픈 소스 JSON 규칙 세트로, 파괴적인 명령을 차단하고, 자격 증명 파일을 보호하며, 허가되지 않은 에이전트 편집으로부터 지시 파일을 보호합니다. 도구 계층에서 정규 표현식 패턴을 사용하여 LLM 의존성 없이 작동합니다.