ThumbGate, AI 안전을 위해 Tsinghua의 자연어 에이전트 하네스 패턴을 구현합니다
NLAH 패턴의 ThumbGate 구현
칭화대 논문(arxiv 2603.25723)의 자연어 에이전트 하네스(NLAH) 패턴은 AI 에이전트 안전 계층을 특정 구성요소를 가진 1급 객체로 취급하는 것을 공식화합니다. 오픈소스 도구 ThumbGate는 이 패턴을 생산 시스템에 대한 구체적인 매핑으로 구현합니다.
구성요소 매핑
ThumbGate는 네 가지 NLAH 구성요소를 실제 구현에 매핑합니다:
- 계약 → 엄지손가락 아래 피드백에서 자동 생성된 예방 규칙
- 검증 게이트 → 실행 전 모든 도구 호출을 가로채는 PreToolUse 훅
- 지속 상태 → 세션 간에 유지되는 SQLite+FTS5 학습 데이터베이스
- 어댑터 → Claude Code, Cursor, Codex, Gemini, Amp를 위한 MCP 서버 어댑터
주요 구현 통찰
개발자들은 프롬프트 규칙은 조용히 실패하는 반면(에이전트가 규칙을 우회할 수 있음), 검증 게이트는 명확하게 실패한다는 점을 발견했습니다(에이전트는 차단 응답을 받고 적응해야 함). 그들은 불확실한 심각도 수준을 처리하기 위해 톰슨 샘플링을 사용하며, 새로운 규칙은 경고로 시작되어 피드백을 기반으로 강력한 차단으로 승격됩니다.
전체 구현 세부사항과 매핑은 그들의 심층 분석 문서에서 확인할 수 있습니다.
📖 Read the full source: r/LocalLLaMA
👀 See Also
Claude Code가 클라우드 환경에서 ANTHROPIC_API_KEY가 설정된 경우 자동으로 실패합니다
클라우드 환경에서 ANTHROPIC_API_KEY를 설정하면 Claude Code가 오작동하고 예상치 못한 API 사용 요금이 발생할 수 있습니다. 사용자들은 추가 사용량과 응답 없는 동작을 보고했습니다.
Oodle.ai가 에이전트 관측 가능성 서비스를 트레이스 100만 개당 10달러에 출시
Oodle.ai는 에이전트 트레이스 100만 개당 10달러에 서브초 P99 쿼리 지연 시간을 제공하며, S3 기반 컬럼 스토리지에 샘플링 없이 모든 트레이스를 저장합니다.
프로모클록: Claude의 2배 오프피크 시간대를 위한 타임존 트래커 (Claude 4.6로 제작)
한 개발자가 Claude의 2배 오프피크 프로모션 시간을 자동으로 현지 시간으로 변환해주는 무료 도구 PromoClock.co를 구축했습니다. 이 도구는 Claude 4.6을 사용해 시간대 로직을 처리하고, Next.js 15 설정과 UI 디자인을 구현했습니다.
GLM-5.1 대 MiniMax M2.7: AI 코딩 에이전트 성능 비교
GLM-5.1은 SWE-bench-Verified 77.8점과 Terminal Bench 2.0 56.2점을 달성하여 오픈소스 모델 중 가장 높은 성능을 보여주는 반면, MiniMax M2.7은 빠른 응답 속도와 낮은 TTFT, 높은 처리량으로 CI 봇과 배치 편집에 이상적입니다.