에이전트-드리프트: AI 에이전트를 위한 보안 모니터링 도구
에이전트-드리프트: AI 에이전트를 위한 보안 모니터링 도구
사이버보안 전문가 sysinternalssuite가 프롬프트 주입, 행동 드리프트 및 기타 공격으로부터 AI 에이전트를 보호하기 위한 오픈소스 도구인 Agent-Drift를 개발했습니다. 본질적으로 OpenClaw를 위한 SIEM + IDS입니다.
존재 이유
"저는 사이버보안 분야에서 일하고 있으며, 야생 환경에서 AI 에이전트의 프롬프트 주입, 행동 드리프트, 메모리 오염 등이 증가하는 것을 확인했습니다"
에이전트-드리프트의 기능
GitHub: https://github.com/lukehebe/Agent-Drift
이 도구는 OpenClaw를 위한 래퍼로 작동합니다:
- 행동 기준선 수집
- 행동 드리프트 감지
- 대시보드를 통한 경고
행동 모니터링
추적 패턴:
- 도구 사용 순서 및 빈도
- 타이밍 이상
- 결정 패턴
- 출력 특성
공격 감지
| 공격 | 설명 |
|---|---|
| 명령어 재정의 | 명령어 탈취 |
| 역할 탈취 | 역할 인수 |
| 탈옥 시도 | 제한 우회 |
| 데이터 유출 | 데이터 누출 |
| 인코딩된 페이로드 | 난독화된 페이로드 |
| 메모리 오염 | 메모리 손상 |
| 권한 상승 | 권한 확대 |
| 간접 프롬프트 주입 | 간접 공격 |
작동 방식
- 기준선 학습 — 초기 실행으로 정상 행동 확립
- 행동 벡터 — 각 실행이 다차원 벡터가 됨
- 드리프트 감지 — 새로운 실행을 기준선과 비교
- 이상 경고 — 상당한 편차가 경고를 트리거
요약
"기본적으로 AI 에이전트를 위한 올인원 보안 사건 이벤트 관리자(SIEM)로서 침입 탐지 시스템(IDS) 역할을 하며, AI가 미쳐가기 시작하면 경고를 보냅니다."
출처: r/moltbot의 u/sysinternalssuite
📖 전체 출처 읽기: Reddit
👀 See Also
클로드를 사용하여 OpenClaw 설정을 감사하면 보안 문제가 드러납니다
한 개발자가 Claude를 사용해 OpenClaw 설치를 검토한 결과, 봇이 메모리와 JSON 파일에 API 키를 평문으로 기록하고 있었으며, 다른 보안 문제들도 발견되었습니다.
클로드의 대화 검색 도구는 여전히 삭제된 채팅을 반환합니다
클로드 프로 사용자가 삭제된 대화가 클로드의 대화 검색 도구를 통해 여전히 검색 가능하며, 채팅 링크는 작동하지 않음에도 제목, 메시지 수, 발췌문 등 실질적인 내용이 반환된다는 사실을 발견했습니다.
보안 경고: LiteLLM의 악성 코드가 API 키를 탈취할 수 있습니다
LiteLLM에서 API 키를 노출시킬 수 있는 치명적인 보안 취약점이 발견되었습니다. OpenClaw 또는 nanobot 사용자는 영향을 받을 수 있으므로 출처에 링크된 GitHub 이슈를 확인해야 합니다.
AppLovin 미디에이션 암호 해독됨: 기기 지문 인식으로 ATT 우회
리버스 엔지니어링 결과, AppLovin의 사용자 지정 암호는 고정 솔트 + SDK 키, SplitMix64 PRNG를 사용하며 인증이 없는 것으로 드러났습니다. 복호화된 요청에는 ATT가 거부된 경우에도 약 50개의 기기 필드(하드웨어 모델, 화면 크기, 로캘, 부팅 시간 등)가 포함되어 있어, 앱 간에 결정론적 재식별이 가능합니다.