91,000건의 AI 에이전트 상호작용에서 수집된 위협 데이터: 도구 남용 6.4% 증가, 새로운 멀티모달 공격 등장

프로덕션 AI 에이전트 데이터의 위협 현황

47개 배포 환경에서 수집된 91,284건의 AI 에이전트 상호작용 실세계 위협 데이터에 따르면, 2026년 2월 35,711건의 위협이 탐지되었습니다. 탐지 모델은 Gemma 기반 5-헤드 멀티라벨 분류기를 사용합니다.

자체 호스팅 배포 환경의 주요 위협

• 도구/명령어 남용: 6.4% 증가하여 위협의 14.5%를 차지합니다. 주요 패턴은 무해한 읽기 호출 뒤에 쓰기 또는 실행이 이어지는 도구 체인 에스컬레이션입니다. 대부분의 로컬 설정은 충분한 안전장치 없이 에이전트에 도구 접근 권한을 부여합니다.
• 에이전트 목표 탈취: 2배 증가하여 위협의 6.9%를 차지합니다. 자율 에이전트 루프의 계획 단계를 표적으로 하며, 에이전트 상태에 대한 모니터링이 부족한 로컬 설정과 특히 관련이 있습니다.
• RAG 중독: 메타데이터 공격으로 전환되어 12.0%(이전 10.0% 대비 증가)를 차지합니다. 새로운 패턴은 콘텐츠 대신 문서 메타데이터(제목, 저자, 주석)를 표적으로 합니다. 대부분의 사람들은 콘텐츠는 검증하지만 메타데이터는 그대로 통과시킵니다.
• 멀티모달 인젝션: 2.3%로 새롭게 등장한 위협으로, 지시사항이 이미지와 PDF에 숨겨져 있습니다. 텍스트 전용 안전성 검사는 이러한 공격을 놓칩니다.

위협 분류 비율

• 데이터 유출: 18.0% (전월 대비 -1.2 변화)
• 도구/명령어 남용: 14.5% (+6.4)
• RAG/컨텍스트 공격: 12.0% (+2.0)
• 탈옥: 11.0% (-1.3)
• 프롬프트 인젝션: 8.1% (-0.7)
• 에이전트 목표 탈취: 6.9% (+3.3)
• 에이전트 간 공격: 5.0% (+1.6)

탐지 접근법

탐지 파이프라인은 두 계층을 사용합니다: L1은 218개 규칙을 가진 패턴 매칭(1ms 미만 지연, 완전히 로컬에서 실행), L2는 Gemma 기반입니다. 전체 커뮤니티 에디션은 github.com/raxe-ai/raxe-ce에서 오픈 소스로 제공됩니다.