AI 에이전트 보안 분석, 신뢰 모델 결함과 높은 취약성 비율 드러나

보안 아키텍처 붕괴

분석 결과, AI 에이전트의 근본적인 신뢰 모델이 무너졌음을 보여줍니다. 기존 보안 아키텍처와 달리, AI 에이전트는 공격과 합법적인 명령을 동일한 컨텍스트 창에서 처리하며 구조적 차별화가 없습니다. 기존 보안의 기반이 되는 제어/데이터 평면 분리가 현재 AI 에이전트 구현에는 존재하지 않습니다.

주요 실증적 발견

• 간접 주입은 MCPTox, ASB, PINT 벤치마크에서 최신 모델들에 걸쳐 36-98%의 공격 성공률(ASR)을 달성함
• 더 능력 있는 모델일수록 도구 계층 공격에 더 취약함
• npm MCP 생태계 스캔: 2,386개 패키지 검사 결과, 49%에서 보안 문제 발견
• 공격 표면은 에이전트 능력에 따라 초선형적으로 증가함

제안된 해결책: 에이전트 위협 규칙(ATR)

연구는 AI 에이전트 위협을 위한 최초의 오픈 탐지 표준인 에이전트 위협 규칙(ATR)을 제시합니다. 구현 내용은 다음과 같습니다:

• 61개 탐지 규칙
• PINT 벤치마크에서 99.4% 정밀도
• MIT 라이선스 오픈 소스
• GitHub에서 이용 가능: https://github.com/Agent-Threat-Rule/agent-threat-rules

전체 논문은 30개 이상의 CVE, 7개 벤치마크를 다루며, AI 확장 속도를 따라잡을 수 있는 방어를 위한 아키텍처 요구사항을 제안합니다.