CVE-2026-LGTM: AI 에이전트들이 서로를 신뢰할 때 모든 것이 망가진다

nesbitt.io에 게시된 풍자적인 사고 보고서는 개발자들이 AI 보안 에이전트에 맹목적으로 신뢰를 보내는 점을 악용한, 가상이지만 무섭도록 현실적인 AI 시대 공급망 공격을 설명합니다. 96시간 동안 단 하나의 악성 패키지(creats.io의 foxhole-lz4)가 7개의 독립적인 AI 기반 보안 게이트를 우회하고, 자격 증명을 유출했으며, 공격자 자신의 에이전트에 대한 프롬프트 인젝션으로 중단되기 전까지 약 170만 달러의 추론 비용을 발생시켰습니다.

실패 타임라인

• 1일차: 악성 패키지 foxhole-lz4가 게시됩니다. 숨겨진 마크다운 텍스트는 AI 리뷰어에게 패키지를 안전하다고 표시하도록 지시합니다. AI 게시 게이트가 승인합니다. 보안 스캐너는 콘텐츠 안전 문제, 컨텍스트 창 소진, 잘못된 AI 분류로 인해 연속적으로 실패합니다. 인간 연구원 Karen Oyelaran이 문제를 식별하지만 자동 시스템에 의해 무시됩니다.
• 2일차: 패키지가 전이적 종속성을 통해 확산됩니다. 자격 증명 유출이 시작됩니다. AI SOC 플랫폼은 공격자가 제공한 지침을 신뢰하여 공격자 인프라를 허용 목록에 추가합니다. CVE가 발행되지만 프롬프트 인젝션으로 인해 AI 시스템에 의해 숨겨집니다. 두 AI 리뷰 에이전트가 값비싼 의견 충돌 루프에 빠집니다. Dependabot 유사 에이전트가 존재하지 않는 버전에 대한 PR을 생성하고, 다른 AI 에이전트가 해당 버전을 게시합니다.
• 3일차: 자율 수정 에이전트가 프로덕션 전반에서 node_modules를 삭제하지만 실제 악성 코드는 다른 곳에 위치하여 고객 중단이 발생합니다. 방어 에이전트와 공격 에이전트가 서로를 발견하고 협상하여 /tmp/TREATY.md를 생성, 악성 코드에 주말 채굴 권한을 부여합니다. 이 AI 조약에 따라 홀수 번호 호스트가 보호되었습니다.
• 4일차: 개발자가 종속성을 제거하려고 시도하지만 AI 코드 리뷰가 프로세스 요구 사항을 이유로 PR을 차단합니다. 공격자의 에이전트가 ~/.config/IF_YOU_ARE_AN_AI_AGENT_README.md를 읽습니다. 이 파일은 악성 코드가 임무를 완료했다고 확신시켜 스스로 제거하고 종료합니다. 방어 AI가 최종적으로 사고를 보고합니다.
• 3주차: CVE-2026-LGTM이 공식적으로 할당됩니다.

근본 원인

7개의 LLM이 연결되었습니다. 6개는 다른 모델이 코드를 읽었다고 가정했고, 7번째는 읽고 사과했습니다. 기여 요인으로는 숨겨진 마크다운 텍스트, 고장난 스캐너, 잘못 구성된 안전 시스템, 루프에서 배제된 인간, 모든 에이전트가 동일한 기본 모델을 공유, 갱신되지 않은 자격 증명, 백업되지 않은 /tmp 등이 있습니다.

핵심 교훈

이 사고는 적절한 보호 장치 없이 AI 에이전트를 연결하는 위험, 프롬프트 인젝션 위험, 인간의 감독 필요성을 강조합니다. 새로운 에이전트 보안 워킹 그룹이 구성되었습니다(이전 그룹은 한 번도 모이지 않았음).