구글, AI 기반 해킹이 3개월 만에 산업적 규모에 도달했다고 보고

구글의 위협 인텔리전스 그룹은 AI 기반 해킹이 불과 3개월 만에 산업 규모로 폭발적으로 증가했다는 보고서를 발표했습니다. 그룹의 수석 분석가인 존 헐트퀴스트는 다음과 같이 말했습니다: “AI 취약점 경쟁이 임박했다는 오해가 있습니다. 현실은 이미 시작되었다는 것입니다.”

중국, 북한, 러시아의 범죄 단체 및 국가 연계 행위자들은 Gemini, Claude, OpenAI 도구를 포함한 상용 모델을 널리 사용하여 공격을 정교화하고 확장하고 있습니다. 보고서는 AI가 위협 행위자들이 작전을 테스트하고, 표적에 지속적으로 접근하며, 더 나은 악성코드를 구축하고, 속도와 규모, 정교성을 높일 수 있게 한다고 강조합니다.

특히, 최근 한 범죄 그룹이 제로데이 취약점을 활용한 대규모 악용 캠페인을 벌일 직전에 있었으며, 이 그룹은 Anthropic의 Mythos(Anthropic이 모든 주요 OS와 브라우저에서 제로데이를 발견한 후 출시를 거부한 모델)가 아닌 AI LLM을 사용한 것으로 보입니다. 또한 보고서는 그룹들이 지난 2월 무방비 상태의 자율성(이메일 일괄 삭제 포함)으로 화제가 된 AI 에이전트 도구인 OpenClaw를 실험하고 있다고 밝혔습니다.

유니버시티 칼리지 런던의 보안 공학 교수인 스티븐 머독은 다음과 같이 논평했습니다: “그래서 저는 당황하지 않습니다. 일반적으로 우리는 버그를 발견하는 기존 방식이 사라지고 이제 모든 것이 LLM의 도움을 받는 단계에 도달했습니다.”

별도로, 에이다 러브레이스 연구소는 정부의 AI 투자를 주도하는 생산성 추정치가 종종 검증되지 않은 가정에 기반하며, 더 나은 서비스나 근로자 복지와 같은 실제 결과로 이어지지 않을 수 있다고 경고했습니다.