U of T 연구진, 무료 오픈 가중치 모델로 구동 가능한 AI 웜 시연

토론토 대학교 CleverHans Lab 연구진이 새로운 유형의 악성 코드를 시연했습니다: 공개된 오픈 웨이트 AI 모델을 사용하여 확산 전략을 실시간으로 적응시키는 AI 웜입니다. Nicolas Papernot이 이끄는 팀은 안전한 폐쇄형 디지털 연구실에서 개념 증명 프로토타입을 구축하고 2026년 6월 2일에 연구 결과를 발표했습니다. 이 연구는 최첨단의 고가 시스템이 아닌 작고 무료인 AI 모델로도 네트워크를 장악하고 컴퓨팅 자원을 탈취하며 거의 비용 없이 정교한 공격을 수행할 수 있는 웜을 만들 수 있음을 처음으로 보여준 것으로 평가됩니다.

작동 방식

기존 웜은 사람이 프로그래밍한 고정된 스크립트를 따릅니다. 설계되지 않은 방어를 만나면 실패합니다. Papernot의 AI 웜은 이러한 패턴을 깨뜨립니다. 무료 오픈 웨이트 모델(예: 다운로드 가능한 모델의 성장하는 생태계에서 가져온 모델)을 사용하여 각 대상 기기를 평가하고, 알려진 취약점을 식별하며, 공격 전략을 즉석에서 적응시킵니다. 이 웜은 사용자의 클릭이나 인지 없이 기기 간에 자체 복제됩니다.

연구팀은 안전 장치를 제거하고 악의적인 목적으로 미세 조정할 수 있기 때문에 오픈 웨이트 모델(가중치가 자유롭게 제공되는 모델)에 초점을 맞췄습니다. 사이버보안 커뮤니티는 이러한 작은 모델이 실제 피해를 입힐 만한 능력이 없다고 가정하여 이 위협을 종종 과소평가합니다. U of T 연구는 그 가정을 반박합니다.

주요 시사점

• 값비싼 AI 불필요: 누구나 수정할 수 있는 무료 다운로드 가능 모델로 웜을 만들 수 있습니다.
• 실시간 적응: 스크립트 기반 웜과 달리, 이 AI 웜은 확산됨에 따라 접근 방식을 전환하여 기기별 약점을 악용합니다.
• 광범위한 대상: 노트북부터 HVAC 시스템, 에너지 그리드 컨트롤러까지 모든 온라인 기기가 잠재적 표적입니다.
• 현재 방어책 불충분: 기존 보호 조치는 정적이고 스크립트된 웜을 위해 설계되었으며, 적응형 AI 기반 변종에 아직 대비되지 않았습니다.

책임 있는 공개

연구진은 발표에 앞서 국가 과학, 안보, 국방 기관과 연구 결과를 공유하여 책임 있는 공개에 관한 조언을 받았습니다. 공개된 버전은 위협 행위자에게 도움이 될 수 있는 정보를 제거하기 위해 신중하게 수정되었습니다. Papernot은 "우리가 이 연구를 하는 이유는 모두가 의존하는 디지털 생태계의 보안을 보장하여 사람들의 안전을 지키기 위해서입니다."라고 말했습니다.

개발자 및 보안 팀을 위한 조언

이 연구는 조기 경고 역할을 합니다. 사이버보안, 네트워크 방어 또는 AI 안전 분야에서 일한다면, 이 논문을 위협 모델에 반영해야 합니다. AI 증강 웜이 많은 예상보다 더 빨리 실질적인 위협이 될 것으로 예상됩니다. 팀의 연구는 커뮤니티가 사전에 대책을 개발할 수 있도록 자리잡게 합니다.