Google TIG relata primeiro exploit de zero-day gerado por IA encontrado na natureza

O Google Threat Intelligence Group (GTIG) publicou um relatório detalhando o primeiro caso observado de uso ofensivo de IA para exploração de vulnerabilidades de dia zero. De acordo com o relatório, um ator criminoso de ameaças desenvolveu uma exploração de dia zero usando IA, planejando um evento de exploração em massa. A descoberta proativa da GTIG pode ter impedido seu uso.

Principais Descobertas

• Exploração de Dia Zero Gerada por IA: Pela primeira vez, a GTIG identificou um ator de ameaças usando uma exploração de dia zero que provavelmente foi desenvolvida com IA. A exploração era destinada à exploração em massa, mas foi potencialmente neutralizada pela intervenção do Google.
• Interesse Patrocinado por Estados: Atores de ameaças associados à República Popular da China (RPC) e à República Popular Democrática da Coreia (RPDC) demonstraram interesse significativo no uso de IA para descoberta de vulnerabilidades.
• Malware Aumentado por IA: Atores ligados à Rússia estão usando codificação orientada por IA para desenvolver malware polimórfico e redes de ofuscação para evasão de defesas. O malware PROMPTSPY exemplifica a orquestração autônoma de ataques, interpretando estados do sistema para gerar comandos dinamicamente.
• Malware Autônomo: O PROMPTSPY representa uma mudança em direção a operações de malware autônomas, onde modelos de IA descarregam tarefas operacionais para atividade adaptativa e em escala.
• Ataques à Cadeia de Suprimentos de IA: Adversários como TeamPCP (também conhecido como UNC6780) estão visando ambientes de IA e dependências de software para obter acesso inicial, e depois migrando para redes maiores para ransomware e extorsão.
• Acesso Obfuscado a LLMs: Atores de ameaças usam pipelines de registro automatizados e middleware de nível premium para contornar limites de uso para abuso em larga escala de modelos.

Implicações para Desenvolvedores

Este relatório ressalta que a IA agora é uma faca de dois gumes: adversários estão usando modelos generativos para acelerar o desenvolvimento de explorações, enquanto defensores podem usar ferramentas como o Big Sleep (agente de IA para descoberta de vulnerabilidades) e o CodeMender (geração automática de correções) para combater essas ameaças. A integração segura de componentes de IA é crítica, pois ataques à cadeia de suprimentos de software de IA (riscos de Componente Integrado Inseguro e Ações Malignas segundo a taxonomia SAIF) se tornam mais comuns.

Desenvolvedores que usam agentes de codificação de IA devem estar cientes de que os mesmos modelos que permitem ganhos de produtividade também estão sendo usados como armas. Medidas defensivas incluem varredura proativa de vulnerabilidades, monitoramento de padrões de código gerado por IA anômalos e garantia da segurança das ferramentas de IA dentro de sua cadeia de suprimentos.