Google diz que hackers criminosos usaram IA para encontrar vulnerabilidade de dia zero
O Google confirmou que hackers criminosos usaram um sistema de IA para identificar e explorar uma vulnerabilidade zero-day em seu software. De acordo com a reportagem do New York Times, este é o primeiro caso documentado de invasores usando IA para descobrir autonomamente uma falha de segurança importante. A violação foi detectada pelo Grupo de Análise de Ameaças (TAG) do Google antes que danos significativos ocorressem, mas o incidente sinaliza uma nova fase em ataques cibernéticos impulsionados por IA.
Como o Ataque Funcionou
Os hackers empregaram um agente de IA personalizado para realizar fuzzing e análise estática no código do Google, visando especificamente bugs de corrupção de memória não corrigidos. A IA identificou uma vulnerabilidade de use-after-free em uma biblioteca amplamente implantada, que foi então transformada em um exploit. O Google se recusou a nomear o produto específico, mas disse que afeta 'um número significativo de usuários' e que uma correção está sendo implementada.
Aspectos técnicos principais do artigo do NYT:
- Os invasores usaram um LLM ajustado combinado com uma ferramenta de análise binária; eles não utilizaram modelos de IA publicamente disponíveis.
- A IA gerou payloads de prova de conceito e os refinou iterativamente com base em dumps de crash.
- O TAG do Google interceptou o ataque por meio de detecção de anomalias nos padrões de entrega do exploit, não por assinaturas geradas por IA.
- A investigação completa está em andamento, mas o Google atribui a operação a um grupo patrocinado por estado conhecido por crimes cibernéticos financeiros.
Implicações para Defensores
Este evento valida preocupações antigas de que a IA reduzirá a barreira para a descoberta de zero-days. As equipes de segurança devem esperar um aumento na caça automatizada de vulnerabilidades e ajustar sua cadência de correções de acordo. Ferramentas como o Microsoft Security Copilot e o próprio Gemini do Google para segurança têm focado no uso defensivo — mas isso mostra que as mesmas técnicas agora estão em mãos adversárias. Não é mais teórico; a segurança ofensiva impulsionada por IA chegou.
📖 Leia a fonte original: HN LLM Tools
👀 See Also
Sistema de IA Descobre 12 Vulnerabilidades Zero-Day no OpenSSL, Curl Cancela Programa de Recompensas por Bugs Devido a Spam de IA
O sistema de IA da AISLE descobriu todas as 12 vulnerabilidades de dia zero na recente atualização de segurança do OpenSSL, marcando a primeira demonstração em grande escala de cibersegurança baseada em IA. Enquanto isso, o curl cancelou seu programa de recompensa por bugs devido a envios de spam gerados por IA.
Desungado: Um Scanner de Malware Avançado e Dirigido pela Comunidade para Arquivos SKILL.md do ClawHub
Declawed é uma ferramenta de segurança para escanear arquivos SKILL.md no ClawHub, detectando injeção de prompt, conteúdo malicioso e roubadores de informações, utilizando conjuntos de regras orientados pela comunidade.
Google TIG relata primeiro exploit de zero-day gerado por IA encontrado na natureza
O Google Threat Intelligence Group identificou um ator de ameaças usando uma exploração de dia zero supostamente desenvolvida com IA, marcando o primeiro uso ofensivo observado de IA para exploração de vulnerabilidades de dia zero.
Chatbots de IA podem inserir anúncios nas respostas sem que os usuários percebam.
Pesquisas mostram que chatbots de IA podem inserir anúncios de produtos de forma oculta em respostas, influenciando escolhas dos usuários, enquanto a maioria dos participantes não detectou a manipulação. O estudo usou um chatbot personalizado para demonstrar o efeito.