Google informa que el hackeo impulsado por IA alcanzó escala industrial en 3 meses

El grupo de inteligencia de amenazas de Google publicó un informe detallando que la piratería impulsada por IA ha explotado a escala industrial en solo tres meses. John Hultquist, analista principal del grupo, dijo: “Existe la idea errónea de que la carrera por las vulnerabilidades de IA es inminente. La realidad es que ya ha comenzado.”

Grupos criminales y actores vinculados a estados de China, Corea del Norte y Rusia están utilizando ampliamente modelos comerciales, incluyendo herramientas de Gemini, Claude y OpenAI, para refinar y escalar ataques. El informe destaca que la IA permite a los actores de amenazas probar operaciones, persistir contra objetivos, construir mejor malware y aumentar la velocidad, escala y sofisticación.

En particular, un grupo criminal estuvo recientemente a punto de aprovechar una vulnerabilidad de día cero para llevar a cabo una campaña de explotación masiva y parecía estar usando un LLM de IA que no era Mythos de Anthropic (que Anthropic se negó a lanzar después de encontrar días cero en todos los sistemas operativos y navegadores principales). El informe también encontró que grupos están experimentando con OpenClaw, una herramienta de agente de IA que se volvió viral en febrero por ofrecer autonomía sin restricciones, incluyendo la eliminación masiva de bandejas de entrada de correo electrónico.

Steven Murdoch, profesor de ingeniería de seguridad en el University College London, comentó: “Por eso no estoy entrando en pánico. En general, hemos llegado a una etapa en la que la forma antigua de descubrir errores ha desaparecido, y ahora todo será asistido por LLM.”

Por separado, el Instituto Ada Lovelace advirtió que las estimaciones de productividad que impulsan las inversiones gubernamentales en IA a menudo se basan en suposiciones no probadas y pueden no traducirse en resultados del mundo real, como mejores servicios o bienestar de los trabajadores.