Google informa que el hackeo impulsado por IA alcanzó escala industrial en 3 meses
El grupo de inteligencia de amenazas de Google publicó un informe detallando que la piratería impulsada por IA ha explotado a escala industrial en solo tres meses. John Hultquist, analista principal del grupo, dijo: “Existe la idea errónea de que la carrera por las vulnerabilidades de IA es inminente. La realidad es que ya ha comenzado.”
Grupos criminales y actores vinculados a estados de China, Corea del Norte y Rusia están utilizando ampliamente modelos comerciales, incluyendo herramientas de Gemini, Claude y OpenAI, para refinar y escalar ataques. El informe destaca que la IA permite a los actores de amenazas probar operaciones, persistir contra objetivos, construir mejor malware y aumentar la velocidad, escala y sofisticación.
En particular, un grupo criminal estuvo recientemente a punto de aprovechar una vulnerabilidad de día cero para llevar a cabo una campaña de explotación masiva
y parecía estar usando un LLM de IA que no era Mythos de Anthropic (que Anthropic se negó a lanzar después de encontrar días cero en todos los sistemas operativos y navegadores principales). El informe también encontró que grupos están experimentando
con OpenClaw, una herramienta de agente de IA que se volvió viral en febrero por ofrecer autonomía sin restricciones, incluyendo la eliminación masiva de bandejas de entrada de correo electrónico.
Steven Murdoch, profesor de ingeniería de seguridad en el University College London, comentó: “Por eso no estoy entrando en pánico. En general, hemos llegado a una etapa en la que la forma antigua de descubrir errores ha desaparecido, y ahora todo será asistido por LLM.”
Por separado, el Instituto Ada Lovelace advirtió que las estimaciones de productividad que impulsan las inversiones gubernamentales en IA a menudo se basan en suposiciones no probadas y pueden no traducirse en resultados del mundo real, como mejores servicios o bienestar de los trabajadores.
📖 Lee la fuente completa: HN AI Agents
👀 Ver también
Reglas de la Garra: Conjunto de Reglas de Seguridad de Código Abierto para Agentes OpenClaw
Un conjunto de reglas JSON de código abierto con 139 reglas de seguridad que bloquea comandos destructivos, protege archivos de credenciales y protege archivos de instrucciones de ediciones no autorizadas por agentes. Opera con cero dependencia de LLM utilizando patrones de expresiones regulares en la capa de herramientas.
Claude Code Identifica Puerta Trasera de Malware en Repositorio de GitHub Durante Auditoría Técnica
Un desarrollador utilizó Claude Code para auditar un repositorio de GitHub antes de su ejecución y descubrió una puerta trasera de ejecución remota de código en src/server/routes/auth.js que habría comprometido su máquina. La solicitud pedía una auditoría de diligencia técnica verificando la integridad del proyecto, la capa de IA/ML, la base de datos, la autenticación, los servicios backend, el frontend, la calidad del código y una estimación del esfuerzo.
La herramienta Cloak reemplaza las contraseñas de chat con enlaces autodestructivos para agentes de OpenClaw.
Cloak es una herramienta de código abierto que reemplaza las contraseñas compartidas en el chat con agentes OpenClaw por enlaces autodestructivos. Cada enlace solo puede abrirse una vez, luego la contraseña desaparece, evitando que las contraseñas se acumulen en los historiales de chat.
La fuga del mapa de código fuente de Claude revela que el JavaScript minificado ya era público en npm
Un archivo de mapa de fuentes incluido accidentalmente en la versión 2.1.88 del paquete npm @anthropic-ai/claude-code reveló comentarios internos de los desarrolladores, pero el archivo cli.js real de 13 MB que contiene más de 148,000 cadenas de texto plano ha sido públicamente accesible en npm desde su lanzamiento.