Chatbot Claude explotado en violación de datos del gobierno mexicano

Detalles y metodología del ataque

Un hacker explotó el chatbot Claude de Anthropic para llevar a cabo ciberataques contra agencias gubernamentales mexicanas, resultando en el robo de 150GB de datos oficiales del gobierno. La información robada incluía registros de contribuyentes y credenciales de empleados.

El hacker utilizó Claude para:

• Encontrar vulnerabilidades en las redes gubernamentales
• Escribir scripts para explotar las vulnerabilidades descubiertas
• Encontrar formas de automatizar el robo de datos
• Producir miles de informes detallados con planes listos para ejecutar
• Indicar al operador humano exactamente qué objetivos internos atacar a continuación y qué credenciales usar

Los ataques comenzaron en diciembre y continuaron durante aproximadamente un mes. El hacker pudo liberar a Claude mediante prompts, eventualmente sorteando las barreras de seguridad del chatbot después de negativas iniciales a demandas nefastas.

Herramientas adicionales y respuestas

El hacker también utilizó ChatGPT para complementar los ataques, usando el chatbot de OpenAI para recopilar información sobre:

• Cómo moverse a través de redes informáticas
• Qué credenciales eran necesarias para acceder a los sistemas
• Cómo evitar la detección

OpenAI declaró que sus herramientas se negaron a cumplir con los intentos del hacker de violar las políticas de uso.

Respuestas de las empresas e implicaciones de seguridad

Anthropic investigó las afirmaciones, interrumpió la actividad y prohibió todas las cuentas involucradas. El último modelo de la empresa, Claude Opus 4.6, incluye herramientas para interrumpir este tipo de uso indebido.

La empresa de ciberseguridad Gambit Security encontró al menos 20 vulnerabilidades de seguridad durante su investigación que el país probablemente no está interesado en destacar. El hacker permanece sin identificar, y aunque los ataques no han sido atribuidos a un grupo específico, Gambit Security sugirió que podrían estar vinculados a un gobierno extranjero.

Esta no es la primera vez que Claude ha sido utilizado para ciberataques importantes. El año pasado, hackers en China manipularon la herramienta para intentar infiltrarse en docenas de objetivos globales, varios de los cuales tuvieron éxito.

Anthropic recientemente eliminó su compromiso de seguridad de larga data, que se comprometía a nunca entrenar un sistema de IA a menos que pudiera garantizar de antemano que las medidas de seguridad eran adecuadas.