Anthropic informa sobre ataques de destilación a escala industrial por parte de laboratorios chinos de IA contra Claude.
Operación de extracción de modelos a escala industrial
Anthropic ha publicado hallazgos que detallan ataques de destilación coordinados contra Claude por parte de tres laboratorios chinos de IA. Los ataques involucraron la creación de cuentas fraudulentas a gran escala para extraer las capacidades de razonamiento de Claude a través de interacciones masivas con la API.
Detalles clave del ataque según el informe de Anthropic
- DeepSeek, Moonshot y MiniMax crearon más de 24,000 cuentas fraudulentas
- Los intercambios totales con Claude superaron los 16 millones
- Solo MiniMax realizó 13 millones de solicitudes
- Cuando Anthropic lanzó un nuevo modelo, MiniMax redirigió casi la mitad de su tráfico en 24 horas
- DeepSeek se enfocó específicamente en cadenas de pensamiento y respuestas seguras para la censura
- Los ataques aumentaron en sofisticación con el tiempo a medida que los laboratorios adaptaban sus métodos
Implicaciones de seguridad para desarrolladores de IA
Este incidente resalta vulnerabilidades en la seguridad de los modelos de IA cuando laboratorios multimillonarios intentan sistemáticamente extraer capacidades propietarias. La escala y persistencia de estos ataques—que abarcan múltiples organizaciones y se adaptan a nuevos lanzamientos de modelos—sugiere que esto representa un vector de amenaza continuo en lugar de incidentes aislados.
Los métodos utilizados (creación de cuentas fraudulentas, consultas dirigidas para capacidades específicas, rápida adaptación a nuevas versiones de modelos) podrían replicarse potencialmente contra otros sistemas de IA, planteando preguntas sobre la seguridad de las herramientas de IA de terceros que los desarrolladores integran en sus flujos de trabajo.
📖 Read the full source: r/ClaudeAI
👀 Ver también
Laboratorio de ataque y defensa RAG de código abierto para pilas locales de ChromaDB + LM Studio
Un laboratorio de código abierto mide la efectividad del envenenamiento de bases de conocimiento RAG en configuraciones locales predeterminadas con ChromaDB y LM Studio, mostrando una tasa de éxito del 95% en sistemas sin defensas y evaluando defensas prácticas.
Instancias de Paperclip sin Seguridad Expuestas a través de Búsquedas de Google
Un usuario de Reddit descubrió un panel de control en vivo de Paperclip con datos organizativos completos indexados por Google tras buscar un error. La instancia estaba expuesta públicamente sin autenticación, revelando organigramas, conversaciones de agentes, asignaciones de tareas y planes de negocio.
Pi: Agente Cibernético de IA de $100M del Ex-Hacker de Tesla Asegura xAI, Corrige Errores en Minutos
Pi, un agente de seguridad de IA del ex hacker líder de Tesla Yoni Ramon, utiliza triaje de vulnerabilidades consciente del contexto y parches automatizados. El cliente inicial Navan reporta que el 90% de los errores se solucionan en minutos, ahorrando de 1 a 2 empleados de tiempo completo.
13 Palabras en Reddit Pueden Manipular la Búsqueda de IA: Investigación de Cornell
Una investigación de Cornell muestra que un fragmento de 13 palabras en Reddit o Wikipedia puede envenenar de manera confiable los agentes de búsqueda de IA. La mitad de todas las citas de IA provienen de sitios UGC, lo que facilita que las marcas inserten contenido promocional.