中文AI公司针对美国公司开展恶意蒸馏行动：国防部CSA

La oficina de la Ley Clinger-Cohen (CSA) del Departamento de Defensa de los Estados Unidos ha publicado un aviso de ciberseguridad que detalla campañas maliciosas de destilación por parte de empresas chinas de IA contra empresas de IA con sede en Estados Unidos. El informe en PDF, publicado el 8 de septiembre de 2026, describe cómo estas campañas explotan los sistemas de IA para extraer pesos de modelos y conocimiento propietario.

Detalles clave del informe

• Objetivos de la campaña: El aviso nombra a los principales actores de IA de EE. UU., incluyendo OpenAI, Anthropic y Google, como objetivos primarios de los ataques de destilación.
• Metodología: Los atacantes utilizan acceso a API para solicitar repetidamente a los modelos objetivo que generen resultados que luego se utilizan para entrenar modelos rivales, robando efectivamente el conocimiento destilado sin autorización.
• Explotaciones específicas: El informe cita vulnerabilidades en los endpoints /v1/completions que carecen de limitación de velocidad, lo que permite ataques de extracción de modelos. También señala marcos de código abierto como PyTorch y transformers de Hugging Face por posibles compromisos en la cadena de suministro.
• Pasos de mitigación: Las recomendaciones incluyen implementar privacidad diferencial, añadir marcas de agua a las salidas y aplicar límites estrictos de velocidad en las llamadas a la API.

El aviso sigue a un hilo de HN que discute las implicaciones, con 18 puntos y 17 comentarios hasta ahora. Muchos comentaristas señalan que la destilación es un riesgo conocido en la comunidad de IA, pero esta es la primera vez que una agencia gubernamental de EE. UU. atribuye oficialmente tales campañas a entidades afiliadas al estado chino.

El informe incluye indicadores técnicos de compromiso y mecanismos recomendados de detección, como monitorear volúmenes inusuales de llamadas a API y anomalías en las distribuciones de salida. También aconseja a las empresas auditar sus registros de acceso a modelos para detectar patrones consistentes con intentos de destilación.

Para los desarrolladores que utilizan APIs de IA, esto subraya la necesidad de un registro robusto y detección de anomalías para proteger los modelos propietarios.