Informe de Anthropic Detalla la Destilación Masiva de Claude por Empresas Chinas de IA

Operación de Destilación a Gran Escala

El informe de Anthropic documenta esfuerzos sistemáticos de destilación por parte de tres empresas chinas de IA: DeepSeek, Moonshot AI y MiniMax. La operación implicó la creación de aproximadamente 24,000 cuentas falsas y la realización de más de 16 millones de intercambios con Claude a través de redes proxy que ejecutaban hasta 20,000 cuentas simultáneamente.

Métodos Específicos de Destilación

DeepSeek hizo que Claude explicara su propio razonamiento paso a paso, luego usó esas explicaciones como datos de entrenamiento. También incitaron a Claude a responder preguntas políticamente sensibles sobre disidentes chinos para construir datos de navegación de censura. MiniMax ejecutó más de 13 millones de intercambios y cambió a un nuevo modelo de Claude dentro de las 24 horas posteriores a su lanzamiento.

Implicaciones de Seguridad para los Usuarios

El informe afirma directamente que es poco probable que los modelos destilados conserven los mecanismos de seguridad originales. Si bien las preguntas rutinarias producen respuestas similares entre los modelos originales y copiados, los casos límite que involucran temas médicos, legales o matizados revelan diferencias críticas. Los modelos copiados "avanzan con falsa confianza" porque el entrenamiento que enseñó precaución se perdió durante la destilación.

Anthropic compara esto con tener un médico que solo observó a médicos reales a través de una ventana durante un año: los casos rutinarios podrían manejarse adecuadamente, pero los casos complicados no ofrecen garantías, y los usuarios no pueden distinguir entre casos rutinarios y complejos hasta que es demasiado tarde.

Implicaciones para la Evaluación de Modelos

El informe señala un efecto contraintuitivo: el desacuerdo entre modelos se vuelve más valioso después de la destilación. Si dos modelos que podrían compartir capacidades destiladas aún dan respuestas diferentes, al menos uno participó en un razonamiento independiente. El acuerdo entre modelos se vuelve menos significativo, mientras que el desacuerdo indica un procesamiento genuinamente independiente.