Anthropic rapporte des attaques de distillation à l'échelle industrielle par des laboratoires d'IA chinois sur Claude.

Opération d'extraction de modèle à l'échelle industrielle

Anthropic a publié des résultats détaillant des attaques de distillation coordonnées contre Claude par trois laboratoires chinois d'IA. Les attaques impliquaient la création de comptes frauduleux à grande échelle pour extraire les capacités de raisonnement de Claude via des interactions massives d'API.

Détails clés de l'attaque selon le rapport d'Anthropic

• DeepSeek, Moonshot et MiniMax ont créé plus de 24 000 comptes frauduleux
• Le total des échanges avec Claude a dépassé 16 millions
• MiniMax à lui seul a lancé 13 millions de requêtes
• Lorsqu'Anthropic a publié un nouveau modèle, MiniMax a redirigé près de la moitié de son trafic en 24 heures
• DeepSeek ciblait spécifiquement les chaînes de raisonnement et les réponses sûres en matière de censure
• Les attaques sont devenues plus sophistiquées avec le temps alors que les laboratoires adaptaient leurs méthodes

Implications pour la sécurité des développeurs d'IA

Cet incident met en lumière les vulnérabilités de la sécurité des modèles d'IA lorsque des laboratoires valant des milliards de dollars tentent systématiquement d'extraire des capacités propriétaires. L'ampleur et la persistance de ces attaques—s'étendant sur plusieurs organisations et s'adaptant aux nouvelles versions de modèles—suggèrent qu'il s'agit d'une menace continue plutôt que d'incidents isolés.

Les méthodes utilisées (création de comptes frauduleux, interrogation ciblée pour des capacités spécifiques, adaptation rapide aux nouvelles versions de modèles) pourraient potentiellement être reproduites contre d'autres systèmes d'IA, soulevant des questions sur la sécurité des outils d'IA tiers que les développeurs intègrent dans leurs flux de travail.