美国国防部网络安全机构：中国AI企业正针对美国企业实施恶意蒸馏行动

Le bureau du Clinger-Cohen Act (CSA) du Département de la Défense des États-Unis a publié un avis de cybersécurité détaillant des campagnes de distillation malveillantes menées par des entreprises chinoises d'IA contre des firmes américaines d'IA. Le rapport PDF, publié le 8 septembre 2026, explique comment ces campagnes exploitent les systèmes d'IA pour extraire des poids de modèles et des connaissances propriétaires.

Détails clés du rapport

• Objectifs des campagnes : L'avis nomme les principaux acteurs américains de l'IA, notamment OpenAI, Anthropic et Google, comme cibles principales des attaques de distillation.
• Méthodologie : Les attaquants utilisent l'accès à l'API pour interroger à plusieurs reprises les modèles cibles afin de générer des sorties qui sont ensuite utilisées pour entraîner des modèles rivaux, volant ainsi efficacement les connaissances distillées sans autorisation.
• Exploits spécifiques : Le rapport cite des vulnérabilités dans les points de terminaison /v1/completions qui manquent de limite de débit, permettant des attaques d'extraction de modèles. Il signale également des frameworks open-source comme PyTorch et transformers de Hugging Face pour des compromissions potentielles de la chaîne d'approvisionnement.
• Mesures d'atténuation : Les recommandations incluent la mise en œuvre de la confidentialité différentielle, l'ajout de filigranes de sortie, et l'application de limites strictes de débit sur les appels API.

L'avis fait suite à une discussion sur HN évoquant les implications, avec 18 points et 17 commentaires à l'heure actuelle. De nombreux commentateurs notent que la distillation est un risque connu dans la communauté de l'IA, mais c'est la première fois qu'une agence gouvernementale américaine attribue officiellement de telles campagnes à des entités affiliées à l'État chinois.

Le rapport comprend des indicateurs techniques de compromission et des mécanismes de détection recommandés, tels que la surveillance des volumes d'appels API inhabituels et des anomalies dans les distributions de sortie. Il conseille également aux entreprises d'auditer leurs journaux d'accès aux modèles pour détecter des schémas cohérents avec des tentatives de distillation.

Pour les développeurs utilisant des API d'IA, cela souligne la nécessité d'une journalisation robuste et d'une détection d'anomalies pour protéger les modèles propriétaires.