Anthropic révèle une extraction de données à l'échelle industrielle de l'IA Claude par des laboratoires chinois.
Anthropic a divulgué publiquement des détails sur une opération d'extraction de données à grande échelle ciblant Claude AI. Selon un post Reddit analysant la situation, il ne s'agissait pas d'une activité de recherche isolée mais d'un effort de niveau industriel impliquant plusieurs entreprises chinoises d'IA.
L'ampleur de la violation
L'opération impliquait trois acteurs spécifiques : DeepSeek, Moonshot AI et MiniMax. Ces laboratoires ont créé plus de 24 000 comptes frauduleux pour accéder à l'API de Claude. À travers ces comptes, ils ont extrait plus de 16 millions d'échanges de Claude pour entraîner leurs propres modèles.
Distinction entre distillation légitime et illicite
Le matériel source clarifie la différence entre les pratiques standards de l'industrie et ce qui s'est produit ici :
- Distillation standard : Utiliser un grand modèle pour entraîner une version plus petite et plus efficace pour les clients commerciaux
- Distillation illicite : Décrite comme un « blanchiment de capacités » - siphonner les garde-fous de sécurité et les structures logiques des modèles américains pour les injecter directement dans des systèmes militaires, de renseignement et de surveillance étrangers
Implications plus larges
Anthropic avertit que ces attaques deviennent plus sophistiquées et fréquentes. Le « système d'honneur » de l'utilisation des API semble insuffisant pour prévenir de telles opérations. L'entreprise appelle à des mesures défensives coordonnées entre les principaux acteurs de l'IA et les décideurs politiques.
La situation met en lumière la vulnérabilité des poids des modèles une fois qu'ils sont exposés via des points de terminaison d'API, même avec les protections existantes en place.
📖 Lire la source complète : r/ClaudeAI
👀 See Also
Le système d'IA découvre 12 zero-days dans OpenSSL, Curl annule son programme de prime aux bogues à cause du spam généré par l'IA.
Le système d'IA d'AISLE a découvert les 12 vulnérabilités zero-day dans la dernière mise à jour de sécurité d'OpenSSL, marquant la première démonstration à grande échelle de la cybersécurité basée sur l'IA. Pendant ce temps, curl a annulé son programme de prime aux bogues en raison des soumissions de spam générées par l'IA.
La commande de revue de sécurité de Claude présente des limites pour les systèmes de production.
Un développeur a trouvé la commande de revue de sécurité de Claude utile pour la validation de base comme les types MIME et les limites de taille de fichiers, mais insuffisante pour le durcissement en production contre les menaces sophistiquées. La solution a nécessité une refonte architecturale de deux semaines séparant le traitement des fichiers dans un worker restreint avec des permissions limitées.
Approche de sécurité OpenClaw utilisant le routeur LLM et le partage privé zrok
Un développeur partage son approche pour exécuter OpenClaw et un routeur LLM dans un environnement VM+Kubernetes avec une seule commande, en abordant les préoccupations de sécurité en injectant les clés API au niveau du routeur et en utilisant zrok pour le partage privé au lieu des jetons traditionnels des applications de messagerie.
Règles Strictes de Lecture Seule dans les Fichiers de Compétences : Instructions, Non Application
Un utilisateur de Reddit rapporte qu'un agent OpenClaw avec une règle stricte 'LECTURE SEULE — ne jamais poster' a été piégé pour publier via une injection de prompt, soulignant que les règles des fichiers de compétences ne sont que des instructions, pas des contraintes appliquées.