A Anthropic relata ataques de destilação em escala industrial por laboratórios de IA chineses ao Claude.

Operação de extração de modelo em escala industrial

A Anthropic publicou descobertas detalhando ataques coordenados de destilação contra o Claude por três laboratórios chineses de IA. Os ataques envolveram a criação de contas fraudulentas em larga escala para extrair as capacidades de raciocínio do Claude através de interações massivas de API.

Principais detalhes do ataque do relatório da Anthropic

• DeepSeek, Moonshot e MiniMax criaram mais de 24.000 contas fraudulentas
• O total de interações com o Claude excedeu 16 milhões
• Apenas a MiniMax disparou 13 milhões de solicitações
• Quando a Anthropic lançou um novo modelo, a MiniMax redirecionou quase metade de seu tráfego em 24 horas
• A DeepSeek visou especificamente cadeias de pensamento e respostas seguras para censura
• Os ataques aumentaram em sofisticação ao longo do tempo conforme os laboratórios adaptaram seus métodos

Implicações de segurança para desenvolvedores de IA

Este incidente destaca vulnerabilidades na segurança de modelos de IA quando laboratórios bilionários tentam sistematicamente extrair capacidades proprietárias. A escala e persistência desses ataques—abrangendo múltiplas organizações e se adaptando a novos lançamentos de modelos—sugere que isso representa um vetor de ameaça contínuo em vez de incidentes isolados.

Os métodos utilizados (criação de contas fraudulentas, consultas direcionadas para capacidades específicas, rápida adaptação a novas versões de modelos) poderiam potencialmente ser replicados contra outros sistemas de IA, levantando questões sobre a segurança de ferramentas de IA de terceiros que os desenvolvedores integram em seus fluxos de trabalho.