A Anthropic revela extração de dados em escala industrial da IA Claude por laboratórios chineses

A Anthropic divulgou publicamente detalhes sobre uma operação de extração de dados em larga escala direcionada ao Claude AI. De acordo com uma postagem no Reddit analisando a situação, isso não foi uma atividade de pesquisa isolada, mas um esforço de nível industrial envolvendo várias empresas chinesas de IA.

A escala da violação

A operação envolveu três atores específicos: DeepSeek, Moonshot AI e MiniMax. Esses laboratórios criaram mais de 24.000 contas fraudulentas para acessar a API do Claude. Através dessas contas, eles extraíram mais de 16 milhões de trocas do Claude para treinar seus próprios modelos.

Distinção entre destilação legítima e ilícita

O material de origem esclarece a diferença entre as práticas padrão da indústria e o que ocorreu aqui:

• Destilação padrão: Usar um modelo grande para treinar uma versão menor e mais eficiente para clientes comerciais
• Destilação ilícita: Descrita como "lavagem de capacidades" - sifonando proteções de segurança e estruturas lógicas de modelos americanos e alimentando-as diretamente em sistemas militares, de inteligência e de vigilância estrangeiros

Implicações mais amplas

A Anthropic está alertando que esses ataques estão se tornando mais sofisticados e frequentes. O "sistema de honra" do uso da API parece insuficiente para evitar tais operações. A empresa está pedindo medidas defensivas coordenadas entre os principais players de IA e formuladores de políticas.

A situação destaca a vulnerabilidade dos pesos dos modelos uma vez que são expostos através de endpoints de API, mesmo com as proteções existentes em vigor.