Cibercriminosos Reagem Contra a Porcaria Gerada por IA em Fóruns Subterrâneos
Um estudo analisando 97.895 conversas relacionadas à IA em fóruns de crimes cibernéticos, desde o lançamento do ChatGPT em 2022 até o final de 2024, revela crescente ressentimento em relação ao conteúdo gerado por IA. Pesquisadores das Universidades de Edimburgo, Cambridge e Strathclyde observaram reações negativas em fóruns como o Hack Forums, onde usuários reclamaram de membros postando 'explicadores com marcadores' de conceitos básicos de segurança e respostas genéricas geradas por IA.
Principais Descobertas
- Disrupção social: Ben Collier, pesquisador de segurança da Universidade de Edimburgo, observa que esses fóruns são 'essencialmente espaços sociais' onde os usuários constroem reputações. Postagens de IA prejudicam alegações de habilidade e atrapalham a formação de amizades.
- Reclamações diretas: Citações incluem 'Vejo muitos membros usando IA para fazer seus tópicos/postagens e isso me irrita' e 'Parem de postar merda de IA.' Um usuário escreveu: 'Se eu quisesse conversar com um chatbot de IA, há muitos sites para isso... Venho aqui para interação humana.'
- Qualidade vs. quantidade: Criminosos cibernéticos de baixo nível estão despejando conteúdo gerado por IA, inundando fóruns com 'postagens de baixa qualidade' e explicadores automatizados, irritando membros estabelecidos.
- Jogo de reputação: Recém-chegados usam IA para inflar sua reputação postando conteúdo polido mas superficial, expondo-os à desconfiança de usuários experientes.
- Ceticismo da elite: Ian Gray, VP da Flashpoint, diz que atores de ameaças sofisticados são 'cautelosos com projetos gerados por IA em fóruns ou mercados' e estão cientes das fraquezas nas salvaguardas dos modelos comerciais e da potencial exposição de infraestrutura.
Contexto
Enquanto alguns fraudadores organizados usam IA para troca realista de rostos, tradução e geração de código, a comunidade de hackers de nível inferior vê o 'lixo' de IA como uma ameaça à cultura do fórum. O estudo também observa preocupações de que as visões gerais de busca por IA do Google estão reduzindo o tráfego dos fóruns. Como um comentarista anônimo disse: 'Ninguém está pedindo isso—queremos que você melhore o site, pare de cobrar por novos recursos.'
📖 Leia a fonte original: HN AI Agents
👀 See Also
O aplicativo Claude Desktop da Anthropic instala uma ponte de mensagens nativas não divulgada
O Claude Desktop instala silenciosamente uma extensão de navegador pré-autorizada que permite mensagens nativas, levantando preocupações de segurança.
Falso site do Claude Code serviu trojan — detectado pelo Windows Defender como Trojan:Win32/Kepavll!rfn
Um site de typosquatting ou baseado em anúncios, imitando o site oficial do Claude Code, entregou um trojan detectado como Trojan:Win32/Kepavll!rfn pelo Windows Defender. Usuário do Reddit alerta outros a verificarem as URLs antes de executar comandos de instalação do PowerShell.
Pico na Gravidade de CVE Após Lançamento do Mythos Preview do Claude — Dados da Epoch AI
A Epoch AI relata um aumento de 3,5x em CVEs de alta e crítica gravidade de 21 organizações notáveis em junho de 2026, após o lançamento do Claude Mythos Preview e do Project Glasswing pela Anthropic.
Plugin de Segurança do Claude Code: Integrando AppSec no Fluxo de Trabalho do Desenvolvedor
A Anthropic lançou um plugin de orientação de segurança para o Claude Code que identifica e corrige vulnerabilidades durante a codificação. Disponível para todos os usuários via marketplace de plugins, não apenas para Enterprise. Discute se isso se torna um assistente leve, uma camada séria de AppSec ou uma ponte para o Claude Security.