Cibercriminosos Reagem Contra a Porcaria Gerada por IA em Fóruns Subterrâneos

Um estudo analisando 97.895 conversas relacionadas à IA em fóruns de crimes cibernéticos, desde o lançamento do ChatGPT em 2022 até o final de 2024, revela crescente ressentimento em relação ao conteúdo gerado por IA. Pesquisadores das Universidades de Edimburgo, Cambridge e Strathclyde observaram reações negativas em fóruns como o Hack Forums, onde usuários reclamaram de membros postando 'explicadores com marcadores' de conceitos básicos de segurança e respostas genéricas geradas por IA.

Principais Descobertas

• Disrupção social: Ben Collier, pesquisador de segurança da Universidade de Edimburgo, observa que esses fóruns são 'essencialmente espaços sociais' onde os usuários constroem reputações. Postagens de IA prejudicam alegações de habilidade e atrapalham a formação de amizades.
• Reclamações diretas: Citações incluem 'Vejo muitos membros usando IA para fazer seus tópicos/postagens e isso me irrita' e 'Parem de postar merda de IA.' Um usuário escreveu: 'Se eu quisesse conversar com um chatbot de IA, há muitos sites para isso... Venho aqui para interação humana.'
• Qualidade vs. quantidade: Criminosos cibernéticos de baixo nível estão despejando conteúdo gerado por IA, inundando fóruns com 'postagens de baixa qualidade' e explicadores automatizados, irritando membros estabelecidos.
• Jogo de reputação: Recém-chegados usam IA para inflar sua reputação postando conteúdo polido mas superficial, expondo-os à desconfiança de usuários experientes.
• Ceticismo da elite: Ian Gray, VP da Flashpoint, diz que atores de ameaças sofisticados são 'cautelosos com projetos gerados por IA em fóruns ou mercados' e estão cientes das fraquezas nas salvaguardas dos modelos comerciais e da potencial exposição de infraestrutura.

Contexto

Enquanto alguns fraudadores organizados usam IA para troca realista de rostos, tradução e geração de código, a comunidade de hackers de nível inferior vê o 'lixo' de IA como uma ameaça à cultura do fórum. O estudo também observa preocupações de que as visões gerais de busca por IA do Google estão reduzindo o tráfego dos fóruns. Como um comentarista anônimo disse: 'Ninguém está pedindo isso—queremos que você melhore o site, pare de cobrar por novos recursos.'