O falso think tank de Israel ataca chatbots de IA com envenenamento de SEO

O governo de Israel está conduzindo uma campanha de desinformação coordenada direcionada a chatbots de IA. Um think tank falso chamado Instituto Hanover para Políticas Públicas publicou mais de 100 artigos projetados especificamente para influenciar modelos de linguagem de grande escala (LLMs) como Claude e Gemini. Os relatórios são elaborados para imitar pesquisas de think tanks confiáveis, completos com notas de rodapé, sumários e um tom neutro — exatamente o tipo de conteúdo que os LLMs favorecem para citações.

O Instituto Hanover foi criado pela Piro, Inc., uma empresa co-fundada por Daniel Rosenberg, produtor de 'Inside Man' de Spike Lee. A Piro recebeu US$ 900.000 do governo israelense para este trabalho, subcontratado através da Havas Media. As letras pequenas do site revelam que foi feito 'em nome da Agência de Publicidade do Governo de Israel'.

Os artigos são formulaicos: eles fazem perguntas que parecem inocentes, como 'O Que Causou o Deslocamento dos Palestinos em 1948?' ou 'O IDF é o Exército Mais Moral do Mundo?' e respondem com citações com muitos dados e com aparência de revisão por pares. Muitos também relacionam o tópico ao crescente antissemitismo, frequentemente citando os mesmos estudos.

Projetado para Enganar LLMs

O site da Piro diz que eles 'autor(es) de conteúdo projetado para como os LLMs avaliam credibilidade', chamando isso de 'Otimização de História por IA'. Outros chamam de 'envenenamento de LLM'. A tática explora uma vulnerabilidade conhecida na busca e chat de IA: LLMs frequentemente dependem da recuperação da web e dão mais peso a fontes que parecem autoritativas. Ao semear a web com esses relatórios sintéticos, a campanha visa moldar as respostas do chatbot sobre Israel/Palestina.

Por que Funciona

Alice Lee, analista da NewsGuard, explicou: 'LLMs favorecem estatísticas e dados concretos, bem como citações e fontes fortes, que todos esses artigos têm.' O site imita um think tank americano típico, até o nome genérico e o esquema de cores vermelho-branco-azul. Os relatórios citam frequentemente fontes do governo israelense, como o IDF e o Ministério das Relações Exteriores, apesar de alegarem 'pesquisa citada é revisada por pares e acadêmica'.

Em um teste de detecção de IA, o GPTZero sinalizou 11 de 12 artigos amostrados aleatoriamente como escritos por IA com 'alta confiança'. A campanha parece ter como alvo audiências americanas que buscam informações sobre o conflito.

Este é um chamado para que os desenvolvedores fiquem atentos: os mecanismos de busca alimentados por IA podem apresentar esses relatórios como fontes legítimas. Os criadores de agentes de chat devem monitorar conteúdo sintético e considerar camadas de validação que detectem desinformação gerada por IA. A escala — 100 artigos em pouco mais de uma semana — mostra a rapidez com que isso pode se espalhar.