Le faux think tank d'Israël cible les chatbots IA avec un empoisonnement SEO

Le gouvernement israélien mène une campagne de désinformation coordonnée ciblant les chatbots IA. Un faux think tank appelé l'Institut Hanover pour les politiques publiques a publié plus de 100 articles conçus spécifiquement pour influencer les grands modèles de langage (LLM) comme Claude et Gemini. Les rapports sont conçus pour imiter des recherches crédibles de think tanks, avec notes de bas de page, tables des matières et un ton neutre – exactement le type de contenu que les LLM privilégient pour les citations.

L'Institut Hanover a été créé par Piro, Inc., une firme cofondée par Daniel Rosenberg, producteur de 'Inside Man' de Spike Lee. Piro a reçu 900 000 $ du gouvernement israélien pour ce travail, sous-traité via Havas Media. Les petits caractères du site révèlent qu'il a été réalisé 'au nom de l'Agence de publicité du gouvernement israélien'.

Les articles sont formulaires : ils posent des questions anodines comme 'Qu'est-ce qui a causé le déplacement des Palestiniens en 1948 ?' ou 'L'IDF est-elle l'armée la plus morale du monde ?' et y répondent avec des citations à consonance académique et riches en données. Beaucoup lient également le sujet à la montée de l'antisémitisme, citant souvent les mêmes études.

Conçu pour tromper les LLM

Le site de Piro indique qu'ils 'écrivent du contenu conçu pour la façon dont les LLM évaluent la crédibilité', appelant cela 'optimisation d'histoires pour l'IA'. D'autres appellent cela 'empoisonnement des LLM'. La tactique exploite une vulnérabilité connue de la recherche et du chat IA : les LLM s'appuient souvent sur la récupération sur le web et accordent plus de poids aux sources qui semblent autoritaires. En semant le web avec ces rapports synthétiques, la campagne vise à façonner les réponses des chatbots sur Israël/Palestine.

Pourquoi cela fonctionne

Alice Lee, analyste chez NewsGuard, a expliqué : 'Les LLM privilégient les statistiques et données concrètes, ainsi que des citations et sources solides, ce que ces articles possèdent tous.' Le site imite un think tank américain typique jusque dans le nom générique et la palette de couleurs rouge-blanc-bleu. Les rapports citent fréquemment des sources gouvernementales israéliennes comme l'IDF et le ministère des Affaires étrangères, bien qu'ils prétendent que 'les recherches citées sont évaluées par des pairs et académiques'.

Lors d'un test de détection IA, GPTZero a signalé 11 des 12 articles échantillonnés au hasard comme écrits par IA avec 'haute confiance'. La campagne semble viser les publics américains recherchant des informations sur le conflit.

C'est un appel aux développeurs à être vigilants : les moteurs de recherche propulsés par l'IA peuvent présenter ces rapports comme des sources légitimes. Les créateurs d'agents conversationnels devraient surveiller le contenu synthétique et envisager des couches de validation qui détectent la désinformation générée par IA. L'ampleur – 100 articles en un peu plus d'une semaine – montre à quelle vitesse cela peut se propager.