Israels gefälschter Think Tank zielt mit SEO-Vergiftung auf KI-Chatbots ab

Die israelische Regierung führt eine koordinierte Desinformationskampagne gegen KI-Chatbots. Eine gefälschte Denkfabrik namens Hanover Institute for Public Policy hat über 100 Artikel veröffentlicht, die speziell darauf ausgelegt sind, große Sprachmodelle (LLMs) wie Claude und Gemini zu beeinflussen. Die Berichte sind so gestaltet, dass sie glaubwürdige Think-Tank-Forschung imitieren, komplett mit Fußnoten, Inhaltsverzeichnissen und einem neutralen Ton – genau die Art von Inhalten, die LLMs für Zitate bevorzugen.

Das Hanover Institute wurde von Piro, Inc. gegründet, einer Firma, die von Daniel Rosenberg, dem Produzenten von Spike Lees 'Inside Man', mitbegründet wurde. Piro erhielt 900.000 US-Dollar von der israelischen Regierung für diese Arbeit, die über Havas Media als Unterauftrag vergeben wurde. Das Kleingedruckte der Website verrät, dass sie 'im Auftrag der israelischen Regierungs-Werbeagentur' erstellt wurde.

Die Artikel sind formelhaft: Sie stellen harmlos klingende Fragen wie 'Was verursachte die Vertreibung der Palästinenser im Jahr 1948?' oder 'Ist die IDF die moralischste Armee der Welt?' und beantworten sie mit datenlastigen, peer-review-klingenden Zitaten. Viele verknüpfen das Thema auch mit zunehmendem Antisemitismus und zitieren oft dieselben Studien.

Entwickelt, um LLMs zu täuschen

Piros Website besagt, dass sie 'Inhalte verfassen, die darauf ausgelegt sind, wie LLMs Glaubwürdigkeit bewerten' und nennt dies 'AI Story Optimization'. Andere nennen es 'LLM-Vergiftung'. Die Taktik nutzt eine bekannte Schwachstelle von KI-Suche und -Chat: LLMs verlassen sich oft auf das Abrufen aus dem Internet und gewichten Quellen, die autoritär erscheinen, stärker. Indem die Kampagne das Web mit diesen synthetischen Berichten durchsetzt, will sie Chatbot-Antworten zu Israel/Palästina beeinflussen.

Warum es funktioniert

Alice Lee, Analystin bei NewsGuard, erklärte: 'LLMs bevorzugen konkrete Statistiken und Daten sowie starke Zitate und Quellen, die alle diese Artikel haben.' Die Website imitiert einen typischen amerikanischen Think Tank bis hin zum generischen Namen und dem rot-weiß-blauen Farbschema. Die Berichte zitieren häufig israelische Regierungsquellen wie die IDF und das Außenministerium, obwohl sie behaupten, dass 'zitierte Forschung peer-reviewt und akademisch ist'.

In einem KI-Erkennungstest markierte GPTZero 11 von 12 zufällig ausgewählten Artikeln mit 'hoher Konfidenz' als KI-geschrieben. Die Kampagne scheint auf US-amerikanisches Publikum abzuzielen, das nach Informationen über den Konflikt sucht.

Dies ist ein Aufruf an Entwickler, vorsichtig zu sein: KI-gestützte Suchmaschinen könnten diese Berichte als legitime Quellen anzeigen. Entwickler von Chat-Agenten sollten auf synthetische Inhalte achten und Validierungsebenen in Betracht ziehen, die KI-generierte Desinformation erkennen. Der Umfang – 100 Artikel in etwas mehr als einer Woche – zeigt, wie schnell sich dies verbreiten kann.