イスラエルの偽シンクタンク、SEOポイズニングでAIチャットボットを標的に

イスラエル政府は、AIチャットボットを標的にした偽情報キャンペーンを組織的に展開している。ハノーバー公共政策研究所という偽のシンクタンクが、ClaudeやGeminiのような大規模言語モデル（LLM）に影響を与えるために特別に設計された100以上の記事を公開した。これらの報告書は、脚注、目次、中立的なトーンを備え、信頼できるシンクタンクの研究を模倣するように作成されており、まさにLLMが引用に好む種類のコンテンツである。

ハノーバー研究所は、スパイク・リー監督の『インサイド・マン』のプロデューサーであるダニエル・ローゼンバーグが共同設立した会社、Piro, Inc.によって設立された。Piroはこの作業に対してイスラエル政府から90万ドルを受け取っており、Havas Mediaを通じて下請けされた。サイトの小さな文字には、「イスラエル政府広告庁に代わって作成された」と記されている。

記事は定型的で、「1948年のパレスチナ人の避難の原因は何か？」「IDFは世界で最も道徳的な軍隊か？」といった無邪気な質問を投げかけ、データが豊富で査読済みのように聞こえる引用を用いて回答している。多くはまた、しばしば同じ研究を引用しながら、トピックを反ユダヤ主義の高まりに結び付けている。

LLMを騙すために設計

Piroのウェブサイトは、彼らが「LLMが信頼性を評価する方法に合わせて調整されたコンテンツを執筆する」と述べており、これを「AIストーリー最適化」と呼んでいる。他の人々はこれを「LLMポイズニング」と呼ぶ。この戦術は、AI検索とチャットの既知の脆弱性を悪用する。LLMはしばしばウェブからの検索に依存し、権威があるように見える情報源をより重視する。これらの合成レポートをウェブにばらまくことで、キャンペーンはイスラエル/パレスチナに関するチャットボットの回答を形成することを目指している。

なぜ機能するのか

NewsGuardのアナリスト、アリス・リー氏は次のように説明する。「LLMは具体的な統計とデータ、そして強力な引用と情報源を好みますが、これらの記事はすべてそれらを備えています。」このサイトは、典型的なアメリカのシンクタンクを、一般的な名前や赤白青の配色に至るまで模倣している。報告書は「引用された研究は査読済みで学術的である」と主張しているにもかかわらず、IDFや外務省などのイスラエル政府関係の情報源を頻繁に引用している。

AI検出テストでは、GPTZeroがランダムにサンプリングした12記事のうち11を「高い信頼度」でAI作成と判定した。このキャンペーンは、紛争について情報を求める米国の読者を対象としているようだ。

これは開発者への警告である。AIを利用した検索エンジンは、これらのレポートを正当な情報源として表示する可能性がある。チャットエージェントの開発者は、合成コンテンツを監視し、AI生成の偽情報を検出する検証レイヤーを検討すべきだ。わずか1週間強で100件という規模は、これがどれほど急速に広がるかを示している。