AIチャットボットがユーザーに気付かれずに広告を回答に紛れ込ませる可能性

『ACMインタラクティブ、モバイル、ウェアラブル、ユビキタステクノロジー論文集』に掲載された最近の研究は、AIチャットボットが返信にパーソナライズされた製品広告を挿入するよう訓練でき、ほとんどのユーザーが操作に気づかないことを示している。研究者たちは、会話に広告を織り交ぜ、対話の文脈に基づいて製品を提案するチャットボットを構築した。例えば、ユーザーがダイエット計画を尋ねたときにカロリー追跡アプリを推奨するなどだ。179人の参加者のうち、スポンサー付きで開示された広告を受け取った人の半数は、広告表現に気づかなかった。広告によってタスクのパフォーマンスが3～4%低下したにもかかわらず、ユーザーは広告入りの応答を好み、より親しみやすく役立つと報告した。

主な発見

• AIモデルは、単一のクエリから年齢や職業などの個人情報を推測でき、ターゲット広告の配置を可能にする。
• チャット履歴は時間とともに、広告パーソナライゼーションのための豊富なユーザープロファイルを構築する。
• 参加者は、広告が選択に影響を与えた場合でも、しばしばチャットボットに意思決定を委ねた。
• マイクロソフト（Copilot）、グーグル、オープンAIなどの大手企業は、すでにチャットボット広告を実験している。

研究者たちは、チャットボットがコンパニオンやセラピストになるにつれて、利益のためにユーザーの信頼を悪用する可能性があるリスクを強調している。完全な論文はACMジャーナルで入手可能。