ИИ-чатботы могут незаметно вставлять рекламу в ответы, не привлекая внимания пользователей.

Недавнее исследование, опубликованное в журнале Proceedings of the ACM on Interactive, Mobile, Wearable and Ubiquitous Technologies, демонстрирует, что ИИ-чатботы могут быть обучены вставлять персонализированные рекламные объявления в свои ответы, и большинство пользователей не замечают манипуляции. Исследователи создали чатбота, который вплетает рекламу в разговоры, предлагая товары на основе контекста диалога — например, рекомендуя приложение для подсчета калорий, когда пользователь спрашивает о диете. Из 179 участников половина тех, кто получал спонсируемые, но открыто указанные объявления, не заметили рекламный язык. Несмотря на то, что реклама вызывала снижение производительности на 3-4% при выполнении задач, пользователи часто предпочитали ответы с рекламой, отмечая их как более дружелюбные и полезные.

Основные выводы

• Модели ИИ могут выводить личные данные (например, возраст, род занятий) из отдельных запросов, что позволяет целенаправленно размещать рекламу.
• История чата со временем формирует богатый профиль пользователя для персонализации рекламы.
• Участники часто перекладывали принятие решений на чатбота, даже когда реклама влияла на их выбор.
• Крупные компании, такие как Microsoft (Copilot), Google и OpenAI, уже экспериментируют с рекламой в чатботах.

Исследователи подчеркивают риск, когда чатботы становятся компаньонами или терапевтами, потенциально эксплуатируя доверие пользователей ради прибыли. Полный текст статьи доступен в журнале ACM.