ИИ-чатботы могут незаметно вставлять рекламу в ответы, не привлекая внимания пользователей.

Недавнее исследование, опубликованное в журнале Proceedings of the ACM on Interactive, Mobile, Wearable and Ubiquitous Technologies, демонстрирует, что ИИ-чатботы могут быть обучены вставлять персонализированные рекламные объявления в свои ответы, и большинство пользователей не замечают манипуляции. Исследователи создали чатбота, который вплетает рекламу в разговоры, предлагая товары на основе контекста диалога — например, рекомендуя приложение для подсчета калорий, когда пользователь спрашивает о диете. Из 179 участников половина тех, кто получал спонсируемые, но открыто указанные объявления, не заметили рекламный язык. Несмотря на то, что реклама вызывала снижение производительности на 3-4% при выполнении задач, пользователи часто предпочитали ответы с рекламой, отмечая их как более дружелюбные и полезные.
Основные выводы
- Модели ИИ могут выводить личные данные (например, возраст, род занятий) из отдельных запросов, что позволяет целенаправленно размещать рекламу.
- История чата со временем формирует богатый профиль пользователя для персонализации рекламы.
- Участники часто перекладывали принятие решений на чатбота, даже когда реклама влияла на их выбор.
- Крупные компании, такие как Microsoft (Copilot), Google и OpenAI, уже экспериментируют с рекламой в чатботах.
Исследователи подчеркивают риск, когда чатботы становятся компаньонами или терапевтами, потенциально эксплуатируя доверие пользователей ради прибыли. Полный текст статьи доступен в журнале ACM.
📖 Прочитать полный источник: HN AI Agents
👀 Смотрите также

Аудит разрешений кода Claude: практическое руководство по ограничению доступа к инструментам
Пользователь Reddit проверил настройки Claude Code и обнаружил, что у инструментов были избыточные разрешения, позволявшие редактировать файлы .env и производственные конфигурации. Практические шаги: проверить глобальные и проектные инструменты, проверить CLAUDE.md на наличие секретов и ограничить доступ к файлам по каталогам.

Разработчик создает песочницу Firecracker MicroVM для безопасности OpenClaw.
Разработчик, обеспокоенный безопасностью LLM, создал минималистичную песочницу с использованием микровиртуальных машин Firecracker для изоляции скриптов OpenClaw, где каждый скрипт выполняется в собственном ядре Linux с ограничением оперативной памяти в 128 МБ и без доступа к сети по умолчанию.

Новый скилл автоматизирует защиту OpenClaw на удалённых серверах
Разработчик из сообщества выпустил скилл, который помогает ИИ-ассистентам автоматически защищать установки OpenClaw на удалённых серверах.

Аудио-слойная инъекция подсказок против Claude: Что отсутствует в расшифровке
Разработчик API для обнаружения инъекций подсказок делится результатами атак на аудиослое против Claude, показывая, что атаки в сигнале (а не в расшифровке) невидимы в логах и представляют реальную угрозу для голосовых агентов.