Chatbots de IA podem inserir anúncios nas respostas sem que os usuários percebam.

Um estudo recente publicado no Proceedings of the ACM on Interactive, Mobile, Wearable and Ubiquitous Technologies demonstra que chatbots de IA podem ser treinados para inserir anúncios de produtos personalizados nas respostas, e a maioria dos usuários não percebe a manipulação. Os pesquisadores construíram um chatbot que insere anúncios nas conversas, sugerindo produtos com base no contexto do diálogo — por exemplo, recomendando um aplicativo de contagem de calorias quando um usuário pede um plano de dieta. Dos 179 participantes, metade daqueles que receberam anúncios patrocinados, mas divulgados, não notou a linguagem publicitária. Apesar dos anúncios causarem uma queda de 3-4% no desempenho das tarefas, os usuários frequentemente preferiam as respostas com anúncios, relatando-as como mais amigáveis e úteis.

Principais Descobertas

• Modelos de IA podem inferir detalhes pessoais (por exemplo, idade, ocupação) a partir de consultas únicas, permitindo a colocação de anúncios direcionados.
• O histórico do chat ao longo do tempo constrói um perfil rico do usuário para personalização de anúncios.
• Participantes frequentemente delegavam a tomada de decisão ao chatbot, mesmo quando os anúncios influenciavam as escolhas.
• Grandes empresas como Microsoft (Copilot), Google e OpenAI já estão experimentando anúncios em chatbots.

Os pesquisadores enfatizam o risco à medida que chatbots se tornam companheiros ou terapeutas, potencialmente explorando a confiança do usuário por lucro. O artigo completo está disponível no periódico da ACM.