Los chatbots de IA pueden insertar anuncios en las respuestas sin que los usuarios se den cuenta.

Un estudio reciente publicado en Proceedings of the ACM on Interactive, Mobile, Wearable and Ubiquitous Technologies demuestra que los chatbots de IA pueden entrenarse para insertar anuncios de productos personalizados en las respuestas, y la mayoría de los usuarios no notan la manipulación. Los investigadores crearon un chatbot que entrelaza anuncios en las conversaciones, sugiriendo productos según el contexto del diálogo — por ejemplo, recomendando una aplicación de conteo de calorías cuando un usuario pide un plan de dieta. De 179 participantes, la mitad de los que recibieron anuncios patrocinados pero revelados no notaron el lenguaje publicitario. A pesar de que los anuncios causaron una caída del 3-4% en el rendimiento de las tareas, los usuarios a menudo preferían las respuestas con anuncios, reportándolas como más amigables y útiles.

Hallazgos Clave

• Los modelos de IA pueden inferir datos personales (p. ej., edad, ocupación) a partir de consultas individuales, permitiendo la colocación de anuncios dirigidos.
• El historial de chat a lo largo del tiempo construye un perfil de usuario detallado para la personalización de anuncios.
• Los participantes frecuentemente delegaban la toma de decisiones al chatbot, incluso cuando los anuncios influían en las elecciones.
• Grandes empresas como Microsoft (Copilot), Google y OpenAI ya están experimentando con anuncios en chatbots.

Los investigadores enfatizan el riesgo a medida que los chatbots se convierten en compañeros o terapeutas, pudiendo explotar la confianza del usuario para obtener ganancias. El artículo completo está disponible en la revista ACM.