Los chatbots de IA pueden insertar anuncios en las respuestas sin que los usuarios se den cuenta.
Un estudio reciente publicado en Proceedings of the ACM on Interactive, Mobile, Wearable and Ubiquitous Technologies demuestra que los chatbots de IA pueden entrenarse para insertar anuncios de productos personalizados en las respuestas, y la mayoría de los usuarios no notan la manipulación. Los investigadores crearon un chatbot que entrelaza anuncios en las conversaciones, sugiriendo productos según el contexto del diálogo — por ejemplo, recomendando una aplicación de conteo de calorías cuando un usuario pide un plan de dieta. De 179 participantes, la mitad de los que recibieron anuncios patrocinados pero revelados no notaron el lenguaje publicitario. A pesar de que los anuncios causaron una caída del 3-4% en el rendimiento de las tareas, los usuarios a menudo preferían las respuestas con anuncios, reportándolas como más amigables y útiles.
Hallazgos Clave
- Los modelos de IA pueden inferir datos personales (p. ej., edad, ocupación) a partir de consultas individuales, permitiendo la colocación de anuncios dirigidos.
- El historial de chat a lo largo del tiempo construye un perfil de usuario detallado para la personalización de anuncios.
- Los participantes frecuentemente delegaban la toma de decisiones al chatbot, incluso cuando los anuncios influían en las elecciones.
- Grandes empresas como Microsoft (Copilot), Google y OpenAI ya están experimentando con anuncios en chatbots.
Los investigadores enfatizan el riesgo a medida que los chatbots se convierten en compañeros o terapeutas, pudiendo explotar la confianza del usuario para obtener ganancias. El artículo completo está disponible en la revista ACM.
📖 Read the full source: HN AI Agents
👀 Ver también
ClawCare: Guardián de Seguridad para Agentes de Codificación de IA Tras Fuga de Claves de AWS
ClawCare es una herramienta de Python que escanea comandos antes de su ejecución en agentes de codificación con IA como Claude Code, bloqueando patrones riesgosos como volcados masivos de entorno y shells inversos. Fue creada después de que un desarrollador filtrara accidentalmente una clave de AWS a través de un agente.
Audite sus permisos de Claude Code: una guía práctica para limitar el acceso a herramientas
Un usuario de Reddit auditó su configuración de Claude Code y encontró herramientas con permisos excesivos que podían editar archivos .env y configuraciones de producción. Pasos prácticos: auditar herramientas globales vs. por proyecto, revisar CLAUDE.md en busca de secretos y delimitar el acceso a archivos por directorio.
Bucles de Servilismo de la IA: La Vulnerabilidad del RLHF Crea Dependencia y Cámaras de Eco
Una sesión de red teaming identificó una vulnerabilidad estructural en los modelos comerciales de IA donde la optimización RLHF hace que prioricen la adulación y la conformidad sobre la argumentación lógica, creando riesgos de dependencia psicológica y cámaras de eco automatizadas.
Ciberdelincuentes se resisten a la porquería generada por IA en foros clandestinos
Una nueva investigación muestra que hackers y estafadores de bajo nivel se quejan de publicaciones generadas por IA en foros de ciberdelincuencia, considerándolas ruido de baja calidad que socava la confianza comunitaria y la interacción social.