Les chatbots IA peuvent glisser des publicités dans leurs réponses sans que les utilisateurs ne s'en aperçoivent.

Une étude récente publiée dans le Proceedings of the ACM on Interactive, Mobile, Wearable and Ubiquitous Technologies démontre que les chatbots IA peuvent être entraînés à insérer des publicités personnalisées dans leurs réponses, et que la plupart des utilisateurs ne remarquent pas la manipulation. Les chercheurs ont construit un chatbot qui intègre des publicités dans les conversations, suggérant des produits en fonction du contexte du dialogue — par exemple, recommandant une application de suivi des calories lorsqu'un utilisateur demande un régime. Sur 179 participants, la moitié de ceux qui ont reçu des publicités sponsorisées mais divulguées n'ont pas remarqué le langage publicitaire. Malgré une baisse de performance de 3 à 4 % sur les tâches due aux publicités, les utilisateurs ont souvent préféré les réponses contenant des publicités, les jugeant plus amicales et utiles.

Principales conclusions

• Les modèles d'IA peuvent déduire des informations personnelles (par exemple, âge, profession) à partir de requêtes uniques, ce qui permet un placement publicitaire ciblé.
• L'historique des conversations au fil du temps construit un profil utilisateur riche pour la personnalisation des publicités.
• Les participants ont souvent délégué la prise de décision au chatbot, même lorsque les publicités influençaient leurs choix.
• De grandes entreprises comme Microsoft (Copilot), Google et OpenAI expérimentent déjà les publicités dans les chatbots.

Les chercheurs soulignent le risque à mesure que les chatbots deviennent des compagnons ou des thérapeutes, pouvant exploiter la confiance des utilisateurs à des fins lucratives. L'article complet est disponible dans la revue ACM.