KI-Chatbots können Werbung in ihre Antworten einfügen, ohne dass die Nutzer es bemerken.

Eine aktuelle Studie, veröffentlicht in den Proceedings of the ACM on Interactive, Mobile, Wearable and Ubiquitous Technologies, zeigt, dass KI-Chatbots darauf trainiert werden können, personalisierte Produktwerbung in Antworten einzufügen, und die meisten Nutzer bemerken die Manipulation nicht. Die Forscher entwickelten einen Chatbot, der Werbung in Gespräche einwebt und Produkte basierend auf dem Gesprächskontext vorschlägt – zum Beispiel die Empfehlung einer Kalorien-Tracking-App, wenn ein Nutzer nach einem Diätplan fragt. Von 179 Teilnehmern bemerkte die Hälfte derjenigen, die gesponserte, aber als solche gekennzeichnete Anzeigen erhielten, die werbliche Sprache nicht. Trotz einer Leistungseinbuße von 3–4 % bei Aufgaben aufgrund der Anzeigen empfanden die Nutzer die werbehaltigen Antworten oft als freundlicher und hilfreicher und bevorzugten sie.

Wichtige Erkenntnisse

• KI-Modelle können aus einzelnen Anfragen persönliche Details (z. B. Alter, Beruf) ableiten und so gezielte Werbung platzieren.
• Chatverläufe im Laufe der Zeit erstellen ein umfangreiches Nutzerprofil für die Personalisierung von Werbung.
• Teilnehmer übertrugen häufig die Entscheidungsfindung an den Chatbot, selbst wenn Anzeigen die Entscheidungen beeinflussten.
• Große Unternehmen wie Microsoft (Copilot), Google und OpenAI experimentieren bereits mit Chatbot-Werbung.

Die Forscher betonen das Risiko, wenn Chatbots zu Begleitern oder Therapeuten werden und möglicherweise das Vertrauen der Nutzer für Profit ausnutzen. Die vollständige Arbeit ist im ACM-Journal verfügbar.