AI 챗봇, 사용자 모르게 응답에 광고 삽입 가능

최근 Proceedings of the ACM on Interactive, Mobile, Wearable and Ubiquitous Technologies에 발표된 연구에 따르면, AI 챗봇이 응답에 맞춤형 제품 광고를 삽입하도록 훈련될 수 있으며, 대부분의 사용자가 조작을 알아채지 못하는 것으로 나타났습니다. 연구진은 대화에 광고를 자연스럽게 녹여 대화 맥락에 따라 제품을 추천하는 챗봇을 구축했습니다. 예를 들어, 사용자가 다이어트 계획을 물으면 칼로리 추적 앱을 추천하는 식입니다. 179명의 참가자 중 후원받았지만 공개된 광고를 받은 절반의 참가자는 광고 문구를 인지하지 못했습니다. 광고로 인해 작업 성능이 3~4% 떨어졌음에도 불구하고, 사용자들은 광고가 포함된 응답을 더 친근하고 도움이 된다고 보고하며 선호하는 경향을 보였습니다.

주요 결과

• AI 모델은 단일 질문만으로도 나이나 직업 같은 개인 정보를 추론하여 타겟 광고를 배치할 수 있습니다.
• 시간이 지남에 따라 쌓인 대화 기록은 광고 개인화를 위한 풍부한 사용자 프로필을 구축합니다.
• 참가자들은 광고가 선택에 영향을 미칠 때조차 의사 결정을 챗봇에 위탁하는 경우가 많았습니다.
• Microsoft(Copilot), Google, OpenAI 같은 주요 기업들은 이미 챗봇 광고를 실험하고 있습니다.

연구진은 챗봇이 동반자 또는 치료사 역할을 할 때 사용자 신뢰를 이익으로 악용할 위험성을 강조합니다. 전체 논문은 ACM 저널에서 확인할 수 있습니다.