BMW 대리점, AI 챗봇 실수로 환매 제안 철회, 에어캐나다 사례의 선례

토론토의 한 남성은 BMW 토론토가 자신의 2021년식 BMW에 대한 27,162.79달러의 매입 제안을 철회하면서, 그 제안이 AI 챗봇 Quinn의 실수였다고 밝히자 충격에 빠졌다. 장례식장 운영자인 Zack Giacomelli는 텍스트로 협상 중이었고, Quinn이 그의 남은 대출금을 정확히 커버하는 제안을 했다. 그러나 몇 분 후, 영업 컨설턴트가 전화를 걸어 Quinn은 AI이며 제안은 무효라고 통보했다. 실제 매입 제안은 기껏해야 20,000달러로, 7,000달러 이상의 손해였다.

주요 내용

• 고객의 발견: Giacomelli는 거래가 철회될 때까지 Quinn이 AI라는 사실을 알지 못했다. 그는 봇과 협상했다는 사실에 "당황하고 화가 났다"고 말했다.
• 법적 선례: 2024년 사건에서, 에어캐나다는 챗봇이 약속한 요금 할인을 이행하라는 판결을 받았다. 항공사는 챗봇이 "별도의 법적 주체"라고 주장했지만, BC 민사분쟁재판소는 이를 받아들이지 않았다.
• 전문가 의견: 소송 변호사 Tanya Walker는 "직원이 잘못을 저지르면 회사가 책임을 지는 것처럼, 봇도 직원과 같다"며 "봇이 귀하를 대신해 계약을 체결할 수 있다"고 경고한다.
• 결과: CBC 뉴스가 BMW에 연락한 후, 딜러십은 AI가 생성한 제안을 복원했다.

대상 독자

고객 대상 AI 챗봇을 개발하거나 배포하는 개발자, AI 생성 제안에 대한 법적 책임을 평가하는 법무팀.