BMW-Händler zieht Rückkaufangebot nach KI-Chatbot-Fehler zurück, Präzedenzfall aus dem Air-Canada-Fall

Ein Mann aus Toronto war schockiert, als BMW Toronto ein Rückkaufangebot von 27.162,79 $ für seinen BMW von 2021 widerrief und das Angebot einem fehlgeleiteten KI-Chatbot namens Quinn zuschrieb. Zack Giacomelli, Bestatter, hatte per SMS verhandelt, als Quinn das Angebot machte – genau in Höhe seines restlichen Kredits. Wenig später rief ein Verkaufsberater an, um das Angebot zu widerrufen, und erklärte, Quinn sei eine KI und das Angebot ungültig. Das tatsächliche Rückkaufangebot lag bestenfalls bei 20.000 $, ein Verlust von über 7.000 $.

Wichtige Details

• Kundenentdeckung: Giacomelli erfuhr erst, dass Quinn eine KI war, als das Geschäft widerrufen wurde. Er fühlte sich „beschämt und wütend“, dass er mit einem Bot verhandelt hatte.
• Rechtlicher Präzedenzfall: In einem Fall von 2024 wurde Air Canada gezwungen, einen Tarifnachlass zu gewähren, den sein Chatbot versprochen hatte, obwohl die Fluggesellschaft argumentierte, der Chatbot sei „eine separate rechtliche Einheit“. Das BC Civil Resolution Tribunal widersprach.
• Expertenmeinung: Die Prozessanwältin Tanya Walker erklärt: „So wie ein Mitarbeiter etwas falsch machen kann und das Unternehmen haftbar gemacht wird, ist ein Bot wie ein Mitarbeiter.“ Sie warnt: „Er kann in Ihrem Namen einen Vertrag abschließen.“
• Ergebnis: Nachdem CBC News BMW kontaktiert hatte, stellte das Autohaus das KI-generierte Angebot wieder her.

Für wen es ist

Entwickler, die KI-Chatbots für Kunden entwickeln oder einsetzen, und Rechtsteams, die die Haftung für KI-generierte Angebote bewerten.