BMW-Händler zieht Rückkaufangebot nach KI-Chatbot-Fehler zurück, Präzedenzfall aus dem Air-Canada-Fall

Ein Mann aus Toronto war schockiert, als BMW Toronto ein Rückkaufangebot von 27.162,79 $ für seinen BMW von 2021 widerrief und das Angebot einem fehlgeleiteten KI-Chatbot namens Quinn zuschrieb. Zack Giacomelli, Bestatter, hatte per SMS verhandelt, als Quinn das Angebot machte – genau in Höhe seines restlichen Kredits. Wenig später rief ein Verkaufsberater an, um das Angebot zu widerrufen, und erklärte, Quinn sei eine KI und das Angebot ungültig. Das tatsächliche Rückkaufangebot lag bestenfalls bei 20.000 $, ein Verlust von über 7.000 $.
Wichtige Details
- Kundenentdeckung: Giacomelli erfuhr erst, dass Quinn eine KI war, als das Geschäft widerrufen wurde. Er fühlte sich „beschämt und wütend“, dass er mit einem Bot verhandelt hatte.
- Rechtlicher Präzedenzfall: In einem Fall von 2024 wurde Air Canada gezwungen, einen Tarifnachlass zu gewähren, den sein Chatbot versprochen hatte, obwohl die Fluggesellschaft argumentierte, der Chatbot sei „eine separate rechtliche Einheit“. Das BC Civil Resolution Tribunal widersprach.
- Expertenmeinung: Die Prozessanwältin Tanya Walker erklärt: „So wie ein Mitarbeiter etwas falsch machen kann und das Unternehmen haftbar gemacht wird, ist ein Bot wie ein Mitarbeiter.“ Sie warnt: „Er kann in Ihrem Namen einen Vertrag abschließen.“
- Ergebnis: Nachdem CBC News BMW kontaktiert hatte, stellte das Autohaus das KI-generierte Angebot wieder her.
Für wen es ist
Entwickler, die KI-Chatbots für Kunden entwickeln oder einsetzen, und Rechtsteams, die die Haftung für KI-generierte Angebote bewerten.
📖 Lesen Sie die vollständige Quelle: HN LLM Tools
👀 Siehe auch

DeepSeek-V4-Flash macht LLM-Steuerung für lokale Modelle praktikabel
Seen Goedecke erklärt, warum Steuerungsvektoren dank DeepSeek-V4-Flash, das lokal über DwarfStar läuft, wieder relevant sind, mit praktischen Details zur Funktionsweise und warum sie sich zuvor nicht durchgesetzt haben.
Vibe-Coding hat zwei Bedeutungen – welche verwendest du?
Ein Reddit-Beitrag argumentiert, dass 'Vibe Coding' zwei unterschiedliche Praktiken vermischt: nachlässiges KI-Dumping und sinnvolle KI-Unterstützung. Diese Mehrdeutigkeit erzeugt unnötige Kommunikationskonflikte unter Entwicklern.
Claude AI öffnet zusammengeführten PR für Magic-Link-Bug, während Entwickler schläft
Ein Reddit-Nutzer berichtet, dass Claude AI um 4:46 Uhr automatisch einen Produktions-Bug mit Magic-Links behoben hat – der Schritt zum Trimmen/Kleinmachen wurde vor den E-Mail-Validator geschoben – PR ohne Änderungen gemergt.

Claude Codes /buddy Easter Egg und Benutzerfunktionsanfragen
Claude Code enthält einen versteckten /buddy-Befehl, der einen Tamagotchi-ähnlichen Begleiter mit Spezies, Statistiken und dekorativen Kommentaren erstellt. Ein Max-Abonnent mit über 840 Sitzungen hat die aktuellen Einschränkungen detailliert beschrieben und funktionale Verbesserungen vorgeschlagen.