Concessionnaire BMW retire son offre de rachat après une erreur d'un chatbot IA, précédent de l'affaire Air Canada

Un Torontois a été choqué lorsque le concessionnaire BMW Toronto a révoqué une offre de rachat de 27 162,79 $ pour sa BMW 2021, invoquant une erreur de son chatbot IA nommé Quinn. Zack Giacomelli, directeur de funérailles, négociait par texto lorsque Quinn a fait l'offre, couvrant exactement le solde de son prêt. Quelques instants plus tard, un conseiller commercial a téléphoné pour annuler, affirmant que Quinn était un IA et l'offre invalide. L'offre de rachat réelle était au mieux de 20 000 $, une perte de plus de 7 000 $.

Points clés

• Découverte du client : Giacomelli n'a appris que Quinn était un IA qu'au moment de l'annulation. Il s'est senti "embarrassé et en colère" d'avoir négocié avec un robot.
• Précédent juridique : En 2024, Air Canada a été contrainte d'honorer une remise promise par son chatbot, malgré l'argument de la compagnie que le chatbot était "une entité juridique distincte". Le tribunal civil de la Colombie-Britannique n'a pas été de cet avis.
• Avis d'expert : L'avocate Tanya Walker déclare : "Tout comme un employé peut commettre une erreur et l'entreprise en être tenue responsable, un bot est comme un employé." Elle prévient : "Il peut conclure un contrat en votre nom."
• Résultat : Après que CBC News a contacté BMW, le concessionnaire a rétabli l'offre générée par l'IA.

Pour qui

Développeurs créant ou déployant des chatbots IA destinés aux clients, et équipes juridiques évaluant la responsabilité pour les offres générées par l'IA.