// LES NUMÉRIQUES — INTELLIGENZA ARTIFICIALE
Actualité : L'IA de BMW se plante et fait une grosse offre de reprise à un client, le concessionnaire est contraint d'accepter
Un concessionnaire BMW de Toronto a annulé une offre de rachat de 27 162,79 dollars canadiens proposée à un client par son IA. Mais c'était avant de finalement rétracter et d'honorer le contrat. Une grosse bourde qui a coûté 7 000 dollars canadiens en plus au BMW.
Le robot conversationnel, appelé Quinn, s'est fait passer pour un employé humain pendant tout l'échange de textos avec le client. Le concessionnaire estime la vraie valeur de rachat autour de 20 000 dollars canadiens, soit un écart de plus de 7 000 dollars que l'IA a accordé en trop. Zack Giacomelli, directeur de funérailles de 31 ans, a contacté un BMW de Toronto pour revendre sa BMW X3 xDrive 30i de 2021. Il s'agit du même concessionnaire qui lui a vendu le véhicule deux ans auparavant.
La voiture demandait des réparations coûteuses et le client souhaitait s'en débarrasser. Mais qui a répondu à sa demande en ligne ? Le concessionnaire a envoyé un texto au client, par l'intermédiaire d'un certain Quinn. Le robot a posé des questions sur la voiture et a fait une offre ferme de 27 162,79 dollars canadiens. La somme correspondait exactement au solde du prêt automobile du client.
"J'ai eu l'impression que ce Quinn m'écoutait enfin", a confié le client à Radio-Canada. "Je me sentais vraiment bien". Quinn a aussi accepté une contre-offre du client à 28 000 dollars et a jugé la somme "raisonnable", puis a fixé un rendez-vous au concessionnaire à 15h30 pour signer le contrat.
Sauf que voilà, une trentaine de minutes plus tard, un commercial du BMW de Toronto a appelé Zack Giacomelli pour annuler l'offre. Quinn n'était pas un humain, mais une IA qui s'est plantée dans sa proposition.
"En gros, ils m'ont dit que la personne à qui je m'étais adressé n'existait pas, que ce n'était pas une offre valable", a expliqué le client. "C'est embarrassant et ça me fâche d'avoir dû négocier avec ce chatbot". Quinn n'a jamais signalé qu'il était un robot pendant l'échange. Le client a appris que la vraie offre plafonnait à 20 000 dollars, soit 7 000 dollars de moins. "S'ils comptent remplacer leurs employés par l'IA, alors ils doivent respecter ce que dit cette IA", a-t-il lancé.
Tanya Walker, avocate à Toronto, estime que Zack Giacomelli aurait gagné devant un tribunal. "Il est raisonnable qu'il ait cru qu'il existait un contrat contraignant", explique-t-elle. L'avocate souligne que Quinn a organisé un rendez-vous physique pour finaliser la vente. Et pour cause. Après que Radio-Canada ait contacté le BMW de Toronto pour cette affaire, le concessionnaire est revenu sur sa décision et a maintenu l'offre de 27 162,79 dollars canadiens. Le client a immédiatement signé.
"Nous voulons faire la bonne chose pour lui", a déclaré Scott Shadbolt, gestionnaire des ventes de voitures d'occasion au BMW de Toronto. Le concessionnaire a aussi reconnu une erreur de programmation. Le robot Quinn a pris le solde du prêt du client pour le prix d'achat. Bref, l'IA a confondu la dette du client avec l'offre que BMW était en mesure de faire. Le concessionnaire annonce maintenant que seuls des employés humains pourront faire des offres de rachat à l'avenir.
En 2025, et selon Statistique Canada, 19 % des entreprises canadiennes utilisaient des outils d'IA pour produire des biens ou services, contre 6 % deux ans auparavant. Près du tiers de ces entreprises passent par des robots conversationnels. On parle d'une adoption massive avec une jurisprudence qui n'existe pas encore.
Résultat, les concessionnaires et autres entreprises s'exposent à des contentieux coûteux dès qu'une IA prend une décision sans contrôle humain. Mais ce n'est pas tout puisque Mathieu Lajante, professeur à l'Université métropolitaine de Toronto, alerte sur l'autre risque, celui de l'image d'une société. "Le risque réputationnel est extrêmement élevé et c'est probablement là que les entreprises vont se poser quelques questions".