Colleen McCarthy, médaillon Delta Platinum, pensait avoir assuré son voyage de retour. Elle souhaitait annuler uniquement l’étape aller d’un billet prime New York-Los Angeles. Gardez le retour. Abandonnez le départ.
Une simple demande ? Habituellement, oui.
Mais elle parlait au concierge IA de Delta, pas à un humain.
L’IA a répondu : “Votre vol JFK-LAX a été annulé et votre vol LAX-JFK est toujours réservé.”
McCarthy le croyait. Elle a vu la confirmation.
Ensuite, le système de réservation actuel de Delta a annulé les deux étapes. Il lui a redéposé 32 400 SkyMiles. Il a remboursé les 11,20 $ de taxes gouvernementales. Et il lui a dit que si elle voulait rentrer chez elle, elle devrait réserver un nouveau billet prime aller simple de LAX à JFK.
Coût? Presque le double de ce qu’elle avait à l’origine.
Ce n’est pas seulement un problème. Il s’agit d’un aperçu du test bêta désordonné de IA Concierge de Delta prenant le contrôle dangereux des billets en direct.
La confirmation « sûr » était un mensonge
Regardez la confirmation de remboursement publiée par McCarthy.
Le reçu indique DL752 (JFK-LAX) et DL938 (LAX-JFK). Le numéro de remboursement est « nul ». C’est presque poétique pour une bêta live.
Le message texte qu’elle a reçu indiquait explicitement que le retour restait. Le reçu du système contredit ce texte. L’IA a halluciné un résultat spécifique qu’elle pensait vouloir, ou son modèle linguistique a interprété sa demande comme une annulation complète alors que son intention était une modification.
Si vous demandez à une machine de transformer un aller-retour en aller simple, vous pourriez obtenir un prix différent. Les allers simples coûtent souvent plus cher. Delta aurait dû indiquer ce prix. Il aurait dû demander une confirmation.
Au lieu de cela, il a tout remboursé et l’a laissée bloquée à Los Angeles avec un reçu numérique indiquant “sûr” tandis que le backend indiquait “annulé”.
Comment fonctionne réellement le concierge IA de Delta
Delta a lancé la version bêta de Concierge en janvier 2025. Elle se trouve dans l’application Fly Delta. Vous pouvez lui envoyer un SMS ou lui parler.
Les premières versions répondaient simplement aux questions. Où est mon sac ? Quels sont mes avantages ? Où sont mes eCrédits ?
Puis Delta lui a donné la main.
Désormais, le concierge peut agir. Il peut annuler des voyages. Il peut proposer une nouvelle réservation en cas de perturbations. En juin, le responsable marketing de Delta a déclaré que les outils de modification de réservation et d’annulation « fonctionnaient très bien ». Le but ? Passez de 5 % d’utilisateurs de l’application à 100 %.
Il est toujours étiqueté « BETA ».
Là où la logique s’effondre
Un agent humain sait qu’un billet aller-retour est un seul document. Vous ne pouvez pas simplement en retirer la moitié sans affecter toute la structure. Parfois, la suppression d’un tronçon aller nécessite l’échange de l’intégralité du billet.
L’IA ne connaît pas la « structure ». Il voit une demande. Il le mappe à un outil.
Quelque part dans la chaîne entre le modèle linguistique et le système de réservation de Delta (DCS), la commande a été traduite par « tout annuler ». Ou bien le système a traité la demande d’IA entrante comme un vide complet. La couche conversationnelle a alors menti, affirmant que le retour était toujours actif.
L’IA est-elle cassée ? Ou est-ce tout simplement trop doué pour paraître confiant ?
Un mauvais agent humain détruit un ticket. Un flux de travail d’IA défectueux en ruine des milliers.
Le langage naturel semble faire autorité. Cela ressemble à un service client. Cela ne ressemble pas à une erreur de code. Mais ce n’est ni l’un ni l’autre jusqu’à ce que vous regardiez le backend.
Ce n’est pas nouveau. C’est juste évolutif.
J’ai écrit à ce sujet il y a plus de dix ans. Un agent Delta a ajusté le billet d’un passager et a accidentellement annulé l’intégralité du billet électronique. Le retour sur une compagnie aérienne partenaire a disparu.
Les agents de United ont accidentellement annulé des segments futurs lors d’opérations irrégulières. Le personnel de Virgin Atlantic a déjà annulé un prix commercial LATAM confirmé sans autorisation. L’espace avait disparu. Virgin a dit qu’elle ne pouvait pas le réparer. Finalement, ils ont payé le billet de remplacement, mais seulement après un désordre public.
Les agents humains se méprennent. Ils saisissent les mauvaises commandes. Ils annulent l’espace avant de confirmer qu’ils peuvent le reconstruire. Ils donnent de fausses informations parce qu’ils sont fatigués ou surmenés.
L’IA promet de la cohérence. Cela promet de la vitesse. Cela promet de fonctionner lorsque les centres d’appels s’effondreront.
Mais la mise en œuvre de Delta est défectueuse. À l’heure actuelle, c’est pire que l’agent humain médian, car il étend instantanément les erreurs humaines à des milliers d’utilisateurs.
D’autres compagnies aériennes commettent des erreurs similaires
American Airlines a testé un assistant IA pour la modification des réservations météorologiques. « AI.g » d’Air India gère les annulations. « Sama » de Qatar Airways effectue des réservations conversationnelles.
Air Canada a tenté une démarche similaire. Leur chatbot a donné des informations incorrectes. Air Canada a tenté de rejeter la faute sur le robot. Un tribunal canadien a rejeté cet argument. La compagnie aérienne est responsable de ce qu’elle vend sur son site Web, même si un bug logiciel l’a écrit.
À qui appartient l’échec ?
L’IA de Delta n’a pas simplement commis une erreur. Il a commis une erreur et a ensuite refusé de la corriger.
Lorsque McCarthy a contacté les réservations en direct, ils lui ont dit qu’ils ne pouvaient pas restaurer le voyage. Ils lui ont demandé de payer le double.
Il s’agit d’un échec humain au bout d’une chaîne technique. Les systèmes de Delta ont créé un désastre. L’IA a apporté un faux réconfort. Ensuite, les humains ont refusé de le réparer.
Est-ce un choix de ne pas permettre aux agents de contourner le bot ? Est-ce un choix de ne pas perdre de temps à escalader ?
Ou Delta teste-t-il simplement jusqu’où il peut pousser ses clients avant que la réaction ne devienne trop forte ?
McCarthy a récupéré ses kilomètres. À peine.
Le vol ? Toujours annulé.
