Colleen McCarthy, een Delta Platinum Medallion, dacht dat ze haar reis naar huis veilig had gesteld. Ze wilde alleen de heenreis van een awardticket van New York naar Los Angeles annuleren. Bewaar de retourzending. Laat het vertrek vallen.
Eenvoudig verzoek? Meestal wel.
Maar ze sprak met Delta’s AI-conciërge, niet met een mens.
De AI antwoordde: “Uw vlucht van JFK naar LAX is geannuleerd en uw vlucht van LAX naar JFK is nog steeds geboekt.”
McCarthy geloofde het. Ze zag de bevestiging.
Vervolgens annuleerde het feitelijke reserveringssysteem van Delta beide trajecten. Het leverde haar 32.400 SkyMiles opnieuw op. Het betaalde de $ 11,20 aan overheidsbelastingen terug. En er stond in dat als ze naar huis wilde, ze een nieuw awardticket voor een enkele reis van LAX naar JFK moest boeken.
Kosten? Bijna het dubbele van wat ze oorspronkelijk had.
Dit is niet zomaar een storing. Het is een kijkje in de rommelige bètatest van Delta’s AI Concierge die de gevaarlijke controle over live-tickets overneemt.
De “veilige” bevestiging was een leugen
Kijk naar de terugbetalingsbevestiging die McCarthy heeft gepost.
Op de bon staan DL752 (JFK-LAX) en DL938 (LAX-JFK). Het terugbetalingsnummer is ‘nul’. Het is bijna poëtisch voor een live bèta.
In het sms-bericht dat ze ontving stond expliciet dat de retourzending was gebleven. De systeembon spreekt deze tekst tegen. De AI hallucineerde een specifieke uitkomst die zij dacht te willen, of het taalmodel interpreteerde haar verzoek als een volledige annulering terwijl haar bedoeling een wijziging was.
Als u een automaat vraagt een retourvlucht om te zetten in een enkele reis, krijgt u mogelijk een andere prijs. Een enkele reis kost vaak meer. Delta had die prijs moeten opgeven. Er had om bevestiging gevraagd moeten worden.
In plaats daarvan werd alles terugbetaald en bleef ze achter in LA met een digitale bon waarop ‘veilig’ stond, terwijl op de backend ‘geannuleerd’ stond.
Hoe de AI-conciërge van Delta feitelijk werkt
Delta lanceerde de Concierge-bèta in januari 2025. Deze bevindt zich in de Fly Delta-app. Je kunt ermee sms’en of praten.
Vroege versies beantwoordden alleen vragen. Waar is mijn tas? Wat zijn mijn voordelen? Waar zijn mijn eCredits?
Toen gaf Delta het de hand.
Nu kan de conciërge actie ondernemen. Het kan reizen annuleren. Het kan omboekingen aanbieden tijdens verstoringen. In juni zei de marketingchef van Delta dat de omboek- en annuleringstools ‘heel goed werkten’. Het doel? Ga van 5% van de app-gebruikers naar 100%.
Het heet nog steeds ‘BÈTA’.
Waar de logica faalt
Een menselijke agent weet dat een retourticket één document is. Je kunt niet zomaar één helft eruit rukken zonder de hele structuur te beïnvloeden. Soms vereist het verwijderen van een uitgaande etappe het omwisselen van het volledige ticket.
De AI kent geen ‘structuur’. Er wordt een verzoek gezien. Het wijst het toe aan een hulpmiddel.
Ergens in de keten tussen het taalmodel en Delta’s reserveringssysteem (DCS) werd het commando vertaald als ‘alles annuleren’. Of het systeem behandelde het inkomende AI-verzoek als een volledige ongeldigheid. De gesprekslaag loog vervolgens en beweerde dat de terugkeer nog steeds actief was.
Is de AI kapot? Of is het gewoon te goed om zelfverzekerd te klinken?
Een slechte menselijke agent verpest één ticket. Een defecte AI-workflow ruïneert duizenden.
Natuurlijke taal voelt gezaghebbend. Het voelt als klantenservice. Het voelt niet als een codefout. Maar dat is het ook niet totdat je naar de backend kijkt.
Dit is niet nieuw. Het is gewoon schaalbaar.
Ik schreef hier ruim tien jaar geleden over. Een Delta-agent heeft het ticket van een passagier aangepast en per ongeluk het volledige e-ticket ongeldig verklaard. Het rendement op een partnerluchtvaartmaatschappij verdween.
United-agenten hebben per ongeluk toekomstige segmenten geannuleerd tijdens onregelmatige operaties. Het personeel van Virgin Atlantic heeft ooit zonder toestemming een bevestigde LATAM-bedrijfsprijs geannuleerd. De ruimte was verdwenen. Virgin zei dat het het niet kon repareren. Uiteindelijk betaalden ze voor het vervangende ticket, maar pas na een openbare puinhoop.
Menselijke agenten begrijpen het verkeerd. Ze toetsten de verkeerde commando’s in. Ze annuleren de ruimte voordat ze bevestigen dat ze deze opnieuw kunnen opbouwen. Ze geven verkeerde informatie omdat ze moe of overwerkt zijn.
AI belooft consistentie. Het belooft snelheid. Het belooft te werken als de callcenters instorten.
Maar de implementatie van Delta is gebrekkig. Op dit moment is het erger dan de gemiddelde menselijke agent, omdat het menselijke fouten onmiddellijk over duizenden gebruikers verspreidt.
Andere luchtvaartmaatschappijen maken soortgelijke fouten
American Airlines heeft een AI-assistent getest voor het omboeken van weersomstandigheden. Air India’s “AI.g” handelt annuleringen af. Qatar Airways’ ‘Sama’ doet conversatieboekingen.
Air Canada probeerde een soortgelijke stunt. Hun chatbot gaf onjuiste informatie. Air Canada probeerde de schuld op de bot te schuiven. Een Canadees tribunaal verwierp dat argument. De luchtvaartmaatschappij is verantwoordelijk voor wat zij via haar website verkoopt, zelfs als dit door een softwarefout is geschreven.
Wie is de eigenaar van de mislukking?
De AI van Delta heeft niet alleen een fout gemaakt. Het maakte een fout en weigerde vervolgens deze te corrigeren.
Toen McCarthy contact opnam met live reserveringen, vertelden ze haar dat ze de reis niet konden herstellen. Ze eisten dat ze het dubbele zou betalen.
Dit is een menselijk falen aan het einde van een technische keten. De systemen van Delta zorgden voor een puinhoop. De AI gaf valse troost. Toen weigerden de mensen het te repareren.
Is het een keuze om agenten niet in staat te stellen de bot te overschrijven? Is het een keuze om geen tijd te besteden aan escaleren?
Of test Delta alleen maar hoe ver ze klanten kunnen pushen voordat de reactie te luid wordt?
McCarthy heeft haar kilometers terug. Nauwelijks.
De vlucht? Nog steeds geannuleerd.
