Deltas KI hat meinen Rückflug annulliert und sich geweigert, das Problem zu beheben

Colleen McCarthy, eine Delta Platinum Medallion, dachte, sie hätte ihre Heimreise gesichert. Sie wollte nur den Hinflug eines Prämientickets von New York nach Los Angeles stornieren. Behalten Sie die Rückgabe. Lassen Sie die Abreise fallen.

Einfache Anfrage? Normalerweise ja.

Aber sie sprach mit Deltas KI-Concierge, nicht mit einem Menschen.

Die KI antwortete: * „Ihr Flug von JFK nach LAX wurde storniert und Ihr Flug von LAX nach JFK ist noch gebucht.“*

McCarthy glaubte es. Sie sah die Bestätigung.

Dann hat Deltas eigentliches Reservierungssystem beide Strecken storniert. Dadurch wurden ihr 32.400 SkyMiles wieder gutgeschrieben. Es erstattete die staatlichen Steuern in Höhe von 11,20 US-Dollar. Und es sagte ihr, dass sie, wenn sie nach Hause wollte, ein neues One-Way-Prämienticket von LAX nach JFK buchen müsste.

Kosten? Fast doppelt so viel wie ursprünglich.

Das ist nicht nur ein Fehler. Es ist ein Blick in den chaotischen Betatest, in dem Deltas AI Concierge die gefährliche Kontrolle über Live-Tickets übernimmt.

Die „sichere“ Bestätigung war eine Lüge

Schauen Sie sich die Rückerstattungsbestätigung an, die McCarthy gepostet hat.

Auf der Quittung sind DL752 (JFK-LAX) und DL938 (LAX-JFK) aufgeführt. Die Rückerstattungsnummer ist „null“. Für eine Live-Beta ist es fast poetisch.

In der SMS, die sie erhielt, wurde ausdrücklich darauf hingewiesen, dass die Rücksendung erhalten blieb. Der Systembeleg widerspricht diesem Text. Die KI halluzinierte ein bestimmtes Ergebnis, von dem sie glaubte, dass sie es wollte, oder ihr Sprachmodell interpretierte ihre Anfrage als vollständige Stornierung, während ihre Absicht eine Änderung war.

Wenn Sie einen Automaten bitten, eine Hin- und Rückfahrt in eine einfache Fahrt umzuwandeln, erhalten Sie möglicherweise einen anderen Preis. Eine einfache Fahrt kostet oft mehr. Delta hätte diesen Preis angeben sollen. Es hätte um Bestätigung bitten sollen.

Stattdessen wurde alles zurückerstattet und sie blieb in LA mit einer digitalen Quittung sitzen, auf der „sicher“ stand, während im Backend „storniert“ stand.

Wie der AI Concierge von Delta tatsächlich funktioniert

Delta hat die Concierge-Beta im Januar 2025 gestartet. Sie befindet sich in der Fly Delta-App. Sie können ihm eine SMS schreiben oder mit ihm sprechen.

Frühere Versionen beantworteten lediglich Fragen. Wo ist meine Tasche? Was sind meine Vorteile? Wo sind meine eCredits?

Dann gab Delta ihm die Hand.

Jetzt kann der Concierge Maßnahmen ergreifen. Es kann Reisen stornieren. Bei Störungen kann eine Umbuchung angeboten werden. Im Juni sagte der Marketingchef von Delta, dass Umbuchungs- und Stornierungstools „wirklich gut funktionierten“. Das Ziel? Steigern Sie von 5 % der App-Nutzer auf 100 %.

Es trägt immer noch die Bezeichnung „BETA“.

Wo die Logik zusammenbricht

Ein menschlicher Agent weiß, dass ein Hin- und Rückflugticket ein Dokument ist. Sie können nicht einfach eine Hälfte herausziehen, ohne die gesamte Struktur zu beeinträchtigen. Manchmal erfordert das Entfernen einer Hinflugstrecke den Umtausch des gesamten Tickets.

Die KI kennt keine „Struktur“. Es sieht eine Anfrage. Es ordnet es einem Werkzeug zu.

Irgendwo in der Kette zwischen dem Sprachmodell und Deltas Reservierungssystem (DCS) wurde der Befehl als „Alles abbrechen“ übersetzt. Oder das System behandelte die eingehende AI-Anfrage als vollständige Ungültigkeit. Die Gesprächsschicht log dann und behauptete, die Rückgabe sei noch aktiv.

Ist die KI kaputt? Oder ist es einfach zu gut darin, selbstbewusst zu klingen?

Ein schlechter menschlicher Agent ruiniert ein Ticket. Ein fehlerhafter KI-Workflow ruiniert Tausende.

Natürliche Sprache fühlt sich maßgebend an. Es fühlt sich an wie Kundenservice. Es fühlt sich nicht wie ein Codefehler an. Aber das ist nicht der Fall, bis man sich das Backend anschaut.

Das ist nicht neu. Es ist einfach skalierbar.

Ich habe vor über einem Jahrzehnt darüber geschrieben. Ein Delta-Agent hat das Ticket eines Passagiers angepasst und versehentlich das gesamte E-Ticket ungültig gemacht. Die Rendite einer Partnerfluggesellschaft verschwand.

United-Agenten haben aufgrund unregelmäßiger Operationen versehentlich zukünftige Abschnitte abgesagt. Die Mitarbeiter von Virgin Atlantic haben einmal ohne Erlaubnis einen bestätigten LATAM-Wirtschaftspreis abgesagt. Der Platz war weg. Virgin sagte, es könne das Problem nicht beheben. Schließlich bezahlten sie das Ersatzticket, allerdings erst nach einem öffentlichen Durcheinander.

Menschliche Agenten missverstehen. Sie geben die falschen Befehle ein. Sie stornieren Speicherplatz, bevor sie bestätigen, dass sie ihn neu erstellen können. Sie geben falsche Informationen, weil sie müde oder überarbeitet sind.

KI verspricht Beständigkeit. Es verspricht Geschwindigkeit. Es verspricht zu funktionieren, wenn die Callcenter zusammenbrechen.

Aber die Umsetzung von Delta ist fehlerhaft. Im Moment ist es schlimmer als der mittlere menschliche Agent, weil es menschliches Versagen sofort auf Tausende von Benutzern verteilt.

Andere Fluggesellschaften machen ähnliche Fehler

American Airlines hat einen KI-Assistenten für Wetterumbuchungen getestet. „AI.g“ von Air India wickelt Stornierungen ab. „Sama“ von Qatar Airways übernimmt die Konversationsbuchung.

Air Canada versuchte einen ähnlichen Trick. Ihr Chatbot gab falsche Informationen. Air Canada versuchte, die Schuld auf den Bot abzuwälzen. Ein kanadisches Gericht wies dieses Argument zurück. Die Fluggesellschaft ist für das, was sie über ihre Website verkauft, verantwortlich, auch wenn dies durch einen Softwarefehler verursacht wurde.

Wem gehört der Fehler?

Deltas KI hat nicht nur einen Fehler gemacht. Es machte einen Fehler und weigerte sich dann, ihn zu korrigieren.

Als McCarthy Live-Reservierungen kontaktierte, teilten diese ihr mit, dass sie die Reise nicht wiederherstellen könnten. Sie verlangten von ihr das Doppelte.

Dies ist ein menschliches Versagen am Ende einer technischen Kette. Die Systeme von Delta haben ein Chaos verursacht. Die KI spendete falschen Trost. Dann weigerten sich die Menschen, das Problem zu beheben.

Ist es eine Entscheidung, Agenten nicht die Möglichkeit zu geben, den Bot außer Kraft zu setzen? Ist es eine Entscheidung, keine Zeit mit der Eskalation zu verschwenden?

Oder testet Delta nur, wie weit sie ihre Kunden drängen können, bevor die Gegenreaktion zu laut wird?

McCarthy hat ihre Meilen zurückbekommen. Kaum.

Der Flug? Immer noch abgesagt.