Colleen McCarthy, platynowa uczestniczka programu lojalnościowego Delta, myślała, że już zabezpieczyła bilet do domu. Chciała jedynie odwołać pierwszy etap trasy punktowej z Nowego Jorku do Los Angeles. Trzeba było ratować lot powrotny. Oryginał – usuń.
Prosta prośba? Zwykle jest to prawdą.
Ale to konsjerż AI Delta z nią rozmawiał, a nie prawdziwa osoba.
Sztuczna inteligencja odpowiedziała: „Twój lot z JFK do LAX został odwołany, ale Twój lot z LAX do JFK jest nadal zarezerwowany.”
McCarthy w to wierzył. Zobaczyła potwierdzenie.
Jednak rzeczywisty system rezerwacji Delta anulował oba etapy. Wymieniła 32 400 SkyMiles, zwróciła 11,20 dolarów podatków stanowych i stwierdziła, że musi kupić nowy bilet w jedną stronę z Los Angeles do Nowego Jorku, wykorzystując zdobyte punkty na powrót do domu.
Cena? Prawie dwukrotnie większy od oryginału.
To nie tylko usterka. Oto spojrzenie na niebezpieczny beta-test AI Concierge firmy Delta przejmującego kontrolę nad rezerwacjami na żywo.
„Bezpieczne” potwierdzenie było kłamstwem
Spójrz na potwierdzenie zwrotu pieniędzy przesłane przez McCarthy’ego.
Na paragonie widnieje lot DL752 (JFK–LAX) i DL938 (LAX–JFK). Numer powrotu to „null”. To niemal poetyckie jak na beta-testy na żywo.
Z otrzymanego SMS-a wyraźnie wynikało, że lot powrotny został zapisany. Pokwitowanie systemowe zaprzecza temu komunikatowi. Sztuczna inteligencja wygenerowała (halucynowała) konkretny wynik, którego oczekiwała od klienta, lub jej model językowy zinterpretował żądanie jako całkowite anulowanie, gdy klient zamierzał jedynie zmienić trasę.
Jeśli poprosisz samochód o zmianę podróży w dwie strony na podróż w jedną stronę, cena może ulec zmianie. Bilety w jedną stronę są często droższe. Delta powinna była ogłosić tę cenę. Powinienem był poprosić o potwierdzenie.
Zamiast tego zwróciła wszystkie pieniądze i zostawiła Klienta w Los Angeles z cyfrowym paragonem, na którym widniała informacja „bezpieczny”, podczas gdy backend mówił „anulowano”.
Jak naprawdę działa AI Concierge firmy Delta
Delta uruchomiła usługę Concierge w wersji beta w styczniu 2025 r. Jest ona wbudowana w aplikację Fly Delta. Możesz komunikować się z nią w formacie tekstowym lub głosowym.
Początkowe wersje po prostu odpowiadały na pytania. Gdzie jest moja torba? Jakie są moje korzyści? Gdzie są moje eKredyty?
Następnie Delta podała AI „ręce”.
Concierge może teraz podjąć działania. Może odwołać wycieczki. Może oferować transfery w przypadku zakłóceń w harmonogramie. W czerwcu dyrektor ds. marketingu Delta stwierdził, że narzędzia do przenoszenia i anulowania „działają świetnie”. Cel? Zwiększ udział użytkowników aplikacji z 5% do 100%.
System nadal jest oznaczony jako BETA (wersja beta).
Tam, gdzie załamuje się logika
Żywy agent wie, że bilet w obie strony to jeden dokument. Nie można po prostu wyrwać połowy bez wpływu na całą konstrukcję. Czasami usunięcie pierwszego etapu wiąże się z wymianą całego biletu.
AI nie rozumie „struktury”. Widzi prośbę. Dopasowuje go do narzędzia.
Gdzieś w łańcuchu pomiędzy modelem językowym a systemem rezerwacji Delty (DCS) polecenie zostało przetłumaczone jako „anuluj wszystko”. Lub system przetworzył przychodzące żądanie AI jako całkowite anulowanie. Warstwa konwersacyjna kłamała w tym czasie, twierdząc, że lot powrotny jest aktywny.
Czy sztuczna inteligencja jest zepsuta? A może po prostu jest zbyt dobry w sprawianiu wrażenia pewnego siebie?
Zły agent na żywo zniszczy jeden bilet. Wadliwy przepływ pracy AI zrujnuje tysiące.
Język naturalny brzmi autorytatywnie. To brzmi jak obsługa klienta. Nie wygląda to na błąd w kodzie. Ale tak właśnie jest, dopóki nie spojrzysz na backend.
To nie jest nowe. To jest po prostu powtarzalne.
Pisałem o tym ponad dekadę temu. Agent Delta zmienił bilet pasażera i przypadkowo anulował cały bilet elektroniczny. Lot powrotny partnerskiej linii lotniczej zniknął.
Agenci United przypadkowo anulowali przyszłe kamienie milowe podczas niestabilnych operacji. Kiedyś pracownicy Virgin Atlantic anulowali potwierdzoną zaliczkę biznesową LATAM bez zezwolenia. Nie było już miejsca. Virgin powiedziała, że nie mogą tego naprawić. Ostatecznie zapłacili za bilet zastępczy, ale dopiero po publicznym oburzeniu.
Żywi agenci popełniają błędy. Wprowadzają nieprawidłowe polecenia. Anulują miejsca, nie upewniając się, że mogą je przywrócić. Podają nieprawidłowe informacje, ponieważ są zmęczeni lub przytłoczeni.
AI obiecuje 的一致性 (spójność). Obiecuje szybkość. Obiecuje, że zadziała, gdy upadają call center.
Ale wdrożenie Delty jest wadliwe. W tej chwili jest gorszy niż przeciętny agent na żywo, ponieważ natychmiast skaluje błędy ludzkie na tysiące użytkowników.
Inne linie lotnicze popełniają podobne błędy
American Airlines testują asystenta AI do transferów związanych z pogodą. AI.g linii Air India obsługuje odwołania. Sama w Qatar Airways obsługuje rezerwacje konwersacyjne.
Air Canada spróbowało podobnej sztuczki. Ich chatbot podał nieprawidłowe informacje. Linie Air Canada próbowały zrzucić winę na bota. Kanadyjski trybunał odrzucił tę argumentację. Linie lotnicze są odpowiedzialne za to, co sprzedają za pośrednictwem swojej witryny internetowej, nawet jeśli oprogramowanie popełni błąd.
Kto jest odpowiedzialny za awarię?
Sztuczna inteligencja Delty nie tylko popełniła błąd. Popełnił błąd, a potem nie chciał go naprawić.
Kiedy McCarthy skontaktowała się z serwisem rezerwacji na żywo, powiedziano jej, że podróży nie można przywrócić. Za bilet musiałem zapłacić dwa razy.
Jest to ludzka porażka na końcu łańcucha technicznego. Systemy Delty stworzyły chaos. Sztuczna inteligencja dała fałszywe zapewnienie. Potem ludzie nie chcieli tego naprawić.
Czy można nie przyznawać agentom uprawnień do zastępowania bota? Czy warto nie tracić czasu na eskalację problemu?
A może Delta po prostu testuje, jak daleko może popchnąć klientów, zanim opinie staną się zbyt głośne?
McCarthy odzyskała mile. Prawie.
Lot? Nadal odwołane.
