Colleen McCarthy, una Delta Platinum Medallion, pensava di essersi assicurata il viaggio di ritorno a casa. Voleva cancellare solo la tratta di andata di un biglietto premio da New York a Los Angeles. Conserva il reso. Lascia perdere la partenza.
Richiesta semplice? Di solito sì.
Ma stava parlando con il concierge AI di Delta, non con un essere umano.
L’intelligenza artificiale ha risposto: “Il tuo volo da JFK a LAX è stato cancellato e il tuo volo da LAX a JFK è ancora prenotato.”
McCarthy ci credeva. Ha visto la conferma.
Quindi l’effettivo sistema di prenotazione di Delta ha cancellato entrambe le tratte. Ha ridepositato le sue 32.400 SkyMiles. Ha rimborsato gli 11,20 dollari di tasse governative. E le diceva che se voleva tornare a casa, avrebbe dovuto prenotare un nuovo biglietto premio di sola andata da LAX a JFK.
Costo? Quasi il doppio di quanto aveva in origine.
Questo non è solo un problema tecnico. È uno sguardo al caotico beta test di AI Concierge di Delta che assume il pericoloso controllo dei biglietti dal vivo.
La conferma “sicura” era una bugia
Guarda la conferma del rimborso pubblicata da McCarthy.
La ricevuta elenca DL752 (JFK-LAX) e DL938 (LAX-JFK). Il numero di rimborso è “null”. È quasi poetico per una beta live.
L’sms che ha ricevuto diceva esplicitamente che il reso era rimasto. La ricevuta del sistema contraddice quel testo. L’IA ha allucinato un risultato specifico che pensava di volere, oppure il suo modello linguistico ha interpretato la sua richiesta come una cancellazione totale mentre il suo intento era una modifica.
Se chiedi a una macchina di trasformare un viaggio di andata e ritorno in un viaggio di sola andata, potresti ottenere un prezzo diverso. La sola andata spesso costa di più. Delta avrebbe dovuto quotare quel prezzo. Avrebbe dovuto chiedere conferma.
Invece, ha rimborsato tutto e l’ha lasciata bloccata a Los Angeles con una ricevuta digitale che diceva “sicuro” mentre il backend diceva “annullato”.
Come funziona realmente l’AI Concierge di Delta
Delta ha lanciato la beta Concierge nel gennaio 2025. Si trova all’interno dell’app Fly Delta. Puoi inviargli un messaggio o parlargli.
Le prime versioni rispondevano semplicemente alle domande. Dov’è la mia borsa? Quali sono i miei vantaggi? Dove sono i miei crediti elettronici?
Poi Delta ha dato le mani.
Ora Concierge può agire. Può annullare i viaggi. Può offrire la possibilità di cambiare prenotazione durante le interruzioni. A giugno, il capo marketing di Delta ha affermato che gli strumenti di riprenotazione e cancellazione “funzionavano davvero bene”. L’obiettivo? Passa dal 5% degli utenti dell’app al 100%.
È ancora etichettato come “BETA”.
Dove la logica crolla
Un agente umano sa che un biglietto di andata e ritorno è un documento. Non puoi semplicemente tirarne fuori metà senza influenzare l’intera struttura. A volte, la rimozione di una tratta di andata richiede lo scambio dell’intero biglietto.
L’intelligenza artificiale non conosce la “struttura”. Vede una richiesta. Lo associa a uno strumento.
Da qualche parte nella catena tra il modello linguistico e il sistema di prenotazione di Delta (DCS), il comando è stato tradotto come “annulla tutto”. Oppure il sistema ha trattato la richiesta AI in entrata come un vuoto completo. Il livello conversazionale ha poi mentito, affermando che il reso era ancora attivo.
L’IA è rotta? O è semplicemente troppo bravo a sembrare sicuro di sé?
Un cattivo agente umano rovina un biglietto. Un flusso di lavoro AI difettoso rovina migliaia di persone.
Il linguaggio naturale sembra autorevole. Sembra un servizio clienti. Non sembra un errore di codice. Ma non lo è né l’uno né l’altro finché non si guarda il backend.
Non è una novità. È semplicemente scalabile.
Ne ho scritto più di dieci anni fa. Un agente Delta ha modificato il biglietto di un passeggero e ha accidentalmente annullato l’intero biglietto elettronico. Il rendimento di una compagnia aerea partner è svanito.
Gli agenti della United hanno accidentalmente cancellato segmenti futuri durante operazioni irregolari. Lo staff di Virgin Atlantic una volta ha annullato un premio aziendale LATAM confermato senza permesso. Lo spazio era sparito. Virgin ha detto che non poteva risolverlo. Alla fine pagarono il biglietto sostitutivo, ma solo dopo un pasticcio pubblico.
Gli agenti umani fraintendono. Inseriscono i comandi sbagliati. Annullano lo spazio prima di confermare di poterlo ricostruire. Danno informazioni sbagliate perché sono stanchi o oberati di lavoro.
L’intelligenza artificiale promette coerenza. Promette velocità. Promette di funzionare quando i call center collasseranno.
Ma l’implementazione di Delta è difettosa. In questo momento, è peggiore dell’agente umano medio perché scala istantaneamente l’errore umano su migliaia di utenti.
Altre compagnie aeree stanno commettendo errori simili
American Airlines ha testato un assistente AI per la modifica della prenotazione meteorologica. “AI.g” di Air India gestisce le cancellazioni. “Sama” di Qatar Airways effettua prenotazioni conversazionali.
Air Canada ha tentato un’acrobazia simile. Il loro chatbot ha fornito informazioni errate. Air Canada ha cercato di attribuire la colpa al bot. Un tribunale canadese ha respinto tale argomentazione. La compagnia aerea è responsabile di ciò che vende attraverso il proprio sito web, anche se lo ha scritto un bug del software.
A chi appartiene il fallimento?
L’intelligenza artificiale di Delta non ha semplicemente commesso un errore. Ha commesso un errore e poi si è rifiutato di correggerlo.
Quando McCarthy ha contattato le prenotazioni dal vivo, le hanno detto che non potevano ripristinare il viaggio. Le hanno chiesto di pagare il doppio.
Questo è un fallimento umano alla fine di una catena tecnica. I sistemi di Delta hanno creato un pasticcio. L’intelligenza artificiale ha dato falso conforto. Quindi, gli umani si sono rifiutati di aggiustarlo.
È una scelta quella di non consentire agli agenti di sovrascrivere il bot? È una scelta quella di non perdere tempo nell’escalation?
Oppure Delta sta solo testando fino a che punto può spingere i clienti prima che la reazione diventi troppo forte?
McCarthy ha recuperato le sue miglia. Appena.
Il volo? Ancora cancellato.
