Colleen McCarthy, medalhão Delta Platinum, pensou ter garantido sua viagem para casa. Ela queria cancelar apenas a viagem de ida de um bilhete-prêmio de Nova York a Los Angeles. Fique com o retorno. Abandone a partida.
Pedido simples? Normalmente, sim.
Mas ela estava conversando com o Concierge de IA da Delta, não com um humano.
A IA respondeu: “Seu voo JFK para LAX foi cancelado e seu voo LAX para JFK ainda está reservado.”
McCarthy acreditou. Ela viu a confirmação.
Então, o próprio sistema de reservas da Delta cancelou ambas as etapas. Ele redepositou seus 32.400 SkyMiles. Ele reembolsou os US$ 11,20 em impostos governamentais. E lhe dizia que, se quisesse voltar para casa, precisaria reservar uma nova passagem-prêmio só de ida de LAX para JFK.
Custo? Quase o dobro do que ela tinha originalmente.
Isso não é apenas uma falha. É uma olhada no confuso teste beta do AI Concierge da Delta assumindo o controle perigoso dos tickets ao vivo.
A confirmação “segura” era uma mentira
Veja a confirmação de reembolso que McCarthy postou.
O recibo lista DL752 (JFK-LAX) e DL938 (LAX-JFK). O número do reembolso é “nulo”. É quase poético para um beta ao vivo.
A mensagem de texto que ela recebeu afirmava explicitamente que a devolução permanecia. O recibo do sistema contradiz esse texto. A IA alucinou um resultado específico que pensava querer, ou o seu modelo de linguagem interpretou o seu pedido como um cancelamento total, enquanto a sua intenção era uma modificação.
Se você pedir a uma máquina para transformar uma viagem de ida e volta em só de ida, poderá obter um preço diferente. Os sentidos únicos geralmente custam mais. A Delta deveria ter cotado esse preço. Deveria ter pedido confirmação.
Em vez disso, reembolsou tudo e a deixou presa em Los Angeles com um recibo digital que dizia “seguro” enquanto o backend dizia “cancelado”.
Como o AI Concierge da Delta realmente funciona
A Delta lançou o Concierge beta em janeiro de 2025. Ele fica dentro do aplicativo Fly Delta. Você pode enviar uma mensagem de texto ou falar com ele.
As primeiras versões apenas respondiam a perguntas. Onde está minha bolsa? Quais são os meus benefícios? Onde estão meus eCredits?
Então Delta deu as mãos.
Agora, o Concierge pode agir. Pode cancelar viagens. Ele pode oferecer remarcação durante interrupções. Em junho, o chefe de marketing da Delta disse que as ferramentas de remarcação e cancelamento estavam “funcionando muito bem”. O objetivo? Passe de 5% dos usuários do aplicativo para 100%.
Ainda está rotulado como “BETA”.
Onde a lógica falha
Um agente humano sabe que uma passagem de ida e volta é um documento. Você não pode simplesmente arrancar metade sem afetar toda a estrutura. Às vezes, a remoção de um trecho de saída requer a troca do bilhete inteiro.
A IA não conhece “estrutura”. Ele vê uma solicitação. Ele mapeia para uma ferramenta.
Em algum lugar na cadeia entre o modelo de linguagem e o sistema de reservas (DCS) da Delta, o comando foi traduzido como “cancelar tudo”. Ou o sistema tratou a solicitação de IA de entrada como totalmente nula. A camada conversacional então mentiu, afirmando que o retorno ainda estava ativo.
A IA está quebrada? Ou é muito bom em parecer confiante?
Um mau agente humano estraga um ingresso. Um fluxo de trabalho de IA defeituoso destrói milhares de pessoas.
A linguagem natural parece autoritária. Parece atendimento ao cliente. Não parece um erro de código. Mas não é nada disso até que você olhe para o back-end.
Isso não é novo. É simplesmente escalável.
Escrevi sobre isso há mais de uma década. Um agente da Delta ajustou a passagem de um passageiro e acidentalmente anulou todo o bilhete eletrônico. O retorno de uma companhia aérea parceira desapareceu.
Os agentes da United cancelaram acidentalmente segmentos futuros durante operações irregulares. Certa vez, a equipe da Virgin Atlantic cancelou um prêmio comercial confirmado da LATAM sem permissão. O espaço desapareceu. A Virgin disse que não poderia consertar. Eventualmente, eles pagaram pela passagem substituta, mas somente depois de uma confusão pública.
Os agentes humanos entendem mal. Eles digitam os comandos errados. Eles cancelam o espaço antes de confirmarem que podem reconstruí-lo. Eles dão informações erradas porque estão cansados ou sobrecarregados.
A IA promete consistência. Promete velocidade. Promete funcionar quando os call centers entrarem em colapso.
Mas a implementação da Delta é falha. No momento, é pior do que o agente humano médio porque dimensiona o erro humano em milhares de usuários instantaneamente.
Outras companhias aéreas estão cometendo erros semelhantes
A American Airlines testou um assistente de IA para remarcação climática. O “AI.g” da Air India lida com cancelamentos. “Sama” da Qatar Airways faz reservas por conversação.
A Air Canada tentou uma manobra semelhante. O chatbot deles forneceu informações incorretas. A Air Canada tentou transferir a culpa para o bot. Um tribunal canadense rejeitou esse argumento. A companhia aérea é responsável pelo que vende através de seu site, mesmo que tenha sido causado por um bug de software.
Quem é o dono do fracasso?
A IA da Delta não cometeu apenas um erro. Cometeu um erro e depois recusou-se a corrigi-lo.
Quando McCarthy contatou as reservas ao vivo, eles disseram que não poderiam restaurar a viagem. Eles exigiram que ela pagasse o dobro.
Esta é uma falha humana no final de uma cadeia técnica. Os sistemas da Delta criaram uma bagunça. A IA deu um falso conforto. Então, os humanos se recusaram a consertar.
É uma escolha não capacitar os agentes para substituir o bot? É uma escolha não perder tempo escalando?
Ou a Delta está apenas testando até onde pode levar os clientes antes que a reação se torne muito alta?
McCarthy recuperou suas milhas. Por muito pouco.
O voo? Ainda cancelado.
