Colleen McCarthy, medallista de platino de Delta, pensó que había asegurado su viaje a casa. Quería cancelar sólo el tramo de ida de un billete premio de Nueva York a Los Ángeles. Quédate con la devolución. Deja la salida.
¿Solicitud sencilla? Generalmente sí.
Pero ella estaba hablando con el conserje de inteligencia artificial de Delta, no con un humano.
La IA respondió: “Su vuelo de JFK a LAX ha sido cancelado y su vuelo de LAX a JFK todavía está reservado”.
McCarthy lo creía. Ella vio la confirmación.
Luego, el sistema de reservas real de Delta canceló ambos tramos. Redepositó sus 32.400 SkyMiles. Reembolsó los 11,20 dólares en impuestos gubernamentales. Y le decía que si quería volver a casa, tendría que reservar un nuevo billete premio de ida de LAX a JFK.
¿Costo? Casi el doble de lo que tenía originalmente.
Esto no es sólo un problema técnico. Es una mirada al interior de la complicada prueba beta de AI Concierge de Delta tomando el peligroso control de las entradas en vivo.
La confirmación “segura” era mentira
Mire la confirmación de reembolso que publicó McCarthy.
El recibo enumera DL752 (JFK-LAX) y DL938 (LAX-JFK). El número de reembolso es “nulo”. Es casi poético para una beta en vivo.
El mensaje de texto que recibió decía explícitamente que la devolución se mantenía. El recibo del sistema contradice ese texto. La IA alucinó un resultado específico que pensaba que quería, o su modelo de lenguaje interpretó su solicitud como una cancelación total mientras que su intención era una modificación.
Si le pide a una máquina que cambie un viaje de ida y vuelta a uno de ida, es posible que obtenga un precio diferente. Los viajes de ida suelen costar más. Delta debería haber cotizado ese precio. Debería haber pedido confirmación.
En cambio, le reembolsó todo y la dejó varada en Los Ángeles con un recibo digital que decía “seguro” mientras que el backend decía “cancelado”.
Cómo funciona realmente el AI Concierge de Delta
Delta lanzó la versión beta de Concierge en enero de 2025. Se encuentra dentro de la aplicación Fly Delta. Puedes enviarle mensajes de texto o hablar con él.
Las primeras versiones simplemente respondieron preguntas. ¿Dónde está mi bolso? ¿Cuáles son mis beneficios? ¿Dónde están mis créditos electrónicos?
Entonces Delta le dio la mano.
Ahora Concierge puede actuar. Puede cancelar viajes. Puede ofrecer cambios de reserva durante las interrupciones. En junio, el jefe de marketing de Delta dijo que las herramientas de cambio de reserva y cancelación estaban “funcionando muy bien”. ¿El objetivo? Pasar del 5% de usuarios de la aplicación al 100%.
Todavía tiene la etiqueta “BETA”.
Donde la lógica falla
Un agente humano sabe que un billete de ida y vuelta es un solo documento. No se puede simplemente arrancar la mitad sin afectar toda la estructura. A veces, eliminar un tramo de ida requiere cambiar el billete completo.
La IA no conoce la “estructura”. Ve una solicitud. Lo asigna a una herramienta.
En algún lugar de la cadena entre el modelo de lenguaje y el sistema de reservas (DCS) de Delta, el comando se tradujo como “cancelar todo”. O el sistema trató la solicitud de IA entrante como un completo vacío. La capa conversacional luego mintió, afirmando que la devolución aún estaba activa.
¿Está rota la IA? ¿O simplemente es demasiado bueno para parecer confiado?
Un mal agente humano arruina un billete. Un flujo de trabajo de IA defectuoso arruina a miles de personas.
El lenguaje natural se siente autoritario. Se siente como servicio al cliente. No parece un error de código. Pero no lo es hasta que miras el backend.
Esto no es nuevo. Es simplemente escalable.
Escribí sobre esto hace más de una década. Un agente de Delta ajustó el billete de un pasajero y accidentalmente anuló todo el billete electrónico. El retorno de una aerolínea asociada desapareció.
Agentes de United cancelaron accidentalmente segmentos futuros durante operaciones irregulares. El personal de Virgin Atlantic canceló una vez sin permiso una adjudicación empresarial confirmada de LATAM. El espacio había desaparecido. Virgin dijo que no podía arreglarlo. Al final pagaron el billete de sustitución, pero sólo después de un lío público.
Los agentes humanos no entienden. Teclean los comandos equivocados. Cancelan espacio antes de confirmar que pueden reconstruirlo. Dan información incorrecta porque están cansados o con exceso de trabajo.
La IA promete coherencia. Promete velocidad. Promete funcionar cuando los centros de llamadas colapsen.
Pero la implementación de Delta es defectuosa. En este momento, es peor que el agente humano promedio porque escala el error humano entre miles de usuarios al instante.
Otras aerolíneas están cometiendo errores similares
American Airlines ha probado un asistente de inteligencia artificial para cambiar las reservas meteorológicas. El “AI.g” de Air India se encarga de las cancelaciones. “Sama” de Qatar Airways realiza reservas conversacionales.
Air Canada intentó un truco similar. Su chatbot proporcionó información incorrecta. Air Canada intentó echarle la culpa al robot. Un tribunal canadiense rechazó ese argumento. La aerolínea es responsable de lo que vende a través de su sitio web, incluso si un error de software lo escribió.
¿A quién pertenece el fracaso?
La IA de Delta no solo cometió un error. Cometió un error y luego se negó a corregirlo.
Cuando McCarthy se puso en contacto con reservas en vivo, le dijeron que no podían restablecer el viaje. Le exigieron que pagara el doble.
Se trata de un fallo humano al final de una cadena técnica. Los sistemas de Delta crearon un desastre. La IA dio un falso consuelo. Entonces, los humanos se negaron a arreglarlo.
¿Es una opción no permitir a los agentes anular el bot? ¿Es una opción no perder tiempo escalando?
¿O Delta simplemente está probando hasta qué punto pueden presionar a los clientes antes de que la reacción sea demasiado fuerte?
McCarthy recuperó sus millas. Apenas.
¿El vuelo? Aún cancelado.
