Колин Маккарти, имеющая статус Platinum Medallion в программе лояльности Delta, считала, что уже обеспечила себе билет домой. Она хотела отменить только первый этап маршрута из Нью-Йорка в Лос-Анджелес по накопленным баллам. Обратный перелет нужно было сохранить. Исходный — убрать.
Простая просьба? Обычно так и есть.
Но с ней общался ИИ-консьерж Delta, а не живой человек.
ИИ ответил: «Ваш рейс из JFK в LAX отменен, а рейс из LAX в JFK по-прежнему забронирован».
Маккарти поверила. Она увидела подтверждение.
Однако реальная система бронирования Delta отменила оба этапа. Она вернула 32 400 миль SkyMiles, вернула $11,20 государственных налогов и сообщила, что для возвращения домой ей нужно купить новый однонаправленный билет по накопленным баллам из Лос-Анджелеса в Нью-Йорк.
Цена? Почти вдвое больше изначальной.
Это не просто сбой. Это взгляд изнутри на опасный бета-тест ИИ-консьержа Delta, который берет под контроль живые бронирования.
«Безопасное» подтверждение было ложью
Посмотрите на подтверждение возврата средств, опубликованное Маккарти.
В квитанции указаны рейсы DL752 (JFK–LAX) и DL938 (LAX–JFK). Номер возврата — «null» (пусто). Это почти поэтично для живого бета-теста.
Текстовое сообщение, которое она получила, явно указывало, что обратный перелет сохранился. Квитанция системы противоречит этому сообщению. ИИ сгенерировал (галлюцинировал) конкретный результат, который, как ему казалось, нужен клиенту, или его языковая модель интерпретировала запрос как полную отмену, тогда как клиент намеревался лишь изменить маршрут.
Если вы просите машину изменить двухстороннюю поездку в одностороннюю, цена может измениться. Односторонние билеты часто стоят дороже. Delta должна была озвучить эту цену. Должна была запросить подтверждение.
Вместо этого она вернула все деньги и оставила Клиента в Лос-Анджелесе с цифровой квитанцией, которая говорила «безопасно», тогда как на бэкенде было написано «отменено».
Как на самом деле работает ИИ-консьерж Delta
Delta запустила бета-версию Concierge в январе 2025 года. Она встроена в приложение Fly Delta. С ней можно общаться в текстовом или голосовом формате.
Начальные версии просто отвечали на вопросы. Где моя сумка? Какие у меня льготы? Где мои электронные кредиты (eCredits)?
Затем Delta дали ИИ «руки».
Теперь Concierge может предпринимать действия. Он может отменять поездки. Может предлагать пересадку во время сбоев в расписании. В июне глава маркетинга Delta заявил, что инструменты пересадки и отмены «работают отлично». Цель? Увеличить долю пользователей приложения с 5% до 100%.
Система все еще помечена как «BETA» (бета-версия).
Где ломается логика
Живой агент знает, что билет туда-обратно — это один документ. Нельзя просто вырвать половину, не повлияв на всю структуру. Иногда удаление первого этапа требует обмена всего билета целиком.
ИИ не понимает «структуру». Он видит запрос. Он сопоставляет его с инструментом.
Где-то в цепи между языковой моделью и системой бронирования Delta (DCS) команда была переведена как «отменить все». Или система обработала входящий запрос ИИ как полную аннуляцию. Разговорный слой в это время соврал, утверждая, что обратный рейс активен.
ИИ сломан? Или он просто слишком хорошо умеет звучать уверенно?
Плохой живой агент испортит один билет. Дефектный рабочий процесс ИИ испортит тысячи.
Естественный язык звучит авторитетно. Он звучит как обслуживание клиентов. Он не звучит как ошибка в коде. Но так оно и есть, пока вы не посмотрите на бэкенд.
Это не новое. Это просто тиражируемое.
Я писал об этом более десятилетия назад. Агент Delta изменил билет пассажира и случайно аннулировал весь электронный талон. Обратный рейс на авиакомпании-партнере исчез.
Агенты United случайно отменяли будущие этапы во время нестабильных операций. Персонал Virgin Atlantic однажды отменил подтвержденный бизнес-аванс LATAM без разрешения. Места больше не было. Virgin заявили, что не могут это исправить. В конце концов они оплатили заменяющий билет, но только после общественного скандала.
Живые агенты ошибаются. Они вводят неверные команды. Они отменяют места, не убедившись, что смогут восстановить их. Они дают неверную информацию, потому что устали или перегружены.
ИИ обещает的一致性 (последовательность). Он обещает скорость. Он обещает работать, когда колл-центры коллапсируют.
Но внедрение Delta ошибочно. Прямо сейчас оно хуже, чем у среднего живого агента, потому что оно масштабирует человеческие ошибки на тысячи пользователей мгновенно.
Другие авиакомпании совершают похожие ошибки
American Airlines тестирует ИИ-ассистента для пересадок из-за погоды. «AI.g» от Air India обрабатывает отмены. «Sama» от Qatar Airways занимается разговорным бронированием.
Air Canada пробовала похожий трюк. Их чат-бот предоставил неверную информацию. Air Canada попыталась переложить вину на бота. Канадский трибунал отклонил этот аргумент. Авиакомпания несет ответственность за то, что она продает через свой сайт, даже если ошибку допустило программное обеспечение.
Кто несет ответственность за сбой?
ИИ Delta не просто ошибся. Он ошибся и затем отказался исправлять ошибку.
Когда Маккарти связалась с живой службой бронирования, ей сказали, что восстановить поездку невозможно. Требовалось оплатить билет дважды.
Это человеческий провал в конце технической цепочки. Системы Delta создали хаос. ИИ дал ложное успокоение. Затем люди отказались это исправлять.
Это выбор — не давать агентам полномочий переопределять бота? Это выбор — не тратить время на эскалацию проблемы?
Или Delta просто тестирует, до какой степени они могут давить на клиентов, прежде чем обратная связь станет слишком громкой?
Маккарти получила свои мили обратно. Почти.
Рейс? По-прежнему отменен.
