Колін Маккарті, яка має статус Platinum Medallion у програмі лояльності Delta, вважала, що вже забезпечила собі квиток додому. Вона хотіла скасувати лише перший етап маршруту з Нью-Йорка до Лос-Анджелеса за накопиченими балами. Зворотний переліт слід було зберегти. Вихідний – прибрати.
Просте прохання? Зазвичай, так і є.
Але з нею спілкувався ІІ-консьєрж Delta, а не жива людина.
ІІ відповів: «Ваш рейс з JFK до LAX скасовано, а рейс з LAX до JFK як і раніше заброньований».
Маккарті повірила. Вона побачила підтвердження.
Однак реальна система бронювання Delta скасувала обидва етапи. Вона повернула 32 400 миль SkyMiles, повернула $11,20 державних податків і повідомила, що для повернення додому їй потрібно купити новий односпрямований квиток на накопичені бали з Лос-Анджелеса до Нью-Йорка.
Ціна? Майже вдвічі більше за початкову.
Це не просто збій. Це погляд зсередини на небезпечний бета-тест ІІ-консьєржа Delta, який бере під контроль живі бронювання.
«Безпечне» підтвердження було брехнею
Подивіться підтвердження повернення коштів, опубліковане Маккарті.
У квитанції вказані рейси DL752 (JFK-LAX) * та * DL938 (LAX-JFK). Номер повернення – “null” (порожньо). Це майже поетично для живого бета-тесту.
Текстове повідомлення, яке вона отримала, явно вказувало, що зворотний переліт зберігся. Квитанція системи суперечить цьому повідомленню. ІІ згенерував (галюцинував) конкретний результат, який, як йому здавалося, потрібен клієнту, або його мовна модель інтерпретувала запит як повне скасування, тоді як клієнт мав намір лише змінити маршрут.
Якщо ви просите машину змінити двосторонню подорож у односторонню, ціна може змінитися. Односторонні квитки часто коштують дорожче. Delta мала озвучити цю ціну. Мала запросити підтвердження.
Натомість вона повернула всі гроші і залишила Клієнта в Лос-Анджелесі з цифровою квитанцією, яка говорила «безпечно», тоді як на бекенді було написано «скасовано».
Як насправді працює ІІ-консьєрж Delta
Delta запустила бета-версію Concierge у січні 2025 року. Вона вбудована у додаток Fly Delta. З нею можна спілкуватися у текстовому чи голосовому форматі.
Початкові версії відповідали на запитання. Де моя сумка? Які маю пільги? Де мої електронні кредити (eCredits)?
Потім Delta дали ІІ “руки”.
Тепер Concierge може робити дії. Він може скасовувати поїздки. Може пропонувати пересадку під час збоїв у розкладі. У червні глава маркетингу Delta заявив, що інструменти пересадки та скасування «працюють чудово». Ціль? Збільшити частку користувачів програми з 5% до 100%.
Система все ще позначена як “BETA” (бета-версія).
Де ламається логіка
Живий агент знає, що квиток туди-назад — це один документ. Не можна просто вирвати половину, не вплинувши всю структуру. Іноді видалення першого етапу вимагає обміну всього квитка.
ІІ не розуміє «структуру». Він бачить запит. Він зіставляє його з інструментом.
Десь у ланцюзі між мовною моделлю та системою бронювання Delta (DCS) команду було переведено як «скасувати все». Або система обробила вхідний запит ІІ як повну ануляцію. Розмовний шар у цей час збрехав, стверджуючи, що зворотний рейс активний.
ІІ зламаний? Чи він просто надто добре вміє звучати впевнено?
Поганий живий агент зіпсує один квиток. Дефектний робочий процес ІІ зіпсує тисячі.
Природна мова звучить авторитетно. Він звучить як обслуговування клієнтів. Він не звучить як помилка у коді. Але так воно і є, поки ви не подивіться на бекенд.
Це не нове. Це просто тиражується.
Я писав про це понад десятиліття тому. Агент Delta змінив квиток пасажира та випадково анулював весь електронний талон. Зворотний рейс авіакомпанії-партнера зник.
Агенти United випадково скасовували майбутні етапи під час нестабільних операцій. Персонал Virgin Atlantic одного разу скасував підтверджений бізнес-аванс LATAM без дозволу. Місця більше не було. Virgin заявили, що не можуть це виправити. Зрештою, вони сплатили замінний квиток, але тільки після громадського скандалу.
Живі агенти помиляються. Вони вводять неправильні команди. Вони скасовують місця, не переконавшись, що зможуть відновити їх. Вони дають неправильну інформацію, бо втомилися чи перевантажені.
ІІ обіцяє продуктивність (послідовність). Він обіцяє швидкість. Він обіцяє працювати, коли колл-центри колапсують.
Але використання Delta помилкове. Зараз воно гірше, ніж у середнього живого агента, тому що воно масштабує людські помилки на тисячі користувачів миттєво.
Інші авіакомпанії роблять схожі помилки
American Airlines тестує ІІ-асистента для пересадок через погоду. “AI.g” від Air India обробляє скасування. “Sama” від Qatar Airways займається розмовним бронюванням.
Air Canada пробувала схожий трюк. Їхній чат-бот надав неправильну інформацію. Air Canada спробувала перекласти провину на робота. Канадський суд відхилив цей аргумент. Авіакомпанія несе відповідальність за те, що вона продає через свій сайт, навіть якщо помилку припустилося програмного забезпечення.
Хто несе відповідальність за збій?
ІІ Delta не просто помилився. Він помилився, а потім відмовився виправляти помилку.
Коли Маккарті зв’язалася із живою службою бронювання, їй сказали, що відновити поїздку неможливо. Потрібно було сплатити квиток двічі.
Це людський провал наприкінці технічного ланцюжка. Системи Delta створили хаос. ІІ дав хибне заспокоєння. Потім люди відмовилися це виправляти.
Це вибір – не давати агентам повноважень перевизначати бота? Це вибір не витрачати час на ескалацію проблеми?
Або Delta просто тестує, як вони можуть тиснути на клієнтів, перш ніж зворотний зв’язок стане занадто гучним?
Маккарті дістала свої милі назад. Майже.
Рейс? Як і раніше, скасовано.
