Kolejna firma blokuje agentów AI, którzy próbują robić zakupy w imieniu klientów. Czyżby szykował nam się nowy trend?
Poproś sztuczną inteligencję, żeby znalazła najtańszy lot do Nowego Jorku, wybrała miejsce przy oknie i kupiła bilet. Coraz więcej agentów AI potrafi wykonać takie zadanie bez prowadzenia ich przez każdy etap. United Airlines właśnie zdecydował, iż w jego systemach nie będzie to takie proste. Amerykański przewoźnik ogłosił ograniczenia dla zewnętrznych agentów, które obejmą również rezerwacje dokonywane przez pośredników. Oficjalnym powodem są bezpieczeństwo danych i ryzyko niechcianych zakupów. Za decyzją kryje się jednak także spór o to, kto ma kontrolować relacje z pasażerami.
AI może znaleźć ci lot, ale biletu już nie kupi
United Airlines ogłosił właśnie zmiany w zasadach rezerwowania i sprzedaży biletów. Przewoźnik zamierza ograniczyć możliwość korzystania ze swoich systemów przez nieautoryzowanych agentów sztucznej inteligencji. Obejmie to zarówno oficjalną stronę i aplikację linii, jak i kanały wykorzystywane przez biura podróży oraz internetowych pośredników. przez cały czas można poprosić oczywiście chatbota o porównanie lotów, wyszukanie dogodnego połączenia czy przygotowanie planu wyjazdu. Nie kupisz już jednak z jego pomocą biletu ani nie zrobisz rezerwacji.
Nowe ograniczenia dotyczą narzędzi, które nie otrzymały zgody United. Linia pozostawia więc możliwość przyszłej współpracy z dostawcami AI, ale chce sama decydować, którym systemom udostępni swoje usługi. Agenci coraz częściej nie ograniczają się do odpowiadania na pytania. Potrafią otwierać strony, wypełniać formularze i wykonywać czynności w imieniu użytkownika. Podobne rozwiązanie rozwija polskie eSky, którego agent MAIA pomaga planować podróże i wybierać oferty.
Jeden błąd i AI wyda twoje pieniądze
United przedstawia decyzję przede wszystkim jako sposób ochrony pasażerów. Żeby agent mógł samodzielnie obsługiwać rezerwację, często potrzebuje dostępu do danych osobowych, informacji o płatnościach i konta użytkownika. Tymczasem błędnie zinterpretowane polecenie może mieć poważne konsekwencje. Asystent kupi bilet na niewłaściwy termin, zmieni rezerwację albo wykorzysta mile zgromadzone w programie lojalnościowym MileagePlus. Pasażer może dowiedzieć się o wszystkim dopiero po zakończeniu operacji.
Firma obawia się również ujawnienia danych logowania zewnętrznym dostawcom. choćby jeżeli agent korzysta z bezpiecznego magazynu haseł, otrzymuje możliwość wykonywania działań na cudzym koncie. Podobny problem zauważył wcześniej Werner Vogels, wieloletni dyrektor technologiczny Amazona. Ostrzegał, iż system rezerwacyjny powinien uniemożliwiać agentowi zakup znacznie droższego biletu bez wyraźnej zgody użytkownika. Samo wydanie polecenia nie powinno oznaczać nieograniczonego dostępu do pieniędzy.
Samolot to nie zwykły sklep. Są jeszcze przepisy bezpieczeństwa
United wskazuje również na wymagania amerykańskich regulatorów lotnictwa, czyli FAA i Departamentu Transportu. Nie wszystkie czynności związane z podróżą można bezpiecznie powierzyć automatowi. Przykładem jest odprawa. Pasażer musi potwierdzić, iż jego bagaż nie zawiera określonych niebezpiecznych przedmiotów, w tym materiałów wybuchowych. Takiego oświadczenia nie powinien samodzielnie składać agent, który nie może przecież wiedzieć, co naprawdę znajduje się w walizce.
Według przewoźnika automatyzacja podobnych czynności mogłaby prowadzić do naruszenia przepisów. United zamierza także zaktualizować swoje centrum informacji o bezpieczeństwie cyfrowym. Pasażerowie mają dowiedzieć się, jak chronić konta i co zrobić, jeżeli zewnętrzny asystent wykona niezamierzone działanie.
Amazon zrobił to samo. Chodzi o coś więcej niż bezpieczeństwo
Decyzja United przypomina konflikt, który kilka miesięcy temu wybuchł w handlu internetowym. Amazon zablokował agentowi Muse firmy Meta możliwość robienia zakupów w swoim sklepie. Argumenty były podobne: bezpieczeństwo klientów, brak uzgodnionej integracji i odpowiedzialność za błędne transakcje. Jest jednak jeszcze jeden powód, dla którego firmy niechętnie wpuszczają obcych agentów do swoich systemów. Tracą wtedy bezpośredni kontakt z klientem.
Jeśli AI wybierze najtańszy lot, automatycznie porówna warunki i kupi bilet, pasażer może w ogóle nie odwiedzić strony przewoźnika. Nie zobaczy dodatkowych ofert, propozycji droższych miejsc ani zachęt do wykupienia kolejnych usług. Prezes United Scott Kirby przyznał podczas wystąpienia dzień przed ogłoszeniem ograniczeń, iż nie chce tworzyć następnego pośrednika między linią a klientem.
O rosnącym znaczeniu agentów zakupowych pisaliśmy także przy okazji pierwszej autonomicznej transakcji opłaconej BLIK-iem. Tam użytkownik wcześniej udzielił zgody na płatność, a AI zrealizowała ją dopiero po spełnieniu ustalonych warunków.
Nie wszystkie linie lotnicze zamykają drzwi przed AI
United nie wyznacza jednak kierunku dla całej branży. Konkurencyjny Southwest Airlines już 6 października uruchomił oficjalną integrację z ChatGPT, umożliwiającą wyszukiwanie i porównywanie jego połączeń.
Delta Air Lines dopuszcza określone działania agentów, o ile potrafią prawidłowo uwierzytelnić użytkownika. American Airlines również pozwala wybranym narzędziom uczestniczyć w zakupie biletów za pośrednictwem partnerów. Obie firmy zachowują jednak kontrolę nad tym, kto i na jakich zasadach może korzystać z ich infrastruktury. W przypadku United takiej współpracy z zewnętrznymi agentami na razie nie uzgodniono. Linia zapewnia jednak, iż będzie ponownie oceniać możliwości technologii wraz z jej rozwojem.
Przy tym wszystkim agenci AI przez cały czas odpowiadają za niewielką część rzeczywistych transakcji. Co ciekawe, podczas tygodnia obejmującego Halloween systemy agentowe zamówiły zaledwie 4 przejazdy i około 500 dostaw Uber Eats, choć platforma obsługiwała w tym czasie setki milionów operacji. Na razie blokowanie agentów nie powinno więc znacząco utrudnić życia większości pasażerów. United woli jednak postawić granice już teraz, zanim zewnętrzne systemy staną się powszechnym sposobem kupowania biletów.
*Źródło grafiki wprowadzającej: jakubgojda, Canva Pro / Canva Pro
