Sztuczna inteligencja potrafi pisać programy, analizować dokumenty, obsługiwać klientów, podejmować decyzje biznesowe i samodzielnie wykonywać złożone zadania. Firmy technologiczne przekonują, iż niedługo autonomiczni agenci AI mogą wykonywać większą część pracy za ludzi. Ale wraz z rozwojem tej technologii pojawia się pytanie, na które nie ma jeszcze dobrej odpowiedzi: kto zapłaci, jeżeli sztuczna inteligencja popełni kosztowny błąd?
Problem okazuje się na tyle poważny, iż zaczyna niepokoić branżę ubezpieczeniową. Ubezpieczyciele, którzy od dekad potrafią wyceniać ryzyko pożarów, katastrof naturalnych, wypadków czy błędów zawodowych, mają znacznie większy problem z oszacowaniem szkód, jakie może wyrządzić AI. Nie wiedzą, jak często będą się zdarzały, jak duże mogą być straty i czy jeden błąd modelu nie spowoduje jednocześnie tysięcy podobnych szkód.
Jak opisuje „The Wall Street Journal”, ubezpieczenia mogą stać się jedną z kolejnych poważnych barier rozwoju sztucznej inteligencji. Technologia, która miała uwolnić firmy od wielu ograniczeń, napotyka przeszkodę zaskakująco tradycyjną: niepewność co do odpowiedzialności za własne działanie. A bez możliwości ubezpieczenia ryzyka niektóre przedsiębiorstwa mogą dwa razy się zastanowić, zanim oddadzą AI kontrolę nad ważnymi procesami.
Ubezpieczyciele boją się AI. choćby 50 mln dolarów może nie wystarczyć
Skala potencjalnych strat zaczyna niepokoić największe firmy ubezpieczeniowe. Niemiecki reasekurator Munich Re oferuje specjalistyczne ubezpieczenia od błędów modeli sztucznej inteligencji z limitem ochrony sięgającym 50 mln dolarów. To pokaźna kwota, ale może okazać się niewielka wobec potencjalnych zobowiązań największych firm rozwijających AI. Według ekspertów ubezpieczeniowych cytowanych przez amerykański dziennik ich ekspozycja na roszczenia może sięgać dziesiątek, a choćby setek miliardów dolarów.
Problem polega na tym, iż sztuczna inteligencja może wyrządzać szkody na wiele sposobów. Chatbot może udzielić niebezpiecznej porady, system rekrutacyjny dyskryminować kandydatów, a autonomiczny agent wykonać nieautoryzowaną operację finansową. Do tego dochodzą naruszenia praw autorskich, wycieki poufnych informacji i błędne decyzje podejmowane przez algorytmy. Co gorsza, ten sam wadliwy model może być wykorzystywany jednocześnie przez tysiące przedsiębiorstw. Jeden błąd może więc wywołać lawinę roszczeń, których łączna wartość okaże się trudna do przewidzenia.
Jeszcze bardziej niepokojące jest to, iż firmy korzystające z AI mogą nie wiedzieć, czy ich dotychczasowe polisy stanowią efektywną ochronę przed takimi stratami. Według brokera ubezpieczeniowego Aon, ponad 90% ryzyk AI objętych ubezpieczeniami należy do kategorii silent risk. Oznacza to, iż umowy nie określają jednoznacznie, czy szkody spowodowane przez sztuczną inteligencję są objęte ochroną, czy z niej wyłączone. Dopóki nie wydarzy się poważny incydent, problem może pozostawać niezauważony. Dopiero przy zgłoszeniu szkody pojawi się spór o to, kto powinien zapłacić.
Branża ubezpieczeniowa zaczyna więc działać ostrożniej. Amerykański Verisk opracował już standardowe klauzule pozwalające wyłączać szkody związane z generatywną AI z niektórych polis. Rozważa również podobne rozwiązania dotyczące autonomicznych agentów. Nie oznacza to jednak, iż wszyscy ubezpieczyciele zamierzają odwrócić się od sztucznej inteligencji. Przeciwnie, powstają specjalistyczne produkty, które mają chronić firmy przed nowymi rodzajami ryzyka. Tyle iż technologia rozwija się szybciej niż rynek, który miałby zapewnić jej finansową siatkę bezpieczeństwa.
Kto zapłaci, kiedy autonomiczny agent AI popełni błąd?
Wyobraźmy sobie sklep internetowy, który zatrudnia cyfrowego pracownika. Agent AI nie tylko odpowiada na pytania klientów, ale również przyjmuje zamówienia, ustala rabaty, realizuje zwroty i kontaktuje się z dostawcami. Pewnego dnia, wskutek błędnej interpretacji instrukcji, zaczyna przyznawać klientom rabaty sięgające 90% albo zamawia towary, których nikt nie potrzebuje. Zanim pracownicy zauważą problem, straty sięgają setek tysięcy złotych. Kto powinien za nie zapłacić?
Odpowiedź wcale nie jest oczywista. Dostawca modelu AI może twierdzić, iż odpowiada jedynie za technologię, a nie za sposób jej wykorzystania. Producent systemu może wskazywać, iż system został niewłaściwie skonfigurowany. Z kolei przedsiębiorca, który wdrożył agenta, może argumentować, iż zaufał rozwiązaniu reklamowanemu jako bezpieczne i niezawodne. W praktyce odpowiedzialność będzie zależeć od umów, okoliczności zdarzenia oraz obowiązujących przepisów. Wobec klientów to właśnie sklep może jednak zostać zmuszony do rozwiązania problemu, zanim rozstrzygnie ewentualny spór z dostawcą technologii.
To jedna z największych różnic między tradycyjnymi chatbotami a autonomicznymi agentami AI. Błędna odpowiedź chatbota może wprowadzić użytkownika w błąd, ale agent wyposażony w dostęp do firmowych systemów potrafi samodzielnie wykonać operację, której skutki będą natychmiastowe i kosztowne. Im więcej uprawnień otrzyma sztuczna inteligencja, tym większe znaczenie będą miały mechanizmy kontroli: limity transakcji, konieczność zatwierdzania ważnych decyzji przez człowieka czy możliwość natychmiastowego zatrzymania systemu. I właśnie takich zabezpieczeń mogą coraz częściej wymagać również ubezpieczyciele.
Pod koniec września sam Anthropic ostrzegał inwestorów przed niepewną odpowiedzialnością prawną za działania autonomicznych agentów AI.
Czy ubezpieczyciele staną się nowymi regulatorami sztucznej inteligencji?
Do tej pory dyskusja o regulowaniu sztucznej inteligencji koncentrowała się przede wszystkim na działaniach rządów i instytucji publicznych. Unia Europejska wprowadza AI Act, Stany Zjednoczone szukają własnych rozwiązań, a firmy technologiczne deklarują, iż potrafią same zadbać o bezpieczeństwo swoich modeli. Tymczasem może się okazać, iż o tempie rozwoju AI zdecyduje ktoś zupełnie inny: branża ubezpieczeniowa.
Na ten paradoks zwracają uwagę eksperci amerykańskiego think tanku Center for Strategic and International Studies (CSIS). W analizie poświęconej wycofywaniu się ubezpieczycieli z niektórych ryzyk związanych z AI ostrzegają, iż ograniczanie ochrony ubezpieczeniowej może spowolnić wdrażanie nowych technologii. Przedsiębiorstwo może bowiem dysponować znakomitym systemem sztucznej inteligencji, ale jeżeli nie znajdzie ubezpieczyciela gotowego pokryć potencjalne szkody, jego wykorzystanie na dużą skalę stanie się znacznie trudniejsze.
W ten sposób ubezpieczyciele mogą zacząć pełnić funkcję nieformalnych regulatorów rynku. Nie będą musieli zakazywać stosowania określonych modeli ani wydawać rozporządzeń. Wystarczy, iż uzależnią ochronę ubezpieczeniową od spełnienia konkretnych warunków: regularnych audytów, testowania modeli, nadzoru człowieka nad autonomicznymi agentami czy ograniczenia dostępu AI do najbardziej wrażliwych operacji. Firmy, które nie spełnią tych wymagań, mogą zostać bez odpowiedniej polisy albo zapłacić za nią znacznie więcej.
Czy to źle dla rozwoju sztucznej inteligencji? Niekoniecznie. Ubezpieczyciele od dawna wymuszają stosowanie zabezpieczeń w przemyśle, transporcie czy cyberbezpieczeństwie. Podobny mechanizm może zwiększyć bezpieczeństwo systemów AI i zaufanie do nich. Problem pojawi się wtedy, gdy branża ubezpieczeniowa, nie potrafiąc jeszcze dokładnie oszacować nowego ryzyka, zacznie go po prostu unikać. Wówczas choćby użyteczne i dobrze zaprojektowane rozwiązania mogą mieć trudności z wejściem na rynek. A o przyszłości sztucznej inteligencji zdecyduje nie tylko to, co potrafią algorytmy, ale także to, czy ktoś odważy się ubezpieczyć ich działanie.
AI może zastąpić człowieka. Ale czy przejmie również odpowiedzialność?
Przez ostatnie lata pytaliśmy przede wszystkim, czy sztuczna inteligencja będzie potrafiła wykonywać pracę człowieka. Dziś coraz częściej okazuje się, iż równie ważne jest inne pytanie: kto poniesie odpowiedzialność za jej działania? Firmy technologiczne mogą tworzyć coraz bardziej zaawansowane modele, a przedsiębiorstwa powierzać im kolejne zadania. Jednak dopóki nie powstaną przejrzyste zasady odpowiedzialności i skuteczne mechanizmy ubezpieczania ryzyka, autonomiczna AI może rozwijać się wolniej, niż zapowiadają jej twórcy.
Być może właśnie tutaj przebiega granica między technologiczną demonstracją możliwości a prawdziwą rewolucją gospodarczą. Nie wystarczy stworzyć cyfrowego pracownika, który potrafi samodzielnie podejmować decyzje. Trzeba jeszcze znaleźć kogoś, kto będzie gotowy zapłacić za jego pomyłki. Bo sztuczna inteligencja może pracować bez człowieka, ale rachunek za jej błędy przez cały czas trafi do ludzi.
Czytaj też: Sześć lat temu pytał: człowiek czy maszyna? Dziś Marcin Ledworowski odpowiada: cyfrowy pracownik!
Czytaj też: Wyścig AI zaczyna hamować. Altman, Amodei i Microsoft mówią o granicach
Źródło zdjęcia: Immo Wegmann/Unsplash
