Dokładnie sześć lat temu Marcin Ledworowski zastanawiał się na łamach HomoDigital, czy AI może zastąpić Macieja Samcika. Powstał pomysł RoboSamcika – cyfrowego dziennikarza, który miał pisać 24 godziny na dobę, analizować dane i nigdy nie domagać się urlopu. Marcin zakończył wtedy tekst bojowym hasłem: „Precz z RoboSamcikiem”. Sześć lat później napisał książkę, której bohaterem jest… cyfrowy pracownik. Coś poszło nie tak?
W 2020 roku RoboSamcik był jeszcze przewrotnym eksperymentem i trochę żartem: bo czy maszyna może pisać jak człowiek, rozumieć dane, wyciągać wnioski, mieć coś w rodzaju systemu wartości i nie narobić przy okazji głupstw? Nasz ówczesny redakcyjny kolega z HomoDigital pytał też wtedy, kto powinien odpowiedzieć przed sądem, gdyby cyfrowy bliźniak Samcika oskarżył o coś niewłaściwego człowieka.
Sześć lat później Marcin Ledworowski pozostało bardziej doświadczonym menedżerem i liderem AI, a problem postawiony w RoboSamciku zrobił się znacznie poważniejszy. AI nie tylko pisze, odpowiada i podpowiada. Agent może wykonywać skomplikowane zadania, korzystać z firmowych systemów, kontaktować się z klientami, uruchamiać kolejne narzędzia i podejmować działania w imieniu człowieka lub firmy. RoboSamcik przy tym wygląda już niemal niewinnie.
I właśnie w tym miejscu zaczyna się książka Marcina Ledworowskiego „Cyfrowy pracownik”. Nie jest to kolejny poradnik z gatunku „100 promptów, dzięki którym AI odmieni twoje życie”. Ledworowskiego interesuje coś trudniejszego: co się stanie, kiedy sztuczna inteligencja przestanie być narzędziem pracownika, a zacznie sama wykonywać jego pracę? Można więc powiedzieć, iż jeden z założycieli HomoDigital po sześciu latach wraca na miejsce zbrodni – tym razem jako detektyw uzbrojony w procedury AI. Tyle iż podejrzany – już jako agent AI – jest dziś znacznie potężniejszy.
RoboSamcik przegrał. Ale czy na pewno?
Kiedy Marcin pisał sześć lat temu na naszych łamach o RoboSamciku, sztuczna inteligencja była w zupełnie innym miejscu. GPT-3 potrafił już zaskakująco sprawnie składać zdania, ale autor wyliczał długą listę rzeczy, których maszyna nie umiała i które miały chronić człowieka przed cyfrową konkurencją. RoboSamcik nie miał własnego systemu wartości, nie rozumiał dwuznaczności, nie potrafił samodzielnie ocenić wiarygodności informacji ani – jak pisał Ledworowski – choćby symulować emocji. Człowiek miał jeszcze całkiem solidne fortyfikacje.
Sześć lat to jednak w świecie AI cała epoka. Niektóre z tamtych fortyfikacji wyglądają dziś znacznie mniej imponująco. Modele językowe potrafią pisać w określonym stylu, streszczać dokumenty, analizować dane i bardzo przekonująco symulować empatię czy emocje. To oczywiście nie znaczy, iż je odczuwają. Ale z punktu widzenia klienta rozmawiającego z botem o spóźnionej przesyłce różnica może być mniej istotna, niż wydawała się w 2020 roku.
Ciekawsze jest jednak coś innego. Ledworowski pomylił się wówczas raczej w ocenie tempa, w jakim AI nabędzie kolejnych umiejętności, niż w przewidywaniu problemów, które z tego wynikną. Już wtedy pytał przecież, kto powinien odpowiedzieć, jeżeli RoboSamcik pomówi człowieka i niesłusznie go o coś oskarży. Czy pozywać dostawcę algorytmu, chmurę, twórcę RoboSamcika, a może samego Samcika „za grzechy cyfrowego bliźniaka”?
Po sześciu latach to pytanie jest znacznie bardziej aktualne niż to, czy robot potrafi napisać felieton jak rasowy dziennikarz z pazurem niepodrabialnego stylu, kumulowaną latami wiedzą i wyjątkowymi zdolnościami retorycznymi. „Cyfrowy pracownik” zaczyna się tam, gdzie kończył się RoboSamcik. Tyle iż zamiast zastanawiać się, czy AI umie naśladować człowieka, autor książki pyta, na co wolno jej pozwolić, kiedy zaczyna wykonywać swoją pracę.
To istotna różnica, bo agent AI w rozumieniu tej książki to nie jest po prostu ChatGPT z bardziej elegancką wizytówką. Ma dostać zadanie, narzędzia, dostęp do danych i określony zakres samodzielności. A kiedy pozwalamy mu działać w firmowym systemie, przestaje być wyłącznie technologiczną ciekawostką. Staje się częścią organizacji. RoboSamcik przez sześć lat najwyraźniej nie zniknął. Po prostu przeszedł bardzo długi proces rekrutacyjny.
Marcin nie tyle zmienił zdanie na temat AI, ile przesunął pytanie z „co maszyna potrafi?” na „co zrobimy, my ludzie, kiedy pozwolimy jej działać?”
Cyfrowy pracownik, czyli adekwatnie kto?
Tytuł książki jest trochę przewrotny, z odrobiną intelektualnej prowokacji, i od razu ustawia nam sposób myślenia. Ledworowski nie pisze o „systemie agentowym”, „autonomicznym modelu AI” ani choćby po prostu o „agencie”. Pisze o cyfrowym pracowniku. jeżeli potraktujemy agenta jak kolejne oprogramowanie kupione przez firmę, będziemy zastanawiać się przede wszystkim nad tym, co potrafi. jeżeli potraktujemy go jak pracownika, natychmiast pojawiają się inne pytania: co wolno mu robić, do jakich danych ma dostęp, kto go nadzoruje, jak sprawdzamy jego pracę i kto odpowiada, kiedy coś zepsuje.
I to jest chyba najważniejsza zmiana perspektywy, jaką proponuje Ledworowski. Zwykły chatbot czeka na pytanie. Agent dostaje cel i może sam wykonać kilka kolejnych czynności prowadzących do jego osiągnięcia. Nie tylko odpowie klientowi, ale może sprawdzić jego dane, zajrzeć do systemu, uruchomić procedurę albo przekazać sprawę dalej. Różnica może techniczna, ale tylko dopóki nie uświadomimy sobie, iż w drugim przypadku AI zaczyna robić coś w naszym imieniu. Nieprzypadkowo właśnie to pytanie autor umieścił w podtytule książki.
Metafora pracownika okazuje się więc bardzo użyteczna. Pracownika nie wpuszczamy pierwszego dnia do firmy, wręczając mu hasło administratora, kartę kredytową prezesa i mówiąc: „działaj autonomicznie, zobaczymy, co z tego wyjdzie”. Ledworowski przekonuje, iż podobnie powinno być z agentem. Potrzebuje określonej roli, uprawnień, wyraźnie zakreślonych granic działania i procedur postępowania, kiedy natrafi na sytuację, z którą sam nie może – i nie powinien – sobie radzić.
Ale właśnie tutaj metafora zaczyna też trochę uwierać. Agent nie jest pracownikiem. Nie ma odpowiedzialności prawnej, nie boi się zwolnienia, nie ma zawodowego doświadczenia ani intuicji budowanej przez lata. Nie przyjdzie też w poniedziałek do szefa powiedzieć, iż piątkowa decyzja chyba jednak nie była najlepsza. Odpowiedzialność pozostaje po stronie ludzi i organizacji. Im bardziej więc będziemy antropomorfizować „cyfrowego kolegę z pracy”, tym łatwiej zapomnieć, iż za jego plecami przez cały czas musi stać ktoś bardzo analogowy.
I tu Marcin Ledworowski robi coś, co będzie powtarzał przez sporą część książki: zamiast zachwycać się możliwościami agenta, zaczyna budować mu płot. Kto może wydać mu polecenie? Do czego może mieć dostęp? Jak daleko może posunąć się sam? Kiedy musi zawołać człowieka? Jak zapisać to, co zrobił? A wreszcie – jak go zatrzymać? Chwilami można odnieść wrażenie, iż cyfrowy pracownik nie zdążył jeszcze rozpocząć pierwszego dnia pracy, a dział compliance już czeka na niego z plikiem formularzy.
I dobrze. Bo właśnie w tym książka zaczyna być ciekawsza od kolejnego przewodnika po AI. Ledworowski nie próbuje udowodnić, iż agent potrafi wszystko. Znacznie bardziej interesuje go pytanie, czego nie powinniśmy mu pozwolić robić samodzielnie.
Agent dostaje identyfikator. I zaczynają się problemy
Przyjęcie do pracy cyfrowego pracownika okazuje się u Ledworowskiego procesem zaskakująco podobnym do zatrudniania człowieka. Trzeba ustalić, kim jest, dla kogo pracuje, jakie ma zadania, do czego wolno mu zaglądać i czego pod żadnym pozorem robić nie powinien. Różnica polega na tym, iż nowy kolega nie potrzebuje biurka ani karty do stołówki. Za to może potrzebować dostępu do CRM, poczty, dokumentów, baz klientów, systemów transakcyjnych czy firmowych API. I właśnie wtedy zaczyna się prawdziwa zabawa.
Jedną z mocniejszych tez książki jest to, iż agent powinien mieć własną cyfrową tożsamość. Nie może działać na koncie człowieka ani korzystać z anonimowego, wspólnego dostępu, po którym nie sposób ustalić, kto adekwatnie wykonał daną operację. jeżeli cyfrowy pracownik coś zrobił, firma musi móc później odtworzyć: który agent, na czyje polecenie, z jakimi uprawnieniami i na podstawie jakich danych. To brzmi jak detal z działu IT, dopóki agent tylko układa plan spotkania. Znacznie mniej niewinnie wygląda, kiedy zmienia dane klienta albo uruchamia proces mający skutki finansowe lub prawne.
Marcin bardzo konsekwentnie wraca więc do pojęcia mandatu. Agent nie powinien dostawać ogólnego polecenia „pomagaj klientom najlepiej, jak potrafisz”, tylko ma mieć dokładnie określony zakres działania. Może udzielić informacji, ale niekoniecznie zmieniać warunki umowy. Może przygotować decyzję, ale nie zawsze ją zatwierdzić. Może wykonać operację do określonej kwoty, a powyżej niej powinien zawołać człowieka. Innymi słowy: cyfrowy pracownik może być autonomiczny, ale autonomia nie powinna oznaczać samowoli.
To jeden z momentów, w których praktyczne doświadczenie autora wyraźnie pomaga książce. Patrzy on na AI nie jak na efektowny – pozostając w stylistyce książki – „insight z korpobryfingu”, ale jak na technologię, którą trzeba zaimplementować tu i teraz w istniejącej organizacji – z jej regulaminami, systemami bezpieczeństwa, audytem i odpowiedzialnością. W świecie korporacyjnej prezentacji agent AI może zrobić wszystko. W prawdziwej firmie pierwszym pytaniem bywa: kto mu adekwatnie nadał te uprawnienia?
Jest jednak cena takiego podejścia. Ledworowski ma wyraźną słabość do (nad)porządkowania rzeczywistości. Dlatego świat, w którym przyjdzie funkcjonować cyfrowemu pracownikowi pełen jest procedur, tabel i zestawów zasad. Czytelnik zainteresowany technologią może czasami poczuć się tak, jakby przez pomyłkę trafił na posiedzenie komitetu ryzyka. Z drugiej strony, trudno zarzucić autorowi, iż tego nie przemyślał. Gdyby agent AI chciał u Ledworowskiego samowolnie wyjść na lunch, prawdopodobnie najpierw musiałby sprawdzić, czy ma to zapisane w swoim mandacie. I chyba dobrze – lepiej chuchać na zimne…
No dobrze, ale co adekwatnie robi ten agent?
Najlepiej widać to na konkretnym przykładzie. Ledworowski opisuje wdrożenie w Booksy, polskiej platformie do rezerwowania usług, która wykorzystuje rozwiązanie Zowie do automatyzacji obsługi klientów. Według danych przytoczonych w książce około 70% zgłoszeń udaje się zamknąć bez udziału człowieka, system działa na ponad 40 rynkach, a oszczędności mają przekraczać 50 tys. dolarów miesięcznie, czyli 600 tys. dolarów rocznie. To już nie jest efektowna prezentacja możliwości AI na konferencji. Tu można próbować policzyć, czy cyfrowy pracownik rzeczywiście zarabia na swoją pensję.
Ale ciekawsze od samych liczb jest to, jak ten „pracownik” wykonuje swoją pracę. W przypadku Booksy agent nie dostał po prostu modelu językowego i polecenia: „rozmawiaj z klientami i jakoś sobie radź”. Zowie wykorzystuje tzw. Decision Engine, czyli mechanizm, który prowadzi rozmowę według zdefiniowanej logiki i reguł. Model językowy może pomóc zrozumieć intencję klienta i prowadzić naturalną konwersację, ale nie powinien swobodnie wymyślać firmowej polityki, statusu rezerwacji czy sposobu rozwiązania konkretnej sprawy.
To pozornie drobny szczegół, ale dobrze pokazuje jedną z najmocniejszych tez książki. Dobry agent AI niekoniecznie jest tym, któremu pozwolono robić najwięcej. Czasami najlepszym sposobem wykorzystania bardzo inteligentnego modelu jest precyzyjne określenie miejsc, w których nie wolno mu wykazać się kreatywnością. Klient może docenić kreatywność przy wyborze fryzury. Przy informacji, czy jego wizyta została rzeczywiście odwołana, prawdopodobnie wolałby jednak odrobinę nudnej pewności.
I tutaj „Cyfrowy pracownik” dobrze dystansuje się od marketingowych przekazów o AI. zwykle bowiem jako sukces pokazywana jest sytuacja, w której agent samodzielnie i niemal równocześnie wykonuje dziesięć różnych czynności. Ledworowski każe patrzeć na coś mniej widowiskowego: czy proces działa, ile spraw kończy się bez człowieka, ile kosztuje i co dzieje się wtedy, gdy agent nie wie, co zrobić. Z perspektywy firmy ważniejsze od tego, czy chatbot brzmi jak człowiek, jest to, czy załatwił sprawę klienta i nie narobił przy okazji błędów.
Przykład Booksy ma jednak również słabszą stronę – i warto ją w recenzji zaznaczyć. To historia sukcesu. Liczby są efektowne: 70% spraw, ponad 40 rynków, setki tysięcy dolarów oszczędności. Ale właśnie dlatego chciałoby się czasem, żeby Marcin równie szczegółowo rozebrał na części wdrożenie, które się nie udało albo przyniosło wyniki znacznie gorsze od oczekiwań. Z porażki cyfrowego pracownika moglibyśmy dowiedzieć się o nim co najmniej tyle samo, co z jego wzorowej oceny okresowej.
Jest jeszcze jeden problem. Obsługa klienta to bardzo wdzięczny poligon dla agentów: ogromna liczba podobnych pytań, powtarzalne procesy i łatwe do policzenia efekty. Ale 70% automatyzacji pytań o rezerwację nie oznacza jeszcze, iż 70% decyzji kredytowych, reklamacji ubezpieczeniowych czy porad medycznych powinniśmy oddać agentowi. Im większe konsekwencje błędu, tym ważniejsze staje się pytanie nie o to, co AI potrafi, ale – co wolno jej zrobić bez człowieka.
I właśnie wtedy na scenę wraca człowiek. Autor poświęca sporo miejsca modelowi human-in-the-loop – i paradoksalnie jest to jeden z ciekawszych fragmentów książki o cyfrowych pracownikach. Bo okazuje się, iż zatrudnienie maszyny wcale nie oznacza, iż możemy zwolnić człowieka. Czasami trzeba go tylko posadzić obok i kazać mu bardzo uważnie patrzeć.
Człowiek w pętli. Czy jeszcze potrafi z niej wyjść?
W opowieściach o cyfrowych pracownikach człowiek zwykle występuje w roli ostatniej instancji. Agent wykonuje rutynowe zadania, a kiedy wydarzy się coś nietypowego, przekazuje sprawę człowiekowi. Brzmi rozsądnie. Ledworowski pokazuje jednak paradoks: im lepiej działa automatyzacja, tym mniej pracy przypadnie człowiekowi, który będzie miał mniej okazji, żeby ćwiczyć umiejętności potrzebne właśnie wtedy, gdy automat zawiedzie.
To zjawisko autor opisuje jako skill fade, czyli stopniową utratę kompetencji. Człowiek przestaje sam wykonywać daną czynność, bo system robi ją szybciej, taniej i zwykle poprawnie. Z czasem jego rola sprowadza się do obserwowania maszyny. Problem pojawia się w najgorszym możliwym momencie: kiedy automat napotyka sytuację, której nie potrafi rozwiązać, i oddaje stery człowiekowi. Wtedy okazuje się, iż potrzebujemy najwyższych kompetencji od osoby, której przez ostatnie miesiące skutecznie uniemożliwialiśmy ich używanie.
Lotnictwo zna ten paradoks od dawna, ale w przypadku AI może on pojawić się w banku, ubezpieczalni, księgowości czy obsłudze klienta. o ile agent rozwiązuje setki prostych przypadków, do człowieka zaczynają trafiać głównie wyjątki – a więc sprawy najtrudniejsze. Cyfrowy pracownik zabiera człowiekowi łatwe zadania, zostawiając mu trudne egzaminy.
Dlatego Ledworowski słusznie przestrzega przed zbyt prostym rozumieniem popularnej zasady human-in-the-loop. Człowiek nie może być jedynie biologicznym dodatkiem do procesu, który na końcu klika „zaakceptuj”. o ile nie rozumie decyzji agenta, nie ma czasu jej zweryfikować albo automatycznie ufa systemowi, jego obecność kilka zmienia. Formalnie człowiek pozostaje w pętli. W praktyce… pętla kręci się już bez niego.
To jeden z lepszych fragmentów „Cyfrowego pracownika”, bo Ledworowski dotyka tu problemu szerszego niż samo wdrażanie agentów. Automatyzacja zmienia nie tylko liczbę miejsc pracy, ale także jakość kompetencji ludzi, którzy pozostają w zespole. Firma może dzięki AI stać się bardziej wydajna, a jednocześnie coraz bardziej zależna od systemu, który w coraz mniejszym stopniu da się przez kogoś z zespołu zastąpić w sytuacji kryzysowej.
I tu pojawia się paradoks, którego entuzjaści AI raczej nie umieszczają na pierwszym slajdzie prezentacji. Im bardziej niezawodny jest cyfrowy pracownik, tym łatwiej jego ludzki przełożony może odzwyczaić się od pracy. Trochę jak pilot, który przez cały lot obserwuje autopilota, a stery dostaje dokładnie wtedy, kiedy odpada skrzydło.
Ledworowski nie wyciąga z tego wniosku, iż należy zatrzymać automatyzację. Przeciwnie: trzeba zaprojektować również rolę człowieka – określić, kiedy przejmuje sprawę, jakie informacje dostaje i jak utrzymuje kompetencje potrzebne do interwencji. To zresztą charakterystyczne dla całej książki: gdy tylko pojawia się kolejny problem z cyfrowym pracownikiem, autor natychmiast zaczyna projektować mu procedurę. Agent jeszcze nie zdążył popełnić błędu, a Ledworowski już wie, kto i jak ma go wpisać do rejestru incydentów.
AI wykonała pracę. Tylko… kto za to odpowie?
Sześć lat temu Ledworowski potraktował ten problem jeszcze z przymrużeniem oka. Zastanawiał się, co się stanie, jeżeli RoboSamcik pomyli ludzi i oskarży o błędy nie tego człowieka, którego powinien. „To kogo wtedy pozwać do sądu?” – pytał. Dostawcę algorytmu, chmurę, twórcę RoboSamcika, a może jednak samego Samcika, który powinien odpowiedzieć „za grzechy swojego cyfrowego bliźniaka”?
W „Cyfrowym pracowniku” żart wraca jako całkiem poważny problem biznesowy. Agent może udzielić klientowi błędnej informacji, wykonać niewłaściwą operację, ujawnić dane, przekroczyć nadane mu uprawnienia albo podjąć decyzję, której później nikt nie będzie umiał sensownie wyjaśnić. I wtedy zdanie „AI tak zdecydowała” nie jest odpowiedzią. Jest raczej początkiem bardzo nieprzyjemnej rozmowy.
To interesujący wątek, bo Ledworowski konsekwentnie sprowadza dyskusję o odpowiedzialności z poziomu filozofii na poziom organizacji. Agent nie może być właścicielem odpowiedzialności. Ktoś w firmie musi odpowiadać za proces, w którym działa, ktoś określił jego mandat, ktoś zgodził się na zakres autonomii, ktoś powinien wiedzieć, kiedy sprawa musi zostać przekazana człowiekowi. o ile agent może podjąć działanie, organizacja musi również potrafić ustalić, dlaczego je podjął i co dokładnie zrobił.
Autor dobrze pokazuje to dzięki scenariuszy szkód. Zła porada, błędna operacja czy wyciek danych to problemy stosunkowo łatwe do wyobrażenia. Ciekawsze robi się przy działaniu poza mandatem albo przy decyzji, której nie da się później odwrócić. Cyfrowy pracownik może bowiem wykonać zadanie poprawnie z technicznego punktu widzenia, a jednocześnie zrobić coś, czego firma nigdy nie zamierzała mu powierzać. To trochę jak wyjątkowo gorliwy pracownik, który realizuje polecenie szefa, tyle iż przy okazji sam przyznaje sobie pełnomocnictwo do podpisywania umów.
Szczególnego znaczenia nabiera to w bankowości i innych regulowanych branżach, do których Ledworowski często wraca. Tam nie wystarczy, iż decyzja jest szybka, tania i statystycznie bardzo dobra. Trzeba jeszcze wiedzieć, kto miał prawo ją podjąć, na jakiej podstawie, jakie dane zostały wykorzystane i czy można później odtworzyć cały proces. Im poważniejszą decyzję oddajemy agentowi, tym mniej wystarcza argument: „przecież zwykle działa”.
To także miejsce, w którym zawodowe doświadczenie Ledworowskiego jest zaletą, ale zarazem trochę determinuje charakter analizy. Autor patrzy na agentów oczami człowieka przyzwyczajonego do banków, procedur, ryzyka i compliance. Czytelnik pracujący w startupie może czasami pomyśleć, iż zanim cyfrowy pracownik zostanie dopuszczony do ekspresu do kawy, powinien przejść audyt bezpieczeństwa i uzyskać zgodę działu bezpieczeństwa. Ale kiedy agent rzeczywiście dostaje dostęp do pieniędzy klientów, ten bankowy odruch przestaje wyglądać na przesadę.
Co ciekawe, po sześciu latach Marcin wraca więc niemal dokładnie do problemu RoboSamcika, tylko stawka jest większa. W 2020 roku chodziło o to, kto odpowie za bzdurę napisaną przez cyfrowego dziennikarza. Dzisiaj może chodzić o błędną decyzję finansową, naruszenie prywatności albo operację wykonaną w prawdziwym systemie firmy. RoboSamcik mógł co najwyżej narobić Samcikowi wstydu. Cyfrowy pracownik może już narobić firmie kosztów.
I dlatego odpowiedzialność prowadzi autora do kolejnego pytania: skoro pozwoliliśmy agentowi działać, to czy potrafimy go natychmiast zatrzymać? Tu zaczyna się jeden z najbardziej praktycznych – i przy okazji najbardziej wdzięcznych recenzencko – pomysłów książki: kill switch i procedura zwalniania cyfrowego pracownika.
Jak zwolnić pracownika, który nie chce wyjść z systemu?
Skoro agent AI może dostać własną tożsamość, zakres obowiązków, dostęp do danych i firmowych systemów, prędzej czy później pojawia się pytanie, którego nie znajdziemy w większości entuzjastycznych prezentacji o sztucznej inteligencji: jak takiego pracownika zwolnić? Ledworowski poświęca temu sporo uwagi i jest to jeden z bardziej oryginalnych, a zarazem praktycznych fragmentów książki.
Na pierwszy rzut oka odpowiedź wydaje się banalna. Wyłączamy agenta i po sprawie. Tyle iż cyfrowy pracownik może mieć aktywne sesje, tokeny dostępu, połączenia z API, rozpoczęte zadania i operacje, które właśnie wykonuje. Samo naciśnięcie czerwonego guzika może więc nie wystarczyć. Co więcej, gwałtowne odcięcie systemu w niewłaściwym momencie może stworzyć kolejny problem zamiast rozwiązać poprzedni.
Dlatego Ledworowski rozróżnia awaryjny kill switch od normalnego offboardingu agenta. W tym drugim przypadku trzeba zatrzymać nowe zadania, zakończyć albo zabezpieczyć rozpoczęte procesy, odciąć dostęp do API i danych, unieważnić uprawnienia, zachować logi, sprawdzić otwarte sprawy i dopiero na końcu bezpiecznie odstawić cyfrowego pracownika na półkę. Okazuje się, iż choćby pracownika, który nie ma biurka, służbowego laptopa ani kubka w firmowej kuchni, nie zawsze można zwolnić w pięć minut.
W sytuacji kryzysowej potrzebny jest natomiast właśnie kill switch – możliwość natychmiastowego ograniczenia lub zatrzymania działania agenta. I znów nie chodzi tylko o wielki czerwony przycisk z napisem STOP. Firma powinna wcześniej wiedzieć, co zostanie zatrzymane, co stanie się z rozpoczętymi operacjami i jak proces będzie funkcjonował bez agenta. Ledworowski pisze również o graceful degradation: system po awarii nie powinien po prostu umrzeć, ale – jeżeli to możliwe – przejść do prostszego, bezpieczniejszego sposobu działania albo oddać proces człowiekowi.
To bardzo dobry przykład sposobu myślenia autora. Ledworowskiego mniej fascynuje moment, w którym agent po raz pierwszy efektownie wykona zadanie, niż to, co wydarzy się podczas jego pierwszej poważnej awarii. To perspektywa może mniej widowiskowa niż kolejne demonstracje możliwości AI, ale znacznie bliższa ludziom, którzy naprawdę mają takie rozwiązania wdrażać. Demo trwa kwadrans. Firma musi później żyć z agentem przez lata.
Jednocześnie właśnie w takich miejscach najbardziej widać konsultingowe DNA książki. Onboarding, mandat, monitoring, kill switch, offboarding, graceful degradation – każda faza życia cyfrowego pracownika dostaje nazwę, procedurę i najlepiej jeszcze checklistę. Po kilkudziesięciu stronach zaczynamy podejrzewać, iż gdyby agent AI kichnął, Marcin najpierw zaprojektowałby trzyetapową procedurę obsługi incydentu, a dopiero potem powiedział mu „na zdrowie”.
Można się z tego podśmiewać, ale za tą obsesją porządku kryje się ważna zaleta „Cyfrowego pracownika”. Autor nie sprzedaje czytelnikowi wizji autonomicznego agenta, którego wystarczy podłączyć do firmy, aby następnego dnia zaczął generować oszczędności. Pokazuje również koszty kontroli, zabezpieczenia i utrzymywania całego systemu. Cyfrowy pracownik może nie pobierać pensji, ale to jeszcze nie znaczy, iż pracuje za darmo.
Cyfrowy pracownik nie chce pensji. Ale rachunki przysyła
Jedną z najbardziej kuszących obietnic związanych z agentami AI jest ekonomia. Cyfrowy pracownik nie bierze urlopu, nie choruje, może działać całą dobę i – przynajmniej w teorii – obsługiwać tysiące zadań równocześnie. Zestawienie jego kosztu z pensją człowieka może więc wyglądać zabójczo dla tego drugiego. Ledworowski studzi jednak ten entuzjazm: cena modelu i zużytych tokenów to tylko niewielka część rachunku.
Żeby agent rzeczywiście wykonywał pracę, trzeba go przecież podłączyć do firmowych systemów, zapewnić mu dostęp do danych, zbudować integracje, zabezpieczyć je, monitorować jego działanie i przechowywać ślady tego, co zrobił. Do tego dochodzą koszty modeli, infrastruktury, utrzymania, aktualizacji, audytu i obsługi sytuacji, w których cyfrowy pracownik zachowa się inaczej, niż oczekiwaliśmy. A skoro poprzednie rozdziały książki nauczyły nas już, iż agent powinien mieć właściciela procesu, nadzór i człowieka gotowego do interwencji, trzeba doliczyć także… ludzi.
To ważne rozróżnienie. Dyskusja o ekonomii AI bywa sprowadzana do prostego porównania: ile kosztuje godzina pracy człowieka, a ile wykonanie tego samego zadania przez model. Tyle iż token nie jest cyfrowym odpowiednikiem godziny pracy. Agent funkcjonuje w całym technologicznym i organizacyjnym otoczeniu, za które ktoś musi zapłacić. To trochę tak, jakby koszt zatrudnienia człowieka liczyć wyłącznie na podstawie ceny kawy, którą wypija przy biurku.
Dlatego sensowniejsze jest podejście proponowane w książce: warto popatrzeć na całkowity koszt wykonania i kontrolowania procesu. Dopiero wtedy można porównywać pracę człowieka z pracą agenta. o ile AI skraca obsługę sprawy z dziesięciu minut do jednej, ale wymaga kosztownej integracji, stałego monitoringu i zespołu ludzi obsługujących wyjątki, biznesowa przewaga nie musi być tak oczywista, jak sugeruje prezentacja dostawcy technologii. Z drugiej strony, przy odpowiednio dużej skali te same koszty mogą rozłożyć się na miliony operacji i wtedy rachunek zaczyna wyglądać zupełnie inaczej.
Ledworowski słusznie każe uwzględniać jeszcze jedną pozycję, o której najłatwiej zapomnieć: koszt błędu. Pomyłka przy odpowiedzi na proste pytanie klienta może być prawie bez znaczenia. Błędnie wykonana transakcja, ujawnienie danych albo decyzja podjęta poza mandatem agenta może kosztować wielokrotnie więcej niż wszystkie zaoszczędzone wcześniej tokeny. Im większą autonomię dostaje więc cyfrowy pracownik, tym bardziej jego ekonomia zaczyna przypominać rachunek ryzyka, a nie cennik usługi chmurowej.
I tutaj przydałoby się w książce trochę więcej twardej ekonomii. Ledworowski bardzo dobrze pokazuje, co należy policzyć, ale trudniej znaleźć w książce odpowiedź, przy jakich warunkach agent rzeczywiście zaczyna wygrywać kosztowo z dotychczasowym sposobem wykonywania pracy. Przykład Booksy daje nam imponujące ponad 50 tys. dolarów miesięcznych oszczędności, ale aż chciałoby się zobaczyć więcej takich rachunków: koszt wdrożenia, utrzymania, nadzoru, liczbę obsłużonych spraw i okres zwrotu. Dla menedżera zastanawiającego się nad inwestycją w agentów taka tabela mogłaby być ciekawsza niż niejedna kolejna checklista.
Bo cyfrowy pracownik ma pewną niezwykłą adekwatność. Nie przychodzi do szefa po podwyżkę, ale jego dostawca chmury może zrobić to za niego. Nie korzysta z benefitów, za to potrzebuje API. Nie ma ubezpieczenia zdrowotnego, ale ma monitoring bezpieczeństwa. I nie pobiera pensji – co wcale nie oznacza, iż CFO przestanie się nim interesować.
Autor ma odpowiedź na wszystko. Najlepiej… w tabeli i tech slangu!
Po kilkudziesięciu stronach „Cyfrowego pracownika” trudno mieć wątpliwości, iż autor lubi porządek i żeby mu się wszystko zgadzało w compliance. Chyba iż część tej skłonności należy przypisać jego cyfrowemu współpracownikowi – Marcin nie ukrywa bowiem, iż – jak przystało na autora książki o AI – podczas jej pisania sam korzystał z pomocy sztucznej inteligencji.
Dostajemy więc skrupulatnie wyliczone cechy, którymi powinien charakteryzować się agent. Powinien mieć tożsamość, mandat, określony poziom autonomii, właściciela procesu, zasady eskalacji, monitoring, procedury zatrzymania i offboardingu. Razem z autorem książki tropimy kolejne ryzyka, a gdy tylko pojawia się nowe, otrzymujemy gotowe moduły, blueprints lub templates. To największa zaleta tej książki i jednocześnie – w moim subiektywnym odczuciu – źródło nieco nużącej powtarzalności i schematyczności przeprowadzanej analizy.
Zaletą jest na pewno bezkompromisowy konkret. Autorowi nie wystarcza stwierdzenie, iż firmy powinny „odpowiedzialnie wdrażać AI”, bo takie zdanie można dziś znaleźć w niemal każdym raporcie konsultingowym. Próbuje za to odpowiedzieć, co adekwatnie miałoby to oznaczać. Kto wydaje agentowi polecenia? Jakie ma uprawnienia? Kiedy musi przekazać sprawę człowiekowi? Co zapisujemy w logach? Jak reagujemy na błąd? Kto może go wyłączyć? Dzięki temu abstrakcyjna dyskusja o „odpowiedzialnej sztucznej inteligencji” zaczyna przypominać instrukcję przygotowania firmy na pojawienie się nowego rodzaju wykonawcy.
Czasami jednak framework goni framework. Czytelnik dostaje kolejne klasyfikacje, poziomy, diagramy, procedury i zestawy pytań kontrolnych. Każdy z osobna ma sens, ale nagromadzone zaczynają trochę ciążyć opowieści. Można odnieść wrażenie, iż książka chwilami chce być jednocześnie esejem o zmianie rynku pracy, podręcznikiem dla menedżera, instrukcją governance i prezentacją dla komitetu sterującego. Ledworowski ma odpowiedź na wiele pytań. A jeżeli jeszcze jej nie ma, można podejrzewać, iż właśnie przygotowuje tabelę.
Podobnie jest z językiem. Human-in-the-loop, Decision Engine, kill switch, offboarding, prompt injection, graceful degradation – angielskich terminów jest sporo. Część z nich trudno sensownie zastąpić, zwłaszcza w książce dotyczącej technologii rozwijanej przede wszystkim w anglojęzycznym ekosystemie branżowym. Ale momentami „Cyfrowy pracownik” wymaga od czytelnika większej znajomości języka IT i korporacji, niż sugerowałby popularyzatorski – tak chyba można odbierać publikację – charakter książki. Dla menedżera technologii będzie to język znany i lubiany. Czytelnik, który dopiero próbuje zrozumieć, czym agent różni się od ChatGPT, może czasami potrzebować własnego tłumacza – być może również cyfrowego (szczęśliwie na końcu książki dodany został bonus – słowniczek trudnych pojęć i terminów).
Usprawiedliwieniem dla autora może być to, iż książka została pomyślana głównie jako: „praktyczny przewodnik dla menedżerów i zarządów” z pełnym cyklem życia „cyfrowego pracownika”, od uruchomienia agenta aż po offboarding. Klasyfikacje, diagramy i tech slang są środowiskiem naturalnym, w którym żyją wirtualni czytelnicy książki, a ponieważ autor doradza czytanie nie od deski do deski, tylko w zależności od konkretnych potrzeb, nadmiar tabel w całej książce może nie być choćby zauważony przez kogoś, kogo zainteresuje tylko story o Booksy i Zowie.
Pewien problem mam natomiast z kategorycznością niektórych zaleceń. U Ledworowskiego agent często coś „musi”, organizacja „powinna”, a proces „wymaga” określonego zabezpieczenia. To nadaje książce dobre tempo i ma bardzo praktyczny wymiar, ale świat agentów dopiero się tworzy. Inaczej powinien być kontrolowany system rezerwujący spotkania, inaczej agent pomagający programiście, a jeszcze inaczej taki, który może dysponować pieniędzmi klienta. Nie każda firma potrzebuje więc całego arsenału zabezpieczeń opisywanych w książce – podobnie jak nie każdy pracownik pierwszego dnia dostaje sejf, ochroniarza i osobisty komitet audytu.
Byłoby też ciekawiej, gdyby obok udanych wdrożeń pojawiło się więcej porażek. Booksy i Zowie dobrze pokazują, co można osiągnąć. Ale właśnie autor z tak bogatym doświadczeniem mógłby równie interesująco opowiedzieć o projekcie, w którym agent okazał się za drogi, klienci nie chcieli z nim rozmawiać, integracja pochłonęła oszczędności albo firma po kilku miesiącach ograniczyła jego autonomię. W świecie AI case studies sukcesu mamy już pod dostatkiem. Dobrze opisana katastrofa bywa znacznie bardziej pouczająca.
Mimo tych zastrzeżeń, wolę jednak pewien nadmiar procedur niż gdyby było ich w ogóle brak. Rynek jest pełen książek i prezentacji pokazujących, co AI już za chwilę zrobi za człowieka. Marcin stawia mniej efektowne pytanie: co firma musi zrobić, żeby pozwolić jej to robić i później tego nie żałować? Dzięki temu „Cyfrowy pracownik” jest bardziej książką o zarządzaniu organizacją w epoce agentów niż książką o samej sztucznej inteligencji. I właśnie w tej roli sprawdza się najlepiej.
Jest sześć lat później i… RoboSamcik wraca do pracy?
Najciekawsze w „Cyfrowym pracowniku” jest dla mnie to, iż książkę można czytać jako odpowiedź na pytanie, które Marcin sam postawił sześć lat wcześniej. Wtedy zastanawiał się, czy AI potrafi zastąpić dziennikarza, dodajmy – wytrawnego dziennikarza i blogera, wyjątkowo sprawnie posługującego się nie tylko zgromadzoną przez dwie dekady wiedzą, ale też potrafiącego trafnie i z dużym zaangażowaniem emocjonalnym ponazywać i powyjaśniać skomplikowane zdarzenia ze świata finansów osobistych.
Marcin – świadom kontrastu między człowiekiem a maszyną – wyliczał bariery: rozumienie kontekstu, wiarygodność informacji, emocje, system wartości, odpowiedzialność. Zakładał też, iż na końcu i tak pojawi się człowiek, który obejrzy i skoryguje wytwory maszyny.
Z dzisiejszej perspektywy widać, iż w jednej sprawie nie docenił AI. Maszyny nauczyły się świata znacznie szybciej, niż można było przypuszczać. Potrafią pisać w zadanym stylu, analizować dokumenty, prowadzić przekonujące rozmowy, korzystać z narzędzi i wykonywać całe sekwencje zadań. choćby emocje, których RoboSamcik miał nie umieć „nawet symulować”, współczesne modele symulują na tyle dobrze, iż spora część użytkowników musi sobie przypominać, iż po drugiej stronie żadnych emocji nie ma.
Ale znacznie ciekawsze jest to, w czym Marcin pomylił się mniej. Już w 2020 roku pytał o źródła informacji, błędy, system wartości i odpowiedzialność za działania cyfrowego bliźniaka. Sześć lat później właśnie te pytania okazują się ważniejsze od tego, czy AI potrafi napisać tekst albo porozmawiać z klientem. Technologia częściowo rozwiązała problem realizowania zadań. Nie rozwiązała problemu odpowiedzialności.
I to jest dla mnie główna wartość „Cyfrowego pracownika”. Marcin nie próbuje mnie przekonać, iż nadchodzi magiczna armia agentów, która zrobi wszystko taniej i lepiej. Pyta raczej, jak urządzić firmę, kiedy ta armia rzeczywiście stanie przed drzwiami. Kto ją wpuści? Kto rozda uprawnienia? Kto sprawdzi wykonaną pracę? Kto zapłaci za błędy? I wreszcie – kto będzie wiedział, gdzie znajduje się wyłącznik?
Nie jest to książka bez wad. Frameworków jest chwilami – jak dla mnie – za dużo, język potrafi skręcić w stronę korporacyjno-technologicznego dialektu, a niektóre rekomendacje brzmią bardziej kategorycznie, niż pozwala na to bardzo młody rynek agentów AI. Chętnie przeczytałbym też więcej historii nieudanych wdrożeń. Technologia rozwija się tak szybko, iż część technicznych przykładów prawdopodobnie zestarzeje się wcześniej niż sama książka.
Ale jej zasadnicze pytanie raczej gwałtownie się nie zestarzeje. Przeciwnie. Im lepsze będą modele, tym mniej interesujące stanie się pytanie „czy AI potrafi to zrobić?”, a ważniejsze – „czy powinniśmy pozwolić jej zrobić to samodzielnie?”. I właśnie tutaj Marcin jest najmocniejszy. „Cyfrowy pracownik” okazuje się w gruncie rzeczy nie książką o sztucznej inteligencji, ale o odpowiedzialności ludzi, którzy postanowili dać jej pracę.
A czy nie jest przypadkiem tak, że…
A co z bohaterem, od którego zaczęliśmy? Czy nie jest przypadkiem tak, iż RoboSamcik nie tyle przegrał eksperyment, ile musiał trochę dłużej poczekać w kolejce do swojego workplace czy workstation? W 2020 roku miał tylko pisać teksty. Dzisiaj jego znacznie bardziej przedsiębiorczy kuzyni dostają dostęp do baz danych, obsługują klientów, uruchamiają procesy i wykonują zadania w imieniu firm. I dlatego pytanie o to, czy maszyna zastąpi człowieka, wydaje się już trochę staroświeckie i może zbyt prostoduszne. Ważniejsze jest, jak dużo władzy człowiek zdecyduje się jej oddać.
Czy Marcin podpisałby się więc dziś pod swoim dawnym „Precz z RoboSamcikiem”? Chyba już nie. Ale kluczy do redakcji i haseł dostępu do systemu edycyjnego jeszcze by mu chyba nie dawał.
Czytaj też: RoboSamcik: czy sztuczna inteligencja zastąpi dziennikarza? LInk dostępny tu:
Nota o użyciu AI: Przy pisaniu tej recenzji korzystałem z narzędzi AI. Nie napisały one jednak recenzji – podobnie jak narzędzia AI, z których korzystał Marcin Ledworowski, nie napisały jego książki. Pomagały mi porządkować argumenty, sprawdzać terminologię, wychwytywać powtórzenia i testować niektóre sformułowania. Oceny i odpowiedzialność za tekst pozostały po stronie autora recenzji – człowieka. Cyfrowy pracownik dostał więc mandat, ale kluczy do redakcji również tym razem nie dostał.
Źródło grafiki: ilustracja wygenerowana przy użyciu AI na podstawie fotografii okładki książki
