Wyrażenie „narodowa debata” wydaje się jednym z wypranych ze znaczenia, modnych frazesów – dopóki jej nie doświadczymy. Pierwsza, w której aktywnie uczestniczyłem, była narodową debatą – debatą wręcz ogólnoświatową – na temat prywatności, a toczyła się po tym, jak Snowden puścił parę.
Często rozmawialiśmy z żoną o najnowszych doniesieniach w mediach, a nasza pięcioletnia wtedy córeczka naturalnie zainteresowała się tematem. Przyszło mi zatem wyjaśniać sprawę globalnego nadzoru na masową skalę dosłownie „jak pięcioletniemu dziecku”.
Rodzicielstwo jest jednak dwukierunkowe i podczas gdy ja wyjaśniałem córce, na czym polega nadzór, moje własne doświadczenie wychowywania dziecka zmieniło moje podejście do nadzoru. Wiedziałem oczywiście o wielu problemach, jakie rodzi nieustanna inwigilacja, jednak to właśnie jako rodzic dojmująco zdałem sobie sprawę z najważniejszego, choć najrzadziej poruszanego w dyskusjach aspektu bycia pod nadzorem: człowiek pod obserwacją nie może być autentycznie sobą.
Napisałem wówczas: „Kiedy moja córka rysuje, tańczy, śpiewa czy buduje, zdarzają się chwile, iż robi to na granicy swoich umiejętności. Gdy tylko zauważa, iż ją obserwuję, na tej twarzy pojawia się wyraz zawstydzenia i desperacji, po czym wraca do czegoś, co już dobrze potrafi. Nikt – choćby małe dziecko – nie lubi wyglądać głupio w oczach innych”.
Nauka, wzrastanie i samorealizacja wymagają strefy, gdzie czujemy się bezpieczni; wymaga czasu i miejsca, w którym nikt nas nie obserwuje. Dlatego w pracy drobiazgowy nadzór ze strony przełożonych nie sprawia, iż stajemy się bardziej odpowiedzialni – raczej napawa nas lękiem i wpycha w ciasną, nieautentyczną wersję nas samych, gdzie rozwój jest wręcz niemożliwy.
Zaobserwowano już rolę, jaką to odgrywa w prawicowym wałkowaniu tematu wojny kulturowej: popularny na prawicy slogan „społeczeństwo ludzi uzbrojonych to społeczeństwo ludzi uprzejmych” stanowi zaszyfrowany przekaz, który brzmi: „ludzi, którzy samym swoim istnieniem sprawiają, iż czuję się niekomfortowo, należy tak zastraszyć, iż będą musieli kryć, kim naprawdę są”. Celem wprowadzania przepisów zabraniających mówienia w szkołach o homoseksualizmie i ustaw skierowanych przeciwko osobom trans nie jest wyeliminowanie nienormatywności, ale sprawienie, by ludzie się z nią kryli.
Nie ma się co dziwić, iż pracownicy, którzy w pracy podlegają nadzorowi w imię własnego „dobrostanu”, czują się w konsekwencji źle. W badaniu Instytutu na rzecz Przyszłości Pracy ustalono, iż niektóre technologie – systemy ułatwiające współpracę i komunikację z innymi pracownikami – podnoszą poczucie dobrostanu pracowników. Z drugiej zaś strony, wszelkie urządzenia noszone na sobie oraz narzędzia oparte na sztucznej inteligencji sprawiają, iż pracownicy czują się zdecydowanie gorzej.
Skarżący się na to pracownicy potwierdzają, iż za sprawą tych narzędzi czują się „monitorowani”. To oczywiste, iż tak się czują. choćby jeżeli teoretycznie projektuje się te urządzenia w celu wsparcia kogoś w wykonywaniu pracy, projektuje się je również w sposób oczywisty po to, aby umożliwić szefowej czy szefowi ciągłe śledzenie pracownika. Jak napisał Brandon Vigliarolo w magazynie The Register, ci sami szefowie chwalą się od jakiegoś czasu inwestorom, iż planują pracowników zwolnić i zastąpić ich sztuczną inteligencją.
„Bossware” to jeden z najlepszych przykładów gównianych korzyści płynących „technologii dyscyplinującej” – narzędzi istniejących po to, aby odebrać pracownikom sprawczość poprzez ułatwienie nadzoru i kontroli nad nimi.
Bossware to jeden z etapów Krzywej Wdrażania Gównianej Technologii: procesu wprowadzania do użytku przemocowych i uprzykrzających życie technologii, który stopniowo obejmuje coraz bardziej uprzywilejowane grupy pracowników, w miarę jak rzecznicy tych dystopijnych rozwiązań doszlifowują je i przyzwyczajają nas do nich z zamiarem narzucenia ich coraz szerszej rzeszy osób.
Dane gromadzone przez „szefowskie” oprogramowanie może i byłyby dla pracowników przydatne, gdyby to właśnie oni decydowali, czy, kiedy i jak udostępniać te dane innym. Pakiet Microsoft Office umożliwia wyłapanie literówek w tekście poprzez podkreślenie słów, których nie ma w słowniku. Ale już oparte na cyfrowej chmurze i sztucznej inteligencji Office 365 powiadamia szefa, iż plasujesz się na jedenastym miejscu w swoim dziale na liście sadzących największe ortografy, a także poprzez „analizę emocji” przewiduje, czy będziesz robić w firmie dym.
Dwieście lat temu luddyści zbuntowali się przeciwko maszynom. Wbrew temu, co się o nich ahistorycznie mówi, luddyści nie byli wściekli na maszyny ani się ich nie bali – byli wściekli na właścicieli maszyn. Słusznie rozumieli, iż celem wprowadzenia maszyny „tak prostej w obsłudze, iż mogłoby to robić dziecko” było zwolnienie wykwalifikowanych, dorosłych pracowników i zastąpienie ich zmuszanymi do pracy sierotami, jakie pozostały po wojnach napoleońskich, których okaleczenie czy choćby śmierć na stanowisku pracy nie pociągały za sobą żadnych konsekwencji.
Sto lat temu pałeczkę od właścicieli przędzalni przejęli „tayloryści”: w najdrobniejszym szczególe reżyserując ruchy pracowników w ramach pseudonaukowego niby-spektaklu kabuki, gdzie ku zadowoleniu szefów robotnicy uwijali się niczym roboty. Nowy, podparty sztuczną inteligencją tayloryzm posuwa się dalej, pozwalając szefom na automatyczne skreślanie pracowników, którzy nie chcą być łamistrajkami, monitorowanie „samozatrudnionych” pracowników centrum obsługi klienta w ich własnych domach i śledzenie ruchu gałek ocznych kierowców pracujących dla Amazona.
Oparte na sztucznej inteligencji technologie monitorujące blokują wypłatę wynagrodzenia pracownikom, zawieszają ich, a choćby zwalniają, a gdy ci chcą się odwołać, mogą jedynie porozmawiać z chatbotem i usłyszeć od komputera, iż się nie da.
Wiele badań pokazuje, iż sztuczna inteligencja może skutecznie wspomagać pracowników i sprawić, iż będą bardziej produktywni. Jestem też ostatnią osobą, która ważyłaby się twierdzić, iż człowiek nie jest w stanie robić więcej. Jednak bez zrozumienia tego, jak sztuczna inteligencja wspomaga również walkę klas – masowo dyscyplinując pracowników za jej pomocą, z szybkością i precyzją wykraczają daleko poza sadystyczne fantazje upierdliwego szefa z najgorszych koszmarów – wszystkie te badania nie mają sensu.
Szefowie narzucają monitorowanie pracowników rzekomo w celu poprawy ich dobrostanu i po to, by zapobiec wypaleniu zawodowemu. Ironia polega jednak na tym, iż nie ma nic tak wyczerpującego, uprzykrzającego życie i denerwującego jak to, iż ktoś ciągle patrzy nam na ręce i nas ocenia.
**
Cory Doctorow – jeden z najbardziej poczytnych pisarzy science fiction, krytyk nowych technologii, autor wielu książek i esejów. W polskim przekładzie ukazała się m.in. jego powieść Mały Brat i zbiór esejów Kontekst. Eseje o wydajności, kreatywności, rodzicielstwie i polityce w XXI wieku.
Artykuł opublikowany na stronie pluralistic.net na licencji Creative Commons. Z angielskiego przełożyła Katarzyna Byłów.
