Kto (i dlaczego) powinien bać się Tik Toka?

panoptykon.org 1 rok temu

Jeszcze niedawno Tik Tok budził skojarzenia przede wszystkim z niewinnymi filmikami z tańczącymi ludźmi, apetycznym jedzeniem czy uroczymi zwierzątkami. Dziś dyskusja na temat serwisu przybrała znacznie poważniejszy ton. Na blokadę aplikacji ze względu m.in. na bezpieczeństwo narodowe zdecydowały się Indie i Stany Zjednoczone, ale nie Polska. Coraz głośniej jest również o uzależniającym wpływie aplikacji na użytkowników i użytkowniczki. Tu szansa na odsiecz przychodzi z Unii Europejskiej i nowych regulacji (DSA) dotyczących platform internetowych takich jak Tik Tok.

Stany i Indie zakazują Tik Toka za szpiegowanie

Pod koniec grudnia zeszłego roku media obiegła wiadomość o tym, iż platforma społecznościowa Tik Tok (a w zasadzie ByteDance, czyli firma, do której należy serwis) inwigilowała dziennikarzy i dziennikarki pracujących m.in. dla Financial Timesa i BuzzFeeda. Informacje zostały oficjalnie potwierdzone, a w ramach łagodzenia kryzysu wizerunkowego Tik Tok zwolnił osoby odpowiedzialne za te działania (rzekomo prowadzone bez wiedzy przełożonych). W trybie awaryjnym firma rozpoczęła także ofensywę lobbingową, której elementem były m.in. spotkania urzędników wysokiego szczebla Komisji Europejskiej z prezeską Shou Zi Chew. Te reakcje bynajmniej nie uciszyły krytyki, a eksperci, polityczki, urzędnicy i dziennikarki (także w Polsce) o ciemnych stronach działalności platformy piszą i mówią coraz więcej.

Naruszenie prywatności dziennikarzy to kolejna kontrowersja związana z chińskim gigantem, który w tej chwili może pochwalić się już prawie 900 milionami użytkowników i użytkowniczek oraz pozycją jednego z najpopularniejszych portali społecznościowych na świecie. Globalny sukces spowodował, iż na platformę uwagę zwróciły zarówno media, jak i politycy. Najwięcej zainteresowania tych ostatnich wzbudzają kwestie bezpieczeństwa informacyjnego, czyli to, co chiński gigant robi z danymi swoich użytkowników. Pod koniec 2022 r. wiele instytucji w USA (m.in. departamenty obrony i bezpieczeństwa oraz 14 stanów) całkowicie zakazało swojemu personelowi używania aplikacji. Podobne zalecenie już w 2020 r. wydała amerykańska armia. Może to oznaczać początek końca serwisu w Stanach, który według Brendana Carra, komisarza FCC (Federalna Komisja Łączności), podzieli los aplikacji w Indiach. Przypomnijmy, iż rząd w New Delhi już w 2020 r. zakazał używania Tik Toka na terenie całego kraju z powodu zagrożenia „suwerenności i integralności” państwa.

Te same argumenty przeniknęły również do polskiej debaty publicznej. I choć pełnomocnik rządu ds. cyfryzacji Janusz Cieszyński zapytany 27 grudnia 2022 r. o ewentualne blokowanie aplikacji w Polsce takim planom zaprzeczył, to przyznał, iż nasze władze mają świadomość możliwości wykorzystywania danych zbieranych przez serwis przez chińską administrację.

Tik Tok wychowuje chińskie dzieci. I uzależnia polskie

Innym głośnym tematem, który budzi dyskusje na całym świecie, jest wpływ Tik Toka na użytkowników i użytkowniczki, w szczególności dzieci. Model działania innowacyjnego algorytmu (o którego podstawach wiemy m.in. dzięki doniesieniom New York Timesa) w przeciwieństwie do „starych” mediów społecznościowych kieruje się przede wszystkim (niekoniecznie nieświadomymi) preferencjami, a w mniejszym – decyzjami i informacjami, które zamieszczamy w profilu, stronami, które lajkujemy, itp. W rezultacie średni czas spędzany w serwisie pozostało dłuższy niż u konkurencji. Sprawia to, iż badacze i badaczki coraz częściej podnoszą argument o silnie uzależniającym charakterze aplikacji, której długotrwałe używanie może negatywnie wpływać na rozwój intelektualny i emocjonalny milionów dzieci na świecie (więcej na ten temat w podcaście Panoptykon 4.0, w którym Katarzyna Szymielewicz rozmawia z Jakubem Olkiem, szefem relacji na Europę Środkową i Wschodnią w Tik Toku).

Pikanterii sprawie dodaje fakt, iż w Chinach analogiczna aplikacja firmy ByteDance (formalnie niezależna od swojego globalnego odpowiednika) działa według innych zasad niż w reszcie świata. To, co różni chińską wersję serwisu od tej znanej m.in. w Polsce, to sposób moderowania algorytmu przez osoby działające w imieniu firmy. Na ich decyzje wpływ ma przyjęte jeszcze w 2021 r. prawo, które m.in. ustala limity codziennego korzystania z mediów społecznościowych przez osoby poniżej 14 roku życia do 40 minut czy blokuje aplikację między 10:00 w nocy a 6:00 rano. Kolejną różnicą jest aktywna moderacja treści i rekomendacji. Douyin (bo tak nazywa się Tik Tok dostępny w Chinach) prowadzi aktywne działania promujące dobre wzorce zachowania, zachęcając użytkowników i użytkowniczki do edukacji, aktywności fizycznej czy bycia przykładnymi obywatelami i obywatelkami. Oczywiście, w chińskim modelu nie chodzi tylko o harmonijny rozwój użytkowników i użytkowniczek, ale takżę propagandę i o zachowanie kontroli nad procesami społecznymi i politycznymi. Tristan Harris (etyk technologii, założyciel Center for Humane Technology, były pracownik Google’a znany z netfliksowego dokumentu Dylemat społeczny), opisując paradoks „podwójnego życia Tik Toka” sięga do metaforyki kulinarnej: w Chinach podawany jest jako „szpinak”, podczas gdy poza granicami kraju serwowany jest w formie „opium”.

Chiński rząd ma dostęp do Tik Toka

Krytykę Tik Toka należy podzielić na dwie kategorie: dotyczącą relacji międzynarodowych oraz negatywnych konsekwencji dla samych użytkowników i użytkowniczek. Pierwsza z nich – można nazwać ją geopolityczną – odnosi się do kwestii bezpieczeństwa publicznego, suwerenności informacyjnej czy rywalizacji technologicznej mocarstw.

W ostatnich latach toczy się dyskusja o końcu globalnego Internetu i podziale światowej sieci na niezależne od siebie tzw. splinternety nadzorowane przez konkretne państwa lub organizacje ponadnarodowe. Ma to związek z rosnącymi animozjami i konfliktami, w których po jednej stronie stoją kraje Zachodu (USA, UE, kraje członkowskie NATO, ale także Japonia, Australia itd.), zaś po drugiej – państwa takie jak Iran, Rosja czy wymieniane w tym gronie od kilku lat Chiny.

Należy zwrócić uwagę na gospodarczy i technologiczny wymiar sprawy. ByteDance jest kolejną firmą technologiczną, która w ostatnim czasie może ucierpieć z powodu „cyfrowej deglobalizacji”. W ostatnich dniach listopada 2022 r. całkowicie zakazała importu i dystrybucji urządzeń jednych z największych chińskich firm: Huawei i ZTE. Politykę odcinania produktów „Made in China” od dostępu do amerykańskiego rynku uzasadnioną zagrożeniem dla bezpieczeństwa narodowego rozpoczęto jeszcze w czasach administracji Donalda Trumpa. Pomimo wielu różnic politycznych dziś podobną linię kontynuuje gabinet Joego Bidena. Te działania można uznać za politykę gospodarczego protekcjonizmu, w którym argumenty bezpieczeństwa narodowego w płynny sposób przenikają się z dążeniem do wspierania amerykańskich firm technologicznych. Równolegle z ograniczeniami dla producentów z Państwa Środka Stany udzielają liczonego w dziesiątkach miliardów dolarów wsparcia amerykańskim firmom technologicznym (np. w sektorze produkcji mikroprocesorów czy aut elektrycznych). Innym istotnym elementem wspierającym rozbrat gospodarek USA i Chin jest także aktywne dążenie Białego Domu do odizolowania Pekinu od możliwości rozwoju w zakresie strategicznych, zaawansowanych technologicznie sektorów. Jaskrawym przykładem tej strategii były działania z października zeszłego roku, kiedy to rząd w Waszyngtonie zakazał handlu nowoczesnymi mikrochipami nie tylko firmom pochodzącym z USA oraz działającym w Stanach, ale także ich partnerom handlowym z całego świata, którzy chcą dalej współpracować w ramach globalnych łańcuchów dostaw. W ramach tego samego rozporządzenia Amerykanie zatrudnieni w tej branży w Chinach otrzymali ultimatum: natychmiastowa rezygnacja z pracy i powrót do kraju albo automatyczna utrata obywatelstwa.

To właśnie w tym skomplikowanym międzynarodowym, wywiadowczym i gospodarczym kontekście w USA niektórzy mówią o Tik Toku jako o koniu trojańskim, sugerując, iż dane zbierane przez serwis są lub będą wykorzystywane w celu realizacji interesów Chińskiej Republiki Ludowej. Te twierdzenia, przynajmniej z punktu widzenia prawa, nie są bezpodstawne. W ostatnim czasie elita polityczna Chin dąży do zwiększenia poziomu kontroli nad strategicznie ważnymi firmami – w tym platformami społecznościowymi. Odbywa się to m.in. poprzez przejmowanie tzw. złotych akcji przedsiębiorstw. To instytucja prawna, która pozwala podmiotom publicznym na nadzorowanie i kontrolowanie działania firm, choćby jeżeli posiadają w nich mniejszościowy (a choćby czysto symboliczny) pakiet akcji. W ostatnim czasie w ten sposób władze w Pekinie uzyskały kontrolę m.in. nad Tik Tokiem oraz Ali Babą. Oznacza to, iż firmy, z których usług i systemów korzystają miliardy osób na świecie, kontrolowane są w coraz bardziej bezpośredni sposób przez Komunistyczną Partię Chin. Skutki tego nadzoru mogą być bardzo poważne i naruszać podstawowe prawa obywatelskie. Według raportu Australijskiego Instytutu Polityki Strategicznej Douyin jest używany m.in. do działań propagandowych i inwigilacyjnych skierowanych przeciwko Ujgurom – religijnej i etnicznej mniejszości zamieszkującej północno-zachodnie Chiny.

Czy polski rząd zbanuje Tik Toka?

Trudno się dziwić, iż takie doniesienia budzą nieufność. W przypadku Polski należy przypomnieć historię byłych pracowników (dyrektora oraz w przeszłości pracującego dla ABW menedżera odpowiedzialnego za cyberbezpieczeństwo) polskiej filii koncernu Huawei, których Agencja Bezpieczeństwa Wewnętrznego aresztowała pod zarzutem szpiegostwa w styczniu 2019 r. Już wtedy komentujący zwracali uwagę na potencjalny związek aresztowań z negocjacjami dotyczącymi wdrożenia w kraju technologii 5G, czyli inwestycji i rynku wartych wiele miliardów złotych.

Dyskusja o stopniu ryzyka, które udział m.in. chińskich firm technologicznych może stanowić dla polskiego systemu bezpieczeństwa, wpływa także na polskie prawo. Ustawa o krajowym systemie cyberbezpieczeństwa, która wdrożyć ma w naszym kraju unijną dyrektywę NIS 2, mimo trwających od 2020 r. prac legislacyjnych wciąż nie została uchwalona. Jeden z obszarów, który był przedmiotem sporu, dotyczy modelu prawnego dopuszczającego daną firmę do udziału w projektach (w tym: przetargach, konkursach i innych formach dostarczania sprzętu, systemu czy infrastruktury) strategicznych dla interesów kraju. W dużym skrócie można powiedzieć, iż zarówno w Polsce, jak i w innych krajach Wspólnoty ścierają się ze sobą w tym obszarze dwie koncepcje. Według pierwszej z nich (można ją nazwać „unijną”) dostawców trzeba traktować tak samo, niezależnie od kraju pochodzenia, wymagając od nich spełnienia określonych kryteriów z zakresu bezpieczeństwa informacyjnego i technicznego. Druga (można określić ją jako „amerykańską”) dąży do wykluczenia z takich projektów przedsiębiorstw ze względu na kraj pochodzenia. Na początku 2023 r. Rada Ministrów przedstawiła kolejną wersję projektu ustawy, która wydaje się bliska pierwszemu z wymienionych modeli.

Potrzebujemy polityki dotyczącej cyberbezpieczeństwa i otwartej komunikacji

W naszej ocenie podejście do problemów związanych z Tik Tokiem trzeba podzielić na dwa zagadnienia. Pierwsze dotyczy działań, które może (lub powinno) podejmować państwo i podległe mu instytucje. Drugie odnosi się do ochrony praw użytkowników jako obywateli i konsumentów Unii Europejskiej.

Wątpliwości, które budzą zainteresowanie m.in. amerykańskich, indyjskich czy australijskich decydentów, nie należy bagatelizować. Ta kwestia jest szczególnie ważna z punktu widzenia działania sektora publicznego: urzędów, służb i innych instytucji odpowiedzialnych za wymiar sprawiedliwości, wywiad czy obronność. To obszary, w których największe (i niestety w praktyce często pozbawione skutecznej kontroli obywatelskiej) kompetencje ma władza i podległe jej instytucje. Z tego powodu administracja (centralna, samorządowa czy służby odpowiedzialne za bezpieczeństwo i porządek publiczny) powinna, jeżeli uzna zagrożenie za realne, podejmować zgodne z prawem działania dążące do ochrony interesów wspólnoty.

Co to oznacza w praktyce? Przede wszystkim możliwość wprowadzenia ograniczeń lub zakazów korzystania z konkretnych aplikacji lub serwisów, np.:

na urządzeniach służbowych;
na urządzeniach prywatnych pracowników w trakcie lub w miejscu pracy lub pełnienia służby;
przez pracowników i pracowniczki, funkcjonariuszy i funkcjonariuszki przez cały okres zatrudnienia lub pełnienia służby;
przez osoby niepełnoletnie, np. uczniów w trakcie przebywania na terenie placówki oświatowej lub wychowawczej.

Zanim takie kroki zostaną podjęte, władze publiczne powinny jednak wypracować i wdrożyć zrozumiałą oraz spójną politykę względem firm i usług, które z punktu widzenia interesu narodowego czy bezpieczeństwa publicznego uzna za podejrzane. W tym kontekście istotne jest m.in. uchwalenie opisanej wcześniej ustawy o krajowym systemie cyberbezpieczeństwa czy wdrożenie do polskiego systemu prawnego innych regulacji pozwalających na głębszą integrację z modernizowanym europejskim systemem ochrony przed cyberzagrożeniami.

Obok działań urzędowych istotna jest także jednoznaczna, przejrzysta i budująca zaufanie komunikacja między władzą a obywatelami (o tym, jak ważnym aspektem zaufania do służb jest komunikacja, posłuchacie w podcaście Panoptykon 4.0, w którym Wojciech Klicki rozmawia z płk. Grzegorzem Małeckim). Według ekspertów z zakresu bezpieczeństwa tylko wtedy w państwach demokratycznych można liczyć na wysoki poziom obywatelskiej rezyliencji – zdolności społeczeństwa do oddolnego, samodzielnego odpierania zewnętrznych zagrożeń.

Unia skontroluje Tik Toka

Z punktu widzenia zwykłego obywatela i zwykłej obywatelki, o których prawa walczymy w Panoptykonie, dylematy związane z korzystaniem z Tik Toka przedstawiają się inaczej. W świetle obowiązujących regulacji każda firma, która oferuje usługi na terenie Unii, musi przestrzegać europejskiego prawa. Państwo, w którym ma główną siedzibę, sposób zarządzania czy struktura kapitałowa przedsiębiorstwa nie mają tu (przynajmniej w teorii) znaczenia. Wynika to m.in. z ważnego dla systemu ochrony danych osobowych transferowanych poza obręb Unii orzeczenia w sprawie Schrems II wydanego przez Trybunał Sprawiedliwości UE w 2020 r. Jego sentencja wskazuje, iż dane osobowe Europejczyków w innych krajach muszą być chronione w stopniu proporcjonalnym do wspólnotowego. Podobny pogląd 10 stycznia 2023 r. w sprawie Tik Toka zaprezentowała także wiceprzewodnicząca Komisji Europejskiej Vera Jourova.

Usługi świadczone w Unii Europejskiej przez Tik Toka regulują zarówno „stare” RODO (GDPR) i „nowy” akt o usługach cyfrowych (DSA). Dla wszystkich globalnych platform internetowych, nie tylko Tik Toka, prawnym benchmarkiem, jeżeli chodzi o zasady przetwarzania danych osobowych, pozostaje RODO (chodzi np. reguły privacy by default i privacy by design ważne dla projektowania interfejsów czy zasady bezpieczeństwa, które nie pozwalają na transfer danych do państw niegwarantujących adekwatnej ochrony, wynikające z Schrems II).

Z kolei DSA chroni konsumentów (np. wyznacza nowy standard przejrzystości dla systemów rekomendujących treści i targetowanych reklam) oraz prawa użytkowników związane z moderacją treści (zarówno w sytuacji, kiedy zgłaszają nielegalne treści, jak i w sytuacji, gdy sami podlegają cenzurze ze strony platformy). Oba rozporządzenia łączy to, iż wymagają od firm ciągłej analizy ryzyka. TikTok, jak każda globalna platforma oferująca usługi na obszarze UE, ma zatem obowiązek rozpoznawać zagrożenia, jakie sposób działania aplikacji tworzy dla praw ludzi (np. ochrony ich danych i dostępu do rzetelnych informacji), zdrowia publicznego czy procesów demokratycznych, a także aktywnie im przeciwdziałać.

Egzekwowanie Digital Services Act z pewnością uruchomi dyskusję o tym, jak projektować systemy rekomendacyjne (w szczególności algorytmy odpowiedzialne za selekcję treści) tak, by redukować ich negatywny wpływ na cyfrową przestrzeń publiczną. Tik Tok będzie więc musiał dostosować się do tych reguł i realizować zalecenia niezależnych audytorów oraz samej Komisji Europejskiej (więcej o egzekwowaniu aktu piszemy w tekście DSA i DMA w pigułce). jeżeli tego nie zrobi, Komisja będzie mogła nałożyć na prowadzący serwis Byte Dance kary finansowe. Te ostatnie mogą być ogromne i wynieść choćby do 6% globalnego obrotu firmy, który w 2021 r. sięgnął prawie 60 miliardów dolarów.

Filip Konopczyński

Współpraca: Maria Wróblewska