Projektowanie technologii z uwzględnieniem wartości? Możliwości - konieczność - historia europejska

prywatnik.pl 3 lat temu

Czy technologia powinna opierać się na jakimś zestawie wartości moralnych?

W rzeczywistości technologia zawsze opiera się na jakimś zestawie wartości.

Nie da się ukryć, iż w taki czy inny sposób technologia jest wehikułem dla pewnych wartości. Czy jest to zestaw kapitalistyczny, ordoliberalny, cyfrowy leninizm, jakaś forma cyfrowej suwerenności, czy coś zupełnie innego – to już zupełnie inna kwestia. Tymi wartościami mogą być po prostu prawa człowieka, wartości europejskie lub coś innego. Miejmy jednak nadzieję, iż zestaw wartości jest odpowiedni dla końcowego zastosowania. I dla odbiorców. Pytanie jednak brzmi, co to ma być? W swej istocie omawiane wartości mogą być też przydatne na poziomie standardów technologicznych.

To jest coś, co (z Amelią Andersdotter) zbadaliśmy i opublikowaliśmy w najnowszej pracy naukowej opublikowana w Internet Policy Review. Piszemy o standardach technologicznych, cyberbezpieczeństwie, prywatności, polityce technologicznej, regulacjach. Wszystko to w kontekście wartości.

Tak jak piszemy:

„Standardy technologiczne definiują procesy lub cechy technologii. Wspierają interoperacyjne wdrożenia różnych producentów i mogą służyć jako gwarancje bezpieczeństwa.  Formalne, rządowe organizacje opracowujące normy (SDO) tradycyjnie służą jako platformy kompromisu między istniejącymi normami krajowymi. W ostatniej dekadzie uznanie wiodącej roli SDO w innowacjach sprawiło, iż pojawiły się one w debacie publicznej. Coraz częściej uznaje się, iż wpływ prac nadzorowanych przez nieformalne, branżowe organizacje normalizacyjne, w tym W3C, IETF lub IEEE, ma zarówno bezpośredni, jak i pośredni wpływ na społeczeństwa, tryby pracy, politykę technologiczną lub politykę.“.

Gdy używamy technologii, jest ona budowana z wyrazem pewnych wartości. Przykładowo, może podtrzymywać wolność wypowiedzi. Może wspierać bezpieczeństwo i prywatność. Może pomóc w walce z przestępczością lub sprzeciwem społecznym, protestami, itd. Może umożliwić odszyfrowanie lub przejęcie komunikacji. Wreszcie może technicznie umożliwiać – lub nie – cenzurę.

To wszystko kwestia wartości.

Chociaż istnieje pewna krytyka dotycząca projektowania technologii opartej na wartościach, naszym głównym punktem jest to, iż technologia już dziś jest nośnikiem wartości. Chcemy tego chcesz, czy też nie. W Europie to są tzw. Wartości Europejskie, takie jak ą godność ludzka, wolność, równość, solidarność, prawa obywatelskie i sprawiedliwość (zgodnie z Kartą Praw Podstawowych), Komisja Europejska dodaje również demokrację, równość, praworządność i prawa człowieka. Możemy tu też wspomnieć również o uniwersalnych prawach człowieka.

Wyrazem wartości (europejskich) są już dziś np. niektóre regulacje. Np. GDPR/RODO, regulacja o usługach cyfrowych czy regulacja o sztucznej inteligencji. To znowu wszystko kwestia wartości. Tak się składa, iż ​​podstawowe organizacje zajmujące się standardami technologii internetowych, IETF i W3C, również doskonale zdają sobie sprawę z kwestii wartości i etyki. Jest tu ważna kwestia pierwszeństwa.... Na przykład, według IETF, internet jest dla użytkowników końcowych, czyli dla ludzi. W przypadku W3C użytkownicy, czyli ludzie, również są priorytetem. Podsumowując: „Uważamy, iż skupienie się na użytkowniku końcowym – w szczególności człowieku – jest narzędziem, które nadaje się do kształtowania technologii z zachowaniem ludzkiej godności, a bardziej ogólnie z prawami i wartościami człowieka”. Chociaż doskonale zdajemy sobie sprawę z krytyki zakorzenienia wartości w technologii czy projektowaniu, łatwo odkładamy taką krytykę na bok. Ponieważ, czy tego chcemy, czy też nie: „to połączenie jest już praktyczną rzeczywistością. Ma również silne historyczne znaczenie, na przykład w przypadkach, w których stosowane są standardy technologiczne w celu ułatwienia wolnego handlu. Związek między wartościami a technologiami zakłada się w formalnych organizacjach normalizacyjnych (takich jak ETSI, CEN/CENELEC, ISO) w celu dostosowania do różnorodności geopolitycznej i korporacyjnej. Europejskie ramy formalnych norm wyraźnie koncentrują się wokół uświadomienia sobie, iż normy techniczne są wykorzystywane do osiągania celów polityki przemysłowej (na przykład mogą być wykorzystywane do utrzymywania pozataryfowych barier w handlu między państwami członkowskimi UE) … Powiązania istnieją również w innych obszarach, takich jak jako zrównoważony rozwój, gdzie normy techniczne, które zakładają cele polityki, są np. widoczne w klasyfikacjach energetycznych urządzeń elektrycznych”. Innymi słowy, technologie są już dziś kształtowane przez wartości. Pytanie brzmi: jakie to mają być wartości i w jaki sposób. Czasami takie myślenie inspirowane wartościami zawodzi i wszyscy cierpimy: „Standard W3C Do Not Track (Tracking Protection Working Group Charter (wyłączenie grupy), 2019; Safari 12.1 Release Notes (usunięcie Do Not Track), 2019; Drugie Życie dla ustawienia „Nie śledź” — z zębami, 2020) jest mniej udanym przykładem. Pomimo europejskiego prawa uchwalonego w celu szczególnego wspierania rodzaju ochrony prywatności planowanego do opracowania w tej grupie roboczej (Dyrektywa 2009/136/WE, art. 3.5), przedsięwzięciu nie udało się skutecznie zaangażować przemysłu, decydentów lub społeczeństwa”.

Można to podsumować następująco: „Włączenie prywatności na etapie projektowania technologii jest pozytywnym przykładem współpracy między regulacjami a technologiami. Przypadek Do Not Track jest negatywnym przykładem tego, co dzieje się, gdy technologia i zasady nie działają zsynchronizowane. Te rzeczywiste przykłady polityki technologicznej podkreślają, iż wspieranie wartości w projektowaniu technologii opiera się nie tylko na tekście prawnym, ale także na wsparciu regulacyjnym

To wszystko ma konsekwencje dla cyberbezpieczeństwa, prywatności, ale także kwestii dostępności technologii.

Na przykład poniżej powtarzam niektóre inspirowane wartościami interwencje w technologie:

  • Dostęp do treści telekomunikacyjnych: Zapewnienie zgodnych z prawem możliwości przechwytywania w sieciach telekomunikacyjnych poprzez wpływanie na stosowanie szyfrowania lub użycie identyfikatorów wewnątrz sieci
  • Dostępność: Technologie i strony internetowe zaprojektowane z myślą o osobach niepełnosprawnych. Technologie wspomagające (assistive technologies)
  • Modyfikacje systemu operacyjnego na żądanie (nacisk francuskich polityków (śledzenie kontaktów) Amerykańskie prośby o odblokowanie iOS w trakcie dochodzenia sądowego): brak efektu
  • Prywatność w fazie projektowania
  • Odwracalne szyfrowanie/odszyfrowywanie na żądanie: brak efektu.

Polityka ma coraz bardziej złożony wpływ na technologie. Dwa przykłady:

  • W 2016 roku kalifornijski sąd nakazał Apple zmodyfikowanie systemu operacyjnego na potrzeby egzekwowania prawa w sprawie, która ostatecznie przyciągnęła zainteresowanie całego świata.
  • W 2020 r. francuscy politycy próbowali przekonać Apple do zmodyfikowania swojego systemu operacyjnego w celu umożliwienia realizacji suwerennych francuskich pomysłów na aplikacje do cyfrowego śledzenia kontaktów (Fabienne Schmitt i Floriana Debesa, 2020). Warto zauważyć, iż ci politycy odwoływali się do koncepcji suwerenności technologicznej.

Wszystkie powyższe przykłady to oparte na jakichś wartościach próby wpływania na technologie. Czasami takie związki są naprawdę złożone i dotykają projektu technologicznego:

„GDPR/RODO przewiduje miejsce na aktywne zaangażowanie graczy z przemysłu w definiowanie własnych norm ochrony danych, które zachowują wysoki poziom ochrony danych wymagany przez prawo. Jednocześnie graczom z przemysłu brakuje mandatu (lub legitymacji) do ustalenia, jakie powinny być te normy. Konkretna interpretacja norm skodyfikowanych w RODO podlega orzeczeniom organów ochrony danych w państwach członkowskich UE, a docelowo Trybunału Sprawiedliwości Unii Europejskiej. Eksperci w danej dziedzinie w zakresie projektowania protokołów, przeglądarek internetowych lub technologii radiowych nie są ekspertami prawnymi i nie mogą im pomóc wysokie standardy procesów oceny funkcji ochrony danych podczas opracowywania nowych technologii. Mogą im pomóc szablony opracowane w tym celu pomocy w opracowywaniu norm w odpowiednich organizacjach

Nie do końca nam się podoba to, jak Unia Europejska podchodzi do harmonizacji norm technologicznych. Konkretnie, dużo czasu zajmuje podjęcie pracy w organach normalizacyjnych, jej ponowne ujednolicenie, a następnie wydanie rozporządzenia. Europejskie przepisy dotyczące standaryzacji technologii mogą być lepsze.

Kończymy trzeźwymi stwierdzeniami:

„Widoczna porażka wysiłków W3C Do Not Track uwydatnia niedociągnięcia wynikające z braku europejskiej koordynacji, jedności i umiejętności szybkiej pracy. UE przez cały czas porusza się w wolnym tempie, podczas gdy prace na zewnętrz przyspieszają… Poprzedni duży sukces europejskiego podejścia do standaryzacji technologii w dziedzinie technologii, popularyzacja standardu telekomunikacyjnego 2G, datuje się na lata 90. XX wieku i mógł nastąpić tylko w radykalnie odmiennym krajobrazie technologicznym, który był znacznie bardziej rozdrobniony w skali kraju/UE niż jest to dzisiaj ”

Czyli mieliśmy 2G, teraz RODO. To są historie sukcesu. Co dalej?

Niektóre zalecenia:

  • Unia Europejska musi uprościć obecną politykę renormalizacji już przyjętych norm opracowanych przez innych interesariuszy
  • Inne środki upraszczające mogą polegać w mniejszym stopniu na formalnych jednostkach certyfikujących i certyfikujących, a bardziej na inicjatywach samocertyfikacji
  • Unia Europejska musi stworzyć swoje dedykowane, niezależne, długoterminowe i prężne podejście do standaryzacji technologii. Stany Zjednoczone praktycznie same stworzyły Internet i utrzymują wpływ na techniczną architekturę Internetu poprzez potężne amerykańskie firmy technologiczne, pomimo braku oficjalnego podejścia państwa do polityki technologicznej. Chiński średnioterminowy plan standaryzacji technologii jest ostatnim przykładem państwa, które priorytetowo traktuje standardy technologiczne jako strategiczny obszar zainteresowania, podczas gdy wpływ Europy na standaryzację 2G jest dziś już zapomniany.
  • Unia Europejska musi zdać sobie sprawę, jak praktycznie ustrukturyzować swój wpływ na standardy technologiczne. Skład grup roboczych w organizacjach zajmujących się standardami technologicznymi przebiega według zupełnie innego modelu niż w demokracjach elekcyjnych. Podkreśla to znaczenie wczesnego i konsekwentnego, ale długoterminowego zaangażowania. Promowanie tego rodzaju działań wymagałoby polityki zachęcania do udziału osób lub organizacji, które są dobrze przygotowane do analizowania proponowanych standardów technologicznych z myślą o wartościach europejskich. Polityka aktywnego uczestnictwa powinna opierać się na silnym zrozumieniu funkcjonowania standardów, technologii i oceny technologii, w tym w określonych dziedzinach, takich jak bezpieczeństwo, prywatność, dostępność lub choćby szerzej, jak w przypadku praw człowieka. Taka polityka musi obejmować dostosowanie rozporządzenia 1025/2012 w sprawie normalizacji europejskiej (rozporządzenie 1025/2012).

Główny wniosek dla Europy:

„Prawdopodobnie dedykowana jednostka lub agencja ds. standardów technologicznych musi nadzorować lub prowadzić działania. Takiej agencji nie należy powierzać żadnych szczególnych zadań w zakresie egzekwowania prawa. Powinna raczej koncentrować się na nadzorze, badaniach, rozwoju, projektowaniu i koordynacji działań z państwami członkowskimi UE”


Wpływ technologii na politykę isntieje. Ale to samo dotyczy polityki – mają one wpływ na technologie. Wpływ ten opiera się na pewnych wartościach. Kluczowym pytaniem jest, jak wybrać odpowiedni zestaw wartości. To, co dzieje się w sytuacji zderzenia wartości, to inna historia.

Idź do oryginalnego materiału