Wraz z dynamicznym rozwojem sztucznej inteligencji i algorytmów podejmujących decyzje w czasie rzeczywistym, coraz częściej stajemy przed pytaniem, czy systemy sztucznej inteligencji mogą naruszać prawo. Sztuczna inteligencja (AI) w obecnej rzeczywistości stanowi nieodłączny element w różnych sektorach naszego życia. Algorytmy są dziś wykorzystywane w bankowości, opiece zdrowotnej, transporcie czy sektorze publicznym. Od autonomicznych pojazdów po systemy kredytowe decyzje podejmowane przez AI mają realny wpływ na życie każdego z nas. Pojawia się więc istotne pytanie: kto ponosi odpowiedzialność gdy te decyzję są błędne, niesprawiedliwe lub prowadzące do naruszenia prawa?
Zgodnie z obowiązującym prawem cywilnym w Polsce i UE, każdy nosiciel prawa musi być podmiotem – osobą fizyczną, prawną lub jednostką organizacyjną mającą zdolność prawną. Sztucznej inteligencji nie przypisano osobowości prawnej, co oznacza, iż nie występuje ona jako odrębny podmiot w obrocie gospodarczym. Z tego względu nie może być ona uznana za twórcę, właściciela, stronę umowy czy sprawcę szkody. Choć same algorytmy nie są podmiotami prawa i nie mogą być karane w tradycyjnym sensie, to ich błędne działanie może skutkować poważnymi konsekwencjami dla osób i instytucji.
W kontekście odpowiedzialności za działanie systemów sztucznej inteligencji kluczową rolę odgrywa tzw. operator, czyli podmiot mający realny wpływ na funkcjonowanie technologii. Regulacje wyróżniają dwa typy operatorów: „front-end” oraz „back-end”, z których każdy odpowiada za inny etap kontroli nad systemem AI.
Operatorem front-end można nazwać ten podmiot, który korzysta z systemu AI w praktyce, zarządza jego bieżącym użyciem i podejmuje działania związane z ryzykiem jego stosowania. To właśnie ten operator uzyskuje konkretną korzyść z funkcjonowania sztucznej inteligencji, a jednocześnie ma wpływ na sposób, w jaki jest ona wykorzystywana.
Z kolei operator back-end to podmiot odpowiedzialny za technologiczne „zaplecze” AI, dostarcza infrastrukturę, dane, aktualizacje oraz wsparcie niezbędne do prawidłowego działania systemu. To właśnie on kształtuje parametry i adekwatności rozwiązania, a przez to również oddziałuje na poziom ryzyka związanego z jego funkcjonowaniem.
Co istotne, kontrola nad systemem sztucznej inteligencji nie sprowadza się wyłącznie do samego momentu jej użycia. Obejmuje także takie elementy jak wprowadzanie i przygotowanie danych, konfigurację ustawień, odbieranie wyników działania systemu czy ingerencję w jego parametry. Każdy z tych etapów może wpływać na końcowy efekt działania AI, a tym samym na zakres odpowiedzialności operatora.
W świetle obecnych regulacji jak już zostało wskazane wcześniej, odpowiedzialność za szkody wyrządzone przez systemy sztucznej inteligencji spoczywa nie na samej technologii, ale na ludziach i podmiotach prawnych, którzy sprawują nad nią kontrolę. Zgodnie z europejskim podejściem, odpowiedzialność ponoszą osoby lub podmioty określone zbiorczo jako operatorzy zarówno ci, którzy korzystają z systemu AI w praktyce (operatorzy front-end), jak i ci, którzy dostarczają dane, technologię i zaplecze niezbędne do działania systemu (operatorzy back-end).
Odpowiedzialność ta może być oparta na dwóch następujących zasadach:
– Zasada Winy: Ma zastosowanie, gdy szkodę spowodowano przez brak należytej staranności, zaniedbanie lub celowe działanie. Jest to najczęstsza podstawa odpowiedzialności za błędy AI, które można przypisać ludzkiemu działaniu lub zaniechaniu. Znajduje ona zastosowanie w przypadku większości szkód wyrządzonych przez systemy AI o niższym stopniu autonomii. Jednocześnie operator może uwolnić się od odpowiedzialności, o ile wykaże, iż szkoda wynikła z okoliczności całkowicie od niego niezależnych – działania osoby trzeciej, siły wyższej lub samego poszkodowanego.
– Zasada Ryzyka: Odpowiedzialność niezależna od winy, która ma zastosowanie w przypadku prowadzenia działalności stwarzającej podwyższone ryzyko. Ten model stosuje się przede wszystkim w odniesieniu do systemów AI zaklasyfikowanych jako wysokiego ryzyka takich, których autonomiczne działanie może prowadzić do poważnych, trudnych do przewidzenia szkód. W tych przypadkach odpowiedzialność wynika z samego faktu korzystania z niebezpiecznej technologii, niezależnie od staranności operatora. Dotyczy to zwłaszcza technologii wykorzystywanych w sektorach infrastruktury krytycznej, np. w autonomicznych pojazdach, robotyce medycznej, lotnictwie bezzałogowym czy zaawansowanych systemach zarządzania ruchem.
W Unii Europejskiej coraz większe znaczenie w tym zakresie zyskuje AI Act, czyli Akt o Sztucznej Inteligencji, który wprowadza system klasyfikacji ryzyka AI i nakłada obowiązki zarówno na twórców, jak i użytkowników systemów. Systemy wysokiego ryzyka takie jak te stosowane w medycynie, transporcie autonomicznym czy rekrutacji podlegają rygorystycznym wymaganiom dotyczącym jakości danych, przejrzystości, audytowalności i human oversight. Niedopełnienie tych obowiązków może prowadzić do odpowiedzialności cywilnej oraz wysokich sankcji administracyjnych, w tym kar finansowych sięgających milionów euro lub procentu rocznego obrotu firmy.
Jednym z podstawowych narzędzi ograniczających ryzyko błędów systemów AI jest human oversight, czyli nadzór człowieka nad działaniem algorytmów. Mechanizm ten pozwala operatorom interweniować w przypadku wykrycia nieprawidłowości, wstrzymać lub zmienić decyzję AI, a także zapewnia ścieżkę audytową, która może być wykorzystana w postępowaniach dowodowych. Human oversight nie jest jedynie formalnym wymogiem prawnym stanowi praktyczne narzędzie ochrony przed poważnymi konsekwencjami błędów algorytmicznych, a także buduje zaufanie społeczne do technologii.
Równie istotne są mechanizmy rejestrowania działania systemów AI. Logowanie decyzji, danych wejściowych i parametrów modelu pozwala odtworzyć proces decyzyjny, zidentyfikować źródło błędu i dostarcza niezbędnych materiałów dowodowych w przypadku roszczeń lub audytów. W praktyce prowadzenie rzetelnej dokumentacji, w połączeniu z systemem nadzoru człowieka, znacząco zmniejsza ryzyko odpowiedzialności prawnej i finansowej dla podmiotów korzystających z AI.
Podsumowując, algorytm sam w sobie nie łamie prawa, ale jego błędne działanie może prowadzić do naruszenia przepisów, a w konsekwencji do odpowiedzialności cywilnej, administracyjnej i finansowej firm oraz twórców. Współczesne regulacje, w tym AI Act, nakładają na wszystkie podmioty łańcucha wartości AI obowiązek staranności, przejrzystości i monitorowania działania systemów, zwłaszcza tych wysokiego ryzyka. Odpowiedzialne projektowanie, wdrażanie i nadzorowanie AI staje się nie tylko wymogiem prawnym, ale również warunkiem zaufania użytkowników i stabilności funkcjonowania nowych technologii w społeczeństwie.