Gdy zawodzi sztuczna inteligencja, technologia nie staje przed sądem, a prokurator czy organ nadzorczy nie wezwą na przesłuchanie serwera. W cyfrowym świecie nie ma bezpańskich błędów – odpowiedzialność za skutki wykorzystania AI ostatecznie ponosi konkretny podmiot. Pytanie tylko: firma, pracownik, który nacisnął „Enter”, czy dostawca technologii, który obiecywał rewolucję bez ryzyka?
Odpowiedzialność dostawcy oprogramowania: co naprawdę gwarantuje twórca AI?
Intuicja podpowiada, iż za wadliwe działanie narzędzia powinien odpowiadać jego producent. W rzeczywistości prawnej technologii AI sprawa jest bardziej skomplikowana. Dostawcy systemów opartych na sztucznej inteligencji często ograniczają w umowach SaaS oraz regulaminach gwarancje dotyczące poprawności wyników generowanych przez AI i wskazują na konieczność ich weryfikacji przez użytkownika. Ponadto w umowach B2B stosuje się ograniczenia odpowiedzialności odszkodowawczej dostawcy do wysokości kwoty opłat z ostatnich miesięcy subskrypcji.
Jeśli jednak system został wdrożony na zamówienie (dedykowane oprogramowanie AI), najważniejsze stają się zapisy SLA (Service Level Agreement) oraz precyzyjne kryteria odbioru technicznego. o ile dostawca zagwarantował określone parametry działania systemu lub jego zgodność z wymaganiami prawnymi (np. RODO), naruszenie tych zobowiązań może rodzić odpowiedzialność kontraktową.
Zrozumienie zawiłości umów wdrożeniowych wymaga profesjonalnego wsparcia. W takich sytuacjach kancelaria adwokacka z Bielska-Białej Faber Legal analizuje i negocjuje umowy z dostawcami IT, chroniąc klientów przed jednostronnym ryzykiem. Rzetelny audyt umów technologicznych przeprowadzony przez kancelarię adwokacką pozwala firmom uniknąć pułapek odpowiedzialności za błędy dostawców zewnętrznych.
Pracownik przy klawiaturze: kiedy podwładny odpowiada za pomyłkę algorytmu?
Wielu pracodawców zakłada, iż za bezrefleksyjne kopiowanie błędnych danych z AI pracownik powinien ponieść konsekwencje finansowe. W polskim prawie pracy kwestię tę reguluje Kodeks pracy, chroniący zatrudnionych na umowę o pracę.
Jeżeli pracownik wskutek niewykonania lub nienależytego wykonania obowiązków pracowniczych wyrządzi pracodawcy szkodę z winy nieumyślnej, odszkodowanie jest co do zasady ograniczone do wysokości trzymiesięcznego wynagrodzenia pracownika. choćby więc niedbała weryfikacja wyników AI nie oznacza automatycznie obowiązku pokrycia przez pracownika pełnej szkody. W przypadku winy umyślnej pracownik odpowiada natomiast za szkodę w pełnej wysokości. Inaczej może wyglądać odpowiedzialność przy współpracy B2B czy umowach cywilnoprawnych, gdzie zakres odpowiedzialności zależy m.in. od treści umowy i przepisów Kodeksu cywilnego.
Brak wdrożonych zasad korzystania z AI może zwiększać ekspozycję organizacji na błędy i ich konsekwencje. Dzięki procedurom przygotowanym przez prawnika IT organizacja może ograniczyć ryzyko błędów personelu i jasno określić zasady korzystania z AI oraz weryfikacji jego wyników.
Firma na pierwszej linii ognia: kiedy przedsiębiorstwo płaci za błędy AI?
W relacji z klientem lub kontrahentem punktem wyjścia jest odpowiedzialność podmiotu, który wykonuje umowę lub świadczy usługę z wykorzystaniem AI. Sam fakt, iż przyczyną błędu było działanie narzędzia AI, nie przenosi automatycznie odpowiedzialności na jego dostawcę. o ile natomiast szkoda została wyrządzona przy wykonywaniu powierzonej czynności przez osobę podlegającą kierownictwu przedsiębiorcy, w określonych przypadkach zastosowanie może znaleźć art. 430 Kodeksu cywilnego.
W praktyce, o ile wykorzystanie AI doprowadzi np. do błędu w wycenie, naruszenia praw autorskich lub ujawnienia tajemnicy przedsiębiorstwa, odpowiedzialność firmy będzie zależała od podstawy prawnej, okoliczności zdarzenia oraz treści zawartych umów. Nie wyklucza to równoległej odpowiedzialności dostawcy systemu AI. Na gruncie RODO zakres odpowiedzialności zależy od roli poszczególnych podmiotów. Firma korzystająca z AI jako administrator danych odpowiada za realizację obowiązków przypisanych administratorowi, natomiast dostawca systemu działający jako podmiot przetwarzający również ma własne obowiązki i może ponosić odpowiedzialność za ich naruszenie.
Dodatkowe obowiązki może nakładać AI Act. Ich zakres zależy m.in. od roli przedsiębiorstwa, sposobu wykorzystania AI oraz kategorii danego systemu. W odniesieniu do systemów wysokiego ryzyka przepisy przewidują m.in. obowiązki związane z monitorowaniem ich działania i zapewnieniem odpowiedniego nadzoru ludzkiego.
I tu pojawia się najważniejsze wyzwanie, bo bezpieczne nawigowanie po tak gęstej sieci przepisów unijnych i krajowych wymaga specjalistycznej wiedzy. Doświadczony prawnik nowych technologii pomaga przedsiębiorstwu zidentyfikować obowiązki dotyczące wykorzystania AI i ograniczyć ryzyko prawne, m.in. poprzez audyt narzędzi i procedur. Dzięki takiemu wsparciu firma może zweryfikować zgodność stosowanych narzędzi, uporządkować procedury nadzoru i ograniczyć ryzyko roszczeń.
Jak zabezpieczyć firmę przed skutkami błędów sztucznej inteligencji?
Rozwój technologii nie wymaga rezygnacji z AI, ale świadomego zarządzania ryzykiem. Aby uchronić organizację przed pomyłkami algorytmów, warto wdrożyć trzy najważniejsze kroki:
Wdrożenie AI Policy: zasady dotyczące wprowadzania danych osobowych i tajemnic przedsiębiorstwa do zewnętrznych narzędzi AI, w tym zakaz korzystania w tym celu z niezatwierdzonych narzędzi.
Rewizja umów B2B i wdrożeniowych: negocjowanie umów z dostawcami pod kątem gwarancji jakości, procedur awaryjnych oraz podziału odpowiedzialności za wady oprogramowania.
Zasada ludzkiego nadzoru: określenie procesów, w których wyniki generowane przez AI wymagają weryfikacji lub zatwierdzenia przez człowieka, w szczególności gdy mogą wywoływać istotne skutki biznesowe, prawne lub finansowe.
Sztuczna inteligencja to narzędzie o wielkim potencjale, ale sama nie ponosi odpowiedzialności prawnej za skutki swojego działania. W zależności od okoliczności odpowiedzialność może obciążać firmę korzystającą z AI, pracownika lub dostawcę systemu. Dobrze skonstruowane umowy i jasne procedury wewnętrzne pomagają jednak ograniczyć ryzyko kosztownych konsekwencji błędów systemów AI.
