„Halucynacje AI” – czyli błędne, choć brzmiące przekonująco odniesienia prawne lub informacje generowane przez narzędzia sztucznej inteligencji – coraz częściej pojawiają się w dokumentach sądowych. Ostatnie przypadki pokazują, iż choćby doświadczeni prawnicy mogą paść ofiarą tego zjawiska.

Na początku 2025 roku sąd federalny w Minnesocie odrzucił opinię eksperta dotyczącą zagrożeń związanych z dezinformacją opartą na AI, ponieważ zawierała ona nieistniejące artykuły naukowe. Sędzia zauważył przy tym ironię sytuacji – dokument ostrzegający przed sztuczną inteligencją sam został „skażony” jej błędami.

Kilka miesięcy później, w głośnej sprawie przeciwko firmie MyPillow, prawnicy reprezentujący Mike’a Lindella również padli ofiarą fałszywych cytatów. Mimo prób tłumaczenia, iż były to jedynie „robocze szkice”, sąd zdecydował się na nałożenie sankcji finansowych.

Jeszcze poważniejszy przypadek miał miejsce w Georgii, gdzie sąd apelacyjny uchylił wyrok sądu niższej instancji, ponieważ opierał się on na dwóch nieistniejących precedensach. Co gorsza, pełnomocnik jednej ze stron powoływał się później na kolejne wątpliwe źródła.

Skąd ta „halucynacja”?

Generatywna sztuczna inteligencja tworzy tekst na podstawie przewidywań językowych, a nie w oparciu o fakty. Dlatego może mieszać prawdziwe informacje z całkowicie zmyślonymi, a ich forma często brzmi tak przekonująco, iż trudno je od razu podważyć.

Narzędzia AI mają też tendencję do „potakiwania” użytkownikowi – dostarczają odpowiedzi, które wyglądają jak to, czego szuka prawnik, choćby jeżeli nie mają one oparcia w rzeczywistości. To sprawia, iż presja czasu i chęć szybkiego przygotowania dokumentów mogą prowadzić do niebezpiecznych błędów.

Jak uniknąć kłopotów?

Eksperci wskazują kilka kluczowych zasad:

1. AI to narzędzie, nie źródło. Może pomóc w tworzeniu treści i porządkowaniu argumentów, ale nie może zastąpić samodzielnie zweryfikowanych materiałów.

2. Sprawdzenie wymagań sądowych. Coraz więcej sądów wymaga ujawniania, czy w przygotowaniu dokumentów użyto AI. W razie wątpliwości lepiej ograniczyć jej wykorzystanie.

3. Sceptycyzm i weryfikacja. Każdy cytat i każdy precedens muszą zostać sprawdzone w oficjalnych bazach prawnych.

4. Procedury odpowiedzialności. Prawnicy powinni wypracować standardy pracy z AI, np. żądanie pełnych tekstów cytowanych spraw i dodatkowe etapy kontroli.

Jeden z sędziów federalnych trafnie porównał sztuczną inteligencję do piły łańcuchowej – niezwykle przydatnego narzędzia, ale potencjalnie niebezpiecznego, jeżeli korzysta się z niego bez rozwagi i ostrożności.

Sztuczna inteligencja może usprawnić pracę prawnika – przyspieszyć redakcję pism, podsunąć struktury dokumentów czy argumenty. Jednak brak weryfikacji i nadmierne zaufanie do AI mogą prowadzić do kompromitujących sytuacji, a choćby poważnych sankcji.

Kluczem do bezpiecznego korzystania z AI w prawie pozostaje świadomy nadzór człowieka. AI powinna być jedynie wsparciem, a nie zastępstwem dla wiedzy, odpowiedzialności i profesjonalizmu prawnika.

Źródło: reuters.com

Wyszukując oferty, stawiam na te najbardziej opłacalne. Wybierając poniższe usługi, wspierasz blog.

Wirtualne numery SIM – z tym numerem założysz konto i zdobędziesz zniżki za pierwsze zamówienie na UberEats czy pyszne.[l