Cześć Magda! Przyznaj się, co w ostatnim czasie pochłania najwięcej Twojego wolnego czasu?
“Kajcik”, czyli mój ukochany kitesurfing. Sezon w pełni, więc każdą wolną chwilę staram się spędzać na wodzie, w pogoni za wiatrem, falkami i słońcem. A iż mieszkam w Gdyni, to zdarzają się i szybkie wypady po pracy i weekendowe plażowanie.
Pracujesz na styku IT, nowych technologii i prawa. Powiedz proszę jakie są najczęstsze błędy, które firmy i startupy z branży IT popełniają w kwestiach prawnych, i jak można ich uniknąć?
Oj zdecydowanie mam kilku faworytów. Numer jeden, przychodzenie do prawnika czy doradcy podatkowego dopiero wtedy, gdy już się pali, zamiast zaangażować nas w temat od samego początku tak, abyśmy mogli zdusić ogień w zarodku. Na drugim miejscu, wzorki umów od “Wujka Google”, nic to, iż często na prawie amerykańskim czy brytyjskim, zupełnie nieadekwatnym do europejskiego. No i podium zamyka - “w sumie to jesteśmy już po testach i jutro wydajemy na produkcję, więc może przygotuj nam jakąś umowę, bo chcielibyśmy zafakturować”.
Czy Twoje nietypowe podejście do prawa kiedykolwiek spotkało się z oporem ze strony klientów lub innych prawników? Jak sobie z tym radzisz?
Współpracuję z branżą IT, w której szybki, bezpośredni kontakt to podstawa, więc klienci raczej doceniają to, iż jestem w stanie dać “okejkę” na Slacku zamiast pisać opasłe maile ze wszystkimi prawniczymi abrakadabra i łacińskimi paremiami. A fakt, iż poznałam tę branżę od kuchni, dzięki ukończonym podyplomówkom i kursom, w tym z zakresu programowania. To wszystko bardziej ułatwia mi włączanie się w negocjowanie na przykład złożonych parametrów SLA. Co do innych prawników - to już trochę inny temat. Niektórzy pewnie uważają, iż powinniśmy bronić “należnych nam mecenasowskich honorów” i nie spoufalać się zbytnio z klientami, ale wydaje mi się, iż na rynku znajdzie się miejsce dla jednych i drugich - ważne, aby być spójnym ze sobą samym.
Jak widzisz przyszłość prawa w kontekście nowych technologii? Czy są jakieś nadchodzące zmiany, na które powinniśmy zwrócić uwagę?
Prawo zawsze podąża za technologią, nigdy na odwrót. I zwykle nie udaje mu się nadążyć na czas, co nie dziwi, biorąc pod uwagę jakiego przyspieszenia nabrał ostatnimi laty rozwój nowych technologii. Regulacji przybywa - zaczęło się od głośnego RODO, na horyzoncie mamy AI Act, równocześnie realizowane są prace nad Data Act, który w odróżnieniu od RODO, dotyczy danych nieosobowych, wykorzystywanych przez IoT, i Data Governance Act, który tworzy ramy sprzyjające nowemu modelowi biznesowemu – usługom pośrednictwa w udostępnianiu danych, sektor finansowy ma DORĘ - generalnie… nie ma nudy.
Czy uważasz, iż prawnicy mogą kiedyś zostać zastąpieni przez AI? Czy nie boisz się, iż Twoja praca stanie się zbędna, a zbędne regulacje w zakresie algorytmów sprawią, iż innowacje w branży zostaną “zabite”?
Nie - i nie. Choć oczywiście wśród najczęściej wyszukiwanych zawodów na “willrobotstakemyjob” znajduje się prawnik, to jednak jestem spokojna, a to dlatego, iż w swojej pracy nie robię rzeczy powtarzalnych. Każdy case, którym się zajmuję, wymaga cech, których AI nie ma i mieć nie będzie - przynajmniej nie w perspektywie najbliższych lat, takich jak:
wnikliwość - dobry prawnik po wysłuchaniu problemu i zadaniu klientowi 10 dodatkowych pytań prawdopowodobnie odpowie na koniec na zupełnie inne pytanie niż to, z którym przyszedł klient. AI się nie upewni, tylko wyrzuci odpowiedź na zadany prompt;
empatia - znam obawy i rozumiem potrzeby moich klientów, wiem, iż biznes finalnie potrzebuje rekomendacji “tak” lub “nie” ze wskazaniem potencjalnych ryzyk, które ułatwią podjęcie decyzji;
odpowiedzialność - od AI ciężko wyegzekwować, by “przejęła się” skutkami swoich działań w rozumieniu takim, jakiego można oczekiwać od człowieka. Temat odpowiedzialności za działania AI rozgrzewa prawników od długiego czasu i dyskusja ta na pewno gwałtownie się nie skończy.
I wypadkowa wszystkich powyższych - zaufanie - prawnik nie bez powodu należy do zawodów zaufania publicznego, chronionych tajemnicą zawodową, podczas gdy do ochrony danych wprowadzanych do narzędzi AI-owych można mieć wiele zastrzeżeń.
Więc póki co, to ja chętnie “daję pracę” AI - angażując moich wirtualnych asystentów w prosty research czy generowanie treści do komunikacji z klientami, a nie obawiam się tego, iż mi ją odbierze.
Jakie są największe wyzwania i korzyści związane z implementacją AI w procesach prawnych? Czy to przyszłość, czy tylko chwilowa moda?
Wyzwania dotyczą zabezpieczenia poufności i wiarygodności informacji uzyskiwanych przy użyciu narzędzi AI-owych. Na pewno nie użyłabym ChatGPT do analizy sprawy klienta, wrzucając tam jej opis wraz ze wszystkimi wrażliwymi danymi, jak dane osobowe, stawki i warunki kontraktu i tym podobne. Podobnie, znając mechanizm trenowania i działania takiego modelu, nie polegałabym na dokonanej przez niego analizie. Nieraz podczas testów przygotowywał nam bardzo merytoryczne streszczenia… nieistniejących case’ów.
Ale już na przykład do generowania ciekawych ogłoszeń o pracę, postów marketingowych, czy komunikacji do klientów, bardzo chętnie go używamy. Do najbliższej serii postów planujemy wykorzystać obrazy wygenerowane przez Midjourney. Więc chwilowa moda - nie, ale przez cały czas trzeba zachować sporą ostrożność i zapewnić weryfikację “ludzkim okiem”.
Jakie są Twoje myśli na temat AI Act tworzonego przez UE? Czy uważasz, iż to krok we adekwatnym kierunku, czy raczej niepotrzebna biurokracja? I przede wszystkim, jakie wyzwania te regulacje stworzą dla Twojej firmy?
AI Act to pierwsza na świecie próba tak kompleksowego na dodatek skodyfikowania zasad działania sztucznej inteligencji. Nic więc dziwnego, iż prace nad nim realizowane są tak długo. Na pewno jest to bardzo potrzebna regulacja, bo bez niej biznes i my wszyscy jesteśmy narażeni na niepewność regulacyjną, przez którą organy krajowe podejmują ad-hoc’owe działania, a prawnicy muszą sporo się namęczyć próbując odpowiedzieć klientowi na pytanie, jak być compliant - gdy w sumie nie ma z czym.
Natomiast to, co budzi moje największe obawy, to praktyczna implementacja i przede wszystkim możliwość realnego egzekwowania nałożonych tam na dostawców systemów wymogów. Przykładowo w odniesieniu do generatywnej SI - dostawcy takich rozwiązań mają mieć obowiązek publikować podsumowanie tego, na jakich danych trenowany był model. Cel oczywiście słuszny - próba ochrony praw autorskich do dzieł, którymi karmione są te modele na etapie ich trenowania. Tylko jak w praktyce zweryfikować, czy dostawca rzetelnie podał wszystkie źródła, z których korzystał? Podobnie wymogi w zakresie przejrzystości modeli - tym trudniejsze to spełnienia, im bardziej złożony model. To problem black box AI.
Wyzwaniem dla nas będzie więc przełożenie tych nowych regulacji na biznes naszych klientów, by jednocześnie nie narażać ich na ryzyko niezgodności i z drugiej strony nie zablokować go wymogami nie do spełnienia, jednocześnie uwzględniając różny apetyt na ryzyko każdej organizacji.
Czy obecne prawo autorskie jest wystarczająco elastyczne, aby poradzić sobie z wyzwaniami stawianymi przez AI? Jak sztuczna inteligencja wpływa na koncepcję praw autorskich?
To w sumie temat rzeka - i mój konik zarazem, więc w zasadzie temat na osobną rozmowę.
Bo jak mówimy o prawach autorskich w kontekście AI, to możemy spojrzeć na nie od strony:
tego, czym karmimy model na etapie jego trenowania, czyli web scraping i web crawling a dozwolony użytek utworów - ang. fair use;
promptów jako utworów - wytworu działania AI. W efekcie wprowadzonego przez człowieka prompta. Tu powstają pytania typu: czyj to adekwatnie utwór? czy możemy mówić o współautorstwie? a co jeżeli efektem będzie plagiat? kto za to odpowie?
Póki co dostawcy jak Open AI czy Midjourney przenosi na użytkowników prawa do wygenerowanych utworów “w najszerszym możliwym zakresie” i o ile przestrzegamy warunków licencji, korzystając z wersji płatnej na przykład w przypadku komercyjnego użytku obrazów, to się o nie nie upomina, ale wątpliwe są już oświadczenia twórców, iż stworzyli utwór samodzielnie i przysługuje mu pełnia praw do całości...
Jakie są główne wyzwania etyczne związane z AI w prawie? Czy istnieją jasne wytyczne, których prawnicy powinni przestrzegać?
Nie ma żadnych wytycznych, więc wszystko pozostaje kwestią sumienia nas samych. Dla mnie priorytetem jest poufność i zaufanie moich klientów - i tym się przede wszystkim kieruję decydując, jaki obszar zadań mogę delegować na mojego AI-asystenta.
I na koniec zadam pytanie nieco na przekór… czy Twoim zdaniem ulga B+R faktycznie wspiera innowacje, czy jest tylko narzędziem do unikania podatków?
Unikania? Nigdy w życiu! Ulga działa w sposób pośredni - generuje oszczędności podatkowe, które zdecydowanie poszerzają możliwości inwestycyjne. Jednocześnie, wizja kolejnego korzystania z ulgi motywuje do zwiększenia inwestycji w innowacyjne projekty. Czyli generalnie win-win. Niższy podatek równa się więcej środków na inwestycje, które też finalnie zmniejszą podatek…
Dzięki wielkie za rozmowę!
Jeśli doceniasz to co robię i chcesz wesprzeć moje działania - to chodźmy na wirtualną kawkę. Dzięki za każde wsparcie! - https://bit.ly/wirtualnakawa ☕
