Pierwsza ustawa dotycząca sztucznej inteligencji na świecie – Unia Europejska dochodzi do wstępnego porozumienia w sprawie projektu ustawy dotyczącej AI. Liliana Kotval

Pierwsza tego rodzaju propozycja ustawodawcza na świecie – akt dotyczący sztucznej inteligencji Unii Europejskiej – został po raz pierwszy przedstawiony przez Komisję Europejską w kwietniu 2021 roku. 9 grudnia, niemal 3 lata później, wypracowano porozumienie w sprawie projektu ustawy. Konsensus osiągnięto po 3-dniowych rozmowach między prezydencją Rady Unii Europejskiej, sprawowaną przez Hiszpanię do końca tego roku, a negocjatorami Parlamentu Europejskiego. W ramach porozumienia postanowiono, iż systemy AI dostępne na europejskim rynku i używane w całej UE będą funkcjonować w oparciu o poszanowanie praw podstawowych oraz wartości UE. Jednocześnie Unii zależy na pobudzaniu inwestycji i innowacji w dziedzinie sztucznej inteligencji w Europie. Carme Artigas, hiszpańska sekretarz stanu ds. cyfryzacji i sztucznej inteligencji, stwierdziła:

„To historyczne osiągnięcie i kamień milowy na drodze ku przyszłości! Dzisiejsze porozumienie skutecznie odpowiada na globalne wyzwanie gwałtownie ewoluującego środowiska technologicznego w kluczowym obszarze dla przyszłości społeczeństw i gospodarek”.

Ustawa będzie oparta na koncepcji zorientowanej na ryzyko, co oznacza podejście: im wyższe ryzyko, tym surowsze zasady. Pewne obszary działania sztucznej inteligencji uznane za nieakceptowalne pod względem ryzyka (takie jak manipulacja behawioralna, rozpoznawanie emocji, ocena społeczna, kategoryzacja biometryczna, przewidywanie przestępczości) zostaną całkowicie zakazane w UE. Najważniejsze nowe elementy tymczasowego porozumienia to:

• Lepsza ochrona praw użytkowników poprzez zobowiązanie podmiotów wdrażających systemy AI wysokiego ryzyka do przeprowadzenia oceny wpływu na podstawowe prawa przed ich udostępnieniem;
• Rozszerzenie listy zakazów, jednak z możliwością stosowania zdalnej identyfikacji biometrycznej przez organy ścigania w przestrzeni publicznej;
• Zmieniony system zarządzania z uprawnieniami wykonawczymi na poziomie UE;
• Zasady dotyczące modeli sztucznej inteligencji ogólnego przeznaczenia o wysokim wpływie, które mogą stanowić ryzyko systemowe w przyszłości.

Ponadto tymczasowe porozumienie wyjaśnia, iż nowe przepisy nie mają zastosowania do obszarów wykraczających poza zakres prawa UE i nie wpływają, ani nie są w stanie zastąpić w pełni indywidualnych systemów bezpieczeństwa narodowego. Akt dotyczący sztucznej inteligencji nie będzie dotyczył systemów stosowanych wyłącznie do celów wojskowych lub obronnych oraz używanych do badań naukowych i innowacji. Przepisy, dotyczące wykorzystania sztucznej inteligencji przez organy ścigania jako narzędzia niezbędnego do zapewnienia ochrony, należą do wyjątków. Prawa podstawowe będą jednak wciąż chronione przed wszelkim nadużyciem ze strony systemów sztucznej inteligencji, używanych przez organy ścigania.

Struktura zarządzania została zaprojektowana w taki sposób, aby egzekwować przepisy na poziomie UE w Biurze ds. sztucznej inteligencji w ramach Komisji UE. Biuro będzie nadzorować najbardziej zaawansowane modele AI, przyczyniać się do promowania standardów i praktyk ich testowania oraz egzekwować wspólne zasady we wszystkich państwach członkowskich. Panel naukowy niezależnych ekspertów będzie doradzał członkom Biura ds. sztucznej inteligencji. Dodatkowo, Rada ds. sztucznej inteligencji, w której zasiadać będą przedstawiciele państw członkowskich, stanie się platformą koordynacyjną i organem doradczym dla Komisji UE. Za dostarczanie Radzie specjalistycznej wiedzy, odpowiadać będzie forum doradcze, obejmujące przedstawicieli przemysłu, małych i średnich przedsiębiorstw, start-upów, społeczeństwa obywatelskiego i środowiska akademickiego.

Podmioty, które naruszą uzgodnione warunki Aktu ds. sztucznej inteligencji, zostaną ukarane finansowo. Kary za złamanie prawa zostały obliczone na podstawie procentu globalnych rocznych przychodów podmiotu z poprzedniego roku finansowego lub określonej kwoty, zależnie od tego, która jest wyższa. W zależności od skali i rodzaju naruszeń, kary finansowe będą następujące:

• 35 mln euro lub 7% przychodów za naruszenia zakazu użycia wybranych narzędzi sztucznej inteligencji
• 15 mln euro lub 3% przychodów za naruszenia obowiązków wynikających z Aktu dotyczącego sztucznej inteligencji
• 7,5 mln euro lub 1,5% przychodów za dostarczenie błędnych informacji użytkownikom i organom UE

Osoba fizyczna lub prawna może również złożyć skargę do organu nadzoru rynku w przypadku niewywiązania się z Aktu.

Jakie są następne kroki na drodze uchwalenia Aktu? Wstępne porozumienie powinno wejść w życie 2 lata po jego przyjęciu, co nastąpi w 2026 roku. W nadchodzących tygodniach kontynuowane będą dalsze prace i konsultacje na poziomie technicznym. Następnie hiszpańska prezydencja przedstawi przygotowany tekst ustawy przedstawicielom państw członkowskich w celu zatwierdzenia. Wszystkie strony będą musiały potwierdzić cały proponowany tekst przed formalnym przyjęciem aktu przez unijnych współustawodawców.

Źródła:

1. “Artificial Intelligence Act: Council and Parliament Strike a Deal on the First Rules for AI in the World”, European Council, 09 December 2023, https://www.consilium.europa.eu/en/press/press-releases/2023/12/09/artificial-intelligence-act-council-and-parliament-strike-a-deal-on-the-first-worldwide-rules-for-ai/