UNIA EUROPEJSKA PRZYJMUJE PRZEŁOMOWE ROZPORZĄDZENIE DOTYCZĄCE SZTUCZNEJ INTELIGENCJI: CO NALEŻY WIEDZIEĆ

Dnia 9 grudnia 2023 roku negocjatorzy Parlamentu Europejskiego i prezydencji Rady Unii Europejskiej osiągnęli porozumienie w sprawie ostatecznej wersji tego, co jest uważane za pierwszą na świecie kompleksową ramę prawną dla Sztucznej Inteligencji: "Rozporządzenie Parlamentu Europejskiego i Rady ustanawiające ujednolicone przepisy dotyczące sztucznej inteligencji i zmieniające niektóre akty prawne Unii" lub krótko "Rozporządzenie UE w sprawie SI".

Ustawa zakazuje używania systemów SI, które stanowią "niedopuszczalne ryzyko" w Unii Europejskiej. W innych przypadkach określa różne obowiązki dla systemów SI, które są sklasyfikowane jako "wysokie ryzyko" lub "ograniczone ryzyko".

Osiągnięto również porozumienie w sprawie regulacji tak zwanych modeli podstawowych, w tym środków mających na celu zapewnienie zgodności z europejskim prawem autorskim, wymogów dotyczących publikowania szczegółowych streszczeń treści wykorzystywanych do szkolenia tych systemów oraz tworzenia dokumentacji technicznej związanej z wykorzystaniem modeli.

Kto podlega regulacji?

Prawo ma zastosowanie zarówno do dostawców, jak i użytkowników systemów SI, które są wykorzystywane w UE lub mają wpływ na UE. Siedziba dostawcy nie ma znaczenia. W związku z tym rozporządzenie UE w sprawie sztucznej inteligencji ma również wpływ na dostawców lub użytkowników systemów sztucznej inteligencji w państwach trzecich, takich jak Stany Zjednoczone, pod warunkiem, że dane wyjściowe systemu są wykorzystywane w UE.

Jakie systemy SI obejmuje ustawa?

System sztucznej inteligencji to system oparty na maszynach, który na podstawie otrzymanych danych generuje dane wyjściowe, takie jak prognozy, treści, rekomendacje lub decyzje, które mogą wpływać na środowisko fizyczne lub wirtualne.

Ustawa nie dotyczy systemów SI:

• używanych wyłącznie do celów wojskowych lub obronnych;
• używanych wyłącznie do celów badawczych i innowacyjnych; oraz
• używanych przez osoby w celach niezawodowych.

Rozporządzenie UE w sprawie sztucznej inteligencji obejmuje niektóre zastosowania, w tym systemy sztucznej inteligencji do rozpoznawania emocji w miejscu pracy, pozyskiwania obrazów twarzy z Internetu lub nagrań CCTV w celu tworzenia baz danych rozpoznawania twarzy. Wykorzystanie systemów sztucznej inteligencji do zdalnej identyfikacji biometrycznej w miejscach publicznych będzie dozwolone tylko wtedy, gdy będzie to konieczne do celów egzekwowania prawa. Należy jednak wprowadzić zabezpieczenia, aby zapewnić, że systemy te będą wykorzystywane wyłącznie do wyszukiwania osób podejrzanych o poważne przestępstwa.

Jakie wymagania nakłada rozporządzenie?

Wymogi dotyczące audytu i bezpieczeństwa zależą od poziomu ryzyka stwarzanego przez system sztucznej inteligencji dla jego użytkowników i innych stron, na które system ma wpływ. Podczas gdy aplikacje SI, które stwarzają niedopuszczalne ryzyko, są zabronione, systemy SI o ograniczonym ryzyku podlegają mniejszym obowiązkom w zakresie transparentności, takim jak powiadamianie użytkowników, że treści, z których korzystają, zostały wygenerowane przez SI.

Systemy SI o wysokim ryzyku podlegają bardziej rygorystycznym wymaganiom i obowiązkom, takim jak obowiązkowe oceny skutków ryzyka, szczególnie w kontekście przestrzegania praw podstawowych. Ponadto systemy o wysokim ryzyku muszą przejść proces zatwierdzenia. Użytkownicy mają prawo otrzymać wyjaśnienia dotyczące decyzji opartych na systemach SI o wysokim ryzyku, które wpływają na ich prawa.

Jakie sankcje grożą za nieprzestrzeganie przepisów?

Podobnie jak w przypadku obliczania kar pieniężnych zgodnie z europejskim ogólnym rozporządzeniem o ochronie danych, kary pieniężne za naruszenia prawa są obliczane jako procent całkowitego rocznego obrotu strony odpowiedzialnej w poprzednim roku obrotowym lub jako stała kwota, w zależności od tego, która z nich jest wyższa:

• 35 milionów euro lub 7% za naruszenia związane z użyciem zakazanych aplikacji SI;
• 15 milionów euro lub 3% za naruszenia obowiązków wynikających z ustawy; oraz
• 7,5 miliona euro lub 1,5% za dostarczanie fałszywych informacji.

Jednak wprowadzone zostaną proporcjonalne górne limity kar pieniężnych dla małych i średnich przedsiębiorstw oraz start-upów. Obywatele mogą składać skargi dotyczące korzystania z systemów SI, które ich dotyczą.

Kiedy rozporządzenie zacznie obowiązywać?

Obecnie trwają prace nad technicznym dopracowaniem rozporządzenia, które następnie zostanie przedłożone przedstawicielom państw członkowskich UE do zatwierdzenia. Co do zasady, ustawa powinna obowiązywać dwa lata po jej wejściu w życie, choć niektóre postanowienia wejdą w życie w późniejszym terminie. Wynika to z faktu, że szczegółowe kwestie wymagają jeszcze doprecyzowania, dlatego też całkiem prawdopodobne jest, że ustawa wejdzie w życie w 2026 roku.