Sztuczna inteligencja jest obecnie stałym towarzyszem w codziennym życiu firm i osób prywatnych. Dzięki rozporządzeniu UE w sprawie sztucznej inteligencji (rozporządzenie w sprawie sztucznej inteligencji) istnieje teraz również podstawa prawna regulująca wykorzystanie sztucznej inteligencji. Rozporządzenie to jest (pierwszym na świecie) kompleksowym zestawem przepisów regulujących sztuczną inteligencję (AI) i oficjalnie obowiązuje od 1 sierpnia 2024 roku. W poniższym artykule chcielibyśmy przedstawić wstępny, pobieżny przegląd tematu:
Większość wymogów Rozporządzenia AI będzie miała zastosowanie dopiero po upływie okresu przejściowego od 2 sierpnia 2026 r., z następującymi wyjątkami:
- Rozdziały I i II będą miały zastosowanie od 2 lutego 2025 r;
- Rozdział III sekcja 4, rozdział V, rozdział VII i rozdział XII oraz art. 78 stosuje się od dnia 2 sierpnia 2025 r., z wyjątkiem art. 101;
Rozdziały I i II rozporządzenia AI, które będą stosowane od 2 lutego 2025 r., zawierają kluczowe przepisy dotyczące regulacji sztucznej inteligencji. Celem rozporządzenia jest stworzenie jednolitych standardów rozwoju i wykorzystania systemów sztucznej inteligencji w całej Europie, aby zapewnić ich bezpieczeństwo, przejrzystość i uczciwość. W szczególności rozporządzenie w sprawie sztucznej inteligencji wprowadza nowe obowiązki dla dostawców i operatorów systemów sztucznej inteligencji, które mają bezpośredni wpływ na przedsiębiorstwa.
Rozporządzenie AI rozróżnia różne kategorie ryzyka systemów AI – od minimalnego, ograniczonego i wysokiego ryzyka po ryzyko niedopuszczalne. Niedozwolone praktyki zgodnie z art. 5 rozporządzenia w sprawie sztucznej inteligencji (rozdział II) obejmują systemy, które stanowią zagrożenie, na przykład dlatego, że mogą oszukiwać lub wykorzystywać pewne cechy osób fizycznych do manipulacji – na przykład poprzez stosowanie technik manipulacyjnych, które ograniczają wolną wolę osób fizycznych oraz stosowanie niektórych systemów identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej. Są one surowo zabronione.
Wszystkie inne systemy AI są dozwolone, pod warunkiem spełnienia określonych wymagań. Jest to uregulowane w rozdziale I. Art. 4 Rozporządzenia AI zobowiązuje dostawców i operatorów systemów AI do zapewnienia, że odpowiedni użytkownicy posiadają wystarczający poziom „kompetencji w zakresie AI”.
O co dokładnie chodzi?
1. zakaz niedozwolonych praktyk
Zgodnie z art. 5 rozporządzenia w sprawie AI niektóre zastosowania i praktyki systemów AI są zabronione. Obejmują one:
- Stosowanie technik manipulacyjnych mających na celu nieuczciwe wpływanie na zachowanie ludzi.
- Wykorzystanie systemów sztucznej inteligencji do monitorowania i klasyfikowania ludzi na podstawie zachowań społecznych („social scoring”).
- Wykorzystanie systemów biometrycznych do identyfikacji w czasie rzeczywistym w przestrzeni publicznej przez organy ścigania (z wyjątkiem wąsko zdefiniowanych wyjątkowych przypadków).
2. przekazywanie „wiedzy specjalistycznej w zakresie sztucznej inteligencji”
Dostawcy i operatorzy systemów AI są zobowiązani do zapewnienia, że użytkownicy uzyskają wystarczający poziom „kompetencji AI”. Zakres wymaganych„kompetencji w zakresie AI” zawsze zależy od odpowiedniego kontekstu wykorzystania AI. W związku z tym należy indywidualnie zbadać, w jaki sposób i na jakim poziomie szczegółowości należy uczyć kompetencji.
Konkretnymi przykładami kompetencji użytkownika, których należy nauczać, mogą być
- Informacje na temat działania danego narzędzia AI,
- Informacje o możliwych zagrożeniach podczas korzystania z wyników,
- Wyjaśnienie dalszych obowiązków wynikających z rozporządzenia w sprawie sztucznej inteligencji dla danego systemu sztucznej inteligencji (np. dodatkowe obowiązki w zakresie przejrzystości dla tzw. systemów wysokiego ryzyka).
- Informowanie użytkowników o wykorzystywaniu sztucznej inteligencji.
- W przypadku korzystania z systemów AI wysokiego ryzyka:
- Transfer wiedzy specjalistycznej do monitorowania systemu AI
- Transfer umiejętności w celu weryfikacji decyzji podejmowanych przez sztuczną inteligencję
Dowód kompetencji można przedstawić na różne sposoby. Przykładowo, istnieją już programy poświadczające ogólne kompetencje pracowników w zakresie sztucznej inteligencji. Istnieją jednak również bardziej pragmatyczne podejścia, które są dostosowane do konkretnego zastosowania systemów AI.
Zasadniczo należy zauważyć, że transfer umiejętności jest wymagany dla każdego systemu AI. Dlatego sensowne może być budowanie wiedzy specjalistycznej w zakresie sztucznej inteligencji „warstwa po warstwie”. Należy również zauważyć, że zakres kompetencji, które należy przekazać, wzrasta proporcjonalnie do zidentyfikowanego ryzyka systemu.
W każdym razie, jako firma musisz podjąć działania i mieć oko na ten, na pierwszy rzut oka, nieoczekiwany wymóg przekazywania umiejętności!
Konsekwencje dla firm
Od 2 lutego 2025 r. firmy, które opracowują lub wykorzystują systemy AI, muszą przeprowadzić niewielką „inwentaryzację AI”:
- Identyfikacja i eliminacja systemów AI w firmie, które mogłyby zostać sklasyfikowane jako niedozwolone praktyki,
- Opracowanie i wdrożenie środków szkoleniowych dla pracowników i użytkowników.
- Ustanowienie procesów oceny wykorzystywanych systemów sztucznej inteligencji zgodnie z klasą ryzyka (minimalne, ograniczone, wysokie).
Wnioski
Od 2 lutego 2025 r. rozporządzenie w sprawie sztucznej inteligencji nałoży na Twoją firmę obowiązek zapewnienia, że systemy sztucznej inteligencji w Twojej firmie są obsługiwane zgodnie z przepisami. Chociaż początkowo firma będzie musiała włożyć pewien wysiłek we wdrożenie rozporządzenia, będzie on coraz mniejszy, jeśli przyjmie się zharmonizowane podejście. Jednocześnie istnieją zdecydowane korzyści: Pracownicy uczą się lepiej rozumieć i chronić prawa osób trzecich, a także własne prawa firmy, na przykład do własnej wiedzy specjalistycznej. Może to pomóc uniknąć sporów prawnych i promować pozytywną reputację firmy w dłuższej perspektywie.
Chętnie pomożemy Ci ocenić i skategoryzować zakres, w jakim podlegasz przepisom rozporządzenia w sprawie sztucznej inteligencji, a także będziemy współpracować z Tobą w celu znalezienia pragmatycznych rozwiązań. Zapraszamy do kontaktu z naszym zespołem ds. cyfryzacji i AI !
