Nadzór nad systemami AI - analizujemy projekt polskiej ustawy o systemach sztucznej inteligencji (aktualizacja)

Opracowanie: Michał Kowalski

Celem ustawy o systemach sztucznej inteligencji jest wprowadzenie nadzoru nad systemami sztucznej inteligencji zgodnie z rozporządzeniem Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji, AI Act). Projektowana ustawa ma regulować:

•  organizację i sposób sprawowania nadzoru nad rynkiem systemów sztucznej inteligencji oraz modelami sztucznej inteligencji ogólnego przeznaczenia

•  postępowanie w sprawie naruszenia przepisów aktu o sztucznej inteligencji,

•  warunki i tryb akredytacji oraz notyfikacji jednostek oceniających zgodność;

•  sposób zgłaszania poważnych incydentów zaistniałych w związku z wykorzystaniem systemów sztucznej inteligencji;

•  zasady nakładania administracyjnych kar pieniężnych za naruszenie przepisów art. 5 aktu o sztucznej inteligencji.

• rodzaje działań wspierających rozwój systemów sztucznej inteligencji.

W projekcie przewidziano, że nadzór nad systemami sztucznej inteligencji sprawować będzie specjalna Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Organ ten w pełnieniu nadzoru nad systemami AI ma współpracować z innymi kompetentnymi organami, w tym z Prezesem Urzędu Ochrony Danych Osobowych. Współpraca ta będzie dotyczyła:

· tzw. piaskownic regulacyjnych (zapewniających „kontrolowane środowisko sprzyjające innowacjom oraz ułatwiające rozwój, trenowanie, testowanie i walidację innowacyjnych systemów AI przez ograniczony czas przed ich wprowadzeniem do obrotu lub oddaniem ich do użytku”),

· nadzoru nad systemami AI wysokiego ryzyka.

Do najważniejszych zadań organu nadzorczego należeć będzie:

•  sprawowanie kontroli przestrzegania przepisów ustawy i aktu o sztucznej inteligencji

•  podejmowanie działań służących prawidłowemu funkcjonowaniu rynku wewnętrznego Unii Europejskiej, o którym mowa w art. 26 ust. 2 Traktatu o Funkcjonowaniu Unii Europejskiej w zakresie określonym w art. 1 i art. 2 AI Act;

•  podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań i stosowania systemów sztucznej inteligencji;

•  podejmowanie działań mających na celu przeciwdziałanie zagrożeniom w zakresie bezpieczeństwa systemów sztucznej inteligencji, w tym przyjmowania zgłoszeń w sprawach dotyczących poważnych incydentów;

•  udział w przygotowywaniu projektów aktów prawnych w zakresie sztucznej inteligencji;

• wydawanie decyzji w sprawach naruszenia przepisów o systemach sztucznej inteligencji;

• wykonywanie zadań i kompetencji organu nadzoru rynku, określonych w AI Act;

• opracowywanie i wydawanie publikacji oraz realizacja programów edukacyjnych popularyzujących wiedzę o sztucznej inteligencji, prowadzenie działań informacyjnych;

• realizowanie zobowiązań międzynarodowych Polski w zakresie współpracy i wymiany informacji w sprawach nadzoru nad systemami sztucznej inteligencji w zakresie właściwości organu nadzoru rynku;

•  gromadzenie i upowszechnianie orzecznictwa w sprawach z zakresu nadzoru nad sztuczną inteligencją, w szczególności przez zamieszczanie decyzji komisji na stronie internetowej Komisji;

• podejmowanie działań mających na celu utworzenie piaskownic regulacyjnych;

•  prowadzenie rejestru skarg;

• dokonywanie interpretacji generalnych i indywidualnych;

•  wydawanie w zakresie koncepcji rozwiązań i projektów dokumentów rządowych, w tym aktów prawnych dotyczących sztucznej inteligencji przekazanych do opiniowania.

Komisja będzie mogła kontrolować (przede wszystkim zdalnie) operatorów uczestniczących w łańcuchu wartości AI. Czynności kontrolne ma wykonywać upoważniony przez przewodniczącego pracownik Biura Komisji lub upoważniona osoba posiadającą wiadomości specjalne. Kontrola będzie kończyła się wystąpieniem pokontrolnym, do którego będzie można składać zastrzeżenia.

Odrębnie uregulowano postępowanie w sprawie naruszenia przepisów o sztucznej inteligencji, które również będzie prowadzone przez Komisję w sprawach naruszenia przepisów o sztucznej inteligencji. Postępowanie to będzie wszczynane zarówno z urzędu jak i po skardze.

W następstwie przeprowadzonego jednoinstancyjnego postępowania będzie wydawana decyzja, na którą będzie można złożyć skargę do Sądu Okręgowego w Warszawie – Sądu Ochrony Konkurencji i Konsumentów.

Dostawcy systemów sztucznej inteligencji zostaną zobligowani do zgłaszania komisji każdego poważnego incydentu. Zgłoszenia będą dokonywane drogą elektroniczną. W razie konieczności komisja będzie mogła żądać ich uzupełnienia.

Akt o sztucznej inteligencji w art. 28 przewiduje opracowanie i stosowanie procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność oraz za ich monitorowanie. Zgodnie z projektem polskiej ustawy kompetencje w tym zakresie przejąć ma Minister Cyfryzacji. Z kolei akredytacja tych jednostek powierzona ma zostać Polskiemu Centrum Akredytacji.

AI Act przewiduje administracyjne kary pieniężne za zakazane praktyki w zakresie AI, wymienione w art. 5 rozporządzenia, a także niektóre inne naruszenia.

Za zakazane praktyki w zakresie AI grozić ma kara do wysokości 35 000 000 euro lub - jeżeli sprawcą naruszenia jest przedsiębiorstwo - w wysokości do 7 % jego całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego.

Z kolei w projekcie ustawy przewidziano, że kary te będzie nakładała w drodze decyzji administracyjnej komisja. Kara będzie mogła zostać nałożona na podmiot zarówno z sektora publicznego jak i prywatnego.

W ostatnich dniach Ministerstwo Cyfryzacji opublikowało nową wersję projektu Ustawy o systemach sztucznej inteligencji. Zaktualizowany projekt uwzględnia ponad dwa tysiące komentarzy, opinii i sugestii przekazanych w trakcie pierwszej tury konsultacji społecznych. W trakcie wprowadzania zmian przeanalizowano opinie pochodzące od organizacji pozarządowych oraz specjalistek i specjalistów z sektora innowacji, badań, nauki i kultury, a także ministerstw, urzędów oraz instytucji publicznych i samorządowych.

W wyniku konsultacji w projekcie pojawiły się następujące zmiany:

•  Przewodniczący Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji będzie mógł powołać tzw. piaskownicę regulacyjną (przestrzeń do testowania nowych technologii),

•  Minister Cyfryzacji będzie mógł udzielać wsparcia finansowego przeznaczonego na badania naukowe lub prace rozwojowe,

•  ograniczono uprawnienia kontrolne specjalistów z Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji wobec przedsiębiorców i instytucji,

• wprowadzono mechanizm układu w sprawie nadzwyczajnego złagodzenia sankcji (dzięki temu kontrolowany będzie mógł ubiegać się o przyspieszenie kontroli i złagodzenie sankcji),

•  zamiast interpretacji stosowana będzie instytucja opinii indywidualnej,

•  poszerzono skład Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji o przedstawicieli wyspecjalizowanych instytucji publicznych odpowiadających za takie sfery jak prawo czy medycyna, istotnych dla stosowania AI, a jednocześnie ograniczono przedstawicieli ministerstw,

•  zmodyfikowano sposób wyboru przewodniczącego tej Komisji.