Nadzór nad systemami AI - analizujemy projekt polskiej ustawy o systemach sztucznej inteligencji

Opracowanie: Michał Kowalski

Celem ustawy o systemach sztucznej inteligencji jest wprowadzenie nadzoru nad systemami sztucznej inteligencji zgodnie z rozporządzeniem Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji, AI Act) Projektowana ustawama regulować:

• organizację i sposób sprawowania nadzoru nad rynkiem systemów sztucznej inteligencji oraz modelami sztucznej inteligencji ogólnego przeznaczenia

• postępowanie w sprawie naruszenia przepisów aktu o sztucznej inteligencji,

• warunki i tryb akredytacji oraz notyfikacji jednostek oceniających zgodność;

• sposób zgłaszania poważnych incydentów zaistniałych w związku z wykorzystaniem systemów sztucznej inteligencji;

• zasady nakładania administracyjnych kar pieniężnych za naruszenie przepisów art. 5 aktu o sztucznej inteligencji.

• rodzaje działań wspierających rozwój systemów sztucznej inteligencji.

W projekcie przewidziano, że nadzór nad systemami sztucznej inteligencji sprawować będzie specjalna Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Organ ten w pełnieniu nadzoru nad systemami AI ma współpracować z innymi kompetentnymi organami, w tym z Prezesem Urzędu Ochrony Danych Osobowych. Współpraca ta będzie dotyczyła:

• tzw. piaskownic regulacyjnych (zapewniających „kontrolowane środowisko sprzyjające innowacjom oraz ułatwiające rozwój, trenowanie, testowanie i walidację innowacyjnych systemów AI przez ograniczony czas przed ich wprowadzeniem do obrotu lub oddaniem ich do użytku”),

• nadzoru nad systemami AI wysokiego ryzyka.

Do najważniejszych zadań organu nadzorczego należeć będzie:

• sprawowanie kontroli przestrzegania przepisów ustawy i aktu o sztucznej inteligencji

• podejmowanie działań służących prawidłowemu funkcjonowaniu rynku wewnętrznego Unii Europejskiej, o którym mowa w art. 26 ust. 2 Traktatu o Funkcjonowaniu Unii Europejskiej w zakresie określonym w art. 1 i art. 2 AI Act;

• podejmowanie działań mających na celu wspieranie oraz monitorowanie rozwoju, innowacyjności i konkurencyjności w obszarze badań i stosowania systemów sztucznej inteligencji;

• podejmowanie działań mających na celu przeciwdziałanie zagrożeniom w zakresie bezpieczeństwa systemów sztucznej inteligencji, w tym przyjmowania zgłoszeń w sprawach dotyczących poważnych incydentów;

• udział w przygotowywaniu projektów aktów prawnych w zakresie sztucznej inteligencji;

• wydawanie decyzji w sprawach naruszenia przepisów o systemach sztucznej inteligencji;

• wykonywanie zadań i kompetencji organu nadzoru rynku, określonych w AI Act;

• opracowywanie i wydawanie publikacji oraz realizacja programów edukacyjnych popularyzujących wiedzę o sztucznej inteligencji, prowadzenie działań informacyjnych;

• realizowanie zobowiązań międzynarodowych Polski w zakresie współpracy i wymiany informacji w sprawach nadzoru nad systemami sztucznej inteligencji w zakresie właściwości organu nadzoru rynku;

• gromadzenie i upowszechnianie orzecznictwa w sprawach z zakresu nadzoru nad sztuczną inteligencją, w szczególności przez zamieszczanie decyzji komisji na stronie internetowej Komisji;

• podejmowanie działań mających na celu utworzenie piaskownic regulacyjnych;

• prowadzenie rejestru skarg;

• dokonywanie interpretacji generalnych i indywidualnych;

• wydawanie w zakresie koncepcji rozwiązań i projektów dokumentów rządowych, w tym aktów prawnych dotyczących sztucznej inteligencji przekazanych do opiniowania.

Komisja będzie mogła kontrolować (przede wszystkim zdalnie) operatorów uczestniczących w łańcuchu wartości AI. Czynności kontrolne ma wykonywać upoważniony przez przewodniczącego pracownik Biura Komisji lub upoważniona osoba posiadającą wiadomości specjalne. Kontrola będzie kończyła się wystąpieniem pokontrolnym, do którego będzie można składać zastrzeżenia.

Odrębnie uregulowano postępowanie w sprawie naruszenia przepisów o sztucznej inteligencji, które również będzie prowadzone przez Komisję w sprawach naruszenia przepisów o sztucznej inteligencji. Postępowanie to będzie wszczynane zarówno z urzędu jak i po skardze.

W następstwie przeprowadzonego jednoinstancyjnego postępowania będzie wydawana decyzja, na którą będzie można złożyć skargę do Sądu Okręgowego w Warszawie – Sądu Ochrony Konkurencji i Konsumentów.

Dostawcy systemów sztucznej inteligencji zostaną zobligowani do zgłaszania komisji każdego poważnego incydentu. Zgłoszenia będą dokonywane drogą elektroniczną. W razie konieczności komisja będzie mogła żądać ich uzupełnienia.

Akt o sztucznej inteligencji w art. 28 przewiduje opracowanie i stosowanie procedur koniecznych do oceny, wyznaczania i notyfikowania jednostek oceniających zgodność oraz za ich monitorowanie. Zgodnie z projektem polskiej ustawy kompetencje w tym zakresie przejąć ma Minister Cyfryzacji. Z kolei akredytacja tych jednostek powierzona ma zostać Polskiemu Centrum Akredytacji.

AI Act przewiduje administracyjne kary pieniężne za zakazane praktyki w zakresie AI, wymienione w art. 5 rozporządzenia, a także niektóre inne naruszenia.

Z kolei w projekcie ustawy przewidziano, że kary te będzie nakładała w drodze decyzji administracyjnej komisja. Kara będzie mogła zostać nałożona na podmiot zarówno z sektora publicznego jak i prywatnego.

Od decyzji nakładającej karę będzie można odwołać się do Sądu Okręgowego w Warszawie – Sądu Ochrony Konkurencji i Konsumentów.

• Projekt ustawy o systemach sztucznej inteligencji (z 15 października 2024 r.)