EROD i EIOD przeciwni stosowaniu sztucznej inteligencji do automatycznego rozpoznawania cech ludzkich w przestrzeni publicznej.

Opinia przyjęta 18 czerwca 2021 r. na 50. Posiedzeniu EROD dotyczy wniosku Komisji Europejskiej na temat rozporządzenia ustanawiającego zharmonizowane przepisy dotyczące sztucznej inteligencji. Wprawdzie EROD i EIOD aprobują cel, jakim jest zajęcie się wykorzystaniem systemów sztucznej inteligencji w Unii Europejskiej, w tym wykorzystaniem tych systemów przez unijne instytucje, organy lub agencje. Niemniej jednak wyrazili zaniepokojenie wyłączeniem z wniosku międzynarodowej współpracy w egzekwowaniu prawa.

Oprócz tego obydwa organy podkreśliły, że obowiązujące unijne przepisy tj. RODO, rozporządzenie UE 2018/1725 i dyrektywa 2016/680 stosuje się do każdego przetwarzania danych osobowych objętego zakresem projektu rozporządzenia dotyczącego sztucznej inteligencji.

EROD i EIOD zgadzają się przy tym na zaprezentowane podejście oparte na analizę ryzyka. Niemniej jednak wskazują, że pojęcie „ryzyka dla praw podstawowych” należy dostosować do unijnych ram ochrony danych. Rekomendują również złagodzenie ryzyk społecznych dla grup osób fizycznych. Akceptują również wniosek, że sklasyfikowanie systemu sztucznej inteligencji jako systemu wysokiego ryzyka niekoniecznie oznacza, że jest on sam w sobie zgodny z prawem i jako taki może być wdrożony przez użytkownika.

Niemniej jednak organy dostrzegają też bardzo wysokie ryzyko towarzyszące zdalnej biometrycznej identyfikacji osób w przestrzeni publicznej. Dlatego zasadne jest wprowadzenie ogólnego zakazu wykorzystywania sztucznej inteligencji do automatycznego rozpoznawania cech ludzkich w przestrzeni publicznej tj.: rozpoznawania twarzy, chodu, odcisków palców, DNA, głosu, naciśnięć klawiszy i innych sygnałów biometrycznych lub behawioralnych, w jakimkolwiek kontekście.

Zakaz powinien też obejmować stosowanie systemów sztucznej IQ wykorzystujących dane biometryczne do podziału osób na grupy ze względu na:

• pochodzenie etniczne,

• płeć,

• poglądy polityczne,

• orientację seksualną,

• inne powody, wobec których dyskryminacja jest zakazana na mocy art. 21 Karty praw podstawowych Unii Europejskiej.

Co do zasady zakazane powinno być także stosowanie tych systemów do odgadywania emocji osoby fizyczne, z wyjątkiem bardzo szczególnych przypadków, takich jak niektóre cele zdrowotne, w których rozpoznawanie emocji pacjenta jest ważne, oraz że wykorzystywanie sztucznej inteligencji do wszelkiego rodzaju oceny punktowej zachowań społecznych powinno być zabronione.

EROD i EIOD kwestionują również przyznanie Komisji Europejskiej dominującej roli w Europejskiej Radzie ds. Sztucznej Inteligencji (EAIB). Jak bowiem wskazują, godziłoby to w potrzebę utworzenia europejskiego organu ds. sztucznej inteligencji, który byłby niezależny od jakichkolwiek wpływów politycznych.