8 zakazanych praktyk AI wg aktu o sztucznej inteligencji (AI Act)

manipulowanie zachowaniem

Nie wolno wykorzystywać systemów sztucznej inteligencji, które stosują:

• techniki podprogowe będące poza świadomością danej osoby lub

• celowe techniki manipulacyjne lub wprowadzające w błąd,

jeśli celem lub skutkiem jest dokonanie znaczącej zmiany zachowania osoby lub osób polegające na znaczącym ograniczeniu ich zdolności do podejmowania świadomych decyzji, co wyrządza lub może wyrządzić tym lub innym osobom poważną szkodę.

wykorzystywanie słabości

Zakazane jest stosowanie systemów AI wykorzystujących słabości osoby fizycznej lub grupy osób ze względu na:

• wiek,

• niepełnosprawność,

• szczególną sytuację społeczną lub ekonomiczną,

jeśli celem lub skutkiem jest dokonanie znaczącej zmiany ich zachowania, co wyrządza lub może z uzasadnionym prawdopodobieństwem wyrządzić u tych lub innych osób poważną szkodę.

scoring społeczny

System AI nie może oceniać ludzi na podstawie zachowania społecznego lub znanych, wywnioskowanych lub przewidywanych cech osobistych bądź cech osobowości, jeśli prowadzi to do dyskryminacji.

ocena ryzyka popełnienia przestępstwa

Nie wolno wykorzystywać AI do przeprowadzania ocen ryzyka popełnienia przestępstwa wyłącznie na podstawie profilowania osoby fizycznej lub oceny jej cech osobowości i cech charakterystycznych. Nie dotyczy systemów AI wykorzystywanych do wspierania dokonywanej przez człowieka oceny udziału danej osoby w działalności przestępczej, która to ocena opiera się już na obiektywnych i weryfikowalnych faktach bezpośrednio związanych z działalnością przestępczą.

untargeted scraping

Zakazane jest stosowanie systemów, które tworzą lub rozbudowują bazy danych służące rozpoznawaniu twarzy poprzez nieukierunkowane pozyskiwanie wizerunków twarzy z internetu lub nagrań z telewizji przemysłowej.

ocena emocji

Niedopuszczalne jest stosowanie AI do wyciągania wniosków na temat emocji osoby fizycznej w miejscu pracy lub instytucjach edukacyjnych. Zakaz ten nie dotyczy przypadków, w których system AI ma zostać wdrożony lub wprowadzony do obrotu ze względów medycznych lub bezpieczeństwa.

kategoryzacja biometryczna

Nie wolno wykorzystywać AI w celu indywidualnego kategoryzowania osób fizycznych w oparciu o ich dane biometryczne, by wydedukować lub wywnioskować informacje na temat ich:

• rasy,

• poglądów politycznych,

• przynależności do związków zawodowych,

• przekonań religijnych lub światopoglądowych,

• seksualności lub orientacji seksualnej.

zdalna identyfikacja biometryczna

Nie wolno wykorzystywać systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw. Nie dotyczy to jednak przypadków, w których niezbędne jest wykorzystywanie systemów AI do:

• ukierunkowanego poszukiwania konkretnych ofiar uprowadzeń, handlu ludźmi lub wykorzystywania seksualnego ludzi, a także poszukiwania osób zaginionych;

• zapobiegnięcia konkretnemu, istotnemu i bezpośredniemu zagrożeniu życia lub bezpieczeństwa fizycznego osób fizycznych lub rzeczywistemu i aktualnemu lub rzeczywistemu i dającemu się przewidzieć zagrożeniu atakiem terrorystycznym;

• lokalizowania lub identyfikowania osoby podejrzanej o popełnienie przestępstwa w celu prowadzenia postępowania przygotowawczego lub ścigania lub wykonania kar w odniesieniu do przestępstw (o których mowa w załączniku II w AI Act), podlegających w danym państwie członkowskim karze pozbawienia wolności lub środkowi polegającemu na pozbawieniu wolności przez okres, którego górna granica wynosi co najmniej cztery lata.