Które praktyki AI są zakazane?
Stan prawny na
Art. 5 AI Act zakazuje ośmiu praktyk, a od 2 grudnia 2026 r. dziesięciu. Osiem obowiązuje od 2 lutego 2025 r., m.in. manipulacja, scoring społeczny i rozpoznawanie emocji w miejscu pracy. Zakaz obejmuje nie tylko twórców systemów, ale też każdą organizację, która z nich korzysta. Za naruszenie grozi kara do 35 mln euro albo 7% obrotu.
Osiem praktyk, a od 2 grudnia 2026 r. dziesięć
- Techniki podprogowe lub manipulacyjne, które istotnie zniekształcają zachowanie osoby i wyrządzają poważną szkodę (lit. a).
- Wykorzystywanie słabości osoby ze względu na wiek, niepełnosprawność albo trudną sytuację społeczną lub ekonomiczną (lit. b).
- Scoring społeczny: ocenianie lub klasyfikowanie osób na podstawie zachowania społecznego w sposób krzywdzący lub nieproporcjonalny (lit. c).
- Ocena ryzyka popełnienia przestępstwa wyłącznie na podstawie profilowania (lit. d).
- Masowe pobieranie wizerunków twarzy z internetu lub monitoringu do baz rozpoznawania twarzy (lit. e).
- Rozpoznawanie emocji w miejscu pracy i w instytucjach edukacyjnych, poza względami medycznymi lub bezpieczeństwa (lit. f).
- Kategoryzacja biometryczna służąca wnioskowaniu o rasie, poglądach politycznych, przynależności związkowej, przekonaniach religijnych lub światopoglądowych, seksualności lub orientacji seksualnej (lit. g).
- Co do zasady, zdalna identyfikacja biometryczna w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw (lit. h).
Od 2 grudnia 2026 r. rozporządzenie (UE) 2026/1744 dodaje dwa zakazy: generowanie realistycznych treści intymnych lub seksualnych rozpoznawalnej osoby bez jej wyraźnej zgody (lit. ba) oraz generowanie materiałów przedstawiających seksualne wykorzystywanie dzieci (lit. bb).
Zakaz dotyczy wprowadzania systemu do obrotu, oddawania do użytku i wykorzystywania. Obejmuje więc także urząd, szpital czy spółkę, które korzystają z gotowego systemu innego dostawcy.
Granica zakazu rozpoznawania emocji
Według wytycznych Komisji Europejskiej z lutego 2025 r. zakaz z lit. f obejmuje wnioskowanie o emocjach na podstawie danych biometrycznych, na przykład obrazu twarzy lub cech głosu: przy ocenie nagrań z rozmów rekrutacyjnych albo monitoringu wideokonferencji. Opiera się to na definicji systemu rozpoznawania emocji (art. 3 pkt 39) i motywie 44.
Analiza wydźwięku napisanego tekstu, w tym wypowiedzi pracownika, według tych wytycznych poza zakaz wychodzi. Wytyczne nie wiążą jednak sądów, a zakres zakazu jest w tym punkcie sporny. Taka analiza może też podlegać RODO, prawu pracy i zakazowi dyskryminacji.
Sporne pozostaje również, jak szeroko czytać wyjątek „ze względów medycznych lub bezpieczeństwa”. Przepis tej granicy nie wyznacza.
Gdzie szukać w praktyce
W urzędzie i firmie ryzyko pojawia się najczęściej w trzech miejscach: rekrutacji, ocenie pracowniczej oraz obsłudze klientów lub mieszkańców. Tam spotyka się rozpoznawanie emocji, profilowanie i elementy scoringu, na przykład profile oceniające osoby na podstawie zachowania z różnych, niepowiązanych kontekstów.
Co zrobić
- Spisz narzędzia używane w rekrutacji, ocenie pracowniczej i obsłudze klienta lub mieszkańca.
- Przy każdym ustal, do czego faktycznie służy funkcja opisana przez dostawcę. O zakazie decyduje rzeczywiste zastosowanie, a nie nazwa w materiałach marketingowych.
- Przy praktyce zakazanej nie prowadzi się analizy ryzyka: z zastosowania się rezygnuje.
Naruszenie zakazu podlega najwyższej karze w rozporządzeniu: do 35 mln euro albo do 7% całkowitego rocznego światowego obrotu, w zależności od tego, która kwota jest wyższa (art. 99 ust. 3).
Podstawa prawna
Art. 3 pkt 39, art. 5, art. 99 ust. 3 i art. 113 rozporządzenia (UE) 2024/1689 (AI Act) w brzmieniu nadanym rozporządzeniem (UE) 2026/1744; motyw 44; wytyczne Komisji Europejskiej w sprawie zakazanych praktyk z lutego 2025 r. (niewiążące).
Szerzej
- Art. 5. Zakazane praktyki w zakresie AI: komentarz (otwiera się w nowej karcie) (dr Paweł Kowalski, pawelkowalski.ai)