Przejdź do treści

Kiedy system AI jest wysokiego ryzyka?

Stan prawny na

Są dwie podstawy. Produktowa: system jest związanym z bezpieczeństwem elementem produktu z załącznika I, który podlega ocenie zgodności przez stronę trzecią (art. 6 ust. 1). Z listy: przeznaczenie systemu mieści się w załączniku III (art. 6 ust. 2). System z załącznika III może skorzystać z wyjątku z art. 6 ust. 3, chyba że profiluje osoby fizyczne. Obowiązki stosuje się od 2 grudnia 2027 r. (załącznik III) i od 2 sierpnia 2028 r. (załącznik I).

Podstawa produktowa (art. 6 ust. 1, załącznik I)

System jest wysokiego ryzyka, gdy jest związanym z bezpieczeństwem elementem produktu objętego prawodawstwem z załącznika I albo sam jest takim produktem, a produkt podlega ocenie zgodności przez stronę trzecią. Dotyczy to m.in. wyrobów medycznych, maszyn, wind i zabawek. Ten reżim stosuje się od 2 sierpnia 2028 r.

Podstawa z listy (art. 6 ust. 2, załącznik III)

Za wysokiego ryzyka uznaje się systemy przeznaczone do zastosowań w ośmiu obszarach:

  1. biometria,
  2. infrastruktura krytyczna,
  3. kształcenie i szkolenie zawodowe,
  4. zatrudnienie i zarządzanie pracownikami,
  5. dostęp do podstawowych usług publicznych i prywatnych,
  6. ściganie przestępstw,
  7. migracja, azyl i kontrola graniczna,
  8. wymiar sprawiedliwości i procesy demokratyczne.

Dla samorządu najczęściej praktyczne są: zatrudnienie i rekrutacja, dostęp do świadczeń i usług podstawowych oraz edukacja. Dla szpitala: segregacja pacjentów w pomocy doraźnej, ocena dostępu do świadczeń i obszar zatrudnienia (grafiki, ocena pracy, rekrutacja).

Obszar wymiaru sprawiedliwości dotyczy narzędzi używanych przez sąd albo w jego imieniu. Narzędzie, którym pełnomocnik przygotowuje własne pismo, do tego obszaru nie należy.

Ten reżim stosuje się od 2 grudnia 2027 r.

Wyjątek z art. 6 ust. 3: dwa warunki łącznie

System z załącznika III nie jest wysokiego ryzyka, gdy:

  • nie stwarza znaczącego ryzyka szkody dla zdrowia, bezpieczeństwa lub praw podstawowych, w tym nie wpływa znacząco na wynik decyzji, oraz
  • spełnia jeden z czterech warunków: wykonuje wąskie zadanie proceduralne, poprawia wynik zakończonej czynności człowieka, wykrywa wzorce lub odstępstwa bez zastępowania oceny człowieka albo wykonuje zadania przygotowawcze.

Najczęstszy błąd to wykazanie jednego z czterech warunków i pominięcie pierwszego. To, że narzędzie „tylko przygotowuje” materiał, nie wystarczy, jeżeli jego wynik realnie kształtuje rozstrzygnięcie.

Profilowanie wyłącza wyjątek

Profilowanie nie jest osobną, trzecią podstawą. Działa inaczej: system z załącznika III, który profiluje osoby fizyczne, nie może skorzystać z wyjątku z art. 6 ust. 3 i zawsze jest systemem wysokiego ryzyka.

Obowiązek udokumentowania oceny i rejestracja

Dostawca, który uznaje, że system z załącznika III nie jest wysokiego ryzyka, dokumentuje ocenę przed wprowadzeniem systemu do obrotu lub oddaniem do użytku i przedstawia dokumentację na wniosek organu (art. 6 ust. 4). Taki system podlega też rejestracji (art. 49 ust. 2).

Dokumentacja powinna dać się odtworzyć osobie z zewnątrz: przeznaczenie, punkt załącznika, uzasadnienie braku znaczącego ryzyka, spełniony warunek, stwierdzenie braku profilowania, data, osoba odpowiedzialna i zasady ponownej oceny.

Od kiedy

Po nowelizacji rozporządzeniem (UE) 2026/1744, które obowiązuje od 27 lipca 2026 r., reżim systemów wysokiego ryzyka z załącznika III stosuje się od 2 grudnia 2027 r., a z załącznika I od 2 sierpnia 2028 r. Komisja opublikowała 19 maja 2026 r. projekt wytycznych w sprawie klasyfikacji; na dzień stanu prawnego nie jest to dokument przyjęty.

Test krok po kroku

  1. Czy to w ogóle system AI?
  2. Czy zastosowanie nie jest zakazane?
  3. Czy to element bezpieczeństwa produktu z załącznika I z oceną przez stronę trzecią?
  4. Czy przeznaczenie mieści się w załączniku III?
  5. Jeśli tak: czy system profiluje osoby fizyczne? Wtedy wyjątek odpada.
  6. Czy spełnia oba warunki wyjątku z art. 6 ust. 3? Jeśli tak: udokumentuj ocenę i zarejestruj system.
  7. Kim jesteś wobec systemu: dostawcą czy podmiotem stosującym? Rola może przejść na tego, kto firmuje system własną nazwą, istotnie go zmienia lub zmienia jego przeznaczenie (art. 25).

Klasyfikacja nie jest jednorazowa: zmiana przeznaczenia albo dodanie modułu rekomendacji może przenieść system do innej kategorii.

Podstawa prawna

Art. 6, art. 25, art. 49 ust. 2 i art. 113 oraz załączniki I i III rozporządzenia (UE) 2024/1689 (AI Act) w brzmieniu nadanym rozporządzeniem (UE) 2026/1744.

Szerzej