Kiedy system AI jest wysokiego ryzyka?
Stan prawny na
Są dwie podstawy. Produktowa: system jest związanym z bezpieczeństwem elementem produktu z załącznika I, który podlega ocenie zgodności przez stronę trzecią (art. 6 ust. 1). Z listy: przeznaczenie systemu mieści się w załączniku III (art. 6 ust. 2). System z załącznika III może skorzystać z wyjątku z art. 6 ust. 3, chyba że profiluje osoby fizyczne. Obowiązki stosuje się od 2 grudnia 2027 r. (załącznik III) i od 2 sierpnia 2028 r. (załącznik I).
Podstawa produktowa (art. 6 ust. 1, załącznik I)
System jest wysokiego ryzyka, gdy jest związanym z bezpieczeństwem elementem produktu objętego prawodawstwem z załącznika I albo sam jest takim produktem, a produkt podlega ocenie zgodności przez stronę trzecią. Dotyczy to m.in. wyrobów medycznych, maszyn, wind i zabawek. Ten reżim stosuje się od 2 sierpnia 2028 r.
Podstawa z listy (art. 6 ust. 2, załącznik III)
Za wysokiego ryzyka uznaje się systemy przeznaczone do zastosowań w ośmiu obszarach:
- biometria,
- infrastruktura krytyczna,
- kształcenie i szkolenie zawodowe,
- zatrudnienie i zarządzanie pracownikami,
- dostęp do podstawowych usług publicznych i prywatnych,
- ściganie przestępstw,
- migracja, azyl i kontrola graniczna,
- wymiar sprawiedliwości i procesy demokratyczne.
Dla samorządu najczęściej praktyczne są: zatrudnienie i rekrutacja, dostęp do świadczeń i usług podstawowych oraz edukacja. Dla szpitala: segregacja pacjentów w pomocy doraźnej, ocena dostępu do świadczeń i obszar zatrudnienia (grafiki, ocena pracy, rekrutacja).
Obszar wymiaru sprawiedliwości dotyczy narzędzi używanych przez sąd albo w jego imieniu. Narzędzie, którym pełnomocnik przygotowuje własne pismo, do tego obszaru nie należy.
Ten reżim stosuje się od 2 grudnia 2027 r.
Wyjątek z art. 6 ust. 3: dwa warunki łącznie
System z załącznika III nie jest wysokiego ryzyka, gdy:
- nie stwarza znaczącego ryzyka szkody dla zdrowia, bezpieczeństwa lub praw podstawowych, w tym nie wpływa znacząco na wynik decyzji, oraz
- spełnia jeden z czterech warunków: wykonuje wąskie zadanie proceduralne, poprawia wynik zakończonej czynności człowieka, wykrywa wzorce lub odstępstwa bez zastępowania oceny człowieka albo wykonuje zadania przygotowawcze.
Najczęstszy błąd to wykazanie jednego z czterech warunków i pominięcie pierwszego. To, że narzędzie „tylko przygotowuje” materiał, nie wystarczy, jeżeli jego wynik realnie kształtuje rozstrzygnięcie.
Profilowanie wyłącza wyjątek
Profilowanie nie jest osobną, trzecią podstawą. Działa inaczej: system z załącznika III, który profiluje osoby fizyczne, nie może skorzystać z wyjątku z art. 6 ust. 3 i zawsze jest systemem wysokiego ryzyka.
Obowiązek udokumentowania oceny i rejestracja
Dostawca, który uznaje, że system z załącznika III nie jest wysokiego ryzyka, dokumentuje ocenę przed wprowadzeniem systemu do obrotu lub oddaniem do użytku i przedstawia dokumentację na wniosek organu (art. 6 ust. 4). Taki system podlega też rejestracji (art. 49 ust. 2).
Dokumentacja powinna dać się odtworzyć osobie z zewnątrz: przeznaczenie, punkt załącznika, uzasadnienie braku znaczącego ryzyka, spełniony warunek, stwierdzenie braku profilowania, data, osoba odpowiedzialna i zasady ponownej oceny.
Od kiedy
Po nowelizacji rozporządzeniem (UE) 2026/1744, które obowiązuje od 27 lipca 2026 r., reżim systemów wysokiego ryzyka z załącznika III stosuje się od 2 grudnia 2027 r., a z załącznika I od 2 sierpnia 2028 r. Komisja opublikowała 19 maja 2026 r. projekt wytycznych w sprawie klasyfikacji; na dzień stanu prawnego nie jest to dokument przyjęty.
Test krok po kroku
- Czy to w ogóle system AI?
- Czy zastosowanie nie jest zakazane?
- Czy to element bezpieczeństwa produktu z załącznika I z oceną przez stronę trzecią?
- Czy przeznaczenie mieści się w załączniku III?
- Jeśli tak: czy system profiluje osoby fizyczne? Wtedy wyjątek odpada.
- Czy spełnia oba warunki wyjątku z art. 6 ust. 3? Jeśli tak: udokumentuj ocenę i zarejestruj system.
- Kim jesteś wobec systemu: dostawcą czy podmiotem stosującym? Rola może przejść na tego, kto firmuje system własną nazwą, istotnie go zmienia lub zmienia jego przeznaczenie (art. 25).
Klasyfikacja nie jest jednorazowa: zmiana przeznaczenia albo dodanie modułu rekomendacji może przenieść system do innej kategorii.
Podstawa prawna
Art. 6, art. 25, art. 49 ust. 2 i art. 113 oraz załączniki I i III rozporządzenia (UE) 2024/1689 (AI Act) w brzmieniu nadanym rozporządzeniem (UE) 2026/1744.
Szerzej
- Czy mój system jest wysokiego ryzyka (otwiera się w nowej karcie) (dr Paweł Kowalski, pawelkowalski.ai)