Jakie rejestry AI powinna prowadzić organizacja?
Stan prawny na
AI Act wymaga rejestrów wprost tylko przy systemach wysokiego ryzyka. Jeżeli narzędzie przetwarza dane osobowe, organizacja ujmuje to w rejestrze czynności przetwarzania (art. 30 RODO). W praktyce organizacja potrzebuje rejestru narzędzi, śladu szkoleń i zasad przekazanych przed nadaniem dostępu oraz rejestru zgłoszeń błędów. To one pozwalają pokazać, co organizacja wie o swoich narzędziach, gdy zapyta organ nadzoru, audytor albo klient.
Rejestr narzędzi
Spis narzędzi AI używanych w organizacji. Przy każdym: dostawca, cel, kategorie danych, podstawa przetwarzania, ocena ryzyka, umowa powierzenia, wyłączenie uczenia modelu na danych organizacji i data przeglądu. Dzięki niemu da się odpowiedzieć, gdzie trafiły dane, bez odtwarzania tego z pamięci.
Ślad szkoleń i zasad
Zapis, że osoba przeszła szkolenie i otrzymała zasady korzystania z AI, zanim dostała dostęp do narzędzia. To dokumentacja środków z art. 4 AI Act. Przepis nie nakazuje ewidencji, ale to ona pozwala wykazać, że obowiązek kompetencji jest realizowany.
Rejestr zgłoszeń błędów
Jedno miejsce, termin tego samego dnia i zapis przy każdym zgłoszeniu: co podało narzędzie i jak było naprawdę. Dopiero taki zapis pozwala zauważyć, że od miesiąca wracają nieistniejące sygnatury albo że błędy dotyczą jednego rodzaju zadań. Zdarzenia, które trzeba zgłosić na zewnątrz, opisuje artykuł o incydentach z udziałem AI.
Rejestry zdarzeń przy systemach wysokiego ryzyka
Przy systemach wysokiego ryzyka dochodzą obowiązki z art. 26, stosowane od 2 grudnia 2027 r. (załącznik III):
- podmiot stosujący przechowuje automatycznie generowane rejestry zdarzeń systemu przez co najmniej sześć miesięcy, w zakresie, w jakim ma nad nimi kontrolę (art. 26 ust. 6),
- podmiot stosujący będący organem publicznym nie może stosować systemu, który nie został zarejestrowany w bazie danych UE (art. 26 ust. 8, art. 49).
Na szkoleniach pracujemy na czterech rejestrach systemu nadzoru. Uczestnik dostaje te materiały na zajęciach.
Podstawa prawna
Art. 4, art. 26 ust. 6 i 8 oraz art. 49 rozporządzenia (UE) 2024/1689 (AI Act) w brzmieniu nadanym rozporządzeniem (UE) 2026/1744; art. 30 RODO.
Szerzej
- Odpowiedzialność zarządu za AI (otwiera się w nowej karcie) (dr Paweł Kowalski, pawelkowalski.ai)