Przejdź do treści

Jakie rejestry AI powinna prowadzić organizacja?

Stan prawny na

AI Act wymaga rejestrów wprost tylko przy systemach wysokiego ryzyka. Jeżeli narzędzie przetwarza dane osobowe, organizacja ujmuje to w rejestrze czynności przetwarzania (art. 30 RODO). W praktyce organizacja potrzebuje rejestru narzędzi, śladu szkoleń i zasad przekazanych przed nadaniem dostępu oraz rejestru zgłoszeń błędów. To one pozwalają pokazać, co organizacja wie o swoich narzędziach, gdy zapyta organ nadzoru, audytor albo klient.

Rejestr narzędzi

Spis narzędzi AI używanych w organizacji. Przy każdym: dostawca, cel, kategorie danych, podstawa przetwarzania, ocena ryzyka, umowa powierzenia, wyłączenie uczenia modelu na danych organizacji i data przeglądu. Dzięki niemu da się odpowiedzieć, gdzie trafiły dane, bez odtwarzania tego z pamięci.

Ślad szkoleń i zasad

Zapis, że osoba przeszła szkolenie i otrzymała zasady korzystania z AI, zanim dostała dostęp do narzędzia. To dokumentacja środków z art. 4 AI Act. Przepis nie nakazuje ewidencji, ale to ona pozwala wykazać, że obowiązek kompetencji jest realizowany.

Rejestr zgłoszeń błędów

Jedno miejsce, termin tego samego dnia i zapis przy każdym zgłoszeniu: co podało narzędzie i jak było naprawdę. Dopiero taki zapis pozwala zauważyć, że od miesiąca wracają nieistniejące sygnatury albo że błędy dotyczą jednego rodzaju zadań. Zdarzenia, które trzeba zgłosić na zewnątrz, opisuje artykuł o incydentach z udziałem AI.

Rejestry zdarzeń przy systemach wysokiego ryzyka

Przy systemach wysokiego ryzyka dochodzą obowiązki z art. 26, stosowane od 2 grudnia 2027 r. (załącznik III):

  • podmiot stosujący przechowuje automatycznie generowane rejestry zdarzeń systemu przez co najmniej sześć miesięcy, w zakresie, w jakim ma nad nimi kontrolę (art. 26 ust. 6),
  • podmiot stosujący będący organem publicznym nie może stosować systemu, który nie został zarejestrowany w bazie danych UE (art. 26 ust. 8, art. 49).

Na szkoleniach pracujemy na czterech rejestrach systemu nadzoru. Uczestnik dostaje te materiały na zajęciach.

Podstawa prawna

Art. 4, art. 26 ust. 6 i 8 oraz art. 49 rozporządzenia (UE) 2024/1689 (AI Act) w brzmieniu nadanym rozporządzeniem (UE) 2026/1744; art. 30 RODO.

Szerzej