Przejdź do treści

Czym jest system AI w rozumieniu AI Act?

Stan prawny na

Systemem AI jest narzędzie, które wnioskuje: samo wyprowadza z danych model lub zależności i na tej podstawie generuje wyniki. Program działający wyłącznie według reguł napisanych przez człowieka, nawet bardzo rozbudowanych, systemem AI nie jest. Decyduje mechanizm działania, nie nazwa handlowa.

Definicja

Art. 3 pkt 1 AI Act opisuje system AI jako system maszynowy, który działa z różnym poziomem autonomii, może wykazywać zdolność adaptacji po wdrożeniu i który na podstawie otrzymanych danych wejściowych wnioskuje, jak generować wyniki: predykcje, treści, zalecenia lub decyzje.

Rozstrzyga jeden element: zdolność do wnioskowania. Motyw 12 rozporządzenia wyłącza systemy oparte na zasadach określonych wyłącznie przez człowieka. Praktyczne pytanie brzmi więc: czy zachowanie narzędzia wynika z reguł, które napisał człowiek, czy z zależności, które narzędzie samo wyprowadziło z danych?

Przykłady graniczne

Zwykle nie są systemami AI:

  • arkusz kalkulacyjny liczący według formuł wpisanych przez pracownika,
  • program księgowy stosujący stawki i progi z konfiguracji,
  • formularz, który podstawia gotowy fragment umowy z biblioteki wzorów,
  • reguła „jeżeli kwota przekracza X, skieruj sprawę do kierownika”, nawet w dużym systemie dziedzinowym.

Zwykle są systemami AI:

  • narzędzia oparte na dużych modelach językowych, także używane przez przeglądarkę,
  • rozpoznawanie mowy, obrazu i pisma, w tym narzędzia do transkrypcji,
  • modele punktujące ryzyko lub przesiewające zgłoszenia na podstawie danych historycznych,
  • chatboty odpowiadające na pytania mieszkańców lub pacjentów.

Przykłady ilustrują konstrukcję prawną; nie są kwalifikacją konkretnych produktów.

Dwa częste błędy

Pierwszy: uznanie, że narzędzie, które nie wygląda na „sztuczną inteligencję”, nie podlega rozporządzeniu. Definicja nie wymaga pełnej samodzielności ani uczenia się po wdrożeniu. Wystarczy, że system działa w pewnym stopniu niezależnie od człowieka (motyw 12).

Drugi: objęcie obowiązkami całego zaplecza informatycznego. Motyw 12 wyklucza systemy działające wyłącznie według reguł napisanych przez człowieka.

Komisja Europejska opublikowała 6 lutego 2025 r. wytyczne dotyczące definicji systemu AI. Wytyczne nie wiążą, ale przy sprawach granicznych warto do nich sięgnąć i to odnotować.

Co zrobić

  1. Wypisz narzędzia używane w organizacji i przy każdym odpowiedz na pytanie o źródło jego zachowania: reguły człowieka czy wnioskowanie z danych.
  2. Zapisz rozstrzygnięcie z uzasadnieniem. Ta notatka będzie dowodem, jeżeli ktoś zapyta, dlaczego wobec danego narzędzia nie stosowano obowiązków.
  3. Przy narzędziach kupowanych zapytaj dostawcę wprost, czy uważa produkt za system AI, i zachowaj odpowiedź.
  4. Wynik przenieś do oceny ryzyka: bycie systemem AI nie oznacza jeszcze wysokiego ryzyka.

Podstawa prawna

Art. 3 pkt 1 i motyw 12 rozporządzenia (UE) 2024/1689 (AI Act); wytyczne Komisji Europejskiej dotyczące definicji systemu AI z 6 lutego 2025 r. (niewiążące).