Czym jest system AI w rozumieniu AI Act?
Stan prawny na
Systemem AI jest narzędzie, które wnioskuje: samo wyprowadza z danych model lub zależności i na tej podstawie generuje wyniki. Program działający wyłącznie według reguł napisanych przez człowieka, nawet bardzo rozbudowanych, systemem AI nie jest. Decyduje mechanizm działania, nie nazwa handlowa.
Definicja
Art. 3 pkt 1 AI Act opisuje system AI jako system maszynowy, który działa z różnym poziomem autonomii, może wykazywać zdolność adaptacji po wdrożeniu i który na podstawie otrzymanych danych wejściowych wnioskuje, jak generować wyniki: predykcje, treści, zalecenia lub decyzje.
Rozstrzyga jeden element: zdolność do wnioskowania. Motyw 12 rozporządzenia wyłącza systemy oparte na zasadach określonych wyłącznie przez człowieka. Praktyczne pytanie brzmi więc: czy zachowanie narzędzia wynika z reguł, które napisał człowiek, czy z zależności, które narzędzie samo wyprowadziło z danych?
Przykłady graniczne
Zwykle nie są systemami AI:
- arkusz kalkulacyjny liczący według formuł wpisanych przez pracownika,
- program księgowy stosujący stawki i progi z konfiguracji,
- formularz, który podstawia gotowy fragment umowy z biblioteki wzorów,
- reguła „jeżeli kwota przekracza X, skieruj sprawę do kierownika”, nawet w dużym systemie dziedzinowym.
Zwykle są systemami AI:
- narzędzia oparte na dużych modelach językowych, także używane przez przeglądarkę,
- rozpoznawanie mowy, obrazu i pisma, w tym narzędzia do transkrypcji,
- modele punktujące ryzyko lub przesiewające zgłoszenia na podstawie danych historycznych,
- chatboty odpowiadające na pytania mieszkańców lub pacjentów.
Przykłady ilustrują konstrukcję prawną; nie są kwalifikacją konkretnych produktów.
Dwa częste błędy
Pierwszy: uznanie, że narzędzie, które nie wygląda na „sztuczną inteligencję”, nie podlega rozporządzeniu. Definicja nie wymaga pełnej samodzielności ani uczenia się po wdrożeniu. Wystarczy, że system działa w pewnym stopniu niezależnie od człowieka (motyw 12).
Drugi: objęcie obowiązkami całego zaplecza informatycznego. Motyw 12 wyklucza systemy działające wyłącznie według reguł napisanych przez człowieka.
Komisja Europejska opublikowała 6 lutego 2025 r. wytyczne dotyczące definicji systemu AI. Wytyczne nie wiążą, ale przy sprawach granicznych warto do nich sięgnąć i to odnotować.
Co zrobić
- Wypisz narzędzia używane w organizacji i przy każdym odpowiedz na pytanie o źródło jego zachowania: reguły człowieka czy wnioskowanie z danych.
- Zapisz rozstrzygnięcie z uzasadnieniem. Ta notatka będzie dowodem, jeżeli ktoś zapyta, dlaczego wobec danego narzędzia nie stosowano obowiązków.
- Przy narzędziach kupowanych zapytaj dostawcę wprost, czy uważa produkt za system AI, i zachowaj odpowiedź.
- Wynik przenieś do oceny ryzyka: bycie systemem AI nie oznacza jeszcze wysokiego ryzyka.
Podstawa prawna
Art. 3 pkt 1 i motyw 12 rozporządzenia (UE) 2024/1689 (AI Act); wytyczne Komisji Europejskiej dotyczące definicji systemu AI z 6 lutego 2025 r. (niewiążące).
Szerzej
- Czy nasze narzędzie jest w ogóle systemem AI w rozumieniu AI Act (otwiera się w nowej karcie) (dr Paweł Kowalski, pawelkowalski.ai)