Systemy AI wysokiego ryzyka: gdzie przepisy są najsurowsze

Unijne przepisy AI Act definiują systemy sztucznej inteligencji wysokiego ryzyka jako narzędzia, które mają rzeczywisty wpływ na decyzje dotyczące praw, bezpieczeństwa lub sytuacji życiowej konkretnych osób — i właśnie dla nich przewidują najbardziej rozbudowane obowiązki dotyczące dokumentacji, zarządzania ryzykiem, jakości danych i nadzoru człowieka.

Wiele organizacji wdrażających AI nie wie jednak, kiedy ich rozwiązanie wpada do tej kategorii. Problem polega na tym, że klasyfikacja zależy nie tyle od samej technologii, ile od sposobu jej zastosowania i rzeczywistych konsekwencji dla użytkownika.

Dwa mechanizmy klasyfikacji w AI Act

Unijne przepisy przewidują dwa główne sposoby, by zidentyfikować system wysokiego ryzyka. Pierwszy obejmuje systemy AI stanowiące element produktów objętych unijnymi regulacjami bezpieczeństwa — takie jak niektóre wyroby medyczne, maszyny, urządzenia transportowe czy rozwiązania w infrastrukturze krytycznej.

Drugi, znacznie bardziej praktyczny dla przedsiębiorców i instytucji publicznych, dotyczy zastosowań wymienionych bezpośrednio w załączniku III do AI Act. To właśnie ta grupa będzie miała największe znaczenie dla większości organizacji.

Rekrutacja i zatrudnienie: gdzie AI ma największy wpływ

Jednym z najbardziej znanych przykładów systemów wysokiego ryzyka są narzędzia wykorzystywane w obszarze zatrudnienia. Komisja Europejska wskazuje, że przepisy obejmują systemy AI służące do selekcji kandydatów, oceny CV, przeprowadzania zautomatyzowanych analiz podczas rekrutacji czy wspierania decyzji dotyczących awansów i zwolnień.

Co ważne, przepisy obejmują nie tylko pracowników etatowych, ale również osoby świadczące pracę na innych podstawach prawnych — freelancerów i osoby współpracujące z platformami cyfrowymi. Jeżeli system AI wpływa na decyzje związane z dostępem do zatrudnienia lub przebiegiem kariery zawodowej, istnieje duże prawdopodobieństwo uznania go za system wysokiego ryzyka.

Różnica między systemem wysokiego ryzyka a narzędziem pomocniczym jest jednak kluczowa. Narzędzie pomagające uporządkować dokumenty kandydatów może nie zostać uznane za system wysokiego ryzyka. Zupełnie inaczej oceniany będzie system rekomendujący, którego kandydaci powinni zostać odrzuceni w procesie rekrutacji — ten wpływa bezpośrednio na sytuację życiową konkretnej osoby.

Bankowość i dostęp do usług finansowych

Drugą ważną grupą systemów wysokiego ryzyka są rozwiązania wykorzystywane przy ocenie zdolności kredytowej, analizie ryzyka finansowego oraz podejmowaniu decyzji dotyczących dostępu do usług finansowych.

W praktyce oznacza to, że bank wykorzystujący sztuczną inteligencję do oceny wniosków kredytowych podlega znacznie bardziej rygorystycznym wymogom niż przedsiębiorstwo korzystające z AI wyłącznie do generowania treści marketingowych. Decyzja o przyznaniu lub odmowie kredytu ma bezpośredni wpływ na sytuację finansową konkretnej osoby — stąd klasyfikacja jako system wysokiego ryzyka.

Edukacja, medycyna i administracja publiczna

Systemami wysokiego ryzyka mogą być również rozwiązania wykorzystywane w edukacji — zwłaszcza narzędzia wpływające na ocenę uczniów, przyznawanie punktów czy podejmowanie decyzji dotyczących dalszej ścieżki edukacyjnej.

AI Act obejmuje także wiele zastosowań związanych z administracją publiczną, wymiarem sprawiedliwości, ochroną granic oraz świadczeniami społecznymi. W każdym z tych obszarów wspólnym mianownikiem jest rzeczywisty wpływ systemu na decyzje dotyczące konkretnych osób.

Jak rozpoznać system wysokiego ryzyka?

Klucz do zidentyfikowania systemu wysokiego ryzyka leży w odpowiedzi na jedno pytanie: czy ta sztuczna inteligencja wpływa na decyzje dotyczące praw, bezpieczeństwa lub sytuacji życiowej konkretnych osób?

Eksperci zajmujący się zgodnością z regulacjami podkreślają, że sama technologia ma mniejsze znaczenie niż sposób jej wykorzystania. Ten sam model sztucznej inteligencji może podlegać zupełnie różnym obowiązkom w zależności od celu, do którego został wdrożony.

Zastosowanie AI	Klasyfikacja	Powód
Chatbot obsługi klienta	Zwykle NIE wysokiego ryzyka	Nie wpływa na decyzje dotyczące konkretnej osoby
System do oceny wniosków kredytowych	Wysokiego ryzyka	Decyzja wpływa na dostęp do usług finansowych
Narzędzie do selekcji kandydatów	Wysokiego ryzyka	Wpływa na dostęp do zatrudnienia
Porządkowanie dokumentów kandydatów	Zwykle NIE wysokiego ryzyka	Zadanie pomocnicze bez realnego wpływu
System oceniający uczniów	Wysokiego ryzyka	Wpływa na ścieżkę edukacyjną

Co to oznacza dla organizacji?

Jeżeli system zostanie zakwalifikowany jako wysokiego ryzyka, na jego dostawcę lub podmiot wdrażający spada szereg obowiązków. Organizacja musi być w stanie wykazać zgodność systemu z wymaganiami regulacyjnymi przez cały okres jego użytkowania.

Pierwszym krokiem powinno być ustalenie, czy wykorzystywana sztuczna inteligencja wpływa na prawa, bezpieczeństwo lub sytuację życiową konkretnych osób. Następnie należy sprawdzić, czy dane zastosowanie znajduje się w katalogu obszarów wymienionych przez AI Act.

Wyjątki od klasyfikacji jako systemu wysokiego ryzyka istnieją, ale są interpretowane bardzo wąsko. Mogą one dotyczyć wyłącznie rozwiązań wykonujących zadania pomocnicze, proceduralne lub wspierające człowieka bez realnego wpływu na decyzje dotyczące konkretnej osoby.

Dla organizacji przygotowujących się do wdrożenia AI w wrażliwych obszarach — rekrutacji, bankowości, medycynie czy administracji publicznej — kluczowe jest zrozumienie, że przepisy AI Act oceniają nie technologię, ale rzeczywisty wpływ systemu na decyzje i sytuację obywatela. To rozróżnienie determinuje skalę wymaganych obowiązków i zasobów niezbędnych do zapewnienia zgodności.