AI w HR: Gdzie kończy się kontrola, a zaczyna naruszenie prawa?

Unijny AI Act nakłada surowe wymogi na pracodawców, którzy używają sztucznej inteligencji do podejmowania decyzji dotyczących zatrudnienia, awansu, oceny czy zwolnienia pracownika. Regulacja nie zakazuje stosowania AI w obszarze HR, ale wymaga zapewnienia przejrzystości, nadzoru człowieka i ochrony praw pracowników przed dyskryminacją algorytmiczną.

Jak AI zmienia monitoring pracowników

Sztuczna inteligencja w miejscu pracy to już nie przyszłość — to rzeczywistość. Nowoczesne systemy potrafią analizować tempo pracy, identyfikować wzorce zachowań, przewidywać ryzyko odejścia pracownika, oceniać efektywność zespołów, a nawet wspierać procesy rekrutacyjne poprzez automatyczną ocenę kandydatów. Pracodawcy od lat korzystają z monitoringu wizyjnego, kontroli poczty elektronicznej czy analizy aktywności na urządzeniach służbowych, ale możliwości AI znacząco zwiększyły zakres i precyzję nadzoru.

Problem polega na tym, że algorytmy mogą działać w sposób trudny do wyjaśnienia, a ich decyzje mogą prowadzić do dyskryminacji, błędnych ocen lub naruszenia praw podstawowych pracowników. Właśnie dlatego unijny ustawodawca zdecydował się na regulację.

Które systemy AI są objęte AI Act?

Unijny AI Act klasyfikuje część systemów wykorzystywanych w obszarze zatrudnienia jako systemy wysokiego ryzyka. Szczególnie rygorystycznym wymogom podlegają narzędzia wykorzystywane do:

• Rekrutacji i selekcji kandydatów
• Podejmowania decyzji dotyczących awansu
• Oceny pracowników
• Przydzielania zadań
• Rozwiązywania stosunku pracy

Ważne jest, że Komisja Europejska interpretuje pojęcie zatrudnienia szeroko. Obejmuje ono nie tylko pracowników etatowych, ale również osoby wykonujące pracę na podstawie innych form współpracy — freelancerów, samozatrudnionych oraz pracowników platform cyfrowych. Oznacza to, że przedsiębiorcy nie unikną obowiązków wynikających z AI Act wyłącznie dlatego, że współpracują z wykonawcami na podstawie umów cywilnoprawnych.

Profilowanie pracowników: gdzie zaczyna się ryzyko?

Jednym z najważniejszych zagadnień jest profilowanie pracowników. W praktyce oznacza ono automatyczne przetwarzanie danych w celu oceny określonych cech osoby, takich jak wydajność, zachowanie, preferencje czy przewidywane działania. Jeśli system AI tworzy profile pracowników i wykorzystuje je do podejmowania decyzji kadrowych, ryzyko naruszenia praw podstawowych znacząco wzrasta.

AI Act przewiduje szczególne wymogi dotyczące profilowania:

• Przejrzystość: Pracodawca musi wyjaśnić, jak działa system i jakie dane są analizowane
• Jakość danych: Dane muszą być dokładne, kompletne i reprezentatywne
• Zarządzanie ryzykiem: Konieczna jest analiza potencjalnych zagrożeń dla praw pracowników
• Nadzór człowieka: Ostateczne decyzje muszą być podejmowane przez człowieka, który rozumie ograniczenia systemu

Nadzór człowieka: obowiązek, nie opcja

Jednym z największych zagrożeń wskazywanych przez regulatorów jest całkowita automatyzacja decyzji personalnych. W praktyce mogłoby to oznaczać sytuację, w której algorytm wskazuje osoby do zwolnienia, awansu lub objęcia dodatkowymi obowiązkami bez udziału człowieka.

AI Act nie zabrania wspierania takich procesów przez sztuczną inteligencję, ale wymaga zapewnienia skutecznego nadzoru człowieka. Pracodawca powinien:

1. Rozumieć sposób działania systemu
2. Znać jego ograniczenia i potencjalne błędy
3. Mieć możliwość zakwestionowania rekomendacji wygenerowanych przez algorytm
4. Ponosić ostateczną odpowiedzialność za decyzję

Jeśli decyzja zostałaby podjęta wyłącznie na podstawie działania nieprzejrzystego systemu AI, mogłoby to prowadzić do sporów sądowych i podważania legalności takich działań. Eksperci prawa nowych technologii jednoznacznie wskazują: ostateczna odpowiedzialność pozostaje po stronie człowieka, a nie algorytmu.

AI Act i RODO: dwie regulacje, jeden obowiązek

Firmy wdrażające narzędzia sztucznej inteligencji muszą pamiętać, że AI Act nie zastępuje przepisów RODO. Oba akty prawne funkcjonują równolegle, a ich wymogi się uzupełniają.

Aspekt	AI Act	RODO
Główny cel	Ograniczenie ryzyka związanego z AI	Ochrona danych osobowych
Zakres	Systemy wysokiego ryzyka	Wszystkie przetwarzania danych
Przejrzystość	Wyjaśnienie działania algorytmu	Informacja o zbieraniu danych
Podstawa prawna	Wymogi techniczne systemu	Zgoda lub inna podstawa prawna
Nadzór	Nadzór człowieka nad decyzjami	Prawo dostępu i sprzeciwu
Odpowiedzialność	Dokumentacja i analiza ryzyka	Rejestr przetwarzania

W praktyce oznacza to konieczność spełnienia wymogów dotyczących ochrony danych osobowych, minimalizacji przetwarzania danych, zapewnienia odpowiedniej podstawy prawnej oraz transparentności wobec pracowników. Pracodawca powinien jasno informować, jakie dane są zbierane, w jakim celu są analizowane i czy w procesie wykorzystywana jest sztuczna inteligencja. Brak takiej transparentności może prowadzić do naruszenia zarówno przepisów RODO, jak i AI Act.

Praktyczne obowiązki dla pracodawców

AI Act nie zastępuje przepisów RODO — oba akty prawne funkcjonują równolegle. Wraz z kolejnymi etapami wdrażania regulacji przedsiębiorcy będą musieli coraz dokładniej dokumentować wykorzystanie systemów sztucznej inteligencji w obszarze HR.

Do najważniejszych obowiązków należą:

• Analiza ryzyka: Ocena, w jaki sposób system AI może wpłynąć na prawa pracowników
• Dokumentacja: Prowadzenie szczegółowych rejestrów dotyczących działania systemu, danych wejściowych i decyzji
• Jakość danych: Zapewnienie, że dane wykorzystywane przez system są dokładne, kompletne i reprezentatywne
• Nadzór człowieka: Utrzymywanie kontroli człowieka nad procesami decyzyjnymi i możliwości zakwestionowania rekomendacji
• Szkolenie personelu: Edukacja pracowników korzystających z AI na temat jego ograniczeń i potencjalnych błędów

Co to oznacza dla Twojej firmy

Celem regulacji nie jest zakazanie innowacji, lecz ograniczenie sytuacji, w których algorytmy mogłyby prowadzić do dyskryminacji, błędnych ocen lub nieuzasadnionej ingerencji w prawa pracowników. Dla pracodawców oznacza to, że mogą wdrażać zaawansowane narzędzia AI, ale muszą to robić odpowiedzialnie.

Jeśli Twoja firma planuje wdrożenie systemu AI do monitorowania, oceny czy rekrutacji pracowników, powinna:

1. Przeprowadzić ocenę wpływu: Zidentyfikować potencjalne ryzyka dla praw pracowników
2. Zapewnić przejrzystość: Wyjaśnić pracownikom, jak działa system i jakie dane są zbierane
3. Utrzymać nadzór człowieka: Upewnić się, że ostateczne decyzje podejmuje człowiek
4. Dokumentować proces: Prowadzić szczegółowe rejestry dotyczące wdrażania i funkcjonowania systemu
5. Szkolić personel: Edukować menedżerów i HR-owców na temat ograniczeń AI

Regulacja AI Act stopniowo wchodzi w życie, a wymogi będą się zaostrzać. Przedsiębiorcy, którzy już teraz przygotowują się do zgodności z przepisami, będą mieć znaczną przewagę konkurencyjną i unikną kosztownych procesów sądowych.