AI w rekrutacji: jak chronić pracowników przed dyskryminacją

Polska potrzebuje nowych przepisów chroniących pracowników przed dyskryminacją przez algorytmy sztucznej inteligencji w procesach rekrutacyjnych. To stanowisko wyraził Mirosław Wróblewski, prezes Urzędu Ochrony Danych Osobowych (UODO), kierując wniosek do Ministerstwa Pracy, Rodziny i Polityki Społecznej.

Czym jest bias w modelach AI i dlaczego stanowi problem?

Bias to uprzedzenie zaszyte w sposobie działania modelu sztucznej inteligencji. W odróżnieniu od stereotypów, które mogą być wynikiem ludzkiej ignorancji, bias algorytmiczny to systematyczne zniekształcenie wynikające z danych, na których model został wytrenowany. Jeśli zbiór danych zawiera uprzedzenia wobec określonych grup — na przykład mniejszości etnicznych, kobiet czy osób o określonym wieku — algorytm będzie te uprzedzenia utrwalać i wzmacniać.

Problem pojawia się, ponieważ modele AI są postrzegane jako obiektywne i wolne od emocji. W rzeczywistości są one lustrem uprzedzeń zawartych w historycznych danych treningowych. Gdy przedsiębiorstwo wykorzystuje taki system do podejmowania decyzji o zatrudnieniu, automatycznie przenosi te uprzedzenia na rzeczywiste życie kandydatów.

Przypadek Amazona: lekcja dla branży technologicznej

Najgłośniejszym przykładem problemu biasu w rekrutacji jest historia systemu AI firmy Amazon. Gigant e-commerce’u opracował narzędzie do automatycznego selekcjonowania kandydatów na stanowiska techniczne. Okazało się jednak, że algorytm dyskryminował kobiety ubiegające się o pracę.

Przyczyna była prosta: system został wytrenowany na danych historycznych z branży technologicznej, gdzie mężczyźni stanowili zdecydowaną większość pracowników. Model nauczył się, że “idealny kandydat” to mężczyzna, i odrzucał aplikacje kobiet o porównywalnych lub nawet lepszych kwalifikacjach. Amazon ostatecznie wycofał system z użytku, ale przypadek ten pokazał skalę problemu w całej branży.

Dlaczego przepisy są konieczne?

Wiele przedsiębiorstw w Polsce i na świecie wdraża systemy AI do wspomagania procesów rekrutacyjnych. Bez odpowiednich regulacji prawnych pracownicy nie mają żadnej ochrony przed dyskryminacją przez algorytmy. Obecne przepisy antydyskryminacyjne kodeksu pracy nie były pisane z myślą o automatyzacji decyzji i nie zawierają mechanizmów kontroli systemów AI.

Wniosek prezesa UODO ma na celu zmianę tego stanu rzeczy. Chodzi o wprowadzenie przepisów, które będą wymagać:

• Przejrzystości algorytmów — pracodawcy powinni być w stanie wyjaśnić, jak ich system AI podejmuje decyzje
• Audytów biasu — regularne sprawdzanie, czy algorytm nie dyskryminuje określonych grup
• Prawa do wyjaśnienia — kandydaci powinni mieć możliwość zrozumienia, dlaczego zostali odrzuceni
• Możliwości odwołania się — mechanizm umożliwiający kwestionowanie decyzji podjętych przez AI

Skala problemu w praktyce

Problemy z biasem w AI dotyczą nie tylko rekrutacji. Systemy te są wykorzystywane także w:

• Ocenie wydajności pracowników — algorytmy mogą nieuczciwnie oceniać pracowników z mniejszości
• Ustalaniu wynagrodzeń — modele mogą perpetuować istniejące nierówności płacowe
• Planowaniu ścieżek kariery — AI może ograniczać możliwości awansu dla określonych grup
• Decyzjach o zwolnieniach — automatyczne systemy mogą dyskryminować pracowników z powodu ich cech demograficznych

Co to oznacza dla pracodawców i pracowników?

Wprowadzenie nowych przepisów będzie wymagało od pracodawców istotnych zmian w sposobie wdrażania systemów AI. Będą musieli:

1. Dokumentować procesy treningowe — przechowywać informacje o zbiorach danych użytych do trenowania modeli
2. Przeprowadzać audyty — regularnie testować systemy pod kątem biasu
3. Szkolić zespoły — pracownicy HR muszą rozumieć ograniczenia AI
4. Zachowywać ludzki nadzór — ostateczne decyzje o zatrudnieniu powinny podejmować ludzie, a nie algorytmy

Dla pracowników oznacza to znaczną poprawę ochrony. Będą mieć prawo wiedzieć, czy w procesie rekrutacji wykorzystywany jest system AI, i będą mogli kwestionować decyzje, które uważają za niesprawiedliwe.

Perspektywy zmian w Polsce

Wniosek prezesa UODO trafia do ministerstwa w momencie, gdy Unia Europejska pracuje nad regulacją sztucznej inteligencji. Rozporządzenie AI, które wejdzie w życie w 2025 roku, będzie wymagać od państw członkowskich wprowadzenia dodatkowych zabezpieczeń dla systemów AI wykorzystywanych w zatrudnieniu.

Polska ma szansę być pionierem w tej dziedzinie, wprowadzając przepisy, które będą bardziej restrykcyjne i pracownicze niż wymogi unijne. To mogłoby stać się przewagą konkurencyjną dla polskich firm na rynku talentów — pracodawcy znani z uczciwych praktyk rekrutacyjnych będą przyciągać lepszych kandydatów.

Jednocześnie przedsiębiorstwa, które już teraz podejmą kroki w kierunku etycznego wykorzystania AI, będą lepiej przygotowane na przyszłe regulacje i unikną kosztownych zmian systemowych w przyszłości.