Shadow AI w firmie: jakie ryzyko prawne czeka pracodawcę?
Shadow AI to nieautoryzowane narzędzia AI używane przez pracowników. Grozi RODO, ujawnieniem tajemnic biznesu i karami do 20 mln euro. Jak się bronić?
Shadow AI to korzystanie przez pracowników z nieautoryzowanych narzędzi sztucznej inteligencji, które pracodawca nie zatwierdził i nie kontroluje. Zjawisko to stanowi nowy wymiar ryzyka prawnego dla organizacji i wynika z rosnącej dostępności narzędzi AI oraz presji na produktywność pracowników.
Czym jest Shadow AI i dlaczego się rozprzestrzenia?
Shadow AI jest kwalifikowaną formą szerszego zjawiska Shadow IT – czyli korzystania z niezatwierdzonych narzędzi informatycznych. Pracownicy sięgają po nieautoryzowane narzędzia AI przede wszystkim dlatego, że kierują się funkcjonalnościami i dostępnością aplikacji, a nie ich właściwościami bezpieczeństwa. Presja na maksymalizację wydajności i automatyzację procesów sprawia, że pracownicy szukają szybkich rozwiązań bez konsultacji z działem IT czy compliance.
Generatywne modele językowe (LLM) takie jak ChatGPT czy inne narzędzia AI są szczególnie popularne w Shadow AI, ponieważ są łatwo dostępne i intuicyjne w użyciu. Pracownik może w kilka sekund zalogować się do takiego narzędzia i rozpocząć pracę, wprowadzając dane, które mogą zawierać informacje wrażliwe.
Ryzyko RODO – najpoważniejsze zagrożenie prawne
Introdukcja danych osobowych do nieautoryzowanego oprogramowania AI stanowi niekontrolowaną czynność powierzenia danych osobowych bez wymaganej umowy powierzenia (art. 28 ust. 3 RODO). Pracodawca nie ma wiedzy o tym, jakie narzędzie pracownik używa, gdzie dane są przechowywane i w jaki sposób są przetwarzane.
W tej sytuacji pracodawca traci kontrolę nad prawidłowością przetwarzania danych osobowych. Nie są pozyskiwane zgody na przetwarzanie, nie są przestrzegane wewnętrzne procedury, a pracownik rozporządza danymi działając w imieniu pracodawcy, który za jego działania odpowiada.
Kary za naruszenia RODO mogą być surowe:
| Typ kary | Wysokość | Podstawa prawna |
|---|---|---|
| Kara pieniężna | Do 4% rocznego obrotu (max 20 mln euro) | Art. 83 RODO |
| Odszkodowanie za szkodę | Bez limitu górnego | Art. 82 ust. 1 RODO |
| Odpowiedzialność za ujawnienie tajemnicy | Kary finansowe i karne | Ustawa o zwalczaniu nieuczciwej konkurencji |
Co to oznacza: Nawet pojedynczy wyciek danych osobowych przez Shadow AI może spowodować karę finansową sięgającą milionów euro. Dla małych i średnich firm może to być katastrofalne.
Ujawnienie tajemnic biznesu – ryzyko konkurencyjne
Shadow AI może prowadzić do ujawnienia tajemnic przedsiębiorstwa – nie tylko pracodawcy, ale także jego kontrahentów. Pracownik, wprowadzając dane do nieautoryzowanego narzędzia AI, może bez świadomości ujawnić informacje o strategii biznesowej, cenach, umowach czy procesach produkcyjnych.
Taki wyciek stanowi czyn nieuczciwej konkurencji w rozumieniu art. 11 ust. 1 ustawy o zwalczaniu nieuczciwej konkurencji. Pracodawca odpowiada za wyrządzoną tym czynem szkodę (art. 18) oraz grozi mu odpowiedzialność karna (art. 23).
Ryzyko kontraktowe – kary umowne za naruszenie poufności
Umowy z kontrahentami prawie zawsze zawierają klauzule RODO i postanowienia o obowiązku zachowania poufności. Niekiedy zawierana jest osobna umowa o zachowaniu poufności (NDA) przed zawarciem umowy głównej.
Praktyka branżowa przewiduje zastrzeganie w NDA wysokich kar za każdorazowy przypadek naruszenia obowiązków poufności. Jeśli pracownik wprowadzi poufne informacje do Shadow AI i dojdzie do wycieku, pracodawca może być zobowiązany do zapłaty kar umownych – czasami nawet wielokrotnie, jeśli naruszenie dotyczy wielu informacji.
Prompt injection – nowy wektor ataku na dane
Generatywne modele językowe używane w Shadow AI są podatne na ataki typu prompt injection. Technika ta polega na zmuszeniu modelu AI do wykonania określonych poleceń zamiast funkcjonowania zgodnie z instrukcją programisty.
Atakujący może wstrzyknąć złośliwy prompt, który zmusi model do ujawnienia danych wprowadzonych przez inne użytkowników lub wcześniej zawartych w bazie treningowej. Dane wprowadzane do takiego modelu mogą być następnie wykradane bez wiedzy pracownika czy pracodawcy.
Praktyczne przykłady zagrożeń Shadow AI
Pracownik wybiera aplikację do notatek z powodu ładnego interfejsu i synchronizacji na wielu urządzeniach. Okazuje się, że dostawca upublicznia zapisane tam treści, które można znaleźć w Google. Inny pracownik używa narzędzia do udostępniania dokumentów online, aby ominąć limity załączników e-mail. Podczas rejestracji narzędzie prosi o dostęp do folderu z dokumentami, które lądują w bazie danych twórcy programu. Gdy pracownik loguje się za pomocą konta e-mail znanego dostawcy, wszystkie dokumenty z jego chmury są udostępniane.
W obu przypadkach pracownik nie zdaje sobie sprawy z konsekwencji, a liczba oświadczeń podczas rejestracji uniemożliwia mu racjonalne zapoznanie się z warunkami użytkownika.
Jak pracodawca powinien się bronić?
Pracodawca powinien wprowadzić kompleksową strategię zarządzania Shadow AI:
- Polityka akceptowalnego użytku – jasne wytyczne dotyczące zatwierdzonych narzędzi AI
- Edukacja pracowników – szkolenia o zagrożeniach związanych z Shadow AI i RODO
- Zatwierdzanie narzędzi – proces audytu bezpieczeństwa przed wprowadzeniem nowego narzędzia
- Monitoring – narzędzia do wykrywania nieautoryzowanego oprogramowania w sieci
- Umowy powierzenia – zawieranie umów powierzenia danych z dostawcami zatwierdzonych narzędzi AI
- Procedury bezpieczeństwa – wdrożenie procedur obsługi danych wrażliwych
Shadow AI to nie tylko problem techniczny – to przede wszystkim wyzwanie prawne i biznesowe, które wymaga świadomego podejścia pracodawcy do zarządzania ryzykiem.
Najczęstsze pytania
Co to jest Shadow AI i czym się różni od zwykłego Shadow IT?
Shadow AI to korzystanie z nieautoryzowanych narzędzi informatycznych opartych na sztucznej inteligencji, podczas gdy Shadow IT to szersza kategoria obejmująca wszelkie niezatwierdzone oprogramowanie. Shadow AI stanowi wyższą kategorię ryzyka ze względu na możliwość przetwarzania i przechowywania danych przez modele AI.
Jakie kary grożą firmie za naruszenia RODO spowodowane Shadow AI?
Pracodawca może otrzymać karę finansową do 4% rocznego obrotu za poprzedni rok obrotowy (maksymalnie 20 mln euro) oraz odpowiadać za szkody wynikające z naruszenia przepisów RODO. Dodatkowo grożą kary umowne za naruszenie postanowień o poufności w umowach z kontrahentami.
Czy pracownik odpowiada za Shadow AI, czy pracodawca?
Pracodawca odpowiada za działania pracownika w zakresie RODO i przepisów o ochronie danych, ponieważ pracownik działa w imieniu pracodawcy. Pracodawca ma obowiązek nadzoru i kontroli nad przetwarzaniem danych osobowych w organizacji.
Jak prompt injection zagraża danym w Shadow AI?
Prompt injection to technika cyberataku, która zmusza model AI (np. LLM) do wykonania określonych poleceń zamiast funkcjonowania zgodnie z instrukcją programisty. Atakujący może w ten sposób wydobyć dane wprowadzone do modelu lub skłonić go do ujawnienia poufnych informacji.
Co powinien robić pracodawca, aby zapobiec Shadow AI?
Pracodawca powinien wprowadzić politykę akceptowalnego użytku, edukować pracowników o zagrożeniach, zatwierdzać narzędzia AI przed użyciem, monitorować aplikacje i zawierać umowy powierzenia danych z dostawcami zatwierdzonych narzędzi.
Na podstawie: Rzeczpospolita. Tekst opracowany redakcyjnie.