Twoi pracownicy jużwklejają dane firmy doChatGPT. Wiesz, gdzieone lądują?

To już się dzieje, nie jest teorią

Kilka liczb z badań, które warto znać:

• Cyberhaven (analiza ruchu danych w firmach): w marcu 2024 r. 27,4% danych firmowych wklejanych przez pracowników do narzędzi AI stanowiły dane wrażliwe, rok wcześniej 10,7%. Najczęściej były to treści z obsługi klienta, kod źródłowy i materiały badawczo-rozwojowe. Aż 82,8% dokumentów prawnych trafiało do AI przez konta prywatne, poza kontrolą firmy.
• TELUS Digital (ankieta, luty 2025): ponad połowa pracowników korzystających z generatywnej AI wpisuje wrażliwe dane firmy do publicznych asystentów, a blisko 7 na 10 robi to z prywatnych kont. Prawie połowa nie wie, czy firma w ogóle ma jakieś zasady dotyczące AI.
• IBM, Cost of a Data Breach 2025: shadow AI, czyli korzystanie z narzędzi AI bez wiedzy i kontroli firmy, podnosiło koszt naruszenia danych średnio o 670 tys. USD. 63% badanych organizacji, które doświadczyły naruszenia, nie miało polityki zarządzania AI albo dopiero ją tworzyło.

Najgłośniejszy przykład to Samsung z 2023 r., gdzie inżynierowie wkleili do ChatGPT fragmenty poufnego kodu źródłowego. Firma zareagowała zakazem korzystania z publicznych narzędzi AI na urządzeniach służbowych.

Dlaczego to problem prawny, a nie tylko „IT się czepia”

RODO: cztery konkretne punkty zapalne

1. Brak umowy powierzenia. Jeśli firma przekazuje dane osobowe innemu podmiotowi do przetwarzania, potrzebuje z nim umowy (art. 28 RODO). Pracownik, który wkleja dane klienta do czatu na swoim prywatnym koncie, przekazuje je firmie, z którą Twoja organizacja żadnej umowy nie podpisała.

2. Transfer danych poza Europę. Najpopularniejsi dostawcy modeli to firmy amerykańskie. Przekazywanie danych do USA opiera się dziś głównie na EU-US Data Privacy Framework. Sąd Unii Europejskiej utrzymał ten mechanizm we wrześniu 2025 r., ale sprawa trafiła w odwołaniu do Trybunału Sprawiedliwości UE i nadal czeka na rozstrzygnięcie. Dwa poprzednie porozumienia (Safe Harbor i Privacy Shield) Trybunał unieważnił. Budowanie procesów firmy wyłącznie na tym fundamencie to ryzyko, które warto świadomie ograniczać.

3. Trenowanie modeli na Twoich danych. W prywatnych planach ChatGPT (Free, Plus, Pro) rozmowy mogą domyślnie służyć do trenowania modeli, chyba że użytkownik sam to wyłączy w ustawieniach. W planach biznesowych i w API dostawca domyślnie nie trenuje na danych klienta. To jedna z kluczowych różnic między „pracownik korzysta z AI na własną rękę” a „firma wdrożyła AI”.

4. Minimalizacja i privacy by design. RODO wymaga, żeby przetwarzać tylko te dane, które są niezbędne (art. 5), i żeby ochronę danych projektować od początku, a nie doklejać na końcu (art. 25). Wklejenie całej tabeli z danymi klientów, żeby model napisał jednego maila, trudno uznać za minimalizację.

Tajemnica przedsiębiorstwa

Według ustawy o zwalczaniu nieuczciwej konkurencji informacja jest chroniona jako tajemnica przedsiębiorstwa m.in. wtedy, gdy firma podjęła działania, żeby utrzymać ją w poufności. Jeśli w firmie nie ma żadnych zasad korzystania z AI, a cenniki, warunki umów czy dane klientów swobodnie krążą po prywatnych kontach w zewnętrznych narzędziach, w razie sporu trudniej będzie wykazać, że takie działania były podejmowane.

AI Act: co już obowiązuje, a co przesunięto

• Kompetencje w zakresie AI (art. 4) obowiązują od 2 lutego 2025 r. Każda firma, która używa systemów AI, ma podjąć działania, żeby pracownicy korzystający z nich mieli wystarczającą wiedzę o ich działaniu i ryzykach. AI Act nie przewiduje za to bezpośredniej kary, ale brak szkoleń może zostać potraktowany jako brak należytej staranności, jeśli dojdzie do szkody.
• Digital Omnibus on AI wszedł w życie 27 lipca 2026 r. i przesunął obowiązki dla systemów wysokiego ryzyka. Systemy z załącznika III (m.in. rekrutacja, ocena pracowników, ocena zdolności kredytowej) mają nowy termin 2 grudnia 2027 r., a systemy wbudowane w produkty regulowane (załącznik I) 2 sierpnia 2028 r.
• Obowiązki przejrzystości z art. 50 obowiązują od 2 sierpnia 2026 r. i nie zostały przesunięte.

Większość firm, które używają AI do maili, dokumentów czy obsługi zapytań, nie wchodzi w kategorię wysokiego ryzyka. Jeśli jednak AI ma oceniać ludzi (CV kandydatów, wydajność pracowników), to temat do sprawdzenia już teraz, a nie w listopadzie 2027.

Zakaz nie działa. Działa lepsze narzędzie

Ludzie wklejają dane do czatów, bo to im realnie oszczędza czas. Sam zakaz zwykle kończy się tym, że to samo dzieje się dalej, tylko na prywatnym telefonie, gdzie firma ma jeszcze mniej kontroli.

Skuteczniejsze podejście: dać zespołowi firmowe narzędzie, które robi to samo albo więcej, ale działa na zasadach ustalonych przez firmę.

Jak budujemy rozwiązania AI w Monster Code

1. Dane osobowe nie idą do modelu w jawnej postaci

Między użytkownikiem a modelem językowym stawiamy warstwę pośrednią. Zanim zapytanie wyjdzie do modelu, system wykrywa w nim dane osobowe i poufne (imiona i nazwiska, PESEL, NIP, adresy, maile, numery kont, numery dokumentów) i zamienia je na znaczniki.

Przykład. Pracownik chce wygenerować monit:

• Treść w systemie: „Jan Kowalski zalega 12 400 zł za fakturę FV/2026/09/114, napisz uprzejme przypomnienie o płatności”.
• Co dostaje model: „[OSOBA_1] zalega [KWOTA_1] za fakturę [DOKUMENT_1], napisz uprzejme przypomnienie o płatności”.

Model odpowiada tekstem ze znacznikami, a prawdziwe wartości podstawiamy dopiero po powrocie odpowiedzi, w infrastrukturze, nad którą mamy kontrolę. Dostawca modelu nie dostaje informacji, kim jest Jan Kowalski.

Piszemy uczciwie: według RODO dane spseudonimizowane nadal są danymi osobowymi dla tego, kto ma klucz do ich odtworzenia. Pseudonimizacja nie zwalnia więc z obowiązków, ale znacząco ogranicza ryzyko, bo poza firmę nie wychodzą dane pozwalające zidentyfikować konkretną osobę.

2. Model dostaje tylko to, czego potrzebuje

Wyszukiwanie, filtrowanie, liczenie i łączenie danych robi kod i baza danych, nie model językowy. Do modelu trafia tylko fragment potrzebny do wykonania konkretnego zadania, a nie cała baza klientów czy pełny eksport z ERP.

3. Przetwarzanie na serwerach w UE

Tam, gdzie dostawca na to pozwala, konfigurujemy przetwarzanie w regionie europejskim. Przykład z rynku: OpenAI od lutego 2025 r. oferuje rezydencję danych w Europie dla API. Zapytania są wtedy obsługiwane w regionie i nie są przechowywane na serwerach dostawcy (zero data retention). Podobne możliwości dają chmury z centrami danych w UE.

4. API i umowy zamiast prywatnych kont

Korzystamy z API i planów biznesowych, w których dostawca domyślnie nie trenuje modeli na danych klienta.

Od czego zacząć w swojej firmie

1. Sprawdź, czego ludzie realnie używają. Zapytaj wprost, bez polowania na winnych. Bez tego nie wiesz, co chronić.
2. Spisz krótkie zasady. Jedna strona: co wolno wkleić do AI, czego nie, z jakich narzędzi korzystamy.
3. Daj firmowe narzędzie. Konto w planie biznesowym albo rozwiązanie zbudowane pod Waszą pracę, z pseudonimizacją danych.
4. Przeszkol zespół i to udokumentuj. To realizuje też obowiązek z art. 4 AI Act.
5. Sprawdź umowy z dostawcami. Kto przetwarza dane, gdzie i na jakiej podstawie.
6. Jeśli AI ma oceniać ludzi, sprawdź klasyfikację wysokiego ryzyka. Termin to 2 grudnia 2027 r., a przygotowanie dokumentacji zajmuje miesiące.

Źródła

• Cyberhaven: Shadow AI, how employees are leading the charge in AI adoption
• CXM World: TELUS Digital survey on sensitive data in AI tools (luty 2025)
• DuoCircle: podsumowanie IBM Cost of a Data Breach 2025
• OpenAI Help: model training controls
• OpenAI: Introducing data residency in Europe
• WilmerHale: CJEU to review challenge to EU-U.S. DPF
• Andersen: AI literacy, obowiązek pracodawcy
• Hunton: Digital Omnibus on AI enters into force
• Stephenson Harwood: Digital Omnibus on AI, ten key takeaways
• CASRAI: nowe terminy dla systemów wysokiego ryzyka