Sprawne korzystanie z AI to jedno, ale równie ważne jest nauczenie zespołu, jak robić to bezpiecznie — zarówno dla danych firmowych, jak i dla jakości podejmowanych na tej podstawie decyzji.

Objaw

Zgłoszenia dotyczą firm, w których pracownicy korzystają z narzędzi AI bez jasnych zasad — wklejając do nich dowolne dane, bezkrytycznie ufając generowanym odpowiedziom, albo korzystając z niezweryfikowanych, przypadkowych narzędzi znalezionych samodzielnie w internecie.

Możliwe przyczyny

Brak jasnych zasad, jakie dane wolno, a jakich nie wolno wprowadzać do narzędzi AI.
Bezkrytyczne zaufanie do generowanych odpowiedzi bez ich weryfikacji.
Korzystanie z niezweryfikowanych narzędzi spoza zatwierdzonego przez firmę zestawu.
Brak świadomości, gdzie i jak długo przechowywane są wprowadzane dane.

Co robimy

Szkolenie obejmuje jasne zasady dotyczące tego, jakich danych nie wolno wprowadzać do narzędzi AI — danych osobowych klientów, tajemnic handlowych, danych finansowych firmy, chyba że narzędzie jest do tego celu specjalnie skonfigurowane i zabezpieczone. Pracownicy uczą się weryfikować odpowiedzi generowane przez AI, zamiast przyjmować je bezkrytycznie — szczególnie przy faktach, liczbach i informacjach, które trafią dalej do klienta. Ustalana jest lista zatwierdzonych narzędzi, z których zespół może korzystać, w miejsce przypadkowego wyboru przez poszczególnych pracowników.

Ile to trwa

Szkolenie z bezpiecznego korzystania z AI to zwykle jedno spotkanie, często łączone z podstawowym szkoleniem z obsługi narzędzi.

Co można zrobić samemu, zanim przyjedzie serwisant

Warto zastanowić się, jakie dane w firmie są szczególnie wrażliwe i wymagają jasnego zakazu wprowadzania do zewnętrznych narzędzi, zanim szkolenie się odbędzie.

Czego nie robić: nie warto zakładać, że pracownicy sami intuicyjnie wiedzą, czego nie wolno wpisywać do narzędzi AI — bez jasno spisanych zasad każdy stosuje własne, niekoniecznie trafne podejście.

Warunki

Szkolenie wyceniane jest indywidualnie, zależnie od liczby uczestników i zakresu tematycznego.

Typowe scenariusze zagrożeń i warianty nieprawidłowego korzystania z AI

W codziennej praktyce biurowej niewłaściwe korzystanie ze sztucznej inteligencji przybiera różne formy. Najczęściej spotykanym zjawiskiem jest tak zwane Shadow IT (samodzielne instalowanie programów lub używanie zewnętrznych serwisów internetowych bez wiedzy i zgody administratora sieci). Pracownicy, dążąc do przyspieszenia swoich obowiązków, rejestrują darmowe konta na nieznanych platformach, wykorzystując do tego służbowe adresy poczty elektronicznej lub logując się prywatnymi profilami na komputerach firmowych.

Kolejnym wariantem jest wprowadzanie do okna dialogowego wrażliwego kodu źródłowego, zapytań do relacyjnych baz danych oraz plików konfiguracyjnych zawierających dane logowania lub klucze API (Application Programming Interface, czyli interfejs programistyczny służący do bezpiecznej komunikacji między aplikacjami). Programiści i analitycy często proszą model o odnalezienie błędu w kodzie, nie usuwając z treści zapytań poufnych adresów serwerów, loginów ani struktur wewnętrznych tabel. Przesłanie takich danych do publicznego modelu może skutkować ich utrwaleniem w logach zewnętrznego dostawcy usługi.

Częstym problemem w działach handlowych, kadr i księgowości jest wklejanie pełnej treści umów, skanów faktur, raportów sprzedaży oraz korespondencji z klientami w celu szybkiego przygotowania podsumowania lub korekty językowej. Dokumenty te zawierają numery PESEL, numery rachunków bankowych, dane kontrahentów oraz marże handlowe. W przypadku darmowych wersji narzędzi LLM (Large Language Model, czyli duży model językowy przetwarzający i generujący tekst) przesłane informacje mogą posłużyć do douczania publicznych algorytmów.

Zagrożenie stanowi także bezkrytyczne kopiowanie wygenerowanych tekstów do oficjalnych ofert, pism procesowych, dokumentacji technicznej lub korespondencji z klientami. Zjawisko halucynacji (błąd polegający na generowaniu przez model zmyślonych faktów, dat, przepisów prawnych lub kalkulacji, które brzmią przekonująco i poprawnie) prowadzi do wprowadzania kontrahentów w błąd, powstawania strat finansowych oraz utraty reputacji przedsiębiorstwa.

Osobną kategorię stanowi korzystanie z niesprawdzonych wtyczek do przeglądarek internetowych, które obiecują integrację asystenta AI z pocztą lub arkuszem kalkulacyjnym. Wiele takich rozszerzeń ma niejasne pochodzenie i żąda uprawnień do odczytu wszystkich danych przeglądanych na stronach WWW, co stanowi bezpośrednią drogę do przechwycenia haseł i sesji logowania.

Błędy popełniane przy próbach samodzielnego regulowania AI w firmie

Wielu pracodawców dostrzega ryzyko związane ze sztuczną inteligencją, jednak wdraża metody zaradcze, które w praktyce okazują się nieskuteczne lub przynoszą odwrotny skutek:

Wprowadzanie całkowitego zakazu korzystania z AI — blokowanie domen na poziomie firmowej sieci zazwyczaj powoduje, że pracownicy zaczynają korzystać z narzędzi na prywatnych telefonach lub laptopach połączonych z siecią komórkową. Praca nadal jest wykonywana z pomocą AI, lecz transfer plików i promptów (poleceń tekstowych kierowanych do modelu) odbywa się całkowicie poza jakąkolwiek kontrolą bezpieczeństwa.
Ograniczenie się do ogólnych zapisów w regulaminie pracy — dodanie jednozdaniowego zakazu naruszania poufności bez precyzyjnego instruktażu nie daje pracownikom praktycznej wiedzy. Zespół często nie zdaje sobie sprawy, że wklejenie fragmentu wiadomości e-mail z nazwiskiem klienta stanowi naruszenie przepisów RODO (Rozporządzenie o Ochronie Danych Osobowych, regulujące przetwarzanie danych osobowych).
Pozostawienie domyślnych ustawień kont użytkowników — w większości komercyjnych platform domyślnie włączona jest opcja zbierania historii zapytań na potrzeby dalszego uczenia modeli. Brak procedury opt-out (wyrażenia sprzeciwu i wyłączenia funkcji przekazywania danych do trenowania algorytmów) sprawia, że wpisywane informacje mogą trafić do bazy treningowej.
Brak procedur anonimizacji danych wejściowych — pracownicy często nie wiedzą, jak skutecznie zamieniać realne dane na zmienne neutralne przed wysłaniem zapytania do modelu, przez co wysyłają oryginalne dokumenty.
Brak wyznaczonej listy sprawdzonych narzędzi — nieudostępnienie zespołowi bezpiecznych, zweryfikowanych rozwiązań biznesowych z gwarancją poufności zmusza pracowników do szukania przypadkowych, darmowych zamienników o wątpliwym poziomie zabezpieczeń.

Kiedy problemem nie jest brak wiedzy pracowników, lecz konfiguracja techniczna

Zdarzają się sytuacje, w których pracownicy posiadają ogólną świadomość zagrożeń, jednak infrastruktura techniczna i konfiguracja oprogramowania w firmie uniemożliwiają im bezpieczną pracę. Warto rozróżnić brak przeszkolenia zespołu od braków w konfiguracji środowiska informatycznego.

Pierwszym elementem jest brak wdrożonych planów biznesowych z odpowiednimi zapisami prawnymi. Standardowe konta konsumenckie nie oferują umów powierzenia przetwarzania danych osobowych ani gwarancji zerowej retencji danych (zasady, zgodnie z którą dostawca usługi usuwa przesłane zapytania natychmiast po wygenerowaniu odpowiedzi). W takim środowisku nawet ostrożny pracownik nie ma technicznej możliwości zagwarantowania pełnej poufności.

Drugim czynnikiem jest brak zabezpieczeń sieciowych typu DLP (Data Loss Prevention, czyli systemów wykrywania i blokowania nieautoryzowanego transferu poufnych danych poza sieć lokalną). Prawidłowo skonfigurowane oprogramowanie zabezpieczające potrafi automatycznie zablokować wysłanie numeru karty płatniczej, numeru PESEL lub określonych ciągów znaków do zewnętrznych adresów internetowych.

Kolejną kwestią jest brak centralnego zarządzania kontami poprzez SSO (Single Sign-On, czyli system pojedynczego logowania zintegrowany z firmową bazą użytkowników). Gdy pracownicy logują się do narzędzi AI za pomocą indywidualnych haseł, administrator nie ma możliwości natychmiastowego odebrania uprawnień w momencie zakończenia współpracy z daną osobą, co stwarza ryzyko nieautoryzowanego dostępu do historii firmowych zapytań.

Praktyczne filary bezpiecznego wdrożenia sztucznej inteligencji

Skuteczne przygotowanie zespołu do bezpiecznej pracy z modelami językowymi i generatorami treści opiera się na kilku sprawdzonych zasadach organizacyjnych i technicznych:

Klasyfikacja informacji w organizacji — ustalenie prostego, czytelnego podziału danych na grupy: dane publiczne (materiały marketingowe, opublikowane artykuły), dane wewnętrzne (ogólne procedury biurowe), dane poufne (dane osobowe, umowy, raporty finansowe) oraz dane ściśle tajne (hasła, klucze szyfrujące, kod źródłowy unikalnych aplikacji). Zespół musi dokładnie wiedzieć, które kategorie mogą być wprowadzane do AI bez ograniczeń, które wymagają uprzedniej anonimizacji, a które są objęte bezwzględnym zakazem.

Techniki anonimizacji i prompt engineeringu — przeszkolenie pracowników z zakresu prompt engineeringu (techniki precyzyjnego formułowania zapytań i instrukcji dla modeli sztucznej inteligencji) z wykorzystaniem danych syntetycznych (fikcyjnych danych testowych nieodzwierciedlających rzeczywistych osób ani transakcji). Zamiast wklejać umowę z konkretnym kontrahentem, pracownik uczy się zastępować nazwy firm symbolami, usuwać kwoty i daty, a po uzyskaniu wygenerowanego szablonu uzupełniać go właściwymi danymi lokalnie, na własnym komputerze.

Wdrożenie zasady human in the loop — wprowadzenie zasady human in the loop (człowiek w pętli decyzyjnej, czyli metody organizacji pracy, w której człowiek jest ostatecznym weryfikatorem decyzji i treści wygenerowanych przez algorytmy). Żaden tekst, kod ani dokument wygenerowany przez sztuczną inteligencję nie może zostać wysłany do klienta, opublikowany ani wdrożony na serwerze produkcyjnym bez weryfikacji przez upoważnionego pracownika. Obejmuje to sprawdzanie źródeł, przeliczenie danych liczbowych oraz weryfikację poprawności merytorycznej.

Audyt i rejestr wykorzystywanych narzędzi — stworzenie centralnego katalogu oprogramowania, w którym każde narzędzie AI jest weryfikowane pod kątem regulaminu świadczenia usług, lokalizacji serwerów przetwarzających dane oraz zgodności z europejskimi standardami ochrony prywatności.

Dodatkowe pytania o bezpieczne korzystanie z AI w firmie

Czy bezpłatne wersje popularnych chatbotów AI zapisują i wykorzystują wpisywane dane?

W większości bezpłatnych wersji publicznych asystentów AI wprowadzane zapytania oraz załączone pliki są domyślnie wykorzystywane przez dostawców do trenowania i ulepszania kolejnych generacji modeli. Dodatkowo dane te mogą być poddawane losowej weryfikacji przez zewnętrznych audytorów (ludzkich weryfikatorów oceniających jakość odpowiedzi), co oznacza, że osoby trzecie mogą uzyskać wgląd w treść wpisanych informacji. Wyłączenie tej funkcji wymaga odpowiedniej konfiguracji konta lub przejścia na plan biznesowy.

Na czym polega bezpieczna anonimizacja tekstu przed wysłaniem zapytania do AI?

Bezpieczna anonimizacja polega na trwałym usunięciu lub zastąpieniu wszelkich danych umożliwiających identyfikację osób fizycznych, firm lub systemów informatycznych. Zamiast imion, nazwisk, adresów i numerów telefonów stosuje się etykiety zastępcze (na przykład [Klient A], [Firma B], [Miasto C]). W przypadku danych finansowych bezpieczną praktyką jest zamiana realnych kwot na proporcje lub wartości fikcyjne, a w przypadku logów serwerowych — zamiana realnych adresów IP (Internet Protocol, czyli unikalnych numerów identyfikacyjnych urządzeń w sieci komputerowej) na adresy przykładowe.

Jak rozpoznać, że odpowiedź wygenerowana przez model AI zawiera zmyślone fakty?

Modele językowe generują odpowiedzi na podstawie prawdopodobieństwa występowania kolejnych słów, a nie na podstawie faktycznego rozumienia rzeczywistości. Zmyślone informacje, czyli halucynacje, najczęściej pojawiają się przy pytaniach o konkretne artykuły kodeksów prawnych, numery norm technicznych, szczegółowe dane statystyczne, cytaty z literatury oraz adresy i nazwiska specjalistów. Zawsze należy weryfikować podane źródła bezpośrednio w oficjalnych bazach danych, rejestrach prawnych lub w dokumentacji technicznej producenta danego oprogramowania.

Czy wprowadzenie procedur bezpieczeństwa dla AI nie spowolni pracy biura?

Prawidłowo zaplanowane procedury nie blokują pracy, lecz eliminują chaos decyzyjny. Gdy zespół dysponuje zatwierdzonym zestawem narzędzi, gotowymi szablonami zapytań oraz prostą tabelą klasyfikacji danych, proces przygotowywania materiałów staje się szybszy i bardziej powtarzalny. Pracownicy nie tracą czasu na zastanawianie się, czy wolno im użyć danego narzędzia, ani nie ryzykują konieczności poprawiania błędnych danych wysłanych do klienta.

W jaki sposób organizowane jest szkolenie zespołu z zasad bezpiecznego korzystania z AI?

Szkolenie przeprowadzane jest w formie praktycznych warsztatów z dojazdem bezpośrednio do siedziby klienta na terenie Warszawy oraz okolicznych gmin. Program dopasowywany jest do specyfiki działalności firmy, rodzaju przetwarzanych dokumentów oraz używanego na co dzień oprogramowania. Podczas spotkania omawiane są realne przykłady z codziennej pracy biura, konfigurowane są bezpieczne ustawienia kont użytkowników oraz tworzone są wstępne wytyczne polityki bezpieczeństwa dla pracowników.

Prawidłowe nawyki jako podstawa ochrony danych firmowych przed ryzykiem ze strony sztucznej inteligencji

Narzędzia sztucznej inteligencji stanowią wartościowe wsparcie w codziennych zadaniach biurowych, programistycznych i analitycznych, pod warunkiem zachowania odpowiednich standardów ostrożności. Świadomość ograniczeń modeli językowych, umiejętność właściwego formułowania poleceń bez ujawniania tajemnic przedsiębiorstwa oraz wdrożenie procedury weryfikacji każdego wygenerowanego wyniku pozwalają korzystać z zalet nowoczesnych technologii bez narażania organizacji na wycieki danych, kary regulacyjne czy błędy w relacjach z klientami.

22 378 48 09

Jak nauczyć zespół bezpiecznego korzystania z AI