Publiczne, ogólnodostępne narzędzia AI bywają wygodne, ale niosą ze sobą ryzyko, że wprowadzone do nich dane firmowe zostaną w jakiejś formie wykorzystane lub ujawnione poza kontrolą firmy.

Na czym polega ta usługa

Usługa obejmuje wyjaśnienie, na czym polega ryzyko związane z korzystaniem z publicznych narzędzi AI bez odpowiednich ustawień prywatności, oraz wskazanie bezpieczniejszych alternatyw dopasowanych do potrzeb firmy.

Dla kogo ma sens

Usługa jest przydatna dla firm, w których pracownicy korzystają z ogólnodostępnych narzędzi AI bez świadomości związanego z tym ryzyka.

Ile to trwa

Konsultacja dotycząca ryzyk wycieku danych mieści się z reguły w standardowym czasie do 3 dni.

Warunki

Diagnoza wstępna i wycena są bezpłatne. Dojazd na terenie Warszawy i okolic jest bezpłatny, a usługa objęta jest gwarancją do 12 miesięcy.

Mechanizmy wycieku informacji w publicznych modelach językowych

Publiczne platformy generatywnej sztucznej inteligencji działają w oparciu o infrastrukturę chmurową dostawcy usługi. Każde zapytanie, zwane promptem (tekst wejściowy przekazywany modelowi w celu uzyskania odpowiedzi), jest przesyłane przez sieć internetową na zewnętrzne serwery. W przypadku darmowych oraz podstawowych wersji konsumenckich, dostawcy usług stosują regulaminy zezwalające na wykorzystywanie wprowadzonych treści do dalszego doskonalenia algorytmów.

Głównym mechanizmem utraty kontroli nad danymi jest proces douczania modeli (procedura aktualizowania parametrów sieci neuronowej na podstawie nowych danych wejściowych). Treści wprowadzone przez użytkownika stają się częścią zbioru danych, z którego model czerpie wiedzę podczas generowania odpowiedzi dla innych użytkowników na całym świecie. Jeżeli pracownik wprowadzi do systemu poufne zestawienie finansowe lub fragment kodu źródłowego, istnieje techniczne prawdopodobieństwo, że model odtworzy te informacje w odpowiedzi na zapytanie zadane przez osobę trzecią.

Kolejnym elementem ryzyka jest weryfikacja zapytań przez personel ludzki (proces oceny jakości odpowiedzi prowadzony przez zewnętrznych audytorów). Dostawcy technologii AI zatrudniają zespoły weryfikatorów, którzy przeglądają losowe próby konwersacji w celu wychwytywania błędów lub nieodpowiednich treści. W ten sposób pracownicy zewnętrznych firm uzyskują bezpośredni wgląd w treść firmowych dokumentów, korespondencji handlowej oraz danych osobowych wprowadzonych przez użytkowników.

Istotnym zagrożeniem są również podatności samego oprogramowania oraz ataki typu prompt injection (techniki manipulowania modelem za pomocą specjalnie skonstruowanych poleceń). Nieautoryzowane osoby mogą poprzez odpowiednie zapytania wymusić na publicznym modelu ujawnienie fragmentów danych z poprzednich sesji lub z pamięci podręcznej systemu przetwarzania.

Kategorie danych wrażliwych najczęściej wprowadzanych do narzędzi AI

W codziennej pracy biurowej pracownicy korzystają z asystentów AI w celu przyspieszenia wykonywania zadań. W wielu przypadkach dochodzi do nieświadomego przekazywania danych podlegających szczególnej ochronie prawnej lub stanowiących tajemnicę przedsiębiorstwa.

Dane osobowe podlegające przepisom RODO (rozporządzenie o ochronie danych osobowych) – obejmują imiona, nazwiska, adresy, numery PESEL, dane kontaktowe klientów oraz dokumentację pracowniczą wklejaną do narzędzia w celu sporządzenia podsumowania lub korekty językowej.
Kod źródłowy i skrypty administracyjne – programiści oraz administratorzy sieci przesyłają fragmenty kodu do optymalizacji lub analizy błędów. W kodzie często znajdują się nieusunięte klucze API (interfejsy programistyczne do autoryzacji usług), hasła dostępowe do baz danych oraz wewnętrzne adresy IP serwerów firmowych.
Informacje finansowe i handlowe – raporty generowane z systemów ERP (oprogramowanie do planowania zasobów przedsiębiorstwa, takie jak Subiekt GT, Comarch Optima czy WAPRO Mag), zestawienia marż, cenniki negocjowane z kontrahentami oraz plany przetargowe.
Strategie biznesowe i dokumentacja prawna – projekty umów, analizy ryzyka prawnego, zapisy poufnych negocjacji oraz specyfikacje nowych produktów przed ich oficjalną premierą rynkową.

Warianty ryzyka w zależności od architektury i sposobu użycia AI

Stopień zagrożenia wyciekiem danych zależy od sposobu, w jaki pracownicy korzystają z rozwiązań sztucznej inteligencji, oraz od wybranego modelu licencjonowania.

Pierwszym wariantem jest korzystanie z darmowych portali konsumenckich przez przeglądarkę internetową. Jest to profil najwyższego ryzyka, ponieważ domyślne ustawienia kont darmowych niemal zawsze aktywują zbieranie danych na potrzeby trenowania modeli, a sesje użytkowników są zapisywane w historii konta bez gwarancji spełnienia standardów korporacyjnych.

Drugim wariantem jest instalowanie wtyczek do przeglądarek internetowych oraz dodatków do pakietów biurowych. Rozszerzenia te często żądają uprawnień do odczytu całej zawartości przeglądanych stron oraz schowka systemowego (pamięci podręcznej służącej do kopiowania tekstu). Oznacza to, że dodatek może przesyłać na serwery twórcy wtyczki nie tylko świadomie wklejone zapytania, lecz również dane z formularzy logowania, wewnętrznych systemów CRM (zarządzanie relacjami z klientami) oraz poczty elektronicznej.

Trzecim wariantem jest zjawisko Shadow IT (nieautoryzowane oprogramowanie i usługi chmurowe stosowane przez personel bez wiedzy działu IT). Pracownicy, dążąc do ułatwienia sobie pracy, zakładają prywatne konta na platformach AI i przesyłają tam pliki robocze, co całkowicie uniemożliwia monitoring przepływu informacji w przedsiębiorstwie.

Czwartym wariantem są komercyjne subskrypcje biznesowe oferowane przez dużych dostawców chmurowych. Tego typu usługi zazwyczaj oferują deklarację zerowej retencji danych (brak zapisywania i douczania modeli na promptach klienta) oraz możliwość podpisania umowy DPA (umowa powierzenia przetwarzania danych). Choć poziom bezpieczeństwa jest w tym przypadku wyższy, nadal wymaga to weryfikacji konfiguracji administracyjnej oraz zgodności lokalizacji serwerów przetwarzających z wymogami prawnymi.

Błędy popełniane przez firmy przy próbie samodzielnego ograniczenia ryzyka

Wprowadzanie ograniczeń bez odpowiedniego przygotowania technicznego i organizacyjnego często przynosi skutki odwrotne do zamierzonych.

Pierwszym częstym błędem jest wprowadzenie całkowitego, formalnego zakazu korzystania z narzędzi AI bez wdrożenia blokad technicznych i bez zaoferowania bezpiecznych alternatyw. Pracownicy, widząc korzyści z automatyzacji pracy, zaczynają korzystać z publicznych narzędzi na prywatnych telefonach lub w ukryciu na komputerach firmowych, przesyłając dokumenty na prywatne skrzynki pocztowe. Prowadzi to do całkowitej utraty widoczności przepływu danych.

Drugim błędem jest poleganie wyłącznie na ręcznej anonimizacji danych przez personel. Pracownicy próbują usuwać nazwiska lub kwoty przed wklejeniem tekstu do AI, jednak w złożonych raportach regularnie pozostają dane pośrednie, takie jak numery umów, specyficzne stanowiska, unikalne nazwy projektów lub metadane plików (ukryte informacje o autorze i strukturze dokumentu), które pozwalają na jednoznaczną identyfikację firmy lub klienta.

Trzecim błędem jest brak konfiguracji polityk bezpieczeństwa na poziomie stacji roboczych i sieci firmowej. Samo wydanie instrukcji w formie dokumentu PDF nie chroni przed przypadkowym wklejeniem poufnych informacji. Bez technicznych mechanizmów kontroli schowka i monitorowania ruchu sieciowego ryzyko incydentu pozostaje wysokie.

Czwartym błędem jest brak weryfikacji aplikacji pobieranych przez pracowników pod kątem ukrytych modułów AI. Wiele z pozoru prostych programów do edycji grafiki lub plików tekstowych posiada zintegrowane silniki chmurowe, które automatycznie wysyłają otwierane pliki na zewnętrzne serwery w celu ich analizy.

Techniczne metody ochrony danych i bezpieczne alternatywy

Zapewnienie bezpieczeństwa informacji w firmie wymaga połączenia rozwiązań technicznych, konfiguracji sieciowej oraz przejrzystych zasad organizacyjnych.

Skutecznym rozwiązaniem dla przedsiębiorstw przetwarzających dane o wysokim stopniu poufności jest wdrożenie lokalnych modeli językowych (otwarte modele uruchamiane bezpośrednio na własnym serwerze lub dedykowanej stacji roboczej). W takim modelu procesor oraz karta graficzna lokalnego komputera wykonują wszystkie obliczenia, a przetwarzane zapytania i pliki nie opuszczają sieci lokalnej przedsiębiorstwa. Eliminuje to całkowicie ryzyko wycieku danych do zewnętrznych dostawców chmurowych.

W przypadku korzystania z usług chmurowych konieczne jest wdrożenie kont w wersjach Enterprise z centralnym panelem zarządzania. Panel ten umożliwia globalne wyłączenie historii czatów, zablokowanie douczania modeli na danych firmowych oraz wymuszenie logowania za pomocą firmowego mechanizmu SSO (pojedyncze logowanie zintegrowane z katalogiem Active Directory lub Azure AD).

Na poziomie infrastruktury sieciowej stosuje się reguły zapory sieciowej (firewall) oraz filtrowanie zapytań DNS (blokowanie dostępu do nieautoryzowanych domen i adresów IP serwisów generatywnych). Umożliwia to skierowanie całego ruchu wyłącznie do zweryfikowanych i bezpiecznych platform.

Dodatkowo konfiguruje się systemy DLP (oprogramowanie zapobiegające wyciekom danych), które skanują przesyłane formularze internetowe oraz schowek systemowy. W momencie wykrycia wzorców takich jak numery kart płatniczych, numery PESEL, klucze szyfrujące lub oznaczenia tajemnicy przedsiębiorstwa, oprogramowanie automatycznie blokuje możliwość wklejenia tekstu do przeglądarki.

Kiedy utrata danych nie jest związana z samym narzędziem AI

W praktyce diagnostycznej obserwuje się sytuacje, w których wyciek informacji przypisywany jest sztucznej inteligencji, podczas gdy faktyczna przyczyna leży w innych podatnościach systemu informatycznego.

Częstym przypadkiem są infekcje złośliwym oprogramowaniem typu infostealer (wirusy wykradające dane logowania, pliki cookie oraz historię przeglądania). Jeżeli pracownik pobierze zainfekowany plik podający się za oficjalną aplikację asystenta AI, złośliwe oprogramowanie przejmuje dane dostępowe do wszystkich usług firmowych, w tym poczty i systemów bankowych, co nie wynika z podatności samej technologii generatywnej.

Innym problemem są ataki phishingowe (podszywanie się pod legalne serwisy w celu wyłudzenia danych). Cyberprzestępcy tworzą strony internetowe o wyglądzie zbliżonym do popularnych generatorów tekstu, aby przechwytywać dane logowania wprowadzane przez nieuważnych użytkowników.

Zdarzają się również nieprawidłowe konfiguracje uprawnień wewnątrz firmowych dysków sieciowych i chmurowych (błędy w zarządzaniu dostępem w usługach Microsoft 365 lub Google Workspace). Jeżeli poufny plik zostanie oznaczony jako publicznie dostępny dla każdego posiadacza linku, wyciek następuje w wyniku błędu uprawnień, nawet jeśli link został później wykorzystany w zapytaniu do narzędzia zewnętrznego.

Pytania i odpowiedzi dotyczące bezpiecznego korzystania z AI w firmie

Czy płatna subskrypcja popularnego asystenta AI automatycznie gwarantuje pełne bezpieczeństwo danych?

Płatna subskrypcja na poziomie konta indywidualnego zazwyczaj daje dostęp do szybszego przetwarzania oraz nowszych modeli, ale nie zawsze wyłącza domyślne zbieranie danych do treningu. Pełne gwarancje prawne i techniczne, w tym wyłączenie retencji danych oraz możliwość podpisania umowy DPA, oferują z reguły wyłącznie dedykowane plany biznesowe i korporacyjne. Każdy plan wymaga weryfikacji zapisów w regulaminie oraz włączenia odpowiednich przełączników w ustawieniach prywatności konta.

W jaki sposób można technicznie sprawdzić, czy pracownicy przesyłają pliki firmowe do publicznych serwisów AI?

Weryfikacja odbywa się poprzez analizę logów sieciowych na bramie internetowej (rejestr wywoływanych adresów i wielkości przesyłanych pakietów) oraz monitorowanie zdarzeń na stacjach roboczych za pomocą agentów EDR (oprogramowanie do wykrywania i reagowania na zagrożenia w punktach końcowych). Pozwala to na identyfikację połączeń z domenami generatorów treści oraz ilości danych wysyłanych przez poszczególne komputery w sieci firmowej.

Czy uruchomienie lokalnego modelu AI wymaga zakupu drogiego serwera?

Wymagania sprzętowe zależą od wielkości modelu oraz liczby równolegle pracujących użytkowników. Mniejsze modele zoptymalizowane do prostych zadań tekstowych, korekty lub analizy dokumentów mogą pracować na nowoczesnej stacji roboczej wyposażonej w wydajną kartę graficzną z odpowiednią ilością pamięci VRAM (pamięć wideo dedykowana dla procesora graficznego). Dla większych zespołów stosuje się dedykowane serwery lokalne lub stacje obliczeniowe z systemem Linux.

Co należy zrobić, jeżeli pracownik przypadkowo wkleił poufne dane do publicznego modelu AI?

Należy niezwłocznie usunąć daną konwersację z historii konta na platformie, jeśli system na to pozwala, oraz złożyć wniosek do dostawcy usługi o usunięcie danych z pamięci podręcznej. Równolegle trzeba przeprowadzić analizę zakresu ujawnionych informacji. W przypadku wycieku kluczy API, haseł lub certyfikatów bezpieczeństwa, konieczne jest natychmiastowe ich unieważnienie i wygenerowanie nowych danych uwierzytelniających we wszystkich powiązanych systemach.

Czy anonimizacja dokumentu przed wklejeniem do czatu jest wystarczającym zabezpieczeniem?

Ręczna anonimizacja jest obarczona dużym ryzykiem błędu ludzkiego. Choć usunięcie bezpośrednich danych osobowych zmniejsza ryzyko, dokument może nadal zawierać unikalne dane kontekstowe, tabele finansowe lub specyfikacje techniczne, które pozwalają na odtworzenie tożsamości podmiotu. Bezpieczniejszym podejściem jest stosowanie automatycznych filtrów DLP lub przetwarzanie dokumentów wyłącznie w modelach lokalnych bądź bezpiecznych środowiskach z umową powierzenia danych.

Audyt bezpieczeństwa danych i wdrożenie procedur ochronnych

Prawidłowe zabezpieczenie przedsiębiorstwa przed ryzykiem wycieku danych przez narzędzia sztucznej inteligencji nie polega na blokowaniu postępu technologicznego, lecz na stworzeniu kontrolowanego i bezpiecznego środowiska pracy. Oferujemy wsparcie w przeprowadzeniu audytu procedur, weryfikacji konfiguracji stacji roboczych oraz doborze bezpiecznych rozwiązań technicznych dostosowanych do profilu działalności firmy. Nasi specjaliści dojeżdżają bezpośrednio do siedziby klienta na terenie Warszawy oraz w promieniu do 40 km, obejmując powiaty grodziski, legionowski, otwocki, piaseczyński, pruszkowski, warszawski zachodni oraz wołomiński. Wszelkie prace związane z analizą infrastruktury informatycznej wykonujemy z zachowaniem pełnej poufności, a na życzenie klienta podpisujemy umowę o zachowaniu poufności (NDA).

22 378 48 09

Ryzyka wycieku danych przez publiczne narzędzia AI