Zanim narzędzie AI trafi do firmy, warto dokładnie zrozumieć, co dzieje się z danymi wprowadzanymi do niego — gdzie są przetwarzane, jak długo przechowywane i kto ma do nich potencjalny dostęp.

Objaw

Zgłoszenia dotyczą firm, które chcą świadomie ocenić ryzyko przed wdrożeniem konkretnego narzędzia AI, oraz tych, które już korzystają z narzędzia, ale nie do końca wiedzą, co faktycznie dzieje się z wprowadzanymi danymi.

Możliwe przyczyny

Zamiast usterki, ten punkt wyjaśnia mechanizm: rozwiązania chmurowe przesyłają dane wprowadzane przez użytkownika na serwery dostawcy narzędzia, gdzie są przetwarzane, a czasem — zależnie od warunków usługi — również przechowywane lub wykorzystywane do dalszego trenowania modelu. Rozwiązania lokalne przetwarzają dane bezpośrednio na sprzęcie firmy, bez przesyłania ich na zewnątrz.

Co robimy

Wykonywana jest analiza, jakie konkretnie dane mają trafiać do wybranego narzędzia AI oraz sprawdzenie warunków korzystania dostawcy pod kątem tego, jak przetwarza i przechowuje wprowadzane informacje. Na tej podstawie firma otrzymuje jasną informację o realnym poziomie ryzyka związanym z konkretnym zastosowaniem — inaczej wygląda sytuacja przy wpisywaniu ogólnych, niewrażliwych pytań, a inaczej przy przetwarzaniu dokumentów zawierających dane osobowe klientów czy tajemnice handlowe firmy.

Ile to trwa

Analiza konkretnego narzędzia i jego warunków przetwarzania danych to zwykle jedno spotkanie lub konsultacja.

Co można zrobić samemu, zanim przyjedzie serwisant

Warto przejrzeć warunki korzystania z narzędzia, które firma planuje wdrożyć, zwracając uwagę na fragmenty dotyczące przetwarzania i przechowywania danych — nawet pobieżna lektura daje wstępny obraz sytuacji.

Czego nie robić: nie warto wprowadzać do żadnego narzędzia AI danych, których nie chciałoby się ujawnić publicznie, dopóki nie ma pewności co do warunków przetwarzania — to bezpieczna, uniwersalna zasada niezależnie od konkretnego narzędzia.

Warunki

Analiza i konsultacja wyceniane są indywidualnie, często jako pierwszy krok przed wdrożeniem konkretnego narzędzia.

Kategorie danych przesyłanych do systemów sztucznej inteligencji

W trakcie codziennej pracy z narzędziami opartymi na modelach językowych do zewnętrznych serwerów trafia znacznie więcej informacji niż tylko pojedyncze pytanie wpisane w okno dialogowe. Identyfikacja poszczególnych warstw danych pozwala precyzyjnie określić poziom poufności przetwarzanych zasobów.

Treść zapytań (prompty): Bezpośrednie polecenia tekstowe wprowadzane przez użytkownika. Często zawierają one nieświadomie wklejone fragmenty korespondencji handlowej, opisy wewnętrznych procedur czy fragmenty dokumentacji projektowej.
Załączniki i pliki wsadowe: Wgrywane do analizy dokumenty w formatach PDF, arkusze kalkulacyjne, bazy kontaktów, raporty finansowe oraz pliki z kodem źródłowym oprogramowania. Załączniki nierzadko zawierają nieusunięte metadane (informacje o autorze pliku, dacie utworzenia czy historii wprowadzanych zmian).
Metadane techniczne i telemetria: Adres IP komputera (unikalny numer identyfikacyjny urządzenia w sieci), identyfikator przeglądarki internetowej, parametry systemu operacyjnego, znaczniki czasu oraz przybliżona lokalizacja geograficzna stanowiska roboczego.
Pamięć kontekstowa i historia konwersacji: Zestaw wcześniejszych wypowiedzi w ramach danego wątku, który jest przesyłany na serwer przy każdym kolejnym pytaniu, aby algorytm zachował ciągłość logiczną rozmowy.

Warianty architektury przetwarzania i lokalizacja serwerów

Miejsce i sposób przetwarzania danych zależą bezpośrednio od wybranego modelu licencjonowania oraz technicznej architektury wdrożonego rozwiązania.

Darmowe usługi konsumenckie (Consumer SaaS): Podstawowe wersje czatów dostępne przez przeglądarkę internetową. W większości przypadków regulaminy tych usług zawierają zapisy pozwalające dostawcy na wykorzystywanie wprowadzanych treści do dotrenowywania kolejnych wersji modeli. Dane trafiają do globalnych centrów danych, najczęściej zlokalizowanych poza Europejskim Obszarem Gospodarczym.

Płatne subskrypcje biznesowe (Enterprise SaaS): Komercyjne wersje oprogramowania dostarczane w modelu chmurowym (oprogramowanie jako usługa). Zazwyczaj gwarantują one brak wykorzystania danych do trenowania algorytmów oraz oferują podpisanie umowy DPA (Data Processing Agreement — umowa powierzenia przetwarzania danych osobowych), zgodnej z przepisami RODO (Ogólne Rozporządzenie o Ochronie Danych Osobowych).

Interfejsy programistyczne API (Application Programming Interface): Bezpośrednie połączenie systemów firmowych z silnikiem sztucznej inteligencji. Dostawcy technologii traktują ruch przez interfejs API według bardziej rygorystycznych standardów prywatności niż ruch z poziomu przeglądarki, stosując domyślnie wyłączenie zapisu treści zapytań w celach szkoleniowych.

Instancje dedykowane i chmura prywatna: Środowiska obliczeniowe uruchomione na wydzielonych zasobach chmurowych, gdzie infrastruktura jest odizolowana od innych klientów, a przetwarzanie odbywa się w wybranym regionie geograficznym (na przykład w serwerowniach na terenie Unii Europejskiej).

Modele uruchamiane w całości lokalnie (On-premise / Local LLM): Oprogramowanie zainstalowane bezpośrednio na stacjach roboczych lub serwerze firmowym. Przetwarzanie realizuje lokalny procesor GPU (Graphics Processing Unit — dedykowany procesor karty graficznej wykorzystywany do równoległych obliczeń matematycznych) oraz pamięć RAM (Random Access Memory — pamięć operacyjna komputera). Żadne informacje, pytania ani pliki nie opuszczają sieci lokalnej biura.

Co dostawcy systemów AI robią z przesłanymi danymi

Po przesłaniu zapytania do chmury dostawcy następuje seria operacji technicznych, które decydują o bezpieczeństwie i trwałości przechowywanych informacji.

Generowanie odpowiedzi (Inference): Proces wnioskowania polegający na matematycznym przeliczeniu tokenów (podstawowych jednostek tekstu, odpowiadających słowom lub ich fragmentom) i wygenerowaniu tekstu wynikowego. Operacja ta odbywa się w pamięci operacyjnej serwera obliczeniowego i ma charakter ulotny.

Retencja danych (Data Retention): Okres, przez jaki dostawca przechowuje historię zapytań na dyskach serwerowych w celach diagnostycznych, monitorowania stabilności lub wykrywania nadużyć (takich jak próby generowania nielegalnych treści). W zależności od poziomu usługi okres ten wynosi od zera dni (polityka Zero Data Retention) do kilkudziesięciu dni.

Uczenie maszynowe i optymalizacja wag (Model Training): Wykorzystanie przesłanych tekstów do aktualizacji parametrów matematycznych modelu. Jeśli dane trafią do zbioru treningowego, zawarte w nich informacje mogą w przyszłości pojawić się w odpowiedziach generowanych dla innych, zupełnie obcych użytkowników systemu.

Weryfikacja przez operatorów (Human-in-the-loop): Wyrywkowa kontrola jakości generowanych odpowiedzi przez pracowników lub podwykonawców dostawcy oprogramowania. Wybrane fragmenty zapytań mogą być odczytywane przez ludzi w celu oceny poprawności działania algorytmów.

Błędy popełniane przy korzystaniu z narzędzi AI w środowisku biurowym

Niekontrolowany przepływ informacji zazwyczaj wynika z niewiedzy użytkowników lub braku wdrożonych zasad korzystania z nowych technologii na stanowiskach pracy.

Zjawisko Shadow AI (niekontrolowane korzystanie z narzędzi): Pracownicy wykorzystują prywatne, darmowe konta na platformach sztucznej inteligencji do przyspieszania codziennych obowiązków biurowych, omijając firmowe procedury bezpieczeństwa.
Brak anonimizacji wprowadzanych treści: Wklejanie do okna czatu surowych danych klientów (imiona, nazwiska, numery PESEL, numery rachunków bankowych) oraz haseł dostępowych lub kluczy konfiguracyjnych do systemów informatycznych.
Pozostawienie domyślnych ustawień konta: Brak wyłączenia opcji udostępniania historii rozmów do celów szkoleniowych w panelach konfiguracyjnych platform, które umożliwiają taką rezygnację (mechanizm Data Sharing Opt-Out).
Instalowanie niezweryfikowanych rozszerzeń przeglądarek: Korzystanie z wtyczek firm trzecich, które obiecują integrację sztucznej inteligencji z pocztą elektroniczną lub przeglądarką, a w rzeczywistości przesyłają całą zawartość odwiedzanych stron na nieznane serwery pośredniczące.

Kiedy problem z wyciekiem nie wynika z samego narzędzia AI

W wielu sytuacjach incydent bezpieczeństwa powiązany ze sztuczną inteligencją ma swoje źródło w innych elementach infrastruktury informatycznej.

Infekcja złośliwym oprogramowaniem typu InfoStealer: Programy szpiegujące obecne na komputerze potrafią wykradać pliki cookie (pliki sesyjne przeglądarki przechowujące stan zalogowania) oraz zapisane hasła. Przejęcie sesji pozwala osobom niepowołanym na zalogowanie się do firmowego konta AI i odczytanie pełnej historii prowadzonych tam rozmów.

Wyciek kluczy API z repozytoriów: Programiści lub administratorzy przypadkowo umieszczają klucze autoryzacyjne w publicznie dostępnym kodzie, co pozwala podmiotom zewnętrznym na korzystanie z firmowej instancji chmurowej na koszt organizacji oraz podgląd przesyłanego ruchu.

Strony phishingowe imitujące narzędzia AI: Wyszukiwanie narzędzi przez wyszukiwarki internetowe może prowadzić do fałszywych witryn podszywających się pod znane generatory tekstu lub grafiki. Wprowadzenie tam danych logowania skutkuje bezpośrednim przejęciem konta firmowego.

Najczęściej zadawane pytania o bezpieczeństwo danych w AI

Czy usunięcie czatu z historii usuwa dane z serwerów dostawcy?

Usunięcie wątku w panelu użytkownika natychmiast ukrywa go w interfejsie graficznym, jednak nie oznacza to natychmiastowego wykasowania z serwerów. Dostawcy chmurowi przechowują kopie w logach systemowych przez określony w regulaminie czas retencji (zazwyczaj od 30 do 90 dni) na potrzeby audytu bezpieczeństwa, po czym dane są trwale nadpisywane.

Czym różni się korzystanie z czatu w przeglądarce od integracji przez klucz API?

Korzystanie z interfejsu webowego w przeglądarce podlega standardowemu regulaminowi usług konsumenckich, gdzie domyślnie dane mogą być wykorzystywane do nauki modeli. Połączenie przez klucz API (Application Programming Interface) to kanał biznesowy, w którym dane są przesyłane wyłącznie w celu wygenerowania odpowiedzi, a dostawca standardowo deklaruje brak ich wykorzystania do celów treningowych.

Jak sprawdzić, czy komputer firmowy poradzi sobie z lokalnym modelem AI?

Do uruchomienia lokalnego modelu językowego wymagana jest odpowiednia ilość pamięci VRAM (Video Random Access Memory — pamięć wbudowana w kartę graficzną) lub szybka pamięć operacyjna RAM w przypadku procesorów ze zintegrowanym układem graficznym. Do podstawowych zadań tekstowych wystarcza zazwyczaj dedykowana karta graficzna z minimum 8–12 GB pamięci VRAM.

Czy przesłanie umowy handlowej do podsumowania przez darmowe AI narusza tajemnicę przedsiębiorstwa?

Wprowadzenie tekstu umowy do bezpłatnego narzędzia chmurowego bez umowy powierzenia przetwarzania danych stanowi udostępnienie informacji podmiotowi trzeciemu. Jeżeli regulamin platformy pozwala na analizę zapytań przez operatorów lub włączanie ich do zbiorów uczących, dochodzi do naruszenia zasad poufności oraz potencjalnego naruszenia przepisów o ochronie danych osobowych.

Audyt bezpieczeństwa stacji roboczych i kanałów przetwarzania danych

Prawidłowe zabezpieczenie stacji roboczych przed niekontrolowanym wyciekiem informacji wymaga dokładnego sprawdzenia konfiguracji przeglądarek, uprawnień użytkowników oraz zainstalowanego oprogramowania bezpośrednio na stanowiskach pracy. Działamy z dojazdem do siedziby klienta na terenie Warszawy oraz okolicznych gmin, wykonując diagnostykę sprzętową i systemową w miejscu eksploatacji komputerów.

22 378 48 09

Jakie dane trafiają do narzędzi AI i gdzie są przetwarzane