Jeśli zajdzie podejrzenie, że dane firmowe zostały niewłaściwie ujawnione za pośrednictwem narzędzia AI, ważne jest szybkie i uporządkowane działanie, ograniczające dalsze skutki incydentu.

Na czym polega ta usługa

Usługa obejmuje pomoc w ustaleniu zakresu potencjalnego incydentu, ograniczeniu dalszego dostępu do danych oraz wskazaniu kolejnych kroków, jakie warto podjąć w takiej sytuacji.

Dla kogo ma sens

Usługa jest przeznaczona dla firm, które podejrzewają, że doszło do niewłaściwego ujawnienia danych za pośrednictwem wykorzystywanego narzędzia AI.

Ile to trwa

Wstępna reakcja na zgłoszony incydent podejmowana jest niezwłocznie po zgłoszeniu.

Warunki

Diagnoza wstępna i wycena są bezpłatne. Dojazd na terenie Warszawy i okolic jest bezpłatny, a usługa objęta jest gwarancją do 12 miesięcy.

Mechanizmy i warianty nieautoryzowanego ujawnienia danych przez narzędzia AI

Współczesne incydenty bezpieczeństwa związane z przetwarzaniem danych przez sztuczną inteligencję przybierają zróżnicowane formy, w zależności od architektury wdrożonych narzędzi oraz sposobu ich wykorzystywania przez pracowników. Najczęściej spotykanym scenariuszem jest zjawisko Shadow AI (nieautoryzowane korzystanie z zewnętrznych modeli sztucznej inteligencji bez wiedzy i zgody działu IT). Pracownicy, dążąc do przyspieszenia realizacji codziennych obowiązków, wprowadzają do ogólnodostępnych modeli LLM (Large Language Model – duży model językowy) poufne pliki, wyciągi finansowe, zestawienia danych osobowych podlegających ochronie prawnej lub całe fragmenty kodu źródłowego aplikacji firmowych.

Drugim istotnym wariantem jest niekontrolowany transfer informacji z systemów zarządzania przedsiębiorstwem ERP (Enterprise Resource Planning – planowanie zasobów przedsiębiorstwa), takich jak platformy InsERT GT oraz nexo (w tym programy Subiekt, Rewizor, Rachmistrz czy Gratyfikant), Comarch ERP (Optima, XL), WAPRO ERP (Mag, Fakir) czy Sage Symfonia. Eksportowane z tych baz raporty tabelaryczne lub zestawienia sprzedaży bywają wklejane bezpośrednio w okno czatu w celu przygotowania podsumowań, co powoduje przesłanie wrażliwych struktur handlowych na serwery zewnętrznych dostawców chmurowych.

Trzeci wariant dotyczy błędów w konfiguracji systemów RAG (Retrieval-Augmented Generation – generowanie wspomagane przeszukiwaniem wewnętrznych baz wiedzy). W przypadku nieprawidłowo skonfigurowanych list kontroli dostępu ACL (Access Control List – listy określające uprawnienia użytkowników do konkretnych zasobów), model językowy zintegrowany z firmowym dyskiem sieciowym może udzielić odpowiedzi zawierającej informacje z dokumentów zarządczych, umów pracowniczych lub poufnych raportów finansowych osobie, która nie posiadała uprawnień do wglądu w te pliki w tradycyjnym systemie katalogów.

Kolejnym wektorem zagrożeń jest niekontrolowane osadzanie kluczy API (Application Programming Interface – interfejs programistyczny aplikacji) oraz tokenów uwierzytelniających (cyfrowych ciągów znaków potwierdzających tożsamość aplikacji) w skryptach automatyzacji. Skrypty wysyłające zapytania do modeli językowych mogą w nagłówkach lub treści zapytań przekazywać dane logowania do serwerów bazodanowych Microsoft SQL Server lub środowisk chmurowych Microsoft Azure i Google Workspace.

Osobnym wariantem są niezweryfikowane rozszerzenia przeglądarek internetowych (browser extensions), które oferują asystę podczas pisania wiadomości e-mail lub edycji dokumentów. Tego rodzaju dodatki mogą w sposób ciągły odczytywać zawartość schowka systemowego (clipboard) oraz tekst wprowadzany w polach formularzy, przesyłając go do niezweryfikowanych serwerów zewnętrznych pod pretekstem analizy stylistycznej.

Procedura techniczna: zabezpieczenie środowiska IT i analiza poincydentalna

Prawidłowe opanowanie incydentu wymaga natychmiastowego podjęcia skoordynowanych działań technicznych na poziomie stacji roboczych, sieci lokalnej oraz kont administracyjnych. Podstawowym celem jest zatrzymanie ewentualnego dalszego wycieku informacji bez niszczenia cyfrowego materiału dowodowego, który jest niezbędny do ustalenia skali zdarzenia.

Pierwszym krokiem jest natychmiastowa izolacja wektorów transmisyjnych. Obejmuje to unieważnienie aktywnych tokenów sesyjnych (session tokens), zablokowanie wygenerowanych kluczy API powiązanych z danym narzędziem oraz wymuszenie wylogowania użytkowników z usług powiązanych. W przypadku integracji działających na poziomie serwerów lokalnych z systemami Windows Server lub Linux, konieczne jest tymczasowe wstrzymanie zadań harmonogramu (cron lub Task Scheduler) odpowiedzialnych za automatyczne odpytywanie zewnętrznych modeli.

Drugim etapem jest zabezpieczenie i analiza logów audytowych (chronologicznych rejestrów zdarzeń systemowych). Analizie poddawane są:

Historia zapytań i odpowiedzi zarejestrowana w konsoli administracyjnej usługi AI, o ile funkcjonalność ta była aktywna w danym planie subskrypcyjnym.
Logi serwerów proxy oraz zapory sieciowej (firewall – sieciowej zapory ogniowej), pozwalające precyzyjnie ustalić wolumen przesłanych pakietów oraz dokładne znaczniki czasu nawiązywanych połączeń wychodzących.
Rejestry zapytań serwera DNS (Domain Name System – system tłumaczenia nazw domenowych na adresy IP), umożliwiające identyfikację stacji roboczych komunikujących się z nieautoryzowanymi domenami powiązanymi z modelami językowymi.
Dzienniki zdarzeń systemów operacyjnych Windows i Linux na urządzeniach pracowników, mające na celu weryfikację uruchamianych procesów i skryptów w momencie wystąpienia incydentu.

Trzeci etap to weryfikacja parametrów retencji danych (okresu przechowywania wprowadzonych zapytań po stronie dostawcy infrastruktury AI) oraz sprawdzenie, czy w ramach wykorzystywanych kont aktywna była klauzula braku trenowania modeli (opt-out z model training). Większość platform komercyjnych przechowuje historię konwersacji przez określony czas (często do 30 dni) na potrzeby monitorowania nadużyć, chyba że wdrożono dedykowane środowisko korporacyjne z gwarancją zerowej retencji danych.

Czynności diagnostyczne i zabezpieczające na sprzęcie komputerowym realizowane są bezpośrednio w siedzibie klienta na terenie Warszawy oraz w promieniu 40 km w okolicznych powiatach (w tym pruszkowskim, piaseczyńskim, wołomińskim, legionowskim, otwockim, grodziskim i warszawskim zachodnim). Dojeżdżamy na miejsce, co umożliwia natychmiastowy audyt stacji roboczych, laptopów, komputerów stacjonarnych i serwerów bez konieczności odłączania infrastruktury od sieci firmowej.

Błędy popełniane podczas prób samodzielnego opanowania sytuacji

Podjęcie niewłaściwych działań bezpośrednio po wykryciu incydentu może uniemożliwić precyzyjne odtworzenie przebiegu zdarzenia oraz utrudnić ocenę ryzyka prawnego i operacyjnego. Do najczęściej powtarzających się błędów należą:

Pochopne usuwanie kont użytkowników w serwisie AI – usunięcie konta w portalu internetowym powoduje z reguły natychmiastowe skasowanie widocznej historii rozmów i metadanych zapytań. W efekcie przedsiębiorstwo traci możliwość weryfikacji, jakie dokładnie pliki, bazy danych czy dane osobowe zostały wprowadzone do modelu. Prawidłowym działaniem jest zmiana uprawnień lub zawieszenie konta z zachowaniem logów.
Brak rotacji poświadczeń wklejonych w treści zapytań – jeżeli w treści zapytania przesłano fragmenty konfiguracji zawierające hasła do baz danych SQL, klucze szyfrujące lub poświadczenia dostępowe do skrzynek pocztowych, sama blokada konta AI nie eliminuje zagrożenia. Konieczna jest natychmiastowa procedura rotacji poświadczeń (unieważnienia dotychczasowych haseł i wygenerowania nowych) we wszystkich powiązanych systemach wewnętrznych.
Restartowanie serwerów i stacji roboczych bez zabezpieczenia pamięci operacyjnej – twardy restart komputera powoduje bezpowrotną utratę danych ulotnych znajdujących się w pamięci RAM (Random Access Memory – pamięć o dostępie swobodnym), takich jak aktywne procesy w tle, otwarte połączenia sieciowe czy niezapisana zawartość schowka systemowego.
Rozpoczynanie działań bez formalnego zabezpieczenia poufności – analiza incydentów bezpieczeństwa wymaga wglądu w newralgiczne obszary infrastruktury IT. Przed rozpoczęciem prac weryfikacyjnych standardem jest podpisanie bezpłatnej umowy o zachowaniu poufności (NDA – Non-Disclosure Agreement), co zapewnia pełną ochronę prawną informacji przetwarzanych w przedsiębiorstwie.

Kiedy problem NIE jest wyciekiem danych przez sztuczną inteligencję

W praktyce diagnostycznej obserwuje się sytuacje, w których podejrzenie nieautoryzowanego transferu danych przez narzędzia AI wynika z błędnej interpretacji innych nieprawidłowości w infrastrukturze IT. Warto odróżnić incydent z udziałem modeli językowych od następujących zjawisk:

Pierwszym przypadkiem są nieprawidłowe uprawnienia współdzielenia plików w usługach chmurowych Microsoft 365 (OneDrive, SharePoint) lub Google Workspace. Skonfigurowanie linku dostępowego w trybie publicznym sprawia, że pliki stają się widoczne dla osób z zewnątrz bez jakiegokolwiek udziału systemów sztucznej inteligencji, co bywa mylnie przypisywane działaniu botów lub wtyczek AI.

Drugim przypadkiem jest nieprawidłowa segmentacja uprawnień w lokalnych systemach ERP i bazach danych. Jeżeli pracownik uzyskuje wgląd w moduł kadrowo-płacowy lub cenniki hurtowe w programie Comarch ERP Optima, WAPRO Mag czy InsERT Subiekt GT, przyczyną jest zazwyczaj przypisanie zbyt szerokiej roli użytkownika w bazie Microsoft SQL Server, a nie wyciek danych przez zewnętrzne oprogramowanie generatywne.

Trzecim scenariuszem są klasyczne ataki typu phishing (podszywanie się pod zaufany podmiot) lub credential stuffing (masowe próby logowania przy użyciu przejętych baz haseł). Przejęcie konta poczty elektronicznej i pobranie korespondencji firmowej przez niepowołaną osobę bywa mylone z automatycznym wyciekiem przez algorytmy AI, jeśli pracownik używał tego samego adresu e-mail do rejestracji w darmowych platformach czatowych.

Czwartym przypadkiem są fałszywe alarmy generowane przez oprogramowanie antywirusowe i systemy EDR (Endpoint Detection and Response – zaawansowane wykrywanie zagrożeń na stacjach końcowych). Legalne aktualizacje oprogramowania biznesowego lub standardowa telemetria systemów Windows i Linux mogą generować wzmożony ruch wychodzący na portach HTTPS, co bez weryfikacji pakietów bywa mylnie kwalifikowane jako niekontrolowany transfer danych.

Wdrożenie trwałych zabezpieczeń i kontrola przepływu danych

Po opanowaniu bezpośrednich skutków incydentu konieczne jest wdrożenie mechanizmów zapobiegawczych, które zminimalizują ryzyko ponownego wystąpienia podobnych zdarzeń, zachowując jednocześnie możliwość bezpiecznego korzystania z technologii cyfrowych w przedsiębiorstwie.

Podstawowym elementem ochrony jest wdrożenie reguł DLP (Data Loss Prevention – systemy zapobiegania wyciekom danych) na poziomie stacji roboczych i bram sieciowych. Systemy te monitorują przesyłane pakiety pod kątem występowania specyficznych ciągów znaków, takich jak numery PESEL, NIP, numery rachunków bankowych IBAN czy formaty kluczy prywatnych, automatycznie blokując ich wklejanie w formularzach przeglądarek internetowych.

Kolejnym krokiem jest centralna konfiguracja zapory ogniowej (firewall) oraz filtrowania na poziomie serwerów DNS. Wprowadzenie polityki blokowania nieautoryzowanych portali generatywnych eliminuje ryzyko korzystania z darmowych narzędzi bez kontroli działu technicznego. W przypadku potrzeby korzystania z modeli językowych wdraża się dedykowane środowiska korporacyjne, w których dostawca gwarantuje brak wykorzystania danych zapytań do doszkalania modeli bazowych.

Istotnym działaniem jest również segmentacja sieci lokalnej i kontrola uprawnień do baz danych. Serwery bazodanowe obsługujące programy księgowe i handlowe powinny być odizolowane od bezpośredniego dostępu ze stacji roboczych niemających uzasadnienia biznesowego dla takich połączeń.

W ramach kompleksowego wsparcia technicznego realizowany jest bezpłatny przegląd środowiska IT dla firm, który pozwala ocenić stan zabezpieczeń stacji roboczych, laptopów, komputerów stacjonarnych oraz serwerów z systemami Windows i Linux, wskazując ewentualne luki w konfiguracji sieciowej i uprawnieniach użytkowników.

Najczęściej zadawane pytania

Czy usunięcie rozmowy z historii czatu w portalu AI usuwa dane z serwerów dostawcy?

Usunięcie wątku w interfejsie użytkownika ukrywa konwersację na koncie, lecz nie oznacza natychmiastowego wymazania danych z infrastruktury dostawcy usługi. W planach standardowych i bezpłatnych obowiązuje okres retencji danych (wynoszący z reguły do 30 dni), w trakcie którego kopie zapytań są przechowywane na potrzeby wykrywania nadużyć i moderacji treści. Trwałe usunięcie wymaga zastosowania odpowiednich procedur zgodnych z regulaminem danego dostawcy lub posiadania planu biznesowego z wyłączonym zapisywaniem historii.

Jak należy postąpić w przypadku wklejenia poufnych danych z programu księgowego do okna czatu?

Należy niezwłocznie sporządzić dokumentację zdarzenia (np. zrzut ekranu zawierający treść przesłanego zapytania i znacznik czasu), zabezpieczyć historię konwersacji bez usuwania konta, a następnie zweryfikować, czy w tekście znajdowały się dane logowania lub klucze dostępowe. Jeśli w treści zapytania znajdowały się poświadczenia do systemów firmowych, konieczne jest natychmiastowe przeprowadzenie procedury rotacji haseł i kluczy we wszystkich powiązanych usługach.

Czy przed rozpoczęciem analizy incydentu podpisywana jest umowa o zachowaniu poufności?

Tak, przed przystąpieniem do jakichkolwiek działań diagnostycznych, weryfikacji logów czy analizy stacji roboczych podpisywana jest bezpłatna umowa o zachowaniu poufności (NDA). Gwarantuje to pełne bezpieczeństwo prawne i techniczne w odniesieniu do wszystkich informacji handlowych, finansowych oraz osobowych przetwarzanych podczas prac serwisowych.

Czy skuteczne zabezpieczenie danych wymaga całkowitego zablokowania narzędzi AI w firmie?

Całkowity zakaz rzadko przynosi oczekiwane rezultaty, ponieważ pracownicy często przenoszą wówczas wykonywanie zadań na prywatne urządzenia poza kontrolą firmowej sieci. Prawidłowym podejściem jest wdrożenie kontrolowanych instancji biznesowych z wyłączoną opcją uczenia modeli na danych klienta, konfiguracja reguł zapory sieciowej oraz wprowadzenie jasnych procedur określających, jakie kategorie informacji mogą być przetwarzane przy użyciu zatwierdzonych narzędzi.

W jaki sposób weryfikowane są komputery i laptopy pracowników po zgłoszeniu incydentu?

Serwisant dojeżdża bezpośrednio pod wskazany adres na terenie Warszawy lub okolicznych powiatów. Na miejscu przeprowadzana jest bezpośrednia weryfikacja stacji roboczych i laptopów z systemami Windows oraz Linux, w tym audyt rozszerzeń przeglądarek, lokalnych skryptów automatyzacji, historii połączeń sieciowych oraz konfiguracji uprawnień użytkowników, bez konieczności demontażu sprzętu i transportowania go poza firmę.

Systemowa ochrona zasobów cyfrowych i ciągłości pracy przedsiębiorstwa

Właściwe zarządzanie incydentem związanym z nieautoryzowanym transferem danych przez narzędzia sztucznej inteligencji pozwala na precyzyjne określenie skali zdarzenia, skuteczne odcięcie niepożądanych połączeń oraz zabezpieczenie infrastruktury informatycznej przed ponownym wystąpieniem zagrożenia. Systematyczny audyt stacji roboczych, właściwa konfiguracja zapór sieciowych, zabezpieczenie baz danych systemów ERP oraz wdrożenie bezpiecznych reguł przetwarzania informacji stanowią fundament stabilnego i zgodnego z przepisami funkcjonowania nowoczesnego środowiska IT.

22 378 48 09

Reagowanie na incydent związany z wyciekiem danych przez AI