Po pewnym czasie od wdrożenia narzędzi AI warto sprawdzić, czy faktyczna praktyka w firmie wciąż odpowiada założeniom przyjętym na etapie planowania — z czasem zasady bywają luzowane w codziennym pośpiechu.

Objaw

Zgłoszenia dotyczą firm, które wdrożyły narzędzia AI jakiś czas temu i chcą sprawdzić, czy zasady bezpieczeństwa ustalone na starcie są wciąż przestrzegane, a także tych, które nigdy formalnie nie sprawdziły stanu faktycznego po wdrożeniu.

Możliwe przyczyny

Typowe zjawisko z czasem: pracownicy w pośpiechu wprowadzają do narzędzi dane, których pierwotnie nie powinni, pojawiają się nowe, niezatwierdzone narzędzia używane nieformalnie przez pojedyncze osoby, oraz konfiguracja techniczna, ustawiona poprawnie na starcie, nie jest później aktualizowana wraz ze zmieniającymi się wymaganiami.

Co robimy

Wykonywany jest przegląd, jakie narzędzia AI są faktycznie wykorzystywane w firmie — również te niezatwierdzone formalnie, o których zarządzający mogą nie wiedzieć. Sprawdzana jest zgodność bieżącej praktyki z ustalonymi wcześniej zasadami bezpieczeństwa, aktualność konfiguracji technicznej oraz, przy rozwiązaniach lokalnych, stan zabezpieczeń sprzętu przechowującego dane. Wynikiem audytu jest raport wskazujący rozbieżności między założeniami a rzeczywistą praktyką wraz z rekomendacjami korekty.

Ile to trwa

Audyt bezpieczeństwa to zwykle kilka dni pracy, w zależności od liczby narzędzi i procesów objętych sprawdzeniem.

Co można zrobić samemu, zanim przyjedzie serwisant

Warto zapytać zespół otwarcie, z jakich narzędzi AI faktycznie korzystają na co dzień — czasem odpowiedzi zaskakują osoby zarządzające, które zakładały węższy zakres wykorzystania, niż faktycznie ma miejsce.

Czego nie robić: nie warto zakładać, że skoro zasady zostały ustalone przy wdrożeniu, to są wciąż w pełni przestrzegane bez żadnej weryfikacji — praktyka w firmach z czasem naturalnie odbiega od pierwotnych założeń, jeśli nikt tego nie sprawdza.

Warunki

Audyt bezpieczeństwa wyceniany jest indywidualnie, zależnie od zakresu sprawdzanych narzędzi i procesów.

Kluczowe obszary techniczne objęte audytem powdrożeniowym

Audyt po wdrożeniu narzędzi sztucznej inteligencji obejmuje zarówno warstwę procedur organizacyjnych, jak i bezpośrednią konfigurację sprzętową oraz sieciową na stanowiskach pracy w firmie. Podstawowe punkty sprawdzane podczas audytu to:

Weryfikacja zjawiska Shadow AI (czyli korzystania przez pracowników z nieautoryzowanych aplikacji oraz serwisów internetowych bez wiedzy i zgody administratora IT). W wielu przedsiębiorstwach pracownicy rejestrują prywatne konta w publicznych modelach językowych, aby przyspieszyć wykonywanie codziennych zadań biurowych.
Kontrola uprawnień i konfiguracji kluczy API (Application Programming Interface, czyli interfejsów programistycznych umożliwiających bezpieczną komunikację między oprogramowaniem firmowym a serwerami dostawcy modelu). Sprawdzane jest, czy klucze nie zostały zapisane w otwartym kodzie, publicznych repozytoriach lub na niezabezpieczonych dyskach komputerów pracowniczych.
Analiza przepływu danych poufnych (w tym danych osobowych klientów, wyciągów finansowych, dokumentacji technicznej oraz umów handlowych). Weryfikowane jest, czy zapytania kierowane do modeli nie zawierają informacji podlegających szczególnej ochronie prawnej.
Przegląd konfiguracji systemów RAG (Retrieval-Augmented Generation, czyli architektury pozwalającej modelom językowym na pobieranie wiedzy z wewnętrznych baz dokumentów przedsiębiorstwa). Sprawdzane są mechanizmy kontroli dostępu, aby pracownik o niższych uprawnieniach nie mógł wydobyć poufnych raportów zarządczych za pośrednictwem asystenta AI.
Stan techniczny i zabezpieczenia komputerów oraz serwerów lokalnych uruchamiających modele LLM (Large Language Model, czyli duże modele językowe działające bez połączenia z chmurą zewnętrzną). Badany jest stan aktualizacji systemu operacyjnego, szyfrowanie dysków oraz poziom ochrony przed nieuprawnionym dostępem z sieci lokalnej.
Weryfikacja podatności na ataki typu prompt injection (techniki polegającej na celowej manipulacji zapytaniem tekstowym w celu wymuszenia niepożądanego zachowania modelu lub ominięcia wbudowanych filtrów bezpieczeństwa).
Kontrola systemów DLP (Data Loss Prevention, czyli oprogramowania monitorującego i blokującego nieautoryzowane próby wysyłania wrażliwych plików poza sieć firmową).

Warianty problemów wykrywanych po wdrożeniu

W praktyce audytowej spotykane są zróżnicowane scenariusze rozbieżności między założeniami projektowymi a stanem faktycznym. Każdy z wariantów generuje odmienne ryzyka dla ciągłości działania i bezpieczeństwa informacji w przedsiębiorstwie.

Pierwszym częstym wariantem jest nieświadomy wyciek danych przez publiczne interfejsy czatowe. Użytkownicy wklejają całe arkusze kalkulacyjne, bazy kontaktowe lub fragmenty kodu źródłowego do darmowych wersji narzędzi, w których domyślnie włączone jest trenowanie modeli na danych wejściowych. Oznacza to, że poufne informacje firmy mogą zostać zindeksowane przez zewnętrznego dostawcę i potencjalnie ujawnione w odpowiedziach generowanych dla innych podmiotów.

Drugim wariantem jest instalacja niezweryfikowanych rozszerzeń przeglądarek internetowych oraz dodatków do pakietów biurowych. Wtyczki te obiecują automatyczną korektę tekstu lub generowanie podsumowań, lecz w rzeczywistości przesyłają zawartość każdego odwiedzanego formularza i dokumentu na nieznane serwery pośredniczące. Tego typu oprogramowanie często działa w tle bez wiedzy użytkownika, omijając podstawowe zabezpieczenia przeglądarki.

Trzecim wariantem jest erozja uprawnień w firmowych systemach wyszukiwania semantycznego (technologii wyszukiwania informacji na podstawie znaczenia słów, a nie tylko dopasowania pojedynczych fraz kluczowych). Gdy wewnętrzny asystent sztucznej inteligencji zostaje podłączony do dysku sieciowego, często otrzymuje uprawnienia administratora. W efekcie pracownicy każdego szczebla mogą w naturalnym języku zadawać pytania o wysokość wynagrodzeń, plany restrukturyzacji czy poufne umowy strategiczne, a model generuje precyzyjne odpowiedzi na podstawie plików, do których dany użytkownik nie powinien mieć bezpośredniego wglądu.

Czwartym wariantem jest brak rotacji tokenów uwierzytelniających (unikalnych ciągów znaków potwierdzających tożsamość aplikacji przy wysyłaniu zapytań). Po fazie testowej klucze dostępu do płatnych modeli bywają kopiowane na wiele stanowisk roboczych, po czym nikt nie monitoruje liczby zapytań ani lokalizacji, z których są one wysyłane. Prowadzi to do ryzyka niekontrolowanego generowania kosztów oraz trudności w ustaleniu odpowiedzialności za konkretne operacje.

Piątym wariantem jest brak kontroli nad bazami wektorowymi (specjalistycznymi bazami danych przechowującymi informacje w postaci wektorów liczbowych na potrzeby modeli AI). Bazy te bywają instalowane na stacjach roboczych w domyślnej konfiguracji, bez włączonego uwierzytelniania, co pozwala każdemu urządzeniu w sieci lokalnej na odczyt zindeksowanych zasobów firmy.

Błędy popełniane przy samodzielnych próbach weryfikacji

Próby samodzielnego sprawdzenia bezpieczeństwa narzędzi sztucznej inteligencji w firmie często opierają się na niewłaściwych założeniach metodologicznych, co utrudnia wykrycie rzeczywistych zagrożeń.

Częstym błędem jest poleganie wyłącznie na deklaracjach pracowników składanych w ankietach. Pracownicy z obawy przed konsekwencjami dyscyplinarnymi rzadko przyznają się do korzystania z prywatnych narzędzi lub wklejania wrażliwych danych. Rzetelna ocena wymaga weryfikacji technicznej na poziomie stacji roboczych oraz analizy ruchu sieciowego, a nie tylko polegania na zapewnieniach ustnych.

Innym błędem jest wprowadzanie całkowitego, sztywnego zakazu korzystania z narzędzi AI na poziomie firmowego routera bez zaoferowania bezpiecznej alternatywy. W takiej sytuacji pracownicy natychmiast przenoszą przetwarzanie danych na prywatne laptopy lub smartfony podłączone do sieci komórkowej, a następnie przesyłają przetworzone pliki z powrotem na skrzynki firmowe. W ten sposób poziom kontroli nad obiegiem informacji spada do zera, a ryzyko infekcji stacji roboczej wzrasta.

Błędem jest również zaniechanie monitorowania parametrów telemetrycznych (danych o działaniu systemu i przesyłanych pakietach diagnostycznych) w oprogramowaniu wdrażanym lokalnie. Nawet modele uruchamiane na własnym serwerze mogą posiadać wbudowane biblioteki programistyczne, które przy braku odpowiedniej konfiguracji zapory sieciowej (firewalla, czyli oprogramowania filtrującego ruch przychodzący i wychodzący) wysyłają metadane zapytań do zewnętrznych repozytoriów.

Kolejnym błędem jest ignorowanie logów systemowych (rejestrów zdarzeń i operacji wykonywanych przez oprogramowanie). Brak retencji logów, czyli regularnego ich archiwizowania i analizowania, uniemożliwia odtworzenie przebiegu ewentualnego incydentu bezpieczeństwa oraz identyfikację skompromitowanego stanowiska komputerowego.

Kiedy problem leży w infrastrukturze, a nie w samych narzędziach AI

W trakcie audytu niezbędne jest precyzyjne odróżnienie podatności wynikających ze specyfiki sztucznej inteligencji od standardowych problemów z konfiguracją infrastruktury sieciowej i komputerowej.

Często incydent polegający na uzyskaniu nieautoryzowanego dostępu do danych nie jest spowodowany błędem modelu AI, lecz brakiem segmentacji sieci (podziału firmowej sieci lokalnej na odrębne, odizolowane strefy z osobnymi uprawnieniami). Jeśli serwer z bazą wiedzy znajduje się w tej samej podsieci co urządzenia gości lub drukarki sieciowe ze starym oprogramowaniem układowym, źródłem zagrożenia jest cała architektura lokalna, a nie samo oprogramowanie asystenta.

Podobnie zjawisko spowolnienia pracy komputerów w firmie bywa mylnie przypisywane przeciążeniu zapytaniami AI, podczas gdy w rzeczywistości wynika z niewłaściwej alokacji pamięci operacyjnej RAM (pamięci podręcznej komputera) na stacjach roboczych, przegrzewania się układów chłodzenia w laptopach lub obecności złośliwego oprogramowania typu spyware (programów szpiegujących rejestrujących wprowadzane znaki klawiatury i zawartość ekranu). Specjalista na miejscu weryfikuje oba te aspekty, oddzielając stan techniczny sprzętu od warstwy programowej.

Najczęściej zadawane pytania

Czy przeprowadzenie audytu bezpieczeństwa AI wymaga wyłączenia komputerów w firmie?

Czynności audytowe są prowadzone w sposób niezakłócający bieżącej pracy biura. Weryfikacja konfiguracji stacji roboczych, uprawnień dostępowych oraz reguł sieciowych odbywa się na działających stanowiskach, bez konieczności przestojów operacyjnych czy odłączania pracowników od internetu.

W jaki sposób weryfikowane jest nieoficjalne korzystanie z narzędzi bez naruszania prywatności personelu?

Sprawdzenie koncentruje się na konfiguracji technicznej systemów operacyjnych, aktywnych procesach w tle, zainstalowanych rozszerzeniach przeglądarek oraz parametrach ruchu sieciowego wychodzącego z urządzeń firmowych. Celem nie jest czytanie prywatnej korespondencji, lecz identyfikacja niezabezpieczonych kanałów przesyłu danych firmowych do zewnętrznych serwisów.

Czym różni się audyt chmurowych narzędzi AI od audytu instalacji lokalnych?

W przypadku narzędzi chmurowych główny nacisk kładziony jest na umowy powierzenia przetwarzania danych, ustawienia prywatności w kontach organizacji, zarządzanie kluczami API oraz weryfikację, czy dostawca nie wykorzystuje zapytań do uczenia modeli. Przy instalacjach lokalnych typu self-hosted LLM (modeli uruchamianych na własnej infrastrukturze serwerowej) kluczowe znaczenie ma bezpieczeństwo fizyczne i sieciowe samego serwera, szyfrowanie dysków, konfiguracja bazy wektorowej oraz uprawnienia użytkowników w sieci lokalnej.

Jak często zaleca się powtarzanie weryfikacji powdrożeniowej?

Przegląd stanu bezpieczeństwa warto wykonywać okresowo, a także po każdej większej zmianie organizacyjnej, aktualizacji oprogramowania lub dodaniu nowych źródeł danych do wewnętrznych asystentów wiedzy. Regularna kontrola pozwala wychwycić nowe, niezatwierdzone narzędzia, zanim dojdzie do niekontrolowanego wycieku informacji.

Co dokładnie zawiera raport podsumowujący audyt?

Raport końcowy to uporządkowany dokument techniczny zawierający pełny wykaz zidentyfikowanych w firmie narzędzi sztucznej inteligencji, mapę przepływu danych poufnych, listę wykrytych podatności wraz z określeniem ich stopnia krytyczności oraz precyzyjne wytyczne dotyczące wdrożenia niezbędnych reguł blokad, izolacji lub modyfikacji uprawnień.

Weryfikacja konfiguracji bezpośrednio w siedzibie firmy

Diagnostyka prowadzona jest bezpośrednio w siedzibie klienta na terenie Warszawy oraz okolicznych miejscowości, co umożliwia zbadanie sprzętu komputerowego, serwerów i urządzeń sieciowych w ich naturalnym środowisku roboczym. Sprawdzenie parametrów na miejscu pozwala rzetelnie ocenić stan zabezpieczeń i dopasować działanie narzędzi sztucznej inteligencji do faktycznych wymogów bezpieczeństwa organizacji.

22 378 48 09

Audyt bezpieczeństwa po wdrożeniu narzędzi AI