Ocena ryzyka przed udostępnieniem AI zewnętrznym kontrahentom

Udostępnienie narzędzi AI zewnętrznym kontrahentom niesie dodatkowe ryzyka związane z dostępem do danych firmowych.

Na czym polega ta usługa

Usługa obejmuje ocenę ryzyka związanego z udostępnieniem narzędzi AI zewnętrznym kontrahentom oraz rekomendacje zabezpieczeń.

Dla kogo ma sens

Usługa jest przydatna dla firm planujących udostępnić narzędzia AI zewnętrznym kontrahentom lub podwykonawcom.

Ile to trwa

Ocena ryzyka mieści się z reguły w standardowym czasie do 3 dni.

Warunki

Diagnoza wstępna i wycena są bezpłatne, a usługa objęta jest gwarancją do 12 miesięcy.

Scenariusze udostępniania narzędzi sztucznej inteligencji kontrahentom

Współczesne organizacje coraz częściej włączają zewnętrznych partnerów biznesowych, agencje marketingowe, firmy programistyczne oraz podwykonawców w wewnętrzne procesy oparte na modelach sztucznej inteligencji. W zależności od specyfiki działalności gospodarczej wyróżnia się kilka podstawowych wariantów takiej współpracy, z których każdy generuje odmienne wyzwania z zakresu cyberbezpieczeństwa:

Udostępnianie kont w korporacyjnych asystentach chmurowych — sytuacja, w której zewnętrzni konsultanci lub podwykonawcy otrzymują imienne konta użytkowników w środowiskach takich jak Microsoft 365 Copilot czy Google Workspace. Umożliwia to wspólną pracę nad dokumentami, jednak niesie ryzyko nieintencjonalnego przeszukiwania przez algorytmy AI wrażliwych zasobów dysków sieciowych, folderów współdzielonych oraz korespondencji e-mail, do których dane konto posiada uprawnienia dostępu.
Dostęp do wewnętrznych interfejsów API modeli językowych — model, w którym kontrahent budujący aplikację zewnętrzną lub automatyzację łączy się bezpośrednio z firmowym interfejsem API (interfejsem programistycznym aplikacji, czyli zestawem reguł umożliwiających bezpośrednią wymianę danych między różnymi programami). W tym przypadku ryzyko dotyczy niewłaściwego zabezpieczenia kluczy uwierzytelniających oraz braku ograniczeń liczby wysyłanych zapytań.
Integracja algorytmów AI z systemami zarządzania przedsiębiorstwem — podłączenie modułów analitycznych i generatywnych do systemów ERP (ang. Enterprise Resource Planning, czyli oprogramowania do kompleksowego zarządzania zasobami przedsiębiorstwa), takich jak InsERT nexo, Subiekt GT, Comarch ERP Optima, WAPRO ERP, Sage Symfonia czy enova365. Narzędzia te pomagają w automatyzacji fakturowania, obsłudze zamówień magazynowych lub analizie marż, co wiąże się z bezpośrednim przetwarzaniem bazy danych kontrahentów i historii transakcji handlowych.
Wykorzystanie lokalnych instancji modeli na serwerach firmowych — uruchamianie modeli open-source (otwartego oprogramowania) na własnych serwerach z systemami Linux lub Windows Server, do których podwykonawcy uzyskują dostęp zdalny przez połączenia VPN (wirtualną sieć prywatną szyfrującą ruch sieciowy między urządzeniem zdalnym a siecią lokalną). W tym modelu kluczowe jest prawidłowe odizolowanie środowiska serwerowego od reszty infrastruktury biurowej.

Główne wektory ryzyka i zagrożenia bezpieczeństwa informacji

Udostępnienie narzędzi sztucznej inteligencji podmiotom trzecim bez uprzedniej weryfikacji technicznej może prowadzić do poważnych incydentów bezpieczeństwa. Do najważniejszych wektorów ryzyka należą:

Zjawisko bezpośredniego i pośredniego wstrzykiwania instrukcji (ang. prompt injection, czyli techniki manipulacji modelem polegającej na wprowadzeniu specjalnie sformułowanego zapytania, które zmusza sztuczną inteligencję do zignorowania pierwotnych instrukcji bezpieczeństwa i ujawnienia poufnych danych z bazy wiedzy). Kontrahent lub nieświadomy użytkownik wprowadzający zewnętrzne dane do analizy może sprawić, że model wyodrębni i przekaże na zewnątrz fragmenty zastrzeżonych dokumentów technicznych, haseł konfiguracyjnych czy informacji handlowych.

Polityka retencji i uczenia modeli (sposób, w jaki dostawca technologii AI przechowuje oraz wykorzystuje historię przetwarzanych zapytań). W przypadku korzystania z publicznych lub nieodpowiednio skonfigurowanych wariantów narzędzi chmurowych, dane przesyłane w zapytaniach mogą trafiać do zbiorów treningowych dostawcy. Oznacza to, że tajemnice przedsiębiorstwa, kod źródłowy aplikacji lub dane osobowe mogą w przyszłości zostać wygenerowane w odpowiedzi na zapytania innych użytkowników publicznej usługi.

Zanieczyszczenie bazy wiedzy w systemach RAG (ang. Retrieval-Augmented Generation, czyli architekturze wzbogacającej odpowiedzi modelu sztucznej inteligencji o dokumenty pobierane w czasie rzeczywistym z wewnętrznych zasobów firmy). Nadanie podwykonawcy zbyt szerokich uprawnień do edycji, dodawania lub modyfikowania plików źródłowych może doprowadzić do wprowadzenia błędnych lub złośliwych danych. Skutkuje to generowaniem przez asystenta AI fałszywych wniosków dla pozostałych pracowników organizacji (zjawisko halucynacji wywołanej nieprawidłowymi danymi wejściowymi).

Nadmiarowe uprawnienia dostępowe i brak separacji ról. W wielu środowiskach cyfrowych konta podwykonawców posiadają domyślne uprawnienia do odczytu całych baz danych SQL Server zamiast wyłącznie wyselekcjonowanych widoków tabeli. Narzędzie AI działające w kontekście takiego konta ma dostęp do pełnych danych płacowych, raportów finansowych oraz baz klientów, co stwarza bezpośrednie ryzyko nieuprawnionego wycieku informacji.

Brak kontroli kosztów i przepustowości (ang. rate limiting, czyli mechanizmu ograniczającego liczbę zapytań wysyłanych do interfejsu w jednostce czasu). Nieoptymalnie zaprogramowany skrypt podwykonawcy może wysyłać tysiące zapytań na minutę, co w przypadku komercyjnych interfejsów chmurowych prowadzi do niekontrolowanego wzrostu opłat, a w przypadku serwerów lokalnych skutkuje odmową usługi (przeciążeniem procesora i pamięci RAM).

Szczegółowa metodyka technicznej oceny ryzyka

Proces oceny ryzyka prowadzony jest w sposób ustrukturyzowany i obejmuje analizę wszystkich warstw technologicznych wykorzystywanych przy współpracy z zewnętrznymi kontrahentami:

Pierwszym krokiem jest inwentaryzacja zasobów cyfrowych i punktów styku. Podczas tego etapu identyfikowane są wszystkie aplikacje, skrypty integrujące, konta w chmurze oraz bazy danych, z którymi łączą się narzędzia sztucznej inteligencji wykorzystywane przez podwykonawców. Sprawdzane jest, czy transmisja danych odbywa się za pośrednictwem bezpiecznych protokołów kryptograficznych TLS (protokołów sieciowych zapewniających poufność i integralność przesyłanych informacji).

Drugim etapem jest audyt tożsamości oraz uprawnień w usługach katalogowych Active Directory lub Azure Active Directory (centralnych systemach zarządzania kontami użytkowników, grupami oraz uprawnieniami w środowisku sieciowym). Weryfikowane jest wdrożenie zasady najmniejszych uprawnień (ang. Principle of Least Privilege, czyli reguły, według której każdy użytkownik i usługa posiada dostęp wyłącznie do tych informacji, które są absolutnie niezbędne do realizacji powierzonych zadań). Sprawdzana jest separacja ról administracyjnych od kont roboczych.

Trzecim elementem jest weryfikacja konfiguracji filtrów bezpieczeństwa oraz mechanizmów ochrony przed wyciekiem informacji (DLP, ang. Data Loss Prevention, czyli systemów monitorujących przepływ danych w celu blokowania przesyłania poufnych informacji poza sieć przedsiębiorstwa). Oceniana jest skuteczność automatycznego wykrywania numerów PESEL, numerów rachunków bankowych, danych kart płatniczych oraz wewnętrznych oznaczeń projektowych w zapytaniach kierowanych do modeli językowych.

Czwartym krokiem jest analiza procedur anonimizacji i pseudonimizacji danych (procesów technicznych polegających na trwałym lub odwracalnym usuwaniu powiązań między danymi biznesowymi a konkretnymi osobami lub podmiotami przed przesłaniem ich do analizy przez algorytmy AI).

Piątym etapem jest przegląd mechanizmów rejestrowania zdarzeń (logowania operacji w dziennikach systemowych). Weryfikowane jest, czy system odnotowuje pełną historię interakcji: identyfikator użytkownika, znacznik czasu, adres IP urządzenia źródłowego, treść zapytania oraz wygenerowaną odpowiedź. Umożliwia to przeprowadzenie rzetelnego dochodzenia powłamaniowego w przypadku wystąpienia incydentu bezpieczeństwa.

Typowe błędy popełniane podczas udostępniania AI podmiotom trzecim

Analiza incydentów bezpieczeństwa wskazuje na powtarzające się schematy błędów popełnianych na etapie konfiguracji i zarządzania dostępami dla kontrahentów:

Używanie kont współdzielonych — tworzenie jednego ogólnego konta logowania dla całego zespołu zewnętrznego podwykonawcy. Uniemożliwia to jednoznaczne przypisanie odpowiedzialności za wykonane zapytania oraz utrudnia natychmiastowe odebranie uprawnień pojedynczemu pracownikowi kontrahenta, który zakończył pracę przy projekcie.
Brak izolacji środowiskowej — podłączanie testowanych przez podwykonawcę modeli AI bezpośrednio do produkcyjnej bazy danych systemu ERP lub CRM zamiast do środowiska stagingowego (odizolowanej kopii testowej zawierającej zanonimizowane dane próbne).
Niewyłączenie funkcji trenowania modeli — pozostawienie domyślnych ustawień fabrycznych w panelach zarządzania usługami AI, które zezwalają dostawcy platformy na analizę i wykorzystywanie przesyłanych promptów do doskonalenia publicznych algorytmów.
Brak rotacji kluczy uwierzytelniających — generowanie statycznych kluczy API dla kontrahenta bez ustalenia harmonogramu ich regularnej zmiany (rotacji) oraz bez natychmiastowego unieważniania kluczy po zakończeniu umowy.
Zaniedbanie formalnych umów prawnych — wdrażanie integracji technicznych przed podpisaniem umowy o zachowaniu poufności (NDA) oraz umowy powierzenia przetwarzania danych osobowych.
Brak monitorowania anomalii ruchowych — brak wdrożonych reguł powiadamiania administratora o nietypowej aktywności, na przykład o masowym pobieraniu danych w godzinach nocnych lub logowaniu z nietypowych lokalizacji geograficznych.

Kiedy ocena ryzyka nie jest właściwym rozwiązaniem

Dla zachowania przejrzystości zakresu prac technicznych warto precyzyjnie zdefiniować granice oferowanej usługi:

Usługa nie polega na programowaniu dedykowanych modeli sztucznej inteligencji, pisaniu kodu sieci neuronowych od podstaw ani na trenowaniu algorytmów na zamówienie. Przedmiotem prac jest ocena bezpieczeństwa teleinformatycznego, kontrola uprawnień, konfiguracja zapór sieciowych oraz ochrona firmowych baz danych przed nieuprawnionym dostępem.

Procedura nie ma zastosowania w sytuacji, gdy zewnętrzny kontrahent wykonuje swoje zadania w całkowitej izolacji od infrastruktury przedsiębiorstwa, korzysta wyłącznie z własnych stacji roboczych i niezależnych narzędzi oraz nie otrzymuje wglądu w jakiekolwiek pliki, serwery, interfejsy API czy systemy zarządzania zleceniodawcy.

Audyt nie zastępuje również klasycznych napraw sprzętowych w przypadku fizycznych awarii podzespołów komputerowych należących do podwykonawcy, takich jak uszkodzenia płyt głównych, zasilaczy czy układów chłodzenia.

Zalecane środki techniczne i organizacyjne

Na podstawie wyników przeprowadzonej oceny ryzyka formułowane są precyzyjne zalecenia techniczne zmierzające do uszczelnienia środowiska IT:

Wdrożenie uwierzytelniania wieloskładnikowego (MFA, ang. Multi-Factor Authentication, czyli metody kontroli dostępu wymagającej przedstawienia co najmniej dwóch różnych dowodów tożsamości, na przykład hasła oraz jednorazowego kodu z aplikacji uwierzytelniającej). Mechanizm ten eliminuje ryzyko przejęcia konta w przypadku wycieku samego hasła.

Segmentacja infrastruktury sieciowej za pomocą sieci VLAN (ang. Virtual Local Area Network, czyli technologii umożliwiającej logiczny podział jednej fizycznej sieci komputerowej na odizolowane podsieci). Serwery i aplikacje przetwarzające zapytania sztucznej inteligencji powinny znajdować się w wydzielonej strefie DMZ (strefie zdemilitaryzowanej, czyli wyodrębnionym segmencie sieci wystawionym na ruch zewnętrzny, odizolowanym od wewnętrznej sieci korporacyjnej).

Wdrożenie bram filtrujących zapytania (ang. AI Gateway lub Reverse Proxy, czyli wyspecjalizowanego serwera pośredniczącego, który sprawdza każde zapytanie wysyłane przez kontrahenta pod kątem obecności złośliwego kodu, prób wstrzykiwania instrukcji oraz zawartości danych wrażliwych przed przekazaniem go do właściwego modelu).

Opracowanie i wdrożenie formalnej polityki bezpieczeństwa sztucznej inteligencji w organizacji. Dokument ten precyzuje, jakie kategorie informacji mogą być przetwarzane za pomocą narzędzi AI, jakie formaty plików są dozwolone oraz jakie procedury obowiązują w przypadku wykrycia nieprawidłowości w działaniu algorytmów.

Często zadawane pytania dotyczące bezpieczeństwa AI we współpracy z kontrahentami

Czy podczas oceny ryzyka konieczne jest udostępnienie haseł administratora?

Domyślnie nie prosimy o podawanie haseł administratora. Wszystkie procedury weryfikacyjne, sprawdzanie reguł zapory sieciowej, konfiguracji uprawnień w usługach katalogowych oraz parametrów systemów ERP wykonujemy bezpośrednio w obecności upoważnionego pracownika firmy lub przygotowujemy tymczasowe konto audytorskie o uprawnieniach wyłącznie do odczytu niezbędnych metadanych.

Czy audyt obejmuje integracje z lokalnymi bazami danych systemów ERP?

Tak, ocena ryzyka szczegółowo analizuje połączenia między narzędziami sztucznej inteligencji a relacyjnymi bazami danych SQL Server wykorzystywanymi przez programy takie jak Subiekt GT, InsERT nexo, Comarch ERP Optima, WAPRO ERP, Symfonia czy enova365. Weryfikujemy, czy zapytania generowane przez aplikacje kontrahenta nie dają możliwości wglądu w tabele zawierające marże, zestawienia finansowe lub poufne dane kadrowe.

W jaki sposób można technicznie zablokować wykorzystywanie firmowych danych do trenowania publicznych modeli AI?

Zabezpieczenie polega na prawidłowej konfiguracji kont korporacyjnych u dostawców usług chmurowych, wyłączeniu opcji telemetrii oraz wymuszeniu przetwarzania zapytań w ramach dedykowanych instancji biznesowych objętych gwarancją braku retencji danych treningowych. Alternatywnym rozwiązaniem o najwyższym poziomie poufności jest uruchomienie lokalnych modeli językowych na własnych serwerach firmowych pracujących pod kontrolą systemu Linux.

Czy weryfikacja bezpieczeństwa może zostać zrealizowana w siedzibie naszej firmy?

Tak, działamy w modelu bezpośredniego dojazdu do klienta na terenie całej Warszawy oraz okolicznych miejscowości w promieniu do 40 kilometrów, obejmując 7 sąsiednich powiatów: grodziski, legionowski, otwocki, piaseczyński, pruszkowski, warszawski zachodni oraz wołomiński. Serwisant przeprowadza analizę na miejscu, bezpośrednio na urządzeniach tworzących firmową infrastrukturę sieciową.

Czy przed przystąpieniem do analizy technicznej podpisywana jest umowa o zachowaniu poufności?

Tak, bezpłatne podpisanie umowy o zachowaniu poufności (NDA) jest standardową procedurą realizowaną na życzenie klienta przed rozpoczęciem jakichkolwiek prac weryfikacyjnych i zapoznaniem się ze strukturą sieciową oraz bazami danych przedsiębiorstwa.

Jak długo ważne są rekomendacje wydane po przeprowadzeniu oceny ryzyka?

Rekomendacje techniczne zachowują aktualność do momentu wprowadzenia istotnych zmian w architekturze sieciowej, aktualizacji oprogramowania bazodanowego lub zmiany zakresu uprawnień nadanych kontrahentom. Zaleca się przeprowadzanie ponownego przeglądu bezpieczeństwa środowiska IT przy każdej większej zmianie podwykonawcy lub wdrożeniu nowych narzędzi cyfrowych.

Bezpieczne zarządzanie dostępem do sztucznej inteligencji w relacjach biznesowych

Świadome wdrożenie procedur kontroli dostępu, segmentacja sieci teleinformatycznej oraz precyzyjne ograniczenie uprawnień w systemach bazodanowych pozwalają na czerpanie pełnych korzyści z automatyzacji AI bez ryzyka utraty kontroli nad tajemnicami handlowymi firmy. Profesjonalna ocena ryzyka stanowi kluczowy krok w zabezpieczeniu środowiska cyfrowego przed nieautoryzowanym wyciekiem danych i niekontrolowanymi kosztami eksploatacji nowoczesnych technologii.

22 378 48 09