Integracja narzędzia AI z istniejącym oprogramowaniem firmowym otwiera nowe kanały przepływu danych, które warto sprawdzić pod kątem bezpieczeństwa.

Na czym polega ta usługa

Usługa obejmuje przegląd sposobu, w jaki dane przepływają między narzędziem AI a integrowanym z nim oprogramowaniem, oraz wskazanie potencjalnych ryzyk.

Dla kogo ma sens

Usługa jest przydatna dla firm integrujących narzędzia AI z istniejącym oprogramowaniem, które chcą zrobić to bezpiecznie.

Ile to trwa

Przegląd bezpieczeństwa integracji mieści się z reguły w standardowym czasie do 3 dni.

Warunki

Diagnoza wstępna i wycena są bezpłatne. Dojazd na terenie Warszawy i okolic jest bezpłatny, a usługa objęta jest gwarancją do 12 miesięcy.

Warianty architektoniczne integracji AI i powiązane wektory ryzyka

Integracja algorytmów sztucznej inteligencji z oprogramowaniem firmowym może przybierać różne formy technologiczne. Wybór architektury bezpośrednio wpływa na poziom ekspozycji danych firmowych i wymaga zastosowania odmiennych środków ochronnych.

Pierwszym popularnym wariantem są integracje oparte na chmurowych interfejsach programistycznych, czyli API (Application Programming Interface – zestaw reguł umożliwiających wymianę informacji między różnymi aplikacjami). W tym modelu dane z wewnętrznych baz danych lub dokumentów są przesyłane do zewnętrznego dostawcy usług w celu przetworzenia przez model językowy LLM (Large Language Model – duży model językowy wyszkolony do analizy i generowania tekstu). Główne ryzyko wiąże się tutaj z potencjalnym zapisywaniem zapytań w logach dostawcy, możliwością wykorzystania przesłanych danych do dalszego trenowania algorytmów oraz ryzykiem przechwycenia pakietów w przypadku braku odpowiedniego szyfrowania transmisji.

Drugim wariantem jest wdrożenie modeli lokalnych, określanych jako on-premise lub self-hosted (oprogramowanie uruchamiane w całości na własnych serwerach fizycznych lub wirtualnych wewnątrz sieci przedsiębiorstwa). Rozwiązanie to eliminuje konieczność wysyłania poufnych informacji na zewnętrzne serwery, lecz przenosi odpowiedzialność za bezpieczeństwo na infrastrukturę lokalną. Ryzyka w tym przypadku obejmują niewłaściwą izolację środowiska roboczego, brak kontroli nad uprawnieniami dostępu do zasobów serwera oraz niewystarczające zabezpieczenie pamięci podręcznej i wag modelu przed nieautoryzowanym odczytem.

Trzecim często stosowanym rozwiązaniem jest architektura RAG (Retrieval-Augmented Generation – metoda wspomagania generowania odpowiedzi przez wyszukiwanie wiedzy w lokalnych bazach dokumentów). W tym modelu silnik wektorowy indeksuje firmowe pliki PDF, arkusze kalkulacyjne, bazy wiedzy oraz wiadomości pocztowe, tworząc tzw. embeddings (wektoryzację danych – numeryczną reprezentację znaczenia tekstu przechowywaną w wektorowej bazie danych). Zagrożenie polega tu na możliwości obejścia wewnętrznych uprawnień: użytkownik o niskich uprawnieniach może zadać pytanie modelowi AI i uzyskać odpowiedź bazującą na dokumentach finansowych lub kadrowych, do których w tradycyjnym systemie plików nie posiadałby wglądu.

Zagrożenia dla danych w systemach ERP, CRM i bazach relacyjnych

Wdrożenie mechanizmów sztucznej inteligencji w środowiskach biznesowych często wiąże się z podłączaniem asystentów do systemów ERP (Enterprise Resource Planning – oprogramowanie do kompleksowego zarządzania zasobami przedsiębiorstwa) oraz systemów CRM (Customer Relationship Management – narzędzia do zarządzania relacjami z klientami). Dotyczy to popularnych w przedsiębiorstwach pakietów oprogramowania, takich jak InsERT GT (w tym Subiekt GT, Rewizor, Gratyfikant, Gestor, Biuro), InsERT nexo, Comarch ERP Optima, WAPRO ERP (Mag, Fakturka, Gang, Kaper, Fakir, JPK), enova365 czy Symfonia, a także integracji ze środowiskami e-commerce i platformami sprzedażowymi, takimi jak BaseLinker.

Jednym z najpoważniejszych zagrożeń technicznych jest udostępnienie modelowi AI możliwości generowania zapytań SQL (Structured Query Language – strukturalny język zapytań używany do komunikacji z relacyjnymi bazami danych) bez odpowiednich ograniczeń. Jeśli model generuje zapytania bezpośrednio do produkcyjnej bazy danych Microsoft SQL Server lub PostgreSQL, istnieje ryzyko wykonania błędnych instrukcji modyfikujących (UPDATE) lub usuwających (DELETE) rekordy, a także wykonania niekontrolowanego zrzutu tabel zawierających wrażliwe dane finansowe, marże handlowe, numery rachunków bankowych czy dane kadrowo-płacowe.

Kolejnym wektorem zagrożeń są ataki typu prompt injection (wstrzykiwanie złośliwych instrukcji w treści zapytania mające na celu zmianę zachowania modelu i ominięcie nałożonych ograniczeń). W środowisku firmowym szczególnie niebezpieczny jest pośredni atak tego typu, czyli indirect prompt injection. Polega on na umieszczeniu ukrytej instrukcji tekstowej w przetwarzanym przez AI dokumencie zewnętrznym – na przykład w fakturze od kontrahenta, wiadomości e-mail lub zapytaniu ofertowym. Model analizujący taki dokument może odczytać instrukcję nakazującą przesłanie poufnych danych z bazy ERP na zewnętrzny adres sieciowy lub wykonanie nieautoryzowanej operacji w systemie.

Typowe błędy popełniane podczas samodzielnych integracji AI

Podczas samodzielnego łączenia narzędzi sztucznej inteligencji z oprogramowaniem biurowym i bazami danych w firmach często dochodzi do powtarzalnych błędów konfiguracyjnych, które znacząco obniżają poziom bezpieczeństwa danych.

Do najczęstszych nieprawidłowości należą:

Stosowanie pojedynczego, globalnego klucza API z pełnymi uprawnieniami administratora dla wszystkich użytkowników i skryptów integracyjnych, zamiast wdrożenia podziału ról w ramach RBAC (Role-Based Access Control – model kontroli dostępu oparty na przypisanych rolach użytkowników).
Brak mechanizmów automatycznej anonimizacji i pseudonimizacji (usuwania lub zastępowania identyfikatorów osobowych, numerów PESEL, NIP czy numerów kart płatniczych przed przekazaniem tekstu do zewnętrznego silnika przetwarzającego).
Korzystanie z konsumenckich lub bezpłatnych kont usług AI, których regulaminy przewidują domyślne wykorzystywanie wprowadzanych danych do uczenia i doskonalenia modeli przez dostawcę.
Brak rejestrowania i monitorowania zdarzeń w logach systemowych (plikach dziennika rejestrujących wszystkie zapytania i odpowiedzi), co uniemożliwia wykrycie ewentualnych wycieków lub nadużyć wstecz.
Pozostawienie modelowi AI prawa do bezpośredniego zatwierdzania i wprowadzania zmian w bazach produkcyjnych bez nadzoru człowieka (brak procedury human-in-the-loop, czyli wymogu ręcznej akceptacji kluczowych operacji biznesowych przez uprawnionego pracownika).
Niewłaściwa konfiguracja sieciowa, w tym brak szyfrowania połączeń za pomocą protokołu TLS (Transport Layer Security – protokół kryptograficzny zapewniający poufność i integralność przesyłanych danych) na odcinku między lokalną aplikacją a serwerem AI.

Rozróżnienie: podatność integracji AI a istniejące błędy uprawnień w systemie

Podczas weryfikacji incydentów związanych z ujawnieniem danych po wdrożeniu AI istotne jest precyzyjne odróżnienie problemów wynikających z samej integracji od luk istniejących wcześniej w strukturze uprawnień sieciowych i bazodanowych.

Często dochodzi do sytuacji, w której model sztucznej inteligencji udziela pracownikowi odpowiedzi zawierającej dane o zarobkach zarządu lub planowanych zwolnieniach nie dlatego, że sam algorytm uległ awarii, lecz dlatego, że pliki te leżały na nieskonfigurowanym udziale sieciowym (zasobie SMB/NFS), do którego wszyscy pracownicy w domenie Active Directory posiadali uprawnienia odczytu. Wcześniej nikt tych plików nie odnalazł z powodu dużej liczby folderów, natomiast silnik RAG zindeksował całą dostępną przestrzeń dyskową, ujawniając istniejący od dawna błąd konfiguracyjny.

Z kolei podatność stricte związana z integracją AI zachodzi wtedy, gdy skrypt pośredniczący (middleware – oprogramowanie łączące różne aplikacje i przekazujące między nimi dane) łączy się z bazą danych na wspólnym koncie serwisowym o uprawnieniach typu sysadmin lub db_owner. W takim wariancie, nawet jeśli użytkownik końcowy w programie Comarch ERP Optima czy Subiekt nexo ma zablokowany wgląd w marże lub stany magazynowe innych oddziałów, moduł AI odpytuje bazę z maksymalnymi uprawnieniami i zwraca pełne dane każdemu pytającemu.

Procedura audytu i zabezpieczania środowiska przepływu danych

Przegląd bezpieczeństwa przepływu danych realizowany jest w oparciu o uporządkowaną metodykę techniczną, która pozwala zidentyfikować podatności bez zakłócania ciągłości pracy przedsiębiorstwa.

Procedura obejmuje następujące kroki techniczne:

Inwentaryzacja punktów styku (endpoints) – identyfikacja wszystkich interfejsów, przez które systemy ERP, bazy SQL, arkusze kalkulacyjne oraz serwery pocztowe komunikują się z modelami AI.
Mapowanie przepływu danych (Data Flow Mapping) – analiza ścieżki, jaką przebywa informacja od momentu jej wprowadzenia przez pracownika, poprzez proces przetwarzania wstępnego, aż po wysyłkę do silnika językowego i zwrócenie wyniku.
Weryfikacja polityk retencji danych – sprawdzenie, czy w przypadku integracji z API zewnętrznych dostawców aktywowany jest tryb Zero Data Retention (polityka gwarantująca, że zapytania nie są zapisywane na dyskach dostawcy i nie podlegają dalszemu przetwarzaniu po wygenerowaniu odpowiedzi).
Wdrożenie bramek pośredniczących (API Gateway) oraz filtrów DLP (Data Loss Prevention – systemy zapobiegające niekontrolowanemu wyciekowi danych poufnych), które w czasie rzeczywistym skanują zapytania i usuwają z nich wrażliwe dane przed ich wysłaniem.
Konfiguracja środowisk lokalnych na systemach Linux lub Windows Server z wykorzystaniem odizolowanych kontenerów oraz dedykowanych kart graficznych lub procesorów, co pozwala na całkowite zamknięcie przetwarzania danych wewnątrz sieci lokalnej (LAN – Local Area Network).
Audyt i optymalizacja uprawnień bazodanowych – konfiguracja kont technicznych z uprawnieniami wyłącznie do odczytu (SELECT) dla ściśle określonych widoków danych, z wykluczeniem tabel zawierających poufne dane kadrowe i hasła.

Poufność, umowa NDA i obsługa techniczna na miejscu u klienta

Wszelkie prace związane z przeglądem integracji oprogramowania biznesowego i sztucznej inteligencji wymagają zachowania najwyższych standardów poufności. Przed przystąpieniem do analizy konfiguracji możliwe jest podpisanie bezpłatnej umowy o zachowaniu poufności (NDA – Non-Disclosure Agreement), która gwarantuje pełne bezpieczeństwo informacji handlowych, danych kontrahentów i tajemnic przedsiębiorstwa.

Czynności diagnostyczne i wdrożeniowe realizowane są wyłącznie w formule dojazdu bezpośrednio do siedziby firmy klienta. Obsługiwany jest obszar całej Warszawy oraz okolicznych powiatów w promieniu do 40 km, w tym powiat grodziski, legionowski, otwocki, piaseczyński, pruszkowski, warszawski zachodni oraz wołomiński. W nagłych przypadkach wymagających pilnej interwencji serwisant może pojawić się na miejscu w czasie do 1 godziny od zgłoszenia.

Podczas prac audytowych standardowo nie wymaga się przekazywania haseł administratora – weryfikacja parametrów bezpieczeństwa oraz konfiguracji sieciowej może odbywać się w obecności wyznaczonego pracownika firmy lub z wykorzystaniem tymczasowych kont serwisowych o ograniczonym czasie ważności. Prace mogą być realizowane także w godzinach wieczornych lub w dni wolne od pracy, bez naliczania dodatkowych opłat za niestandardowe pory realizacji zlecenia.

Pytania i odpowiedzi dotyczące bezpieczeństwa danych w integracjach AI

Czy dostawca zewnętrznego modelu AI może wykorzystać dane firmowe do własnego uczenia maszynowego?

W przypadku darmowych i konsumenckich wersji narzędzi AI regulaminy usług z reguły zezwalają dostawcy na wykorzystywanie wprowadzanych treści w celu trenowania modeli. W wersjach biznesowych oraz przy połączeniach przez płatne interfejsy API dostawcy oferują umowy gwarantujące brak wykorzystywania zapytań do celów szkoleniowych oraz opcję Zero Data Retention. Weryfikacja tych ustawień i właściwa konfiguracja konta API jest kluczowym elementem audytu bezpieczeństwa.

Czym różni się integracja z modelem w chmurze od wdrożenia modelu lokalnego na własnym serwerze?

Integracja w chmurze opiera się na wysyłaniu zapytań do zewnętrznych centrów danych przez Internet, co wymaga minimalnych zasobów sprzętowych po stronie firmy, ale nakłada konieczność precyzyjnego kontrolowania przesyłanych danych i szyfrowania transmisji. Model lokalny (on-premise) jest instalowany bezpośrednio na firmowym serwerze z systemem Windows Server lub Linux, dzięki czemu żadne dane nie opuszczają lokalnej sieci przedsiębiorstwa (LAN), co eliminuje ryzyko wycieku do chmury, lecz wymaga odpowiedniej wydajności sprzętowej.

Jak zabezpieczyć bazę danych SQL przed przypadkowym usunięciem rekordów przez sztuczną inteligencję?

Podstawowym zabezpieczeniem jest utworzenie dla modułu integracyjnego dedykowanego użytkownika bazodanowego z uprawnieniami ograniczonymi wyłącznie do odczytu (SELECT) oraz zablokowaniem instrukcji modyfikujących strukturę i zawartość bazy (takich jak INSERT, UPDATE, DELETE, DROP czy ALTER). Dodatkowo zaleca się udostępnianie modelowi nie bezpośrednich tabel produkcyjnych, lecz specjalnie przygotowanych widoków (SQL Views), które prezentują jedynie zanonimizowany wycinek danych niezbędny do wykonania danej analizy.

Czy audyt bezpieczeństwa przepływu danych wymaga przerwy w działaniu systemów produkcyjnych?

Weryfikacja konfiguracji i analiza przepływu danych przeprowadzana jest w sposób nieinwazyjny, bez konieczności zatrzymywania pracy systemów ERP, serwerów bazodanowych czy platform sprzedażowych. Analizie poddawane są schematy połączeń, konfiguracje reguł zapory sieciowej (firewall), uprawnienia użytkowników oraz logi systemowe, dzięki czemu pracownicy firmy mogą nieprzerwanie korzystać z oprogramowania w trakcie trwania audytu.

Jakie systemy oprogramowania biznesowego podlegają weryfikacji pod kątem bezpiecznej integracji z AI?

Przegląd obejmuje wszystkie standardowe systemy zarządzania przedsiębiorstwem, w tym pakiety InsERT GT (Subiekt, Rewizor, Rachmistrz, Gratyfikant, Gestor, Biuro) oraz InsERT nexo, systemy Comarch ERP (Optima, XL, Altum), WAPRO ERP (Mag, Fakturka, Gang, Kaper, Fakir, JPK), Sage Symfonia, enova365, RAKS, bazy Microsoft SQL Server, środowiska chmurowe Microsoft 365 i Google Workspace, a także integratory sprzedaży e-commerce, takie jak BaseLinker.

Bezpieczna architektura danych jako fundament automatyzacji biznesowej

Prawidłowe zabezpieczenie kanałów wymiany informacji między oprogramowaniem biznesowym a narzędziami sztucznej inteligencji pozwala na czerpanie korzyści z automatyzacji bez narażania przedsiębiorstwa na straty finansowe, naruszenie tajemnicy handlowej czy kary związane z nieuprawnionym przetwarzaniem danych osobowych. Usługa przeglądu technicznego pozwala precyzyjnie zdiagnozować słabe punkty w architekturze sieciowej, zweryfikować uprawnienia w bazach SQL i systemach ERP oraz wdrożyć procedury chroniące newralgiczne zasoby firmy bezpośrednio w miejscu prowadzenia działalności.

22 378 48 09

Bezpieczeństwo danych przy integracji AI z istniejącym oprogramowaniem