Wykorzystanie AI w obsłudze klienta oznacza, że dane klientów — ich zapytania, historia korespondencji — mogą trafiać do narzędzia zewnętrznego, co wymaga świadomego podejścia do ich ochrony.

Na czym polega ta usługa

Usługa obejmuje przegląd sposobu, w jaki dane klientów przepływają przez wykorzystywane narzędzie AI, oraz wskazanie, jakie zabezpieczenia i ograniczenia warto wprowadzić, aby ograniczyć ryzyko dla ich prywatności.

Dla kogo ma sens

Usługa jest przydatna dla firm wykorzystujących AI w obsłudze klienta, którym zależy na odpowiedzialnym podejściu do danych osób, z którymi się kontaktują.

Ile to trwa

Przegląd bezpieczeństwa danych klientów mieści się z reguły w standardowym czasie do 3 dni.

Warunki

Diagnoza wstępna i wycena są bezpłatne. Dojazd na terenie Warszawy i okolic jest bezpłatny, a usługa objęta jest gwarancją do 12 miesięcy.

Rodzaje danych klientów przetwarzane przez asystentów sztucznej inteligencji

W działach obsługi klienta, wsparcia technicznego (helpdesk) oraz sprzedaży konsultanci codziennie operują wieloma kategoriami informacji. Wprowadzenie narzędzi opartych na sztucznej inteligencji sprawia, że dane te są przekazywane do modeli językowych w celu generowania odpowiedzi, streszczania historii zgłoszeń lub klasyfikacji zapytań.

W trakcie typowej interakcji w zapytaniach kierowanych do modelu mogą znaleźć się następujące grupy danych:

Dane identyfikacyjne i kontaktowe – imiona, nazwiska, adresy dostawy, numery telefonów, prywatne adresy poczty elektronicznej oraz numery PESEL lub NIP w przypadku transakcji firmowych.
Dane transakcyjne i finansowe – numery zamówień, historia płatności, skrócone numery kart płatniczych, dane z faktur generowanych w systemach takich jak Subiekt GT, Comarch Optima czy WAPRO ERP.
Treści korespondencji i dokumentacji technicznej – szczegółowe opisy zgłaszanych usterek, historia reklamacji, zrzuty ekranu, logi systemowe (dzienniki zdarzeń zawierające adresy IP, nazwy użytkowników systemowych oraz ścieżki do plików w systemach Windows i Linux).
Informacje o charakterze poufnym – dane dotyczące umów, indywidualnych warunków rabatowych, a także nieumyślnie skopiowane fragmenty wewnętrznej dokumentacji firmowej.

Brak kontroli nad tym, jakie fragmenty tekstu trafiają do zewnętrznych silników przetwarzania, stwarza bezpośrednie ryzyko niekontrolowanego wycieku danych poza infrastrukturę przedsiębiorstwa.

Warianty architektoniczne wdrożeń sztucznej inteligencji i poziomy ryzyka

Sposób integracji narzędzi sztucznej inteligencji determinuje stopień narażenia danych na nieautoryzowany dostęp lub ich wtórne wykorzystanie. W strukturach firmowych spotyka się kilka podstawowych modeli wdrożeniowych:

Konsumenckie aplikacje webowe – sytuacja, w której pracownicy wklejają fragmenty wiadomości od klientów bezpośrednio do ogólnodostępnych, darmowych interfejsów czatowych w przeglądarce internetowej. W tym modelu domyślne regulaminy usługodawców często przewidują prawo do wykorzystywania wprowadzanych zapytań (promptów) w procesie dalszego trenowania modeli publicznych.
Komercyjne interfejsy programistyczne (API) z umową DPA – rozwiązanie, w którym aplikacja firmowa łączy się z modelem dostawcy za pośrednictwem API (interfejsu programowania aplikacji) w ramach płatnego planu biznesowego. W takim wariancie zawierana jest umowa DPA (Data Processing Agreement – umowa powierzenia przetwarzania danych), a dostawca deklaruje wyłączenie procesu uczenia na danych klienta (zasada Zero Data Retention).
Architektura RAG (Retrieval-Augmented Generation) – generowanie odpowiedzi wspomagane wyszukiwaniem, w którym model ma bezpośredni dostęp do bazy wektorowej zawierającej firmowe dokumenty, procedury lub archiwalne zgłoszenia. Zagrożenie w tym wariancie wiąże się z możliwością odpytania bazy przez model o informacje, do których dany klient nie powinien mieć wglądu.
Lokalne modele językowe (on-premise LLM) – uruchomienie otwartoźródłowego modelu sztucznej inteligencji bezpośrednio na firmowym serwerze lub stacji roboczej. Jest to wariant o najwyższym poziomie izolacji, ponieważ przetwarzane zapytania w ogóle nie opuszczają sieci lokalnej przedsiębiorstwa.

Główne wektory zagrożeń dla poufności informacji

Analiza bezpieczeństwa środowisk wykorzystujących sztuczną inteligencję wykazuje kilka powtarzających się podatności, które mogą prowadzić do naruszenia zasad ochrony prywatności:

Pierwszym zagrożeniem jest zjawisko retencji i douczania modeli (model training). Jeśli zapytanie zawierające dane osobowe trafi do zbioru uczącego, istnieje ryzyko, że model odtworzy te informacje w odpowiedzi na odpowiednio sformułowane zapytanie innego, niepowiązanego użytkownika zewnętrznego.

Drugim wektorem są ataki typu prompt injection (wstrzykiwanie instrukcji). Złośliwy użytkownik, kontaktując się z automatycznym botem obsługi, może sformułować wiadomość zawierającą ukryte polecenia mające na celu pominięcie restrykcji systemowych. W ten sposób może wymusić na asystencie ujawnienie promptu systemowego, danych innych klientów lub fragmentów wewnętrznej bazy wiedzy.

Kolejnym problemem jest nadmierne uprawnienie modułów wyszukujących (over-privileged context). Jeżeli system łączący model z bazą CRM lub systemem biletowym nie stosuje rygorystycznego filtrowania uprawnień, asystent może dołączyć do kontekstu odpowiedzi dane wrażliwe, które nie były bezpośrednio powiązane z zapytaniem bieżącego klienta.

Zagrożenie stanowi także niekontrolowane logowanie zapytań (prompt logging). Wiele bibliotek programistycznych domyślnie zapisuje pełne treści zapytań i odpowiedzi w plikach tekstowych na serwerze bez ich uprzedniego zaszyfrowania, co otwiera drogę do wycieku w przypadku naruszenia integralności samego serwera.

Błędy popełniane przy samodzielnej konfiguracji narzędzi asystenckich

Wdrażanie rozwiązań z zakresu sztucznej inteligencji bez uprzedniego przygotowania procedur bezpieczeństwa prowadzi do powstawania luk konfiguracyjnych. Do najczęstszych nieprawidłowości należą:

Brak systemów maskowania danych (DLP) – pracownicy przesyłają całe wątki korespondencji bez usuwania adresów, nazwisk czy numerów PESEL, licząc na to, że zewnętrzny system usunie je automatycznie.
Wykorzystywanie jednego klucza API w całej organizacji – brak rozdzielenia poświadczeń między poszczególnymi działami uniemożliwia audytowanie, który pracownik lub moduł przekazał określone dane do chmury.
Przechowywanie kluczy dostępowych w jawnym kodzie – wpisywanie tokenów autoryzacyjnych bezpośrednio w skryptach integrujących lub aplikacjach klienckich, co umożliwia ich łatwe przejęcie przez osoby nieuprawnione.
Zezwalanie na instalację niezweryfikowanych rozszerzeń przeglądarek – konsultanci instalują dodatki ułatwiające redagowanie odpowiedzi, które przesyłają zawartość pól tekstowych formularzy CRM do serwerów pośredniczących o nieznanym statusie prawnym i technicznym.
Pomijanie weryfikacji lokalizacji serwerów (data residency) – brak sprawdzenia, czy centra przetwarzania danych dostawcy modelu znajdują się na terenie Europejskiego Obszaru Gospodarczego, co rodzi ryzyko niezgodności z przepisami o ochronie danych osobowych.

Procedura audytu i technicznego zabezpieczania przepływu danych

Proces zabezpieczania środowiska pracy z asystentami AI realizowany jest w sposób uporządkowany i obejmuje weryfikację każdego etapu drogi, jaką pokonuje informacja:

W pierwszym kroku tworzona jest mapa przepływu danych (data flow mapping). Identyfikuje się wszystkie punkty styku, w których konsultanci lub zautomatyzowane skrypty wprowadzają tekst do narzędzi analizujących.

Następnie wdraża się warstwę pośredniczącą (AI proxy lub bramkę API) z modułem automatycznej pseudonimizacji i anonimizacji w czasie rzeczywistym. Moduł ten, wykorzystując wyrażenia regularne (regex) oraz wyspecjalizowane modele rozpoznawania jednostek nazwanych (NER – Named Entity Recognition), zastępuje imiona, numery telefonów czy kwoty znacznikami neutralnymi przed wysłaniem pakietu do zewnętrznego API, a po odebraniu odpowiedzi przywraca oryginalne wartości na poziomie aplikacji lokalnej.

Kolejnym etapem jest wdrożenie kontroli dostępu opartej na rolach (RBAC – Role-Based Access Control) dla baz wektorowych i systemów RAG. Gwarantuje to, że asystent sztucznej inteligencji pobiera wyłącznie te fragmenty dokumentacji, które są przypisane do profilu uprawnień danego użytkownika lub konkretnego typu sprawy.

Końcowym elementem jest konfiguracja zasad retencji danych u dostawców usług chmurowych, wdrożenie szyfrowania połączeń za pomocą protokołu TLS oraz przeszkolenie zespołu z bezpiecznych schematów wprowadzania zapytań.

Kiedy problemem nie jest sam model sztucznej inteligencji

W praktyce diagnostycznej często okazuje się, że potencjalne naruszenie poufności nie wynika z bezpośredniej wady modelu językowego, lecz z błędów w otaczającej go infrastrukturze pomocniczej:

Luki w oprogramowaniu pośredniczącym (middleware) – skrypty integrujące formularze kontaktowe z API mogą przesyłać nadmiarowe obiekty bazodanowe JSON zamiast jedynie niezbędnych fragmentów tekstu zapytania.
Brak szyfrowania baz danych wektorowych – przechowywanie przetworzonych dokumentów firmowych w wektorowych bazach danych bez włączonego szyfrowania nośnika (encryption at rest) na serwerze lokalnym.
Niezabezpieczone webhooki i endpointy zwrotne – mechanizmy przesyłające wygenerowane odpowiedzi z powrotem do systemu biletowego mogą być podatne na podsłuchanie, jeśli nie stosują odpowiednich nagłówków uwierzytelniających.
Brak separacji środowisk testowych i produkcyjnych – testowanie nowych promptów i integracji na rzeczywistej bazie danych klientów zamiast na danych syntetycznych (sztucznie wygenerowanych).

Dodatkowe pytania klientów o bezpieczeństwo AI w obsłudze

Czy korzystanie z płatnego API chroni przed wykorzystaniem danych do trenowania modelu?

W większości przypadków dostawcy komercyjnych interfejsów API w planach biznesowych domyślnie wyłączają trenowanie modeli na danych przesyłanych przez punkty końcowe. Niezbędne jest jednak zweryfikowanie odpowiednich zapisów w regulaminie usługi oraz formalne podpisanie aneksu o powierzeniu przetwarzania danych (DPA), a także wyłączenie funkcji zapisu historii zapytań w panelu administracyjnym.

Na czym polega anonimizacja w locie przed wysłaniem zapytania do modelu?

Anonimizacja w locie to proces realizowany przez oprogramowanie pośredniczące, które skanuje tekst wpisywany przez konsultanta lub pobierany z systemu CRM przed przekazaniem go do zewnętrznego serwera. Wrażliwe fragmenty (np. adres zamieszkania, numer PESEL) są zamieniane na losowe identyfikatory, a po wygenerowaniu odpowiedzi przez model lokalny system podmienia te identyfikatory z powrotem na właściwe dane klienta.

Czy lokalny model sztucznej inteligencji (on-premise) wymaga wymiany sprzętu w firmie?

Wymagania zależą od wielkości i złożoności wybranego modelu językowego. Mniejsze, wyspecjalizowane modele przeznaczone do klasyfikacji tekstu i prostych odpowiedzi mogą działać sprawnie na standardowych stacjach roboczych lub serwerach wyposażonych w wydajne procesory wielordzeniowe. Bardziej zaawansowane modele generatywne wymagają dedykowanych kart graficznych z odpowiednią ilością pamięci VRAM (pamięci wideo), co weryfikuje się podczas wstępnego przeglądu technicznego środowiska IT.

Jak zabezpieczyć chatbota przed próbami wyłudzenia informacji przez użytkowników z zewnątrz?

Stosuje się wielowarstwowe reguły ochronne: wprowadzenie ścisłego promptu systemowego (system prompt) definiującego granice tematyczne, walidację zapytań wejściowych za pomocą dodatkowych filtrów bezpieczeństwa oraz odcięcie modelu od bezpośredniego dostępu do surowych baz danych na rzecz ściśle kontrolowanych zapytań funkcyjnych.

Czy audyt bezpieczeństwa AI wymaga wyłączenia bieżącej obsługi klienta?

Przegląd konfiguracji, przepływów danych oraz uprawnień integracji odbywa się bez konieczności przerywania ciągłości pracy działu obsługi. Analiza logów, testy podatności oraz konfiguracja bramek pośredniczących przeprowadzane są równolegle do standardowych operacji systemowych.

Rzeczowe podejście do ochrony informacji w środowiskach automatyzacji

Wykorzystanie sztucznej inteligencji w komunikacji z klientami przynosi wymierne korzyści w postaci skróconego czasu odpowiedzi i uporządkowania zgłoszeń. Warunkiem stabilnego funkcjonowania takich rozwiązań jest jednak precyzyjne odseparowanie wrażliwych danych operacyjnych od zewnętrznych silników przetwarzania. Właściwa konfiguracja uprawnień, wdrożenie lokalnych filtrów maskujących oraz regularny audyt punktów integracji pozwalają zachować pełną kontrolę nad firmowymi zasobami informacyjnymi.

22 378 48 09

Bezpieczeństwo danych klientów przy korzystaniu z AI w obsłudze