Konfiguracja lokalnego AI z ograniczonym dostępem sieciowym (sandbox)

Uruchomienie lokalnego AI w izolowanym środowisku, z ograniczonym dostępem sieciowym, dodaje kolejną warstwę bezpieczeństwa przy pracy z wrażliwymi danymi.

Na czym polega ta usługa

Usługa obejmuje skonfigurowanie lokalnego AI w izolowanym środowisku, z ograniczonym lub całkowicie zablokowanym dostępem do sieci zewnętrznej.

Dla kogo ma sens

Usługa jest przydatna dla firm szczególnie zależnych na bezpieczeństwie danych, którym zależy na dodatkowej izolacji lokalnego AI.

Ile to trwa

Konfiguracja środowiska izolowanego mieści się z reguły w standardowym czasie do 3 dni.

Warunki

Diagnoza wstępna i wycena są bezpłatne. Dojazd na terenie Warszawy i okolic jest bezpłatny, a usługa objęta jest gwarancją do 12 miesięcy.

Architektura i mechanizmy izolacji środowiska lokalnego AI

Pojęcie piaskownicy (sandbox, czyli odizolowane środowisko wykonawcze ograniczające dostęp procesów do zasobów systemowych i sieciowych) w kontekście sztucznej inteligencji oznacza stworzenie kontrolowanej przestrzeni, w której duży model językowy (LLM – Large Language Model, czyli zaawansowany model przetwarzania języka naturalnego) wykonuje obliczenia bez ryzyka niekontrolowanej wymiany danych z serwerami zewnętrznymi. Izolacja ta dotyczy zarówno warstwy aplikacji, jak i warstwy sieciowej oraz pamięci masowej.

Podstawowym celem wdrożenia jest wyeliminowanie zjawiska telemetrii (automatycznego przesyłania danych diagnostycznych i metadanych zapytań do zewnętrznych serwerów twórców oprogramowania) oraz zapobieżenie potencjalnym wyciekom poufnych informacji biznesowych, kodów źródłowych, umów czy dokumentacji finansowej. Wdrożenie takiego rozwiązania realizujemy bezpośrednio w infrastrukturze klienta na terenie Warszawy oraz okolicznych powiatów.

W zależności od posiadanej infrastruktury sprzętowej oraz systemu operacyjnego (Windows lub Linux) stosuje się trzy główne poziomy izolacji technicznej:

Izolacja na poziomie kontenerów (technologia wirtualizacji na poziomie systemu operacyjnego, taka jak Docker lub Podman) – silnik modelu uruchamiany jest w wydzielonym kontenerze z całkowicie wyłączonym mostkiem sieciowym lub podłączonym do wewnętrznej podsieci bez bramy domyślnej (gateway, czyli urządzenia przekazującego pakiety danych poza sieć lokalną).
Wirtualizacja pełna (maszyny wirtualne oparte na hypervisorze, np. KVM, Proxmox lub Hyper-V) – środowisko AI działa wewnątrz niezależnego systemu operacyjnego z dedykowanym wirtualnym przełącznikiem sieciowym (vSwitch) pozbawionym trasowania do publicznego Internetu oraz z bezpośrednim przekazaniem układu graficznego (GPU Passthrough, czyli technologii udostępniającej fizyczną kartę graficzną bezpośrednio do maszyny wirtualnej bez narzutu emulacji).
Izolacja wewnątrzsystemowa (mechanizmy kontroli dostępu w systemach Linux i Windows, takie jak AppArmor, SELinux, dedykowane profile zasad grupy GPO oraz izolowane przestrzenie nazw cgroups i namespaces) – blokujące procesom generatywnym dostęp do innych katalogów niż wyznaczony bufor roboczy.

Warianty konfiguracji ograniczeń sieciowych

Wdrożenie ograniczeń sieciowych dostosowuje się do wymogów operacyjnych przedsiębiorstwa. Wyróżnia się trzy podstawowe warianty konfiguracji zapory sieciowej (firewall, czyli oprogramowania filtrującego ruch pakietów sieciowych) oraz trasowania ruchu:

Pierwszy wariant to pełna izolacja typu air-gap (środowisko całkowicie odcięte od zewnętrznych sieci fizycznych i logicznych). Maszyna przetwarzająca zapytania nie posiada skonfigurowanej trasy domyślnej do Internetu ani fizycznego dostępu do sieci zewnętrznej. Komunikacja z modelem odbywa się wyłącznie za pośrednictwem dedykowanego portu w sieci lokalnej (LAN – Local Area Network) lub bezpośredniego połączenia kablowego z autoryzowaną stacją roboczą. Wszystkie pliki wag modeli (weights, czyli zestawy parametrów matematycznych determinujących działanie sieci neuronowej) wgrywane są na nośnikach lokalnych podczas wizyty serwisanta.

Drugi wariant to izolacja strefowa z filtrowaniem na poziomie proxy (serwera pośredniczącego w komunikacji sieciowej). System AI może komunikować się wyłącznie ze wskazanymi serwerami wewnętrznymi, takimi jak lokalne bazy danych systemów ERP (np. Comarch Optima, Symfonia czy Subiekt GT) lub wewnętrzne repozytoria dokumentów. Ruch wychodzący do domen publicznych jest całkowicie zablokowany regułami zapory sieciowej na poziomie jądra systemu (iptables lub nftables w systemie Linux oraz zaawansowane reguły wychodzące w systemie Windows).

Trzeci wariant to środowisko z kontrolowaną bramą API. Model AI działa w odizolowanym segmencie sieci (VLAN – Virtual Local Area Network, czyli logicznie wydzielonej sieci lokalnej), a dostęp do niego możliwy jest wyłącznie poprzez lokalną usługę pośredniczącą, która weryfikuje uprawnienia użytkowników w ramach sieci biurowej przed przekazaniem zapytania do silnika językowego.

Komponenty lokalnego stosu AI podlegające izolacji

Kompleksowa konfiguracja środowiska typu sandbox obejmuje zabezpieczenie wszystkich warstw oprogramowania niezbędnego do działania lokalnej sztucznej inteligencji:

Lokalne silniki wnioskowania (inference engine, czyli oprogramowanie odpowiedzialne za ładowanie wag modelu do pamięci RAM lub VRAM i generowanie odpowiedzi, np. Ollama, vLLM, llama.cpp, LocalAI) – konfigurowane tak, aby nasłuchiwały wyłącznie na lokalnym adresie pętli zwrotnej (loopback 127.0.0.1) lub na ściśle określonym adresie IP wewnątrz bezpiecznej podsieci.
Bazy danych wektorowych (vector databases, np. ChromaDB, Qdrant, Milvus) – systemy przechowujące osadzenia wektorowe (embeddings, czyli numeryczne reprezentacje znaczenia tekstu) na potrzeby architektury RAG (Retrieval-Augmented Generation, czyli techniki wyszukiwania fragmentów dokumentów firmowych i dołączania ich do zapytania jako kontekst). Baza wektorowa jest zabezpieczona przed dostępem spoza zdefiniowanego kontenera lub maszyny.
Graficzne interfejsy użytkownika (WebUI, np. Open WebUI, Text Generation WebUI) – aplikacje instalowane lokalnie, zabezpieczane szyfrowaniem TLS (Transport Layer Security, czyli protokołem bezpiecznej transmisji danych) z wykorzystaniem certyfikatów lokalnych oraz wewnętrzną bazą kont użytkowników bez integracji z zewnętrznymi dostawcami tożsamości w chmurze.
Katalogi tymczasowe i pamięć podręczna (cache) – rekonfiguracja domyślnych ścieżek zapisu plików tymczasowych frameworków programistycznych na wolumeny szyfrowane kluczem sprzętowym (BitLocker w systemie Windows lub LUKS w systemie Linux).

Błędy przy próbach samodzielnej konfiguracji środowiska AI

Samodzielne próby uruchamiania lokalnych modeli sztucznej inteligencji w środowiskach biurowych często prowadzą do powstawania luk bezpieczeństwa lub problemów ze stabilnością sprzętu. Do najczęstszych nieprawidłowości należą:

Pozostawienie domyślnego wiązania adresów sieciowych na adresie ogólnym 0.0.0.0. Wiele popularnych narzędzi po standardowej instalacji udostępnia swój port dla wszystkich interfejsów sieciowych w urządzeniu. W efekcie każdy komputer w sieci biurowej lub sieci dla gości uzyskuje nieautoryzowany dostęp do panelu administracyjnego modelu i historii przetwarzanych danych.

Pobieranie niezweryfikowanych modeli i bibliotek programistycznych. Pobieranie plików modeli z niezaufanych repozytoriów bez weryfikacji sumy kontrolnej SHA-256 może skutkować wykonaniem złośliwego kodu ukrytego w strukturze pliku. Bezpieczna konfiguracja wymaga stosowania formatów binarnych pozbawionych możliwości wykonywania skryptów, takich jak GGUF lub SafeTensors.

Brak kontroli nad logowaniem zapytań (prompt logging). Domyślne konfiguracje wielu serwerów AI zapisują pełną treść wprowadzanych promptów oraz wygenerowanych odpowiedzi w nieszyfrowanych plikach dziennika zdarzeń. Jeśli do zapytania trafią poufne dane klientów, hasła lub wyciągi finansowe, pozostają one na dysku w otwartej formie tekstowej.

Uruchamianie procesów obliczeniowych z pełnymi uprawnieniami administratora (root w systemie Linux lub Administrator w systemie Windows). W przypadku wystąpienia błędu przepełnienia bufora w bibliotece obsługującej model, niepowołany proces może uzyskać pełną kontrolę nad całym systemem operacyjnym stacji roboczej lub serwera.

Nieprawidłowe zarządzanie pamięcią operacyjną i pamięcią wideo (VRAM – Video RAM, czyli dedykowaną pamięcią karty graficznej). Próba załadowania modelu o zbyt dużym rozmiarze parametrów bez właściwej kwantyzacji (quantization, czyli metody kompresji wag modelu poprzez zmniejszenie precyzji zapisu liczb zmiennoprzecinkowych) prowadzi do przepełnienia VRAM, agresywnego korzystania z pliku wymiany (swap) na dysku SSD i zawieszenia całego systemu operacyjnego.

Kiedy standardowy sandbox to za mało lub gdy problem leży gdzie indziej

Wdrożenie izolowanego środowiska typu sandbox rozwiązuje kwestie poufności przetwarzania, jednak należy odróżnić ograniczenia sieciowe od innych zagadnień technicznych:

Jeżeli celem firmy jest bieżąca analiza danych z publicznego Internetu (np. monitorowanie wiadomości branżowych czy automatyczne przeszukiwanie stron WWW), całkowite odcięcie sieci uniemożliwi realizację tego zadania. W takiej sytuacji zamiast pełnego odcięcia stosuje się dedykowane mikrousługi pobierające dane przez ściśle filtrowany mechanizm proxy z sanityzacją tekstu (oczyszczaniem treści z potencjalnie niebezpiecznych skryptów) przed przekazaniem do modelu.

Gdy problemem jest niska prędkość generowania odpowiedzi (wyrażana w jednostkach tokens per second, czyli liczbie słów lub ich fragmentów przetwarzanych na sekundę), przyczyną nie jest konfiguracja zapory sieciowej, lecz ograniczenia wydajnościowe sprzętu. W modelach językowych kluczowa jest przepustowość szyny pamięci karty graficznej oraz wielkość dostępnej pamięci RAM. W ramach wizyty weryfikujemy parametry podzespołów, konfigurujemy odciążanie procesora przez kartę graficzną (GPU offloading) oraz optymalizujemy biblioteki wykonawcze.

Należy także odróżnić izolację logiczną (sandbox w ramach systemu operacyjnego) od fizycznej separacji sprzętowej. W przedsiębiorstwach i kancelariach przetwarzających dane objęte szczególną tajemnicą zawodową optymalnym rozwiązaniem jest dedykowana fizyczna jednostka komputerowa pozbawiona modułów łączności bezprzewodowej (Wi-Fi, Bluetooth).

Często zadawane pytania dotyczące lokalnego AI w izolowanym środowisku

Czy model językowy odcięty od sieci traci zdolność poprawnego wnioskowania?

Nie. Cała wiedza modelu zawarta jest w jego pliku wag, który został zapisany na dysku podczas instalacji. Model nie potrzebuje stałego połączenia z Internetem, aby analizować dostarczony tekst, generować raporty, pisać kod programistyczny, tłumaczyć dokumentację techniczną czy wyciągać wnioski z załączonych plików finansowych.

W jaki sposób aktualizuje się bazę wiedzy modelu w środowisku odciętym od Internetu?

Aktualizacja wiedzy odbywa się poprzez mechanizm RAG (Retrieval-Augmented Generation) lub dogranie nowych plików do lokalnej bazy wektorowej. W środowisku odciętym nowe dokumenty są umieszczane w wyznaczonym folderze wewnętrznym przez uprawnionego pracownika, a lokalny proces przetwarza je na osadzenia wektorowe bezpośrednio na urządzeniu.

Jakie są minimalne wymagania sprzętowe do uruchomienia izolowanego AI w firmie?

Do stabilnej pracy modeli o parametrach od 7B do 14B (miliardów parametrów) zalecana jest stacja robocza lub serwer z procesorem wielordzeniowym, minimum 32 GB pamięci RAM, dedykowaną kartą graficzną z co najmniej 12 GB lub 16 GB pamięci VRAM oraz szybkim dyskiem SSD NVMe. W przypadku lżejszych modeli możliwe jest wdrożenie na wydajnym laptopie z 16-32 GB RAM, przy czym czas generowania odpowiedzi będzie zależał od parametrów procesora.

Czy do przeprowadzenia konfiguracji serwisant potrzebuje haseł administracyjnych firmy?

Domyślnie nie prosimy o hasła klienta. Wszelkie operacje wymagające uprawnień administracyjnych mogą być autoryzowane bezpośrednio przez wyznaczonego pracownika klienta na ekranie urządzenia. Jeśli zachodzi potrzeba wykonania prac na dedykowanym koncie technicznym, tworzone jest tymczasowe konto serwisowe o ograniczonych uprawnieniach.

Czy przed przystąpieniem do prac możliwe jest podpisanie umowy o zachowaniu poufności?

Tak. Przed rozpoczęciem jakichkolwiek prac konfiguracyjnych lub diagnostycznych na życzenie klienta bezpłatnie podpisujemy umowę o zachowaniu poufności (NDA – Non-Disclosure Agreement). Gwarantuje to pełną ochronę prawną informacji i infrastruktury przedsiębiorstwa.

Procedura wdrożenia środowiska sandbox na miejscu u klienta

Realizacja usługi przebiega bezpośrednio w siedzibie klienta na terenie Warszawy lub w promieniu 40 kilometrów (obejmującym powiaty: grodziski, legionowski, otwocki, piaseczyński, pruszkowski, warszawski zachodni oraz wołomiński). Prace wykonywane są według następującego schematu technicznego:

Pierwszym krokiem jest bezpłatna diagnoza wstępna środowiska komputerowego oraz weryfikacja zasobów sprzętowych (dostępnej pamięci RAM, kontrolera graficznego, przepustowości magistrali oraz konfiguracji interfejsów sieciowych). Na tej podstawie dobierany jest właściwy poziom izolacji oraz format kwantyzacji wag modelu.

Drugi etap to instalacja i konfiguracja warstwy wirtualizacyjnej lub kontenerowej wraz ze zdefiniowaniem reguł izolacji sieciowej. Następuje zablokowanie tras routingu zewnętrznego, wyłączenie nieużywanych portów oraz skonfigurowanie lokalnych interfejsów nasłuchiwania.

Trzeci etap obejmuje wdrożenie lokalnego silnika wnioskowania, bazy wektorowej oraz interfejsu graficznego, a także bezpośredni transfer zweryfikowanych plików modeli z przygotowanych nośników instalacyjnych.

Czwarty etap to wykonanie audytu szczelności środowiska piaskownicy. Przeprowadzane są kontrolowane próby nawiązania połączeń wychodzących przez procesy AI, weryfikacja lokalizacji plików dziennika pod kątem obecności danych wrażliwych oraz testy obciążeniowe stabilności pamięci VRAM i temperatur podzespołów.

Prawidłowo skonfigurowane środowisko sandbox zapewnia pełną funkcjonalność generatywnej sztucznej inteligencji przy zachowaniu całkowitej kontroli nad przepływem danych w lokalnej sieci przedsiębiorstwa.

22 378 48 09