Lokalne AI: jak używać sztucznej inteligencji, żeby dane nie wyszły z firmy

Prosty test: gdzie lecą Twoje dane?

Wyobraź sobie, że handlowiec wkleja do czatu AI wycenę dla dużego klienta i pisze „popraw mi to". Albo księgowa wrzuca skan umowy z prośbą o podsumowanie. To dzieje się dziś w tysiącach polskich firm, codziennie, zwykle bez wiedzy właściciela.

Pytanie nie brzmi „czy to złe". Brzmi: czy wiesz, gdzie ten dokument wylądował, kto ma do niego dostęp i czy zostanie użyty do trenowania cudzego modelu. Jeśli nie znasz odpowiedzi, to nie jest kwestia technologii, to kwestia tego, że nikt tego nie ustalił.

Czym jest „lokalne AI", bez technicznego bełkotu

Normalnie, gdy korzystasz z AI, Twój tekst leci przez internet do serwera dostawcy (najczęściej w USA), tam jest przetwarzany i wraca odpowiedź. Lokalne AI oznacza, że ten „mózg" stoi u Ciebie: na Twoim serwerze albo na maszynie wynajętej w Polsce czy w UE, do której tylko Ty masz dostęp.

Analogia: to różnica między oddawaniem dokumentów do kopiowania w punkcie na mieście a postawieniem kopiarki u siebie w biurze. Ten sam efekt, inna kontrola nad tym, co się dzieje z papierami.

Czy lokalne modele są gorsze?

Jeszcze dwa lata temu tak, wyraźnie. Dziś modele open-source (Llama, Qwen i pochodne) w typowych zadaniach biznesowych (streszczanie dokumentów, wyciąganie danych z zapytań, klasyfikacja maili, przygotowanie wyceny z cennika) dorównują komercyjnym. Różnica pojawia się dopiero przy zadaniach naprawdę trudnych: skomplikowane rozumowanie, zaawansowane programowanie. W codziennej robocie firmy 5–50 osób tego zwykle nie potrzebujesz.

Kiedy lokalne AI ma sens, a kiedy to przerost formy

Ma sens, gdy:

• Przetwarzasz dane osobowe klientów na dużą skalę: kadry, medycyna, finanse, kancelarie.
• Twoje wyceny i cenniki to realna tajemnica handlowa, a konkurencja jest agresywna.
• Masz duży, powtarzalny wolumen: przy tysiącach zapytań miesięcznie własna infrastruktura bywa po prostu tańsza.
• Klient końcowy albo branża wymaga od Ciebie, żeby dane nie opuszczały kraju.

To przerost formy, gdy:

• Używasz AI okazjonalnie, do tekstów marketingowych i rzeczy, które i tak są publiczne.
• Dopiero zaczynasz i nie wiesz jeszcze, czy AI się u Ciebie sprawdzi: najpierw sprawdź, potem inwestuj.
• Nie masz nikogo, kto tym zaopiekuje się technicznie, i nie chcesz zlecać utrzymania.

Rozsądny wariant pośredni: prywatna instancja w UE zamiast własnego serwera. Dane zostają w Unii, objęte umową powierzenia, a Ty nie kupujesz sprzętu ani nie zatrudniasz administratora.

Ile to kosztuje

Uczciwie: więcej na starcie, mniej w skali. Model chmurowy płacisz „za zużycie": jest tani na początku i rośnie z wolumenem. Lokalny wymaga jednorazowego nakładu na infrastrukturę i wdrożenie, ale koszt pojedynczego zapytania jest potem znikomy.

Punkt, w którym się to przecina, zależy od tego, ile dokumentów przerabiasz. Przy kilkuset zapytaniach miesięcznie chmura zwykle wygrywa ceną. Przy dziesiątkach tysięcy, lokalne rozwiązanie zaczyna się zwracać, a bezpieczeństwo dostajesz przy okazji. Dlatego pierwsze pytanie brzmi „ile tego macie", a nie „jaki model wybierzemy".

Czego wymagać od wykonawcy

1. Konkretna odpowiedź, w jakim kraju i u jakiego dostawcy lądują dane, nie „w bezpiecznej chmurze".
2. Umowa powierzenia przetwarzania danych (DPA). Bez tego, w świetle RODO, nie powinieneś zaczynać.
3. Pisemne potwierdzenie, że Twoje dane nie będą użyte do trenowania modeli.
4. Jasna procedura, co dzieje się z danymi po zakończeniu współpracy.
5. Oznaczenie botów jako AI: od sierpnia 2026 wymaga tego unijny AI Act.

Skąd te twierdzenia

Dwie rzeczy w tym tekście da się sprawdzić u źródła i podaję je niżej: termin obowiązku oznaczania systemów AI oraz podstawa, z której wynika wymóg umowy powierzenia. Reszta to moja praktyka wdrożeniowa, a nie badanie rynku, i tak ją traktuj. Nie podaję tu procentów ani „badań pokazujących, że", bo nie mam takich, które mógłbyś otworzyć i przeczytać.

Zdanie o tym, że modele otwarte dorównują komercyjnym w typowych zadaniach biurowych, jest wnioskiem z moich własnych testów na dokumentach klientów, a nie z rankingu. Sprawdzaj je na swoich dokumentach, bo to jedyny test, który cokolwiek dla Ciebie znaczy.

Podsumowanie

• Wysyłanie danych firmy do zagranicznego AI to wybór wykonawcy, nie konieczność.
• Lokalne modele są dziś wystarczająco dobre do typowych zadań biznesowych.
• Przy małym wolumenie chmura bywa tańsza, przy dużym wygrywa własna infrastruktura.
• Wariant pośredni: prywatna instancja w UE, bez kupowania sprzętu.
• Pięć pytań do wykonawcy jest ważniejsze niż nazwa modelu, którego użyje.

FAQ: najczęstsze pytania