# Które etapy zostawić na laptopie w hybrydowym AI?

> Praca na prywatnych dokumentach zostaje na lokalnym modelu Liquid. Do chmury idzie tylko etap, na który ktoś pozwolił.

- Adres: https://www.rebels.software/pl/blog/hybrydowe-ai-modele-lokalne-chmura
- Opublikowano: 2026-11-11
- Autor: Bart Szczepański
- Tagi: Prywatne AI, Hybrydowe AI, Agenci AI

Hybrydowe AI to model lokalny i model w chmurze wykonujące różne etapy tego samego procesu. Pracę na prywatnych dokumentach zostawiasz blisko swoich danych, a model frontier wywołujesz wtedy, gdy dozwolony etap wymaga szerszego rozumowania lub informacji z zewnątrz. Zapisz, co może przekroczyć tę granicę i kto na to pozwala.

## Zacznij od podziału pracy

Punktem wyjścia jest MacBook Pro z M4 Pro i 48 GB pamięci zunifikowanej, czyli konfiguracja wymieniona w [oficjalnej specyfikacji Apple](https://support.apple.com/en-us/121553). Lokalny model Liquid AI LFM uruchamiasz przez [MLX, ścieżkę opisaną przez Liquid dla Apple Silicon](https://docs.liquid.ai/deployment/on-device/mlx). Wybrane pytania kierujesz do dostawcy modeli frontier. W tym projekcie Grok Bot jest asystentem w chmurze.

Wokół tego podziału ustawiasz agentów AI z osobnymi zadaniami. Agent lokalny przygotowuje materiał dowodowy. Agent badawczy szuka odpowiedzi na publiczne pytanie techniczne. Recenzent sprawdza propozycję odpowiedzi względem źródeł. Rój agentów oznacza tu podział odpowiedzialności i kontrolowane przekazanie pracy. To propozycja architektury, a nie deklaracja gotowych integracji Grok Bot.

Każda rola powinna dostać tylko potrzebny zakres danych i narzędzi. Zanim wybierzesz środowisko wykonawcze, zapisz jej wejście i dozwolony rezultat. [Przewodnik wyboru harnessu agentowego](/pl/guide/jak-wybrac-harness-agentowy) pomoże dobrać warstwę wykonawczą bez przenoszenia całej odpowiedzialności do promptu.

(Image: Architektura z lokalnym LFM i prywatnymi dokumentami, kontrolowanym przekazaniem do modeli frontier i Grok Bot oraz osobnymi zadaniami agentów)

*Proponowana architektura. Granicę egzekwuje aplikacja, nie obietnica modelu.*

### Kontrakt zadania przed wyborem modelu

Dla każdego etapu określ wejście, format wyniku i dopuszczalne działanie. Ekstrakcja z dokumentu może zwrócić wartość pola, fragment źródłowy oraz pytanie do wyjaśnienia. Wzmianka o brakującym załączniku nie powinna uruchamiać samodzielnej wysyłki wiadomości do dostawcy.

Traktuj wynik modelu jako propozycję do sprawdzenia przez aplikację. [Zalecenia OWASP dotyczące nadmiernej sprawczości](https://genai.owasp.org/llmrisk/llm062025-excessive-agency/) obejmują ograniczanie narzędzi i uprawnień, autoryzację poza modelem oraz zgodę człowieka na działania o dużych skutkach. Stosuj te zasady po obu stronach granicy między urządzeniem a chmurą.

## Wybieraj z aktualnego katalogu LFM

[Oficjalny katalog modeli tekstowych Liquid](https://docs.liquid.ai/lfm/models/text-models) obejmuje modele od 230M do 24B parametrów, zarówno dense, jak i MoE. Poniższa lista opiera się na dokumentacji sprawdzonej 2026-11-06. Służy do zaplanowania testów, a nie do ustalania rankingu wydajności.

| Rola do sprawdzenia | Oficjalny model | Informacje Liquid |
| --- | --- | --- |
| Mały agent lokalny | LFM3-1.7B | Rekomendowany dla lokalnych agentów, natywny tool calling, kontekst 256K |
| Ograniczona praca z tekstem | LFM2.5-1.2B-Instruct | Chat i zadania ogólne, model instruction-tuned |
| Niewielka ekstrakcja | LFM2.5-230M | Ekstrakcja danych i lekkie agenty na urządzeniu |
| Małe wdrożenie | LFM2.5-350M | Poniżej 1 GB pamięci |
| Większy model do narzędzi | LFM2.5-8B-A1B | 8B parametrów ogółem, 1,5B aktywnych, kontekst 128K |
| Większe rozumowanie lokalne | LFM2.5-24B-A2B | 24B parametrów ogółem, 2B aktywnych, kontekst 131K |

Źródłem nazw i wartości jest [strona modeli tekstowych Liquid](https://docs.liquid.ai/lfm/models/text-models). [Pełna biblioteka](https://docs.liquid.ai/lfm/models/complete-library) zawiera również warianty Thinking i japoński modelu 1.2B oraz rodziny przetwarzające obraz i dźwięk. Pierwszy PoC dla dokumentów tekstowych nie wymaga przeglądu całego katalogu.

### LFM2.5-2.6B jest deprecated

Istnieje oficjalna [strona LFM2.5-2.6B](https://docs.liquid.ai/lfm/models/lfm25-2.6b), ale obecnie oznacza model jako deprecated i zaleca LFM3-1.7B. Starszy przykład wykorzystania nie jest więc aktualną rekomendacją. Przy nowym teście agenta lokalnego korzystaj z bieżącej karty modelu i zapisuj dokładny identyfikator testowanego wariantu.

W [aktualnym katalogu tekstowym](https://docs.liquid.ai/lfm/models/text-models) nie ma pozycji 3.8B ani 27B. Większą opcją w tym projekcie jest LFM2.5-24B-A2B. Precyzja w nazwie pozwala później odtworzyć test i uniknąć porównywania różnych modeli pod wspólną etykietą.

## Co da się sprawdzić na Macu z 48 GB

Sama liczba parametrów nie wystarcza do wyboru konfiguracji. Liquid opisuje [LFM2.5-24B-A2B](https://docs.liquid.ai/lfm/models/lfm25-24b-a2b) jako model dla prywatnych agentów na urządzeniu i udostępnia oficjalny wariant `LiquidAI/LFM2.5-24B-A2B-MLX-4bit`. Na tej samej stronie wskazuje inne kwantyzacje MLX. W połączeniu z udokumentowaną obsługą Apple Silicon jest to kandydat do lokalnego testu na [M4 Pro z 48 GB](https://support.apple.com/en-us/121553), a nie wynik pomiaru, że model mieści się w pamięci.

Przy wąskim zadaniu warto zacząć od mniejszego modelu. Deklaracja Liquid, że [LFM2.5-350M potrzebuje poniżej 1 GB pamięci](https://docs.liquid.ai/lfm/models/text-models), dotyczy tylko tego kompaktowego wariantu. Nie mówi, ile pamięci weźmie większy model ani cała aplikacja.

### Zostaw miejsce na rzeczywistą pracę

Uwzględnij system operacyjny, inne aplikacje i stan kontekstu środowiska wykonawczego, w tym KV cache tam, gdzie występuje. Zmierz je w wybranej konfiguracji. Nie traktuj całej pamięci zunifikowanej jako miejsca wyłącznie na wagi modelu. [Dokumentacja MLX](https://docs.liquid.ai/deployment/on-device/mlx) opisuje współdzielenie pamięci przez CPU i GPU, a [karta modelu](https://docs.liquid.ai/lfm/models/lfm25-24b-a2b) podaje kontekst i sposób uruchomienia. Nie są to pomiary Twojego laptopa podczas Twojej pracy.

Zacznij od ograniczonego kontekstu i reprezentatywnego dokumentu. Zwiększaj kontekst oraz równoległość po sprawdzeniu presji na pamięć i czasu odpowiedzi. Zachowaj konfigurację razem z wynikami, aby inżynier mógł powtórzyć test.

[Ogólne zalecenie biblioteki dla MLX](https://docs.liquid.ai/lfm/models/complete-library) wskazuje 8bit, natomiast [przykład modelu 24B](https://docs.liquid.ai/lfm/models/lfm25-24b-a2b) zaczyna od 4bit. To wybór do oceny względem wymagań zadania. Dla tego wyboru nie ma pomiaru tokenów na sekundę na M4 Pro ani tabeli pamięci policzonej z założeń.

## Ustal, co może wyjść na zewnątrz

Podział hybrydowy wymaga jawnej polityki danych. Poniższy układ jest propozycją do zatwierdzenia przez właściciela dokumentów i procesu.

(Image: Podział pracy: oryginały i ekstrakcja lokalnie, zatwierdzone pytania w chmurze oraz kontrola człowieka przed działaniem na zewnątrz)

*Proponowany podział. Streszczenie również wymaga decyzji o dopuszczeniu do wysłania.*

### Materiał źródłowy zostaje lokalnie

Oryginały, poufne fragmenty oraz mapowanie wewnętrznych identyfikatorów pozostaw w kontrolowanym środowisku. Lokalny model ma przygotować propozycje faktów z odwołaniami do źródeł. Przed dodaniem wyszukiwania ustal, [co należy do bazy wiedzy prywatnego AI](/pl/guide/co-nalezy-do-bazy-wiedzy-prywatnego-ai), oraz kto może odczytywać poszczególne dokumenty.

Przy rozproszonych danych powiąż wynik ekstrakcji ze źródłem, zamiast składać wszystko w jedną odpowiedź bez wskazania pochodzenia. Zachowaj sprzeczności między dokumentami. Brakująca wartość powinna pozostać nierozstrzygnięta do czasu sprawdzenia przez człowieka lub w autorytatywnym rejestrze.

### Do chmury trafia dopuszczone pytanie

Model frontier może pomóc porównać podejścia do publicznego problemu technicznego albo ocenić plan na podstawie zatwierdzonego opisu. Przekaż wyłącznie kontekst dopuszczony przez właściciela zadania. Przed uruchomieniem tej ścieżki sprawdź obowiązujące warunki przetwarzania i retencji u dostawcy. Sama architektura ich nie ustala.

Lokalnie przygotowane streszczenie nadal może zawierać informacje poufne. Usunięcie nazw nie oznacza zgody na ujawnienie. Zapisz warunek dopuszczenia danych, a po odmowie wróć do pracy lokalnej lub do człowieka. Nie uruchamiaj automatycznej próby w chmurze.

## Sprawdź podział na dokumentach dostawcy

Przykładem jest przegląd dokumentów dostawcy, a nie wynik z projektu u klienta. Osoba odpowiedzialna sprawdza, czy zgłoszenie zawiera dowody wymagane przez wewnętrzną listę kontrolną. Dokumenty są prywatne, choć część potrzebnej dokumentacji technicznej może być publiczna.

Agent lokalny przygotowuje propozycje wpisów z odwołaniami do zgłoszenia. Aplikacja kontroluje wymagane pola. Recenzent widzi, które wpisy mają oparcie w materiale, a które wymagają decyzji. Agent badawczy dostaje tylko dopuszczone pytanie techniczne, bez dokumentów dostawcy i wewnętrznej oceny.

Odpowiedź frontier wraca jako materiał zewnętrzny. Zachowaj ją oddzielnie od prywatnych dowodów. Recenzent może przyjąć przydatne źródło, odrzucić niepoparty wniosek albo zawęzić pytanie. Komunikacja końcowa pozostaje projektem do zatwierdzenia przez odpowiedzialną osobę.

Dopasuj ten podział do procesu i oceń go po pracy, która zostaje recenzentowi. [Artykuł o ROI](/pl/blog/inteligencja-w-organizacji) pokazuje, jak ją oceniać bez zmyślonych procentów oszczędności.

## Oddziel jakość od zgody na wysłanie

(Image: Schemat decyzji: czy dane mogą opuścić środowisko, czy wynik lokalny spełnia kryteria i czy potrzebne jest dopuszczone pytanie do chmury lub człowiek)

*Proponowana polityka routingu. Niepowodzenie lokalnego etapu nie daje zgody na wysłanie jego wejścia.*

### Eskaluj z określonego powodu

Najpierw zapytaj, czy dane mogą opuścić kontrolowane środowisko. Jeśli nie, pozostaje przetwarzanie lokalne, zawężenie zadania albo człowiek. Jeśli mogą, sprawdź, czy wynik lokalny spełnia kryteria akceptacji, zanim dodasz kolejną zależność.

Powodem eskalacji może być nierozstrzygnięte pytanie publiczne, zadanie poza sprawdzonym zakresem modelu albo prośba o niezależną ocenę planu. Wynik przechodzi tę samą walidację i przegląd. Pewny ton odpowiedzi nie zastępuje dowodów wymaganych w Twoim procesie.

Dokument może zawierać instrukcje próbujące zmienić zadanie agenta. [OWASP opisuje pośredni prompt injection przez pliki](https://genai.owasp.org/llmrisk/llm01-prompt-injection/) i zaleca oddzielanie treści niezaufanej, ograniczanie uprawnień oraz testowanie granic. Lokalne uruchomienie nie usuwa tego ryzyka.

### Sprawdź przekazanie pracy

W PoC uwzględnij zwykłe zgłoszenie, niepełne dowody i sprzeczne fragmenty. Dodaj dokument proszący agenta o porzucenie zadania. Sprawdź, co opuszcza urządzenie, jakie narzędzia agent próbuje wywołać i czy odrzucone działanie pozostaje odrzucone.

Zapisuj korekty recenzenta razem z wynikami modelu. Zachowaj przypadek niepowodzenia i na jego podstawie popraw kontrakt zadania albo zawęź ścieżkę. Działający system musi mieć widoczny sposób, żeby przerwać pracę i oddać ją człowiekowi.

Wybierz zadanie dokumentowe, które potrafisz sprawdzić od wejścia do wyniku. Zapisz warunek przekazania danych i kryteria akceptacji, a następnie przetestuj ścieżkę lokalną przed dopuszczeniem pierwszego wywołania chmury.

Jeśli potrzebujesz pomocy w wyznaczeniu tej granicy, warsztat Discovery z [Rebels](https://calendly.com/bartlomiej-jacyno/pierwsza-rozmowa?utm_source=blog&utm_medium=text_cta&utm_campaign=hybrydowe-ai-modele-lokalne-chmura) może zamienić proces i zasady danych w konkretny zakres PoC.

Zaczynamy od Twojego największego problemu i danych, które za nim stoją. [Umów bezpłatną rozmowę](https://calendly.com/bartlomiej-jacyno/pierwsza-rozmowa)
