Lokalne AI przestało być zabawką dla pasjonatów z dwiema kartami graficznymi. Darmowa Strata odpala model Qwen 125B na jednej karcie z 12 GB VRAM, mniejsze modele mieszczą się w karcie przeglądarki, a rekordziści uruchamiają je nawet na płytkach ESP32 za kilkadziesiąt złotych. Do tego dochodzi audio: Whisper i Piper przepisują i czytają po polsku, nie wysyłając nagrania do chmury.
Zbieramy tu sprawdzone ścieżki, od najtańszej po wymagającą. Każdy artykuł w tej serii ma nasz własny test albo jawnie oznaczone dane producenta, bo w tej dziedzinie deklaracje marketingowe szybko rozjeżdżają się z rzeczywistością. Wymogi sprzętowe i ceny z zestawienia weryfikujemy przy każdej aktualizacji.
Najważniejsze informacje
| Strata (darmowa) | minimum 12 GB VRAM i 32 GB RAM, około 70 GB pobierania |
| Modele w przeglądarce | MicroLLM Lab: wagi od około 74 MB, działają bez internetu |
| Najmniejszy sprzęt | ESP32-S3 DevKitC-1-N16R8: 91,77 zł, klony od około 30 zł |
| Synteza mowy offline | Piper: polski głos 63 MB, wystarczy procesor |
| DeepSeek API | od 0,30 USD za 1 mln tokenów (V4.1-Flash, godziny szczytu) |
| Realne prędkości | Qwen 125B: 94 tok./s na RTX 5070 (README Straty), 124 tok./s na RTX 4090 (raporty użytkowników) |
Artykuły
- Lokalne AI na własnym komputerze
Wymogi sprzętowe darmowej Straty i realne prędkości Qwena 125B na popularnych kartach. - AI w przeglądarce, bez internetu
Test MicroLLM Lab: siedem modeli działających w karcie przeglądarki i ich realne ograniczenia. - BitNet na płytkach ESP32
Model językowy na siedmiu ESP32 połączonych w łańcuch: jak to zbudowano i ile to kosztuje. - Adblocker na ESP32-C3 za 26 zł
Płytka za 26 zł, która wycina reklamy z całej sieci domowej; montaż i konfiguracja krok po kroku. - DeepSeek po polsku
Start z DeepSeek: przeglądarka i aplikacje, ceny API, interfejs bez polskiego i kwestie prywatności danych. - Mowa z tekstu, także offline
Trzy darmowe ścieżki syntezy mowy po polsku, w tym Piper działający w pełni offline. - Bielik AI: polski model lokalnie
Polski otwarty model od SpeakLeash: licencja Apache 2.0, chat po zalogowaniu i uruchomienie w Ollama z jawnym tagiem kwantyzacji. Z pomiarem tok/s na zwykłym procesorze i pułapką braku tagu latest. - LM Studio: lokalne AI bez terminala
Aplikacja do lokalnych modeli z katalogiem Hugging Face, czatem i serwerem zgodnym z OpenAI, plus wersja headless llmster. Z pomiarem prędkości na Bieliku i porównaniem z Ollamą na tym samym sprzęcie. - Ollama po polsku: instalacja i modele
Najpopularniejsze narzędzie do lokalnych modeli: instalacja na trzy sposoby, pierwszy model, polskie odpowiedzi, pułapka braku tagu latest u SpeakLeash i pomiary tok/s na zwykłym procesorze. - AI bez internetu: co działa offline
Kompendium offline: model lokalny odpowiada w całkowitej izolacji sieciowej (nasz test z pomiarem), tłumacz Google z pakietami na telefonie, synteza mowy bez chmury i lista tego, czego bez sieci nie zrobisz. - Jaki model AI na słaby komputer
Ściąga z własnego pomiaru pięciu modeli na CPU bez karty graficznej: szczyty RAM od 1,55 do 5,28 GB, prędkości 5,6-21,8 tok./s, trzy progi pamięci (4/8/16 GB) i jakościowa ocena polszczyzny każdego modelu. - Lokalny LLM kontra subskrypcja
Rachunek z tezy XDA: kiedy darmowy model na własnej karcie zastępuje płatny czat, z cenami planów w PL i prądem po taryfach URE na 2026. - DeepSeek V4: licencja MIT, milion tokenów
Rodzina V4 po porządkach: V4.1 Flash przejmuje API i czat, ceny od 0,15 USD za milion tokenów i ścieżka lokalna dla Maców. - EmbeddingGemma 2: osadzenia lokalnie
740 mln parametrów, tekst z obrazem, audio i wideo w jednym wektorze 768D, Apache 2.0 i hack, który zrobił z niego transkrypcję mowy. - FLUX 3 Klein: obrazy lokalnie
5,6 mld parametrów i otwarte wagi; wersja INT8 generuje na 8 GB VRAM przez ComfyUI, licencja pozwala komercyjnie do 5 mln USD przychodu, a cena API zaczyna się od 0,008 USD za obraz. - Llmspeed: tok/s przed zakupem
Matryca 30 konfiguracji sprzętu i 15 otwartych modeli: szacunki tok/s i czasu do pierwszego tokena z etykietami Measured, Derived i Projected; darmowe i bez logowania. - PS5LM: LLM na PS5
llama.cpp na GPU jailbreakowanej konsoli: Qwen 3.5 9B 55 tok./s, API zgodne z OpenAI i Anthropic, modele pobierane z Hugging Face. Wymaga firmware 7.00-13.60. - basal-omni: polski model decyzyjny
Otwarta rodzina modeli decyzyjnych na Bieliku i Gemmie 4: pierwsze miejsce w klasie Jev na tablicy JevBench, silnik 2.2 z kalibracją progów na własnych danych, start od około 16 GB VRAM. - DeepInfer: silnik od DeepSeek
Otwarty silnik inferencji z produkcji DeepSeek na Apache 2.0: 155 bln tokenów na dobę z jednego klastra, NVIDIA SM100 i Huawei Ascend 950, na razie wyłącznie V4.1-Flash.
Najczęstsze pytania
Czy AI może działać bez internetu?
Tak. Modele lokalne działają na twoim komputerze, w przeglądarce albo na płytkach ESP32, po jednorazowym pobraniu wag. Bez sieci nie ma odpowiedzi z chmury, ale czat, transkrypcja i synteza mowy funkcjonują offline.
Jaki komputer trzeba mieć na lokalne AI?
Do darmowej Straty z modelem Qwen 125B producenci podają minimum 12 GB VRAM i 32 GB RAM przy około 70 GB pobierania. Mniejsze modele w przeglądarce startują już od 74 MB wag.
Czy lokalne AI jest darmowe?
Wagi modeli i narzędzia typu Strata, Whisper czy Piper są darmowe. Prawdziwym kosztem jest sprzęt: karta z 12 GB VRAM do większych modeli, choćby płytka ESP32-S3 za kilkadziesiąt złotych do najmniejszych.
Czy lokalne AI nadaje się do polskiego?
Piper ma dedykowany polski głos, a większe modele lokalne radzą sobie z polskimi zapytaniami. Najmniejsze wersje psują polską odmianę, więc konkretny model najlepiej sprawdzić na własnych tekstach przed większą pracą.
Czy DeepSeek jest darmowy?
Czat w przeglądarce i aplikacjach mobilnych kosztuje 0 zł. Płatne jest tylko API, od 0,30 USD za milion tokenów w wariancie Flash w godzinach szczytu, z tańszym trybem poza szczytem.
Stan danych: 2026-10-20. Aktualne plany i ceny wszystkich narzędzi AI trzyma strona Narzędzia AI: ceny i plany.