Przejdź do treści

Ollama: jaki model wybrać? Trzy decyzje zamiast jednej

Adam Marzec
Okładka poradnika o wyborze modelu w Ollamie: trzy decyzje przy wyborze, domyślne okno kontekstu 4096 tokenów i zakres katalogu od 0,3 do 43 gigabajta

Otwierasz bibliotekę Ollamy i widzisz dziesiątki rodzin modeli, a każda rodzina ma warianty o różnych rozmiarach, z dopiskami typu instruct albo thinking i końcówkami kwantyzacji. Łatwo w tym zgubić to, że decyzja de facto składa się z trzech osobnych wyborów, a nie jednego: rozmiar dobierasz pod sprzęt, wariant pod rodzaj zadania, kwantyzację pod miejsce na dysku. Kto próbuje rozstrzygnąć to jednym rzutem na rankingi, zwykle ściąga plik o kilka gigabajtów za duży albo w wariancie, który w ogóle nie robi tego, czego potrzebuje.

Ten poradnik prowadzi przez te trzy decyzje po kolei, na liczbach z kart biblioteki Ollamy, które czytałem 25 października 2026. Wszystkie rozmiary plików i okna kontekstu pochodzą z kart rodzin qwen3, gemma3, deepseek-r1, llama3.2 i llama3.3, a informacje o konfiguracji z oficjalnej dokumentacji. Nie testowałem tu każdej rekomendacji na własnym sprzęcie, więc tam, gdzie wskazuję punkt startowy, opieram się na danych z kart, a osobne pomiary pamięci i prędkości u nas w redakcji opisaliśmy przy wyborze modelu na słaby komputer.

Najważniejsze informacje

CoSzczegóły
Decyzja 1: rozmiardobierz pod pamięć: od 292 MB (gemma3:270m) do 43 GB (llama3.3:70b)
Decyzja 2: wariantczatowy na start; myślący do matematyki i kodu; bazowy tylko pod własny trening
Decyzja 3: kwantyzacjadomyślne tagi to zwykle q4; q8 i fp16 zajmują więcej miejsca
Kontekst domyślny4096 tokenów, zmiana przez OLLAMA_CONTEXT_LENGTH albo /set parameter num_ctx
Punkt startu na 8 GBmodel z plikiem do ~5 GB, np. gemma3:4b albo llama3.2:3b oraz deepseek-r1:7b
Punkt startu ogólnygemma3:12b (8,2 GB) albo qwen3:8b (5,2 GB)
Rozumowaniedeepseek-r1:14b (9,0 GB) albo para Qwen3-2507 Thinking
Instalacjaollama pull , pełna ścieżka w naszym poradniku instalacji Ollamy

Trzy decyzje, nie jedna

Pierwsza decyzja to rozmiar, bo od niej zależy wszystko pozostałe. Model, który nie mieści się w pamięci, działa albo wolno na procesorze z przerzutem do dysku, albo wcale. Druga decyzja to wariant, czyli to, do czego model był dostrajany: rozmowa, myślenie, uzupełnianie tekstu. Trzecia to kwantyzacja, czyli stopień kompresji wag. Kolejność nie jest przypadkowa: sprzęt odrzuca połowę katalogu zanim zaczniesz myśleć o zadaniu, a zadanie rozstrzyga wariant skuteczniej niż jakakolwiek tabela benchmarków.

Kolejność ma znaczenie, bo każda decyzja odcina część katalogu. Typowa pomyłka wygląda tak: czytasz o mocnym modelu, ściągasz największy wariant rodziny, a potem odkrywasz, że na twojej maszynie odpowiada co minutę albo nie wstaje wcale. Tymczasem ta sama rodzina ma warianty w skali od ułamka gigabajta do kilkudziesięciu, i o ile czasem warto iść w górę, o tyle zacząć od największego nigdy nie jest dobrym planem.

Rozmiary w bibliotece Ollamy podane są jako rozmiar pliku do pobrania, i to jest najuczciwsza miara na start. Kilka punktów odniesienia z kart, odczytanych 25 października 2026: gemma3:270m to 292 MB, gemma3:1b to 806 MB, llama3.2:1b to 1,3 GB, gemma3:4b to 3,4 GB, qwen3:8b to 5,2 GB, gemma3:12b to 8,2 GB, deepseek-r1:14b to 9,0 GB, a llama3.3:70b to 43 GB. Do tego dochodzi okno kontekstu, które też zjada pamięć w pracy: gemma3 ma 32K tokenów w małych rozmiarach i 128K w większych, qwen3:4b aż 256K, a karty rodzin deepseek-r1 i llama3.2 podają 128K.

Rozmiar: co zmieści się na sprzęcie

Zasada kciuka jest taka, że pobrany plik o rozmiarze X gigabajtów potrzebuje mniej więcej X pamięci operacyjnej albo karty graficznej na pracę z domyślnym kontekstem, plus zapas na system i okno kontekstu. Dokumentacja Ollamy mówi o tym wprost: jeśli dostępnej pamięci wystarczy przy inferencji na CPU z pamięci systemowej albo na GPU z VRAM, model się ładuje, a przy braku pamięci żądania czekają w kolejce. Dlatego planowanie zaczyna się od pytania, ile masz tego zasobu na rzeczywistość, a nie od listy najmocniejszych modeli.

Praktyczne progi z plików biblioteki. Na laptopie z 8 GB pamięci realny wybór to pliki do około 5 GB: gemma3:4b z obsługą obrazów i kontekstem 128K, llama3.2:3b albo deepseek-r1:7b dla zadań rozumowania. Na maszynie z 16 GB wchodzą gemma3:12b (8,2 GB) i qwen3:8b (5,2 GB) z zapasem na dłuższe konteksty. Poniżej 32 GB nie myśl poważnie o llama3.3:70b, bo sam plik ma 43 GB. Praktyka z redakcyjnych pomiarów potwierdza, że różnica między modelem „na styk” a modelem z zapasem bywa różnicą między pracą a czekaniem, co rozpisaliśmy przy pomiary na słabszym sprzęcie.

Rozmiar to też pytanie o pobranie. gemma3:27b to 17 GB, więc pierwszy kontakt z rodziną lepiej zacząć od mniejszego wariantu tej samej rodziny i sprawdzać, czy jakość wystarcza, zanim zapełnisz dysk kolejnymi kopiami.

Dwie uwagi o pamięci, które łatwo przeoczyć. Pierwsza: to, czy model pracuje na karcie graficznej, czy na procesorze, decyduje o tym, czy całe wagi zmieszczą się w VRAM; jak się nie mieszczą, Ollama dzieli pracę i wszystko zwalnia. Druga: okno kontekstu nie jest darmowe, więc podbicie z domyślnych 4096 tokenów do dziesiątek tysięcy potrafi dołożyć pamięci tyle, że model „na styk” przestaje się mieścić. Obie rzeczy sprawdzasz dopiero przy własnym użyciu, dlatego pierwszy wybór rób z zapasem, nie na granicy.

Wariant: czatowy, myślący czy bazowy

Biblioteka Ollamy praktycznie nie serwuje modeli bazowych, więc najgorsza pomyłka, jaką można tu popełnić, dotyczy wyboru między wariantem czatowym a myślącym. Cała mechanika tego rozróżnienia, czyli para instruct i base, ma osobny poradnik, a podział na tryby myślenia rozkładamy w drugiej części serii. Tu zostaje praktyka: domyślne tagi rodzin to warianty czatowe, osobne dopiski -instruct-2507 i -thinking-2507 u Qwena rozdzielają tryby na dwa pliki, a deepseek-r1 jest całą rodziną rozumującą, jak czytamy w karcie: „DeepSeek-R1 is a family of open reasoning models with performance approaching that of leading models, such as O3 and Gemini 2.5 Pro”.

W katalogu są też rodziny poza głównym kursem, w tym polskie modele zespołu SpeakLeash, które pobiera się z rejestru użytkowników, jak opisaliśmy w poradniku instalacyjnym. To dobra droga, gdy priorytetem jest praca w języku polskim, choć takiego modelu nie znajdziesz na stronie głównej biblioteki, trzeba wiedzieć, jak się nazywa.

Rekomendacja startowa nie zależy od marki: bierz wariant czatowy. Model myślący dokłada tokeny rozumowania przed każdą odpowiedzią, co na wolniejszym sprzęcie potrafi zamienić czat w oczekiwanie, a zysk widać głównie na matematyce, kodzie i planowaniu. Do typowej pracy biurowej i pytań o świat wariant czatowy daje tę samą odpowiedź szybciej. Myślący dołączasz świadomie, pod konkretne zadanie.

Kwantyzacja: ile kompresji znosi jakość

Końcówki tagów typu -q4, następnie -q8 i wreszcie -fp16 opisują stopień kompresji wag: im niższa liczba, tym mniejszy plik. Domyślne tagi biblioteki, te bez końcówki, to zwykle kompresja czterobitowa, dlatego gemma3:12b mieści się w 8,2 GB, choć pełna precyzja zajęłaby wyraźnie więcej. Google dla Gemmy oferuje dodatkowo warianty -qat, w których model był trenowany już z kompresją, co widać w nazwach tagów biblioteki.

Praktyczna rada jest dwuzdaniowa. Na start bierz tag domyślny, bo to najkrótsza droga do działającego modelu i realny obraz tego, co większość użytkowników dostaje. Przy zadaniach krytycznych porównaj z wariantem o wyższej liczbie bitów, na przykład q8, i oceń różnicę na własnych przykładach, zamiast zakładać ją z góry. Pamięć jest tu walutą twardą: każdy skok kompresji w górę powiększa plik i wymagania, więc to decyzja ekonomiczna, nie estetyczna.

Ścieżki: cel na wejściu, tag na wyjściu

Poniższa tabela zbiera rekomendowane punkty startu. To wybór redakcyjny oparty na danych z kart rozmiaru, kontekstu i opisów rodzin, nie ranking wydajności. Tagi czytaj tak: liczba przed końcówką to rozmiar, dopiski mówią o wariancie, a końcówka po myślniku to stopień kompresji.

CelPunkt startu
Czat po polsku na laptopiegemma3:4b (3,4 GB, 128K, obrazy)
Ogólna praca na 16 GBgemma3:12b (8,2 GB) albo qwen3:8b (5,2 GB)
Matematyka, kod, planydeepseek-r1:14b (9,0 GB) albo qwen3:30b-a3b-thinking-2507
Mały model do skryptówqwen3:0.6b (523 MB) albo gemma3:270m (292 MB)
Długie dokumentyqwen3:4b (2,5 GB, kontekst 256K)
Maksimum jakości na dużej maszyniellama3.3:70b (43 GB) albo gemma3:27b (17 GB)

Kontekst: domyślne 4096, które warto znać

Otwiera się tu pułapka, na którą narzekają początkujący: modele z kartą reklamującą 128K tokenów „pamiętają” w Ollamie znacznie mniej. Dokumentacja odpowiada wprost: „By default, Ollama uses a context window size of 4096 tokens. This can be overridden with the OLLAMA_CONTEXT_LENGTH environment variable”. Zmiana na poziomie sesji to /set parameter num_ctx 4096 w ollama run, a w API parametr num_ctx. Dłuższy kontekst oznacza większe zużycie pamięci, więc to również decyzja rozmiarowa, nie tylko techniczna ustawka. Ile tekstu mieści się w 4096 tokenach, a ile w 128K, wyliczamy przy poradniku o tokenach; skrótowo, domyślne okno to kilka stron tekstu, a nie cała książka.

Zanim zejdziemy z wyborem, jeszcze jedna rzecz, którą widać dopiero w bibliotece: rodziny mają różny wiek. Przy wariantach stoją daty aktualizacji, 25 października 2026 gemma3 pokazywała odświeżone wiersze sprzed dwóch tygodni, deepseek-r1 rok, a llama3.2 dwa lata. Świeżość bywa sygnałem poprawek, ale nie wyrokiem: starsza mała rodzina potrafi być właściwym wyborem na słaby sprzęt, bo po prostu dobrze działa w swoim rozmiarze. Data mówi ci, kiedy model powstał, nie czy nadal się nadaje.

Kiedy sięgnąć poza bibliotekę

Biblioteka Ollamy to wygodny, wyselekcjonowany podzbiór. Pełne katalogi wag żyją na Hugging Face, a ręczne łączenie plików GGUF z silnikiem daje dostęp do modeli, których w bibliotece nie ma. Warto też wiedzieć, że mniejsze warianty deepseek-r1 to destylaty z modeli Qwena, co widać wprost w nazwach tagów biblioteki, typu deepseek-r1:14b-qwen-distill-q4. Koszt drogi przez Hugging Face to samodzielne pilnowanie szablonu rozmowy i poprawności plików, więc na start biblioteka wygrywa. Jeżeli chodzi o polskie modele, nasz przegląd otwartych modeli pokazuje, co jest dostępne z polskim w spisie. Instalację samej Ollamy krok po kroku po polsku opisuje poradnik instalacyjny, a spis naszych materiałów o lokalnej pracy trzyma hub lokalne AI.

Najczęstsze pytania

Ollama jaki model wybrać na start?

Zacznij od wariantu czatowego pasującego do pamięci: przy 8 GB to pliki do około 5 GB, na przykład gemma3:4b albo llama3.2:3b, przy 16 GB gemma3:12b albo qwen3:8b. Domyślne tagi biblioteki są czatowe i skompresowane, więc samo ollama pull gemma3:4b daje sensowny punkt wyjścia. Model myślący dołącz dopiero pod konkretne zadania z rozumowaniem.

Ollama model 8gb ram: co pobrać?

Przy 8 GB pamięci całkowitej realne są pliki do 4-5 GB, bo system i okno kontekstu też potrzebują miejsca. gemma3:4b (3,4 GB) albo deepseek-r1:7b (4,7 GB) to bezpieczne punkty startu, a gemma3:12b z 8,2 GB już przekracza budżet. Liczba w nazwie modelu to mld parametrów, a rozmiar pliku przy tagu w bibliotece jest miarą, po której naprawdę wybierasz. Jeśli po pobraniu model odpowiada z многosekundowymi pauzami, to znak, że praca poszła na procesor, i warto zejść o rozmiar niżej.

Ollama jakie modele są dostępne?

Biblioteka zawiera rodziny takich wydawców jak Qwen, Google, Meta, DeepSeek czy Mistral, w rozmiarach od 270M do 270B, a każda rodzina ma osobną kartę z wariantami i kwantyzacjami. Zabłyśnięcie pełnej listy nie ma sensu, bo katalog rośnie co miesiąc; praktyczną drogą jest wejście na ollama.com/library i przeczytanie karty konkretnej rodziny. Pełne katalogi wag, także te poza biblioteką, siedzą na Hugging Face.

Ollama co to za program?

Ollama to darmowe narzędzie, które uruchamia duże modele językowe lokalnie na twoim sprzęcie, ukrywając za jednym poleceniem pobieranie wag, silnik inferencji i serwer API. Skąd się wzięło, jak je zainstalować po polsku i co się dzieje po ollama pull, opisujemy w poradniku o Ollamie. Modele pobierasz z biblioteki komendą ollama run .

Najlepsze modele ollama: czy jest jeden ranking?

Nie ma jednej kolejności, bo „najlepszy” zależy od sprzętu, języka i zadania: model mistrzowski na matematykę bywa za duży na laptopa i za wolny w czacie. Rozsądniejsza droga to wybrać rodzinę i rozmiar pod swój sprzęt, sprawdzić na własnych przykładach i dopiero potem porównywać z sąsiadem z listy. Rankingi przydatne są jako sygnał, które rodziny warto w ogóle rozważyć, nie jako odpowiedź.

Źródła

Powiązane artykuły