Poradnik · 21.11.2026

Ollama: lokalne modele AI w firmie – co to i ile kosztuje

Ollama co to jest i czy lokalne AI się opłaca: pomiar 3 modeli na karcie 8 GB i koszt 20 000 zadań lokalnie kontra API na cennikach z 17.11.2026.

Grzegorz Ciupek 9 min czytania 10 źródeł Skomentuj
Okładka: Ollama lokalnie czy API; model qwen2.5 generował 32,6 tokenu na sekundę na karcie 8 GB
Odpowiedź w skrócie · stan na 17.11.2026
  • Ollama to darmowy program na licencji MIT, który pobiera otwarte modele językowe (Qwen, Llama, Gemma i inne) i uruchamia je na Twoim komputerze. Udostępnia API pod adresem localhost:11434, zgodne także z bibliotekami OpenAI. Najnowsza wersja to 0.40.16 z 9.11.2026.
  • Zmierzyłem to 17.11.2026 na naszym serwerze z kartą GTX 1070 (8 GB). Model qwen2.5 (7,6 mld parametrów) generował 32,6 tokenu na sekundę, czyli 1,55 s na tytuł produktu, i poprawnie odczytał prąd znamionowy w 18 z 18 tytułów. Mniejszy llama3.2 był szybszy, ale trafił tylko 2 z 18.
  • Kosztowo przy 20 000 tytułów lokalnie wychodzi 8,6 godziny pracy i 0,81 kWh na samą kartę. Przez API najtańszych modeli (gpt-6-luna, Claude Haiku 5.5) to ok. 2,88 zł, a w trybie wsadowym 1,44 zł (cenniki z 17.11.2026).
  • Wniosek z liczb: w listopadzie 2026 lokalny model nie wygrywa ceną. Wygrywa tym, że dane nie wychodzą z firmy i nie ma limitów ani kluczy. Przegrywa jakością i tempem przy dużych modelach: gemma2:27b, która nie mieści się w karcie, liczyła 24 s na jedną pozycję.
Spis treści · 8 części
  1. 01Ollama: co to jest i jak działa?
  2. 02Ollama na naszym serwerze: ile tokenów na sekundę daje zwykła karta?
  3. 03Ile kosztuje Ollama? Lokalnie kontra API na cennikach z 17.11.2026
  4. 04Kiedy warto uruchamiać AI lokalnie, a kiedy lepiej wybrać API?
  5. 05Jak zainstalować Ollamę i uruchomić pierwszy model?
  6. 06Licencje modeli w Ollamie: co wolno firmie?
  7. 07Najczęstsze pytania
  8. 08Źródła

Ten tekst jest dla właściciela sklepu albo małej firmy, który słyszał, że „AI można mieć za darmo na własnym komputerze”, i chce wiedzieć, czy to się opłaca. Opieram się na pomiarze: jedno zadanie ze sklepu, trzy modele i zegar.

Zestawiam to z cennikami API z tego samego dnia. Ile kosztuje agent AI w chmurze, opisałem osobno w tekście agent AI: ile kosztuje.

Ollama: co to jest i jak działa?

Ollama to darmowe oprogramowanie (licencja MIT, repozytorium na GitHubie z 187 tys. gwiazdek 17.11.2026), które jednym poleceniem pobiera otwarty model językowy i uruchamia go lokalnie: na laptopie, komputerze z kartą graficzną albo serwerze. Program działa w tle jako usługa i odpowiada na zapytania przez API pod adresem 127.0.0.1:11434.

W praktyce składa się z trzech rzeczy:

  • Biblioteka modeli. ollama pull qwen2.5 pobiera model w wersji skompresowanej (kwantyzacja Q4). U nas qwen2.5 zajmuje 4,7 GB, a mixtral 26 GB.
  • Serwer z API. Endpointy /api/generate i /api/chat oraz warstwa zgodna z OpenAI (/v1/chat/completions), więc program pisany pod OpenAI wystarczy przestawić na inny adres.
  • Pamięć. Według dokumentacji model zostaje w pamięci 5 minut po ostatnim zapytaniu. Pierwsze zapytanie po przerwie czeka na załadowanie: u nas 1,8 s dla qwen2.5 i 37,4 s dla gemma2:27b.
Ollama to już nie tylko „lokalnie”

Według cennika z 17.11.2026 Ollama sprzedaje też modele w chmurze: za tokeny albo w planie Pro za 20 USD miesięcznie (60 USD kredytów) i Max za 100 USD. Ten tekst dotyczy wersji lokalnej; chmurę uwzględniam tylko w tabeli kosztów.

Ollama na naszym serwerze: ile tokenów na sekundę daje zwykła karta?

Na naszym serwerze z kartą GTX 1070 (8 GB pamięci) model qwen2.5 7,6B generował 17.11.2026 średnio 32,6 tokenu na sekundę i potrzebował 1,55 s na jeden tytuł produktu. Model 27B, który nie mieści się w karcie, zwolnił do 2,5 tokenu na sekundę, czyli prawie 24 s na pozycję.

32,6tokenu/s, qwen2.5 na GTX 1070 (17.11.2026)
1,55 sna tytuł produktu, wyciąganie danych do JSON
18/18poprawnie odczytany prąd znamionowy (qwen2.5)
2/18to samo w llama3.2 (3B): szybciej, ale źle

Serwer to zwykły komputer: Intel Core i7-6700K, 46 GB RAM, NVIDIA GeForce GTX 1070 z 8 GB pamięci i Ollama 0.40.15. Na dysku leży 12 modeli (97 GB), pobranych na początku 2025 roku i od tej pory nieaktualizowanych. Lokalne modele same się nie odświeżają.

Metoda. Wziąłem 20 tytułów produktów z publicznego API naszego sklepu smartinghome.pl (wyłączniki, przewody, listwy). Każdy model miał zwrócić JSON z kategorią, marką, prądem znamionowym i liczbą biegunów, przy temperaturze 0. Czasy i tokeny pochodzą z pól eval_count i eval_duration, moc karty z nvidia-smi co 0,5 s. Poprawność sprawdziłem ręcznie.

Ollama na GTX 1070 8 GB: 20 tytułów produktów, wyciąganie danych do JSON, pomiar 17.11.2026
Model (parametry, kwantyzacja)Gdzie liczyTokeny/sSekundy na tytułPrąd poprawnieBieguny poprawnieMoc karty
qwen2.5 (7,6 mld, Q4_K_M)karta32,61,5518 z 1816 z 17śr. 94 W
llama3.2 (3,2 mld, Q4_K_M)karta45,11,412 z 182 z 17śr. 69 W
gemma2:27b (27,2 mld, Q4_0), próbka 4 tytułów60% procesor, 40% karta2,523,994 z 43 z 3nie mierzono całości

Najważniejsza różnica dotyczy jakości, nie szybkości. Mały llama3.2 przepisywał tytuł do pola „kategoria”, z 500 V robił 500 A, a z 6 kA 6 A. Qwen2.5 pomylił się dwa razy: dał 6 biegunów wyłącznikowi 2P i wpisał jako markę nazwy operatorów sieci. Gemma2:27b rozpoznała wyłącznik 2P, ale katalog 20 000 produktów liczyłaby ponad 5 dni.

U nas

Najstabilniejsze zastosowanie lokalnego modelu to dziś bot, który pilnuje porządku w naszych grupach na Telegramie. Reguły odsiewają oczywisty spam, a niejasne przypadki ocenia qwen2.5 na tym serwerze, bez wysyłania wiadomości na zewnątrz. W dzienniku usługi od 18.10 do 16.11.2026 jest 58 takich zapytań. Serwer przez większość czasu stoi bezczynnie i to też trzeba wliczyć w rachunek.

Ile kosztuje Ollama? Lokalnie kontra API na cennikach z 17.11.2026

Sama Ollama nic nie kosztuje, ale prąd i sprzęt już tak. Przy 20 000 tytułów produktów nasz serwer liczyłby 8,6 godziny i zużyłby 0,81 kWh na samą kartę. To samo zadanie w najtańszych modelach API kosztuje według cenników z 17.11.2026 ok. 2,88 zł, a w trybie wsadowym 1,44 zł. Różnica w złotówkach jest pomijalna.

Założenia wyliczenia: na jeden tytuł przypada średnio 120,9 tokenu wejścia i 47,8 tokenu wyjścia (z naszego pomiaru). Ceny są w dolarach za milion tokenów, przeliczone po kursie NBP z 17.11.2026 (1 USD = 4,0022 zł), bez VAT. Prąd liczę po przykładowej stawce 1 zł za kWh: podstaw własną z faktury.

Koszt wyciągnięcia danych z tytułów produktów: lokalnie kontra API, cenniki i kurs NBP z 17.11.2026
WariantCena za 1 mln tokenów (wejście / wyjście)20 000 tytułów100 000 tytułów
Ollama lokalnie, qwen2.5 na GTX 10700 zł + prąd8,6 h, 0,81 kWh karty (ok. 0,81 zł)43,1 h, 4,05 kWh karty (ok. 4,05 zł)
OpenAI gpt-6-luna, Batch0,05 / 0,25 USD1,44 zł7,20 zł
Anthropic Claude Haiku 5.5, Batch0,05 / 0,25 USD1,44 zł7,20 zł
Ollama Cloud, gpt-oss:20b0,07 / 0,30 USD1,83 zł9,13 zł
OpenAI gpt-5-nano0,05 / 0,40 USD2,01 zł10,07 zł
OpenAI gpt-6-luna0,10 / 0,50 USD2,88 zł14,40 zł
Anthropic Claude Haiku 5.50,10 / 0,50 USD2,88 zł14,40 zł
Klasa wyżej: gpt-6.1-terra albo Claude Haiku 4.51 / 5 USD28,81 zł144,04 zł

Dwie poprawki. 94 W to pobór samej karty, a całego komputera nie mierzyłem; nawet przy trzy razy wyższym zużyciu to wciąż kilka złotych. Każdy dostawca liczy też tokeny swoim tokenizerem, więc kwoty API traktuj jako przybliżenie.

Uwaga

Jeśli model API „myśli” przed odpowiedzią, tokeny rozumowania zwykle są liczone jak wyjście i rachunek rośnie. Przed dużym przebiegiem puść 50 pozycji i porównaj zużycie w panelu dostawcy z wyliczeniem. Zrób to samo lokalnie: zmierz czas na 50 pozycjach, zanim zaplanujesz noc na 100 000.

Wniosek: w listopadzie 2026 tanie modele API kosztują przy zadaniach wsadowych grosze. Lokalny serwer broni się kosztowo, gdy sprzęt i tak stoi włączony albo przerabiasz miliony pozycji. Kupowanie karty tylko po to, żeby „nie płacić za AI”, przy takich wolumenach się nie zwraca.

Kiedy warto uruchamiać AI lokalnie, a kiedy lepiej wybrać API?

AI lokalnie przez Ollamę warto uruchamiać wtedy, gdy dane nie mogą opuścić firmy, gdy zadanie jest proste i powtarzalne (klasyfikacja, wyciąganie pól, moderacja), albo gdy potrzebujesz pracy bez internetu i bez limitów. W naszym pomiarze z 17.11.2026 model 7B na karcie 8 GB robił takie zadania w 1,55 s na pozycję. Do trudnych tekstów lepsze jest API.

Lokalnie wygrywa, gdy:

  • dane nie powinny wychodzić z firmy (wiadomości, dokumenty klientów);
  • zadanie ma jedną sprawdzalną odpowiedź (kategoria, liczba, tak/nie);
  • nie chcesz pilnować kluczy, limitów i budżetu u dostawcy;
  • masz komputer z kartą, który i tak pracuje (u nas ten sam serwer obsługuje też bota moderującego).

API wygrywa, gdy:

  • liczy się jakość tekstu, np. opisy produktów (kontrolę jakości opisałem w ChatGPT: opisy produktów na 500 kartach);
  • potrzebujesz dużego modelu: na karcie 8 GB model 27B liczył 2,5 tokenu na sekundę;
  • pracujesz zrywami, kilkaset zapytań w miesiącu;
  • chcesz nowych modeli bez pilnowania aktualizacji.

Jak zainstalować Ollamę i uruchomić pierwszy model?

Instalacja Ollamy to jedno polecenie albo instalator ze strony ollama.com, a pierwszy model działa po kilku minutach pobierania. Na komputerze z kartą 8 GB zacznij od modelu 7B, który u nas 17.11.2026 dawał 32,6 tokenu na sekundę. Wtedy zmierz jakość na 20 własnych przykładach, zanim puścisz cały katalog.

  1. Zainstaluj program. Skrypt lub instalator z ollama.com. Usługa startuje sama i nasłuchuje tylko na 127.0.0.1.
  2. Pobierz model pod zadanie. Na karcie 8 GB: ollama pull qwen2.5 (4,7 GB). Model większy niż pamięć karty przejdzie częściowo na procesor i zwolni.
  3. Sprawdź, gdzie liczy. Polecenie ollama ps pokazuje podział między procesor i kartę. U nas gemma2:27b miała 60% na procesorze i właśnie dlatego generowała 13 razy mniej tokenów na sekundę niż qwen2.5.
  4. Wymuś JSON i temperaturę 0. W /api/generate ustaw "format":"json" i "temperature":0, żeby odpowiedzi były powtarzalne.
  5. Sprawdź ręcznie próbkę 20 pozycji. Licz trafienia pole po polu. Gdy model myli się częściej niż raz na 20, zmień model albo polecenie.
  6. Zmierz czas i policz koszt. Czas na pozycję razy liczba pozycji, porównany z cennikiem API z tego samego dnia.
  7. Nie otwieraj portu na świat. Ollama nie ma logowania; inne komputery wpuszczaj przez sieć prywatną (VPN).

Licencje modeli w Ollamie: co wolno firmie?

Sama Ollama ma licencję MIT, ale każdy model ma własną licencję i to ją trzeba przeczytać przed użyciem w firmie. Polecenie ollama show nazwa-modelu --license wyświetla jej treść. Sprawdziłem 17.11.2026 trzy modele z naszego serwera i każdy ma inne zasady.

  • qwen2.5 (7B): Apache 2.0, czyli licencja otwarta, z możliwością użycia komercyjnego.
  • llama3.2: Llama 3.2 Community License. Firma, która ma ponad 700 mln aktywnych użytkowników miesięcznie, musi prosić Meta o osobną licencję. Małej firmy to nie dotyczy, ale dochodzą zasady dopuszczalnego użycia.
  • gemma2: Gemma Terms of Use (21.02.2024), własne warunki Google.
Uwaga: modele multimodalne Llama 3.2 a firmy z UE

Polityka dopuszczalnego użycia Llama 3.2 mówi, że prawa z licencji do modeli multimodalnych (np. llama3.2-vision, czyli tekst i obraz) nie są udzielane osobom mieszkającym w UE ani firmom z główną siedzibą w UE. Ograniczenie nie obejmuje użytkowników końcowych gotowego produktu. Taki model leży też na naszym serwerze, co dobrze pokazuje, jak łatwo go pobrać bez czytania warunków. Ollama nie ostrzega przy pobieraniu, więc licencję musisz sprawdzić sam.

Jeśli lokalny model ma podejmować decyzje wobec ludzi, na przykład moderować ich wiadomości, sprawdź też obowiązki z unijnego rozporządzenia o AI. Opisałem je w tekście AI Act: co to oznacza dla małej firmy. Więcej o narzędziach AI w małej firmie znajdziesz w dziale AI i automatyzacja.

Najczęstsze pytania

Czy Ollama jest darmowa?

Tak, program ma licencję MIT, a lokalne zapytania nic nie kosztują. Płacisz za sprzęt i prąd: u nas karta pobierała średnio 94 W przy modelu 7B (17.11.2026). Płatna jest tylko chmura Ollamy (za tokeny albo plany od 20 USD miesięcznie).

Jaki komputer jest potrzebny do Ollamy?

Ollama ruszy na samym procesorze, ale do pracy wsadowej potrzebna jest karta z pamięcią większą niż plik modelu. Na GTX 1070 (8 GB) model 7B dawał 32,6 tokenu na sekundę, a model 27B (15 GB) przeszedł w 60% na procesor i zwolnił do 2,5 (17.11.2026).

Czy lokalny model jest tańszy od ChatGPT API?

Przy zadaniach wsadowych różnica jest dziś niewielka. Według naszego wyliczenia 20 000 tytułów produktów kosztuje w gpt-6-luna lub Claude Haiku 5.5 ok. 2,88 zł (w trybie wsadowym 1,44 zł, cenniki z 17.11.2026), a lokalnie 0,81 kWh na kartę i 8,6 godziny czekania. Lokalny model wybiera się raczej dla prywatności danych niż dla oszczędności.

Który model w Ollamie wybrać do polskiego tekstu?

W naszym teście wyciągania danych z polskich tytułów produktów qwen2.5 (7,6 mld parametrów) trafił prąd znamionowy w 18 z 18 przypadków, a llama3.2 (3,2 mld) tylko w 2 z 18. Zawsze testuj na własnej próbce 20 przykładów, bo ranking zależy od zadania.

Czy dane wysłane do Ollamy wychodzą poza komputer?

Przy modelu lokalnym zapytanie i odpowiedź zostają na Twoim komputerze, a usługa domyślnie nasłuchuje tylko na 127.0.0.1. Inaczej jest z modelami chmurowymi Ollamy: działają na serwerach dostawcy jak każde API.

Źródła

  1. Pomiar własny na serwerze AI floty (GTX 1070 8 GB, Ollama 0.40.15): /api/generate, nvidia-smi, ollama ps, dziennik usługi (17.11.2026).
  2. Ollama, repozytorium i wydania: v0.40.16 z 9.11.2026, licencja MIT (sprawdzone 17.11.2026): github.com
  3. Ollama, FAQ: domyślny adres 127.0.0.1:11434, model w pamięci 5 minut (sprawdzone 17.11.2026): docs.ollama.com
  4. Ollama, OpenAI compatibility (sprawdzone 17.11.2026): docs.ollama.com
  5. Ollama, Pricing: plany Pro i Max, ceny modeli chmurowych za 1 mln tokenów (sprawdzone 17.11.2026): ollama.com
  6. OpenAI, API Pricing: gpt-6-luna, gpt-5-nano, gpt-6.1-terra, ceny standardowe i Batch (sprawdzone 17.11.2026): platform.openai.com
  7. Anthropic, Pricing: Claude Haiku 5.5 i Haiku 4.5, ceny standardowe i Batch (sprawdzone 17.11.2026): platform.claude.com
  8. Meta, Llama 3.2 Acceptable Use Policy: ograniczenie dla modeli multimodalnych w UE (sprawdzone 17.11.2026): github.com
  9. Licencje modeli odczytane z ollama show --license: qwen2.5 Apache 2.0, Llama 3.2 Community License (25.09.2024), Gemma Terms of Use (21.02.2024) (17.11.2026).
  10. NBP, kurs średni USD 4,0022 zł, tabela 223/A/NBP/2026 z 17.11.2026: api.nbp.pl

Stan na 17.11.2026. Tego dnia zmierzyłem trzy modele na naszym serwerze (gemma2:27b na próbce 4 tytułów), odczytałem dziennik usługi za 18.10–16.11.2026 i sprawdziłem cenniki OpenAI, Anthropic i Ollamy, dokumentację i licencje modeli. Pobór mocy dotyczy tylko karty. Kwoty API po kursie NBP z 17.11.2026, bez VAT.

Czytaj dalej

Dyskusja

Komentarze i pytania

Masz pytanie do tekstu albo własne liczby, którymi chcesz się podzielić? Napisz — odpowiadam pod komentarzami, a odpowiedź zostaje tu dla kolejnych osób.

    Jeszcze nikt nie skomentował. Masz pytanie albo własne doświadczenie? Bądź pierwszy — Twoje pytanie pomoże też innym.

    Dodaj komentarz

    Bez linków polecających. Nie publikujemy kodów ani linków polecających i afiliacyjnych — takie komentarze czekają na moderatora, a link usuwamy. Zasady dyskusji

    Dlaczego?

    Pod tekstami o afiliacji każdy chciałby wkleić swój link, a pytania utonęłyby w ogłoszeniach. Nie chcemy też wybierać, czyj link jest „lepszy”. Do tego regulaminy wielu programów partnerskich i sieci afiliacyjnych zabraniają publikowania linków w cudzych komentarzach — za złamanie zasad sieć może zablokować konto razem z prowizjami.

    Zgłoś komentarz

    Powód

    Newsletter Raport Imperium

    Imperium budowane na Twoich oczach

    Za darmo · raz w tygodniu · wypis jednym kliknięciem

    Co Cię interesuje?

    Raz w tygodniu. Zapis potwierdzasz linkiem z maila, wypisujesz się jednym kliknięciem.