Krótka odpowiedź: pobór karty i jej sprawność to dwie różne rzeczy, i mylenie ich kosztuje. A2 i P4 pobierają tak mało mocy (60–70 W), że nadają się do pracy 24/7 tam, gdzie rachunek boli — ale mają niższą wydajność obliczeniową. V100 pobiera pod pełnym obciążeniem około 4× więcej mocy niż A2, a i tak ma najwyższy wskaźnik tok/s na wat, bo różnice architektoniczne między Volta a Pascal (Tensor Cores, przepustowość HBM2) dają jej wyraźnie więcej tokenów w tym samym budżecie mocy. Najniższy wskaźnik tok/s na wat mają karty Pascal — P40 bierze prawie 240 W, P100 około 200 W, a obie oddają najmniej tokenów na wat z całej stawki (i tak znacznie więcej prądu niż A2 i P4). Kupujesz je za VRAM i cenę, nie za ekonomię prądu. Niżej masz nasze zmierzone liczby: ile realnie biorą, ile grzeją i ile z tego wychodzi użytecznej pracy.
Piszę to do osób, które planują trzymać kartę włączoną cały czas — serwer inferencyjny, transkoder, stanowisko do RAG-a chodzące w tle. Przy sporadycznym użyciu pobór nie ma znaczenia; przy pracy ciągłej to pozycja w budżecie, która potrafi w rok przekroczyć cenę taniej karty. Zmierzyliśmy pobór każdego modelu, który sprzedajemy, więc nie musisz zgadywać z TDP na pudełku.
Najpierw twarde liczby — ile realnie biorą
To nie są wartości katalogowe. Każdą kartę wygrzewaliśmy gpu-burn pod pełnym power limitem, z dodatkowym procesem nvidia-smi, który próbkował pobór co sekundę. Kolumna „load" to średnia pod pełnym obciążeniem, „max" to pik do doboru zasilacza, „Śr. z maks. temp." to średnia z maksymalnych temperatur poszczególnych sztuk danego modelu (np. P4 z 25 szt., P40 z 41):
| Karta | Idle | Load (śr.) | Max (pik) | Śr. z maks. temp. |
|---|---|---|---|---|
| P4 8 GB | ~13 W | ~64 W | 70 W | ~59 °C |
| A2 16 GB | ~7 W | ~60 W | 62 W | ~68 °C |
| P100 16 GB | ~29 W | ~199 W | 223 W | ~62 °C |
| P40 24 GB | ~21 W | ~237 W | 255 W | ~64 °C |
| V100 16 GB | ~30 W | ~242 W | 256 W | ~65 °C |
| V100 32 GB | ~32 W | ~242 W | 267 W | ~67 °C |
Dwie rzeczy rzucają się w oczy od razu. Po pierwsze, jest wyraźny podział na dwie ligi: P4 i A2 w okolicach 60–70 W, i cała reszta koło 200–250 W. Po drugie, A2 uderza w swój cap 60 W — to karta z konfigurowalnym limitem, nie osiąga więcej, bo tak ją zaprojektowano. To jej cecha, nie ograniczenie stanowiska.
Do doboru zasilacza nie patrz wyłącznie na średni pobór — uwzględnij maksymalny pobór GPU, wymagania platformy i zapas na krótkotrwałe skoki obciążenia. Dwie karty 250 W to nie „500 W zasilacza wystarczy". Ale to temat na osobny tekst; tu chodzi o rachunek za prąd, a ten liczy się od średniej pod obciążeniem.
Dlaczego sam pobór myli — wróćmy do sensu karty
Gdyby liczył się tylko wat, wniosek byłby banalny: bierz A2, pobiera najmniej. Ale karta nie stoi po to, żeby brać mało prądu — stoi, żeby coś policzyć. Pytanie brzmi więc inaczej: ile użytecznej pracy dostajesz za tę energię?
Weźmy generację tokenów LLM (tg128, ten sam model gemma-2-9B w Q4 na każdej karcie — im więcej tok/s, tym lepiej) i zestawmy ją z poborem pod obciążeniem. „Tok/s na wat" to prosty iloraz: ile tokenów na sekundę wypada na każdy pobrany wat. Formalnie to tok/s/W, czyli tok/J — traktujemy tę wartość jako prosty względny wskaźnik porównawczy. Jedno zastrzeżenie z góry: to wskaźnik względny, nie zmierzona sprawność inferencji — tok/s pochodzi z benchmarku LLM, a pobór ze steady-state burn-in, nie z tego samego przebiegu. Służy do porównania kart między sobą, nie jako absolutny licznik tokenów na dżul.
| Karta | tg128 (tok/s) | Load (W) | Tok/s na wat (względny) |
|---|---|---|---|
| P4 8 GB | 20,5 | ~64 | ~0,32 |
| A2 16 GB | 19,6 | ~60 | ~0,33 |
| P100 16 GB | 30,2 | ~199 | ~0,15 |
| P40 24 GB | 31,4 | ~237 | ~0,13 |
| V100 16/32 GB | 89,0 | ~242 | ~0,37 |
I tu robi się ciekawie. V100 pobiera około 4× więcej niż A2 (a od P40 tylko odrobinę więcej) — i jednocześnie ma najwyższy wskaźnik tok/s na wat w tym zestawieniu. V100 osiąga 89 tok/s tam, gdzie P40 przy niemal identycznym poborze (237 W) daje 31,4. Przewaga wynika z różnic architektonicznych między Volta a Pascal — Tensor Cores i znacznie wyższa przepustowość HBM2 — choć ten benchmark nie rozdziela wkładu poszczególnych czynników. Wysoki pobór nie znaczy „słaby wskaźnik" — tu znaczy „dużo liczy".
Odwrotny biegun to Pascal — P40 i P100. P40 pobiera prawie tyle co V100 (~237 W), P100 mniej (~199 W), ale obie osiągają około 2,5–2,8× niższy wskaźnik tok/s na wat niż V100. To nie przypadek jednej karty: obie architektury Pascal pobierają 200–240 W i generują ~30 tok/s, gdzie Volta za tę samą energię robi 89. Jeśli kupujesz P40, kupujesz jej 24 GB VRAM i niską cenę, nie ekonomię prądu — i warto to wiedzieć, zanim postawisz ją do pracy ciągłej.
A2 i P4 lądują pośrodku wskaźnika, ale wygrywają czym innym: absolutnym poborem. 0,33 tok/s na wat to nie rekord, ale przy poborze około 60 W karta może chodzić 24/7, a koszt jej ciągłej pracy jest znacznie niższy niż kart pobierających 200–250 W. To zupełnie inny argument niż tok/s na wat — o tym za chwilę.
Uczciwa uwaga metodologiczna: tę kolumnę liczę z poboru burn-in, a realna inferencja LLM bywa lżejsza (P40 pod samym llama.cpp ciągnie ~175–183 W, nie 237). Pod prawdziwym obciążeniem AI Pascal wypada więc odrobinę lepiej, niż pokazuje tabela. Traktuj tokeny/wat jako ranking względny, nie licznik co do watta — kierunek się nie zmienia, proporcje mogą drgnąć.
Trzy pytania, nie jedno — bo „efektywność" znaczy co innego dla każdego
Rozjazd między „mało watów" a „dużo tokenów na wat" to nie sprzeczność w danych. To dwa różne pytania, które ludzie zlewają w jedno „która najbardziej oszczędna". Rozdzielmy je:
Chcesz najniższy rachunek na koniec miesiąca? Patrz na absolutny pobór, nie na sprawność. A2 (~60 W) albo P4 (~64 W pod pełnym obciążeniem) chodzące 24/7 kosztują ułamek tego, co Pascal czy Volta. Przy założeniu ~1,0–1,3 zł/kWh (biznesowe taryfy w Polsce, 2026 — zweryfikuj swoją) A2 pod pełnym obciążeniem to około 1,44 kWh dziennie na samą kartę (0,060 kW × 24 h), czyli rzędu 1,4–1,9 zł/dobę. P40 pod realnym obciążeniem LLM (~180 W) to już około 4,3 kWh i około 4,3–5,6 zł/dobę. W skali roku ciągłej pracy różnica robi się czterocyfrowa — potrafi przekroczyć cenę samej A2.
Chcesz najwięcej policzyć za wydany prąd? Patrz na tok/s na wat. Tu wygrywa V100 — najwyższy wskaźnik w całej stawce, mimo najwyższego poboru bezwzględnego. W naszym benchmarku LLM, przy intensywnej i ciągłej inferencji, V100 wypada energetycznie najlepiej spośród testowanych kart.
Chcesz najwięcej policzyć w danym oknie czasowym, prąd drugorzędny? To już nie jest pytanie o energię, tylko o wydajność — i wtedy patrzysz na tok/s bez dzielenia przez wat. Ale skoro czytasz tekst o poborze, pewnie nie o to Ci chodzi.
Najczęstszy błąd, jaki widzę: ktoś bierze P40 „bo tania i ma 24 GB", stawia ją do pracy 24/7 i po kwartale dziwi się rachunkowi. P40 to świetna karta pojemnościowa, ale energetycznie jest droga w utrzymaniu. Jeśli Twój model mieści się na A2 albo V100, a karta ma chodzić bez przerwy — policz prąd, zanim skusisz się na najtańszą etykietę.
Co z tego wynika — dobór pod profil pracy
- Lekki workload, liczy się przede wszystkim niski pobór bezwzględny (transkoder, lekka inferencja, edge): A2 albo P4. 60–70 W poboru GPU, znacznie łatwiejsze do chłodzenia niż karty 200–250 W. Niższa wydajność obliczeniowa, ale do zadań o niskim natężeniu w zupełności wystarcza — i to jest ich właściwe miejsce.
- Serwer inferencyjny pod pełnym obciążeniem, liczy się tok/s na wat: V100. Pobiera dużo, ale ma najwyższy wskaźnik tok/s na wat w naszym benchmarku. Przy intensywnej, ciągłej inferencji LLM wypada energetycznie najlepiej spośród testowanych kart — mimo wysokiego poboru bezwzględnego.
- Duży VRAM za małe pieniądze, prąd drugorzędny: P40. Bierzesz ją za 24 GB i cenę, świadomie płacąc więcej za prąd. Sensowna, jeśli używasz jej dorywczo albo pojemność jest ważniejsza niż rachunek.
- FP64/HPC: P100 — ale to inny wątek (double precision), nie ekonomia prądu; energetycznie jest tak samo „droga" jak P40.
Jak sprawdzić u siebie, zanim zaufasz naszym liczbom? Jedna komenda w tle podczas Twojego realnego obciążenia:
nvidia-smi --query-gpu=power.draw,utilization.gpu --format=csv -l 1
Zostaw ją na kilka minut pod typowym dla Ciebie zadaniem i zobacz średnią. To Twój realny pobór — dużo bliższy prawdy niż TDP z karty, bo zależy od modelu, kontekstu i tego, jak mocno faktycznie obciążasz kartę.
Jedna myśl na koniec
Etykieta „250 W TDP" nie mówi Ci, ile karta faktycznie pobierze podczas Twojego workloadu. Nie mówi też, ile zapłacisz za prąd ani czy karta jest energetycznie efektywna — do tego potrzebujesz rzeczywistych pomiarów poboru i wydajności. V100 pobiera najwięcej, a mimo to ma najwyższy tok/s na wat w naszym benchmarku. A2 pobiera najmniej i nadaje się do pracy bez przerwy. P40 pobiera dużo i jest energetycznie droga — a mimo to bywa najlepszym wyborem, gdy liczy się jej VRAM. Trzy różne prawdy z jednej tabeli poboru. Wybierz tę, która pasuje do tego, jak naprawdę będziesz kartę używać.
Źródła
- Pomiary własne Agile Store. Pobór i temperatura: burn-in
gpu-burnna pełnym power limicie, pobór próbkowany co 1 s przeznvidia-smi --query-gpu=power.draw, wartość uśredniana z całego przebiegu. Wydajność (tg128):llama-bench -ngl 99 -p 512 -n 128 -r 3na modelu gemma-2-9B Q4, driver 580.173.02 / CUDA 12.0. Wskaźnik „tokeny na wat" = tg128 ÷ średni pobór pod pełnym obciążeniem. - Stawka energii przyjęta orientacyjnie (~1,0–1,3 zł/kWh, biznesowe taryfy PL 2026) — do potwierdzenia wg realnej umowy czytelnika; kwoty roczne są ilustracją metody, nie gwarancją.