Używane akceleratory NVIDIA Tesla do AI - praktyczny przewodnik po V100, P40, P100, P4 i A2

Pierwszą Teslę P40 kupiłem, bo nie mieściłem się z modelem w 8 GB VRAM na swojej „normalnej" karcie, a nowy sprzęt z 24 GB kosztował tyle, co używane auto. Karta przyszła w antystatycznej folii, bez pudełka, bez wentylatora, z gołym radiatorem i wtyczką zasilania, która nie pasowała do niczego, co miałem w szufladzie. Po dwóch wieczorach walki odpalałem na niej lokalnego LLM-a — i od tego się zaczęło.

Ten tekst to wszystko, czego wtedy nie wiedziałem, a chciałbym, żeby ktoś mi powiedział. Bez owijania w bawełnę: karty serwerowe potrafią dać ogromną moc za ułamek ceny nowego sprzętu, ale mają swoje kwasy, o których w specyfikacji nie przeczytasz.

Dlaczego w ogóle używane karty serwerowe?

Logika jest prosta i brutalna. Sprzęt, który jeszcze niedawno pracował w centrach danych przy produkcyjnych obciążeniach AI, po zakończeniu leasingu albo modernizacji trafia na rynek wtórny — i tanieje szybciej niż karty konsumenckie. Ta sama V100, która w 2018 kosztowała kilkanaście tysięcy, dziś jest w zasięgu budżetu hobbysty, startupu albo laboratorium na uczelni.

Płacisz za to trzema rzeczami: architektura jest o pokolenie–dwa starsza, nie ma gwarancji producenta, i sprzęt jest „serwerowy" w każdym uciążliwym tego słowa znaczeniu (o tym za chwilę). Ale jeśli Twoje zadanie to inferencja lokalnego modelu, fine-tuning, eksperymenty z dyfuzją albo obliczenia naukowe — a nie trenowanie GPT-5 od zera — to stosunek mocy do ceny jest nie do pobicia.

Zanim kupisz: trzy rzeczy, które zaskakują każdego

1. To są karty pasywne. Nie mają wentylatora. W serwerze chłodzi je huraganowy przepływ powietrza z przodu obudowy. Włóż taką kartę do zwykłego desktopa, obciąż ją — i w kilkadziesiąt sekund wejdzie w throttling, a potem się wyłączy dla bezpieczeństwa. To najczęstszy powód rozczarowania. Rozwiązanie: albo wsadzasz kartę do obudowy serwerowej z przepływem, albo dorabiasz chłodzenie — najpopularniej wydrukowany na 3D shroud + dmuchawa 40 mm albo turbina. To nie jest opcjonalne. Nie ma „a może wystarczy obieg w obudowie". Nie wystarczy.

2. Zasilanie to wtyczka EPS, nie PCIe. Karty typu V100/P40/P100 ciągną prąd przez 8-pin EPS (ten sam typ co zasilanie procesora na płycie), a nie przez 8-pin PCIe od karty graficznej. Wtyczki wyglądają podobnie, ale są inaczej kluczowane — wciśnięcie PCIe na siłę potrafi uszkodzić kartę. Potrzebujesz adaptera 2× PCIe → EPS (zwykle dołączanego do dobrze opisanej używki) i zasilacza, który to udźwignie.

3. Nie ma wyjścia wideo. To akceleratory obliczeniowe. Nie podłączysz do nich monitora. W praktyce musisz mieć drugą kartę albo grafikę zintegrowaną w procesorze do obrazu, a Teslę traktujesz wyłącznie jako „silnik" do obliczeń. Dla części osób to oczywiste, dla części — przykra niespodzianka po rozpakowaniu.

Architektura ma znaczenie — i to większe, niż myślisz

Trzy generacje przewijają się w tej klasie sprzętu, i różnią się nie tylko wydajnością, ale tym, co w ogóle sensownie na nich zrobisz:

• Pascal (P4, P40, P100) — compute capability 6.x. Solidny, tani, ale ma jeden haczyk: natywne FP16 na P40 i P4 jest sztucznie ograniczone i wręcz wolniejsze niż FP32. Dlatego LLM-y odpalasz na nich w kwantyzacji (INT8/INT4, formaty GGUF) — i wtedy działają świetnie. P100 jest tu wyjątkiem, bo ma pełnoprawne FP16 i mocne FP64.
• Volta (V100) — compute capability 7.0. Tu pojawiają się rdzenie Tensor pierwszej generacji i szeroka pamięć HBM2. To pierwsza z tych kart, na której trening i fine-tuning w FP16 mają realny sens.
• Ampere (A2) — compute capability 8.6. Najnowsza architektura z całej stawki: Tensor Cores 3. generacji, obsługa BF16 i TF32, niski pobór mocy. Płacisz za nowość, ale dostajesz najdłuższą perspektywę wsparcia programowego.

Ta „compute capability" to nie liczba dla ozdoby. Kolejne wersje bibliotek (CUDA, sterowniki, warstwy ML) z czasem porzucają starsze architektury. I to już się dzieje: CUDA 13 usunęło wsparcie kompilacji i bibliotek dla architektur starszych niż Turing, co uderza zarówno w Pascala, jak i w Voltę (V100). Najdłuższą perspektywę wsparcia programowego ma tu Ampere (A2) — to jedyna architektura z tej stawki, która na razie nie jest na liście wycofywanych.

Przegląd kart — którą do czego

NVIDIA Tesla P4 (8 GB) — cichy, mały, żarłocznie oszczędny

Jednoslotowa, niskoprofilowa, 75 W bez dodatkowego zasilania — prąd bierze z samego slotu PCIe. To czyni ją idealną do małej obudowy, domowego serwerka albo transkodowania wideo (Plex/Jellyfin robią z niej użytek natychmiast). Do AI: mniejsze modele, lekka inferencja INT8, eksperymenty. 8 GB VRAM to sufit, który szybko poczujesz przy większych LLM-ach, ale jako „karta do wszystkiego po cichu" — złoto.

NVIDIA Tesla P40 (24 GB) — ulubieniec homelabowego LLM

Gdyby zapytać na r/LocalLLaMA o pierwszą używkę pod lokalne modele, P40 padnie w co drugiej odpowiedzi. Powód: 24 GB VRAM za grosze. Pamięć to przy LLM-ach król, a tu masz jej dużo i tanio. Karta świetnie chodzi z llama.cpp/Ollama na modelach kwantyzowanych (Q4/Q8) — mieścisz 13B z zapasem, 34B na styk, a dwie sztuki otwierają drzwi do 70B. Haczyk już znasz: kiepskie FP16, więc frameworki wymagające FP16 (starsze buildy exllama) będą kuśtykać. Trzymaj się GGUF/INT i będzie dobrze. To nie demon szybkości — to demon pojemności za cenę obiadu.

NVIDIA Tesla P100 (16 GB) — outsider z mocnym FP64

Trochę zapomniana między P40 a V100, a ma swoją niszę. HBM2 z przepustowością 732 GB/s (dużo więcej niż GDDR5 w P40) i uczciwe FP16 sprawiają, że lepiej nadaje się do zadań pamięciożernych i do obliczeń naukowych, gdzie liczy się podwójna precyzja (FP64). Jeśli robisz symulacje, a nie tylko odpalasz LLM-y, P100 potrafi być mądrzejszym wyborem niż pozornie nowszy P40.

NVIDIA Tesla V100 (16 lub 32 GB) — punkt, w którym zaczyna się trening

Tu wchodzą rdzenie Tensor i naprawdę szybka pamięć HBM2 (900 GB/s). Na V100 fine-tuning i trening w FP16 przestają być udręką, a inferencja lata. Wersja 16 GB jest tańsza, ale to VRAM ograniczy Cię szybciej niż moc rdzeni — jeśli budżet pozwala, 32 GB jest różnicą między „ciekawostka" a „realne narzędzie robocze". To najbliżej „prawdziwej karty do AI", jak można podejść za rozsądne pieniądze na rynku wtórnym.

NVIDIA A2 (16 GB) — nowoczesność w formacie oszczędnym

Odstaje od reszty, bo to Ampere: BF16, TF32, Tensor Cores 3. generacji, a przy tym pobór rzędu kilkudziesięciu watów i niski profil. Nie wygra na papierze z V100 w surowej mocy, ale wygrywa efektywnością i tym, że oprogramowanie będzie ją wspierać znacznie dłużej. Do inferencji „na brzegu" (edge), do serwera, który ma być cichy i mało prądożerny, do nowszych formatów danych — to najbardziej „przyszłościowa" karta z tej listy.

Zestawienie skrótowe

Karta	Architektura	VRAM	Pasmo	Moc	Najlepsza do
Tesla P4	Pascal	8 GB GDDR5	192 GB/s	75 W	lekka inferencja, transkodowanie, mała obudowa
Tesla P40	Pascal	24 GB GDDR5	346 GB/s	250 W	lokalne LLM (dużo taniego VRAM, kwantyzacja)
Tesla P100	Pascal	16 GB HBM2	732 GB/s	250 W	HPC, FP64, zadania pamięciożerne
Tesla V100	Volta	16/32 GB HBM2	900 GB/s	250 W	trening i fine-tuning, ciężka inferencja
NVIDIA A2	Ampere	16 GB GDDR6	200 GB/s	~40–60 W	efektywna inferencja, edge, długie wsparcie

Rdzenie/TFLOPS-y celowo pominąłem — przy tych kartach o wyborze decyduje VRAM, architektura i pobór mocy, a nie surowa liczba z karty katalogowej.

To nie jest zamknięta lista — pokazuję karty, które najczęściej trafiają do tych zastosowań i które mam pod ręką w bieżącej ofercie. Jeśli do Twojego przypadku lepiej pasuje inny model — nowszy, z większym VRAM, z innej rodziny — sprowadzam go na zamówienie, wycena na zapytanie.

Jak dobrać kartę do zadania

• Chcę odpalać lokalne LLM-y (Llama, Mistral, Qwen) w Ollama/llama.cpp → licz się przede wszystkim VRAM-em. P40 24 GB to domyślny wybór na start; pod 70B w Q4 realnie potrzebujesz 40–48 GB, czyli dwie karty po 24 GB (albo łącznie ok. 48 GB) — pojedyncze 32 GB wystarczy tylko przy mocnej kwantyzacji albo offloadzie części warstw na CPU.
• Chcę trenować / fine-tunować własne modele → V100. Tensor Cores i HBM2 robią różnicę, której na Pascalu po prostu nie ma.
• Stable Diffusion / generatywna grafika → P40 daje radę pojemnością, V100 daje radę szybkością. Obie sensowne, wybór zależy, czy ważniejszy komfort VRAM-u czy tempo.
• Obliczenia naukowe, symulacje (FP64) → P100, ewentualnie V100.
• Cichy, oszczędny serwer do inferencji 24/7 → A2 albo P4, zależnie od rozmiaru modeli.

Chłodzenie i zabudowa — czyli gdzie ludzie się przewracają

Wracam do tego, bo to punkt, w którym najwięcej osób się zniechęca. Masz dwie drogi. Pierwsza: obudowa serwerowa (rack) z fabrycznym przepływem — wtedy karta działa tak, jak zaprojektowano, ale płacisz hałasem i rozmiarem. Druga: własna adaptacja w desktopie — wydrukowany shroud dopasowany do konkretnego modelu karty plus dmuchawa (40 mm turbina albo Noctua na przejściówce). Zajmie Ci to wieczór, kosztuje grosze, i jest różnicą między kartą, która stabilnie liczy godzinami, a kartą, która wyłącza się w środku zadania. Do tego zasilacz z zapasem i adapter EPS — i dopiero wtedy sprzęt jest „gotowy".

Jeśli szukasz całej platformy zamiast samego akceleratora, zobacz gotowe serwery GPU Dell PowerEdge R740.

Sterowniki, oprogramowanie, żywotność

Na Linuksie te karty czują się najlepiej — sterowniki data-center instalują się bezproblemowo, a cały ekosystem (CUDA, kontenery, llama.cpp, biblioteki ML) jest tam u siebie. Na Windowsie też ruszą, ale jeśli traktujesz to poważnie, prędzej czy później wylądujesz na Linuksie. Do obliczeń nie potrzebujesz żadnych licencji vGPU — to mit, który krąży; licencjonowanie dotyczy wirtualizacji grafiki, nie CUDA.

Kwestia żywotności: Pascal jest najstarszy i to jego wsparcie skończy się najwcześniej — dziś działa znakomicie, ale kupując P40 czy P4 świadomie bierzesz sprzęt „na teraz i kilka lat", nie „na dekadę". Ampere (A2) daje najwięcej oddechu na przyszłość. Volta (V100) też już jest na liście architektur wycofywanych w CUDA 13 — razem z Pascalem — więc traktuj ją podobnie: świetna „na teraz", nie na dekadę. To nie powód, żeby nie kupować Pascala czy Volty — to powód, żeby wiedzieć, co się kupuje.

Certyfikat, czyli jak nie kupić kota w worku

Największe ryzyko przy używce serwerowej to nie „że stare", tylko „że niesprawne albo katowane". Karta z centrum danych mogła pracować latami pod pełnym obciążeniem. Dlatego przed zakupem pytaj o dowód, że egzemplarz przeszedł test pod obciążeniem — najlepiej gpu-burn przez kilka–kilkanaście minut z wynikiem bez błędów obliczeniowych i bez problemów z pamięcią. To ta sama filozofia, co jazda próbna przed kupnem auta: nie „jak wygląda", tylko „jak się zachowuje pod presją". Egzemplarz z takim wynikiem to zupełnie inny poziom pewności niż karta „sprawdzona, działała jak wyjmowałem".

---

Ten przewodnik prowadzę na blogu Agile Store, gdzie zajmujemy się używanymi akceleratorami NVIDIA Tesla — każdy egzemplarz, który u nas przechodzi, dostaje test gpu-burn z certyfikatem. Ale niezależnie od tego, gdzie kupisz: pytaj o wynik testu pod obciążeniem i przygotuj chłodzenie, zanim karta przyjdzie. Reszta to już frajda.