Stable Diffusion na używanej Tesli - która karta i czego się spodziewać

Od kilku miesięcy generuję obrazki na kartach, które kiedyś stały w serwerowniach jako akceleratory obliczeniowe, a nie karty graficzne w tradycyjnym sensie. Zero wyjścia wideo, zasilanie EPS zamiast PCIe, chłodzenie pasywne wymagające wymuszonego przepływu powietrza — Tesla to sprzęt, który trzeba oswoić, zanim odpali pierwszy render w A1111 czy ComfyUI. Krótka odpowiedź na tytułowe pytanie: jeśli zależy Ci na komforcie VRAM-u i pracy na wielu modelach naraz, patrz w stronę P40. Jeśli liczy się tempo generacji, bez wahania V100. Cała reszta to niuanse, ale te niuanse decydują, czy będziesz zadowolony z zakupu, czy zawiedziony już przy pierwszym batchu.

Co w Stable Diffusion tak naprawdę liczy się na karcie

W generatywnej grafice ścierają się dwie osie, które łatwo pomylić: pojemność VRAM i szybkość liczenia w FP16. To nie to samo, a w świecie serwerowych Tesli te dwie cechy bywają od siebie oderwane w sposób, który zaskakuje ludzi przyzwyczajonych do kart konsumenckich.

VRAM decyduje o tym, co w ogóle się zmieści — rozdzielczość, rozmiar batcha, liczba jednocześnie załadowanych modeli i LoRA, czy w ogóle odpali SDXL bez swapowania na dysk. FP16 (i wsparcie sprzętowe w postaci rdzeni Tensor) decyduje o tym, jak szybko powstanie jeden obrazek. Karta może mieć góry pamięci i przy tym być wolna, albo mieć jej niewiele, a mielić błyskawicznie. Właśnie to jest sedno wyboru między P40 a V100.

P40 — komfort pojemności, ale FP16 kuleje

Tesla P40 to 24GB GDDR5 i 346GB/s przepustowości — na papierze wygląda jak spora karta do AI. Problem w tym, że architektura Pascal ma mocno okrojoną wydajność FP16. W praktyce oznacza to, że Stable Diffusion uruchomiony w standardowym trybie half-precision będzie na tej karcie wolny, czasem zauważalnie wolniejszy niż powinien wynikać z samej specyfikacji.

Są dwa wyjścia. Pierwsze: pogodzić się z generacją w pełnej precyzji FP32, we automatic1111 to flaga --no-half. To realnie eliminuje ryzyko błędów wynikających z okrojonego FP16, ale kosztem czasu — obrazek powstaje wolniej. Drugie: zaakceptować, że P40 po prostu nie jest kartą do szybkiej masowej generacji, tylko do wygodnej pracy z dużymi zasobami — SDXL, kilka checkpointów i LoRA załadowanych jednocześnie, większe rozdzielczości bez OOM-ów.

Dla kogoś, kto eksperymentuje, testuje różne modele, buduje workflow w ComfyUy z wieloma gałęziami — te 24GB potrafią być bezcenne, mimo że każdy pojedynczy render trwa dłużej. Ja traktuję P40 jako kartę do pracy koncepcyjnej, nie do generowania setek obrazków pod rząd.

V100 — pełne FP16 i Tensor Cores robią różnicę

Tesla V100 to zupełnie inna liga pod względem architektury. Volta ma pełne wsparcie FP16 i dedykowane rdzenie Tensor, a do tego 900GB/s przepustowości dzięki pamięci HBM2 — to prawie trzy razy więcej niż P40. Różnica odczuwalna jest już przy pierwszym prompt-cie: generacja po prostu idzie sprawniej, bez kombinowania z flagami precyzji.

V100 występuje w wariantach 16GB i 32GB. Wersja 16GB spokojnie obsłuży SD1.5 i większość typowych workflow, natomiast 32GB to wybór, jeśli myślisz o SDXL, dużych batchach albo rozbudowanych pipeline'ach w ComfyUI z wieloma modelami kontrolnymi jednocześnie. Dla mnie to naturalny wybór, gdy zależy na tempie iteracji — a przy generatywnej grafice szybkość testowania promptów i ustawień ma znaczenie większe, niż się wydaje na starcie.

P100 i A2 — miejsce pomiędzy

Tesla P100 to karta trochę zapomniana w tym zestawieniu, a niesłusznie. Ma 16GB HBM2, pełne wsparcie FP16 i przyzwoitą przepustowość pamięci. Nie jest tak szybka jak V100, ale generuje bez kombinowania z --no-half, co samo w sobie jest sporym plusem względem P40. Mniej popularna do SD głównie dlatego, że mniej osób w ogóle o niej myśli — a szkoda, bo jako kompromis między ceną a wydajnością broni się nieźle.

A2 to zupełnie inna filozofia. Architektura Ampere daje wsparcie FP16/BF16 i 16GB GDDR6, ale wąskie pasmo pamięci — około 200GB/s — mocno ogranicza tempo generacji. Do tego bardzo niski pobór mocy. To karta, którą postrzegam bardziej jako cichy serwerek do lekkich zadań czy inferencji niż maszynę do intensywnej pracy z Stable Diffusion. Jeśli priorytetem jest cisza i niski pobór prądu, a nie prędkość — A2 ma sens. Jeśli liczy się tempo generacji, raczej nie tędy droga.

Wymagania SDXL i realny komfort

SDXL jest zauważalnie bardziej wymagający niż SD1.5, zarówno pod względem VRAM, jak i mocy obliczeniowej. W praktyce komfortowa praca zaczyna się gdzieś od 12–16GB w górę, przy większych rozdzielczościach i batchach lepiej mieć zapas. To dlatego 24GB na P40 i 32GB na V100 wypadają tak atrakcyjnie na papierze — problem w tym, że tylko na V100 ten zapas idzie w parze z rozsądnym tempem. Na P40 dostajesz przestrzeń, ale musisz zaakceptować wolniejszy render albo pracę w FP32.

Tabela porównawcza pod Stable Diffusion

Karta	VRAM	Pasmo	FP16	Charakter pracy w SD
P40	24GB GDDR5	346GB/s	okrojone, wymaga FP32/--no-half	duża pojemność, wolniejsza generacja
V100 16GB	16GB HBM2	900GB/s	pełne, Tensor Cores	szybka generacja, SD1.5 komfortowo
V100 32GB	32GB HBM2	900GB/s	pełne, Tensor Cores	szybka generacja + zapas pod SDXL/ComfyUI
P100	16GB HBM2	732GB/s	pełne	rozsądny kompromis cena/wydajność
A2	16GB GDDR6	ok. 200GB/s	pełne (FP16/BF16), niski pobór	cichy serwerek, nie do szybkiej generacji

Powyższa piątka to nie zamknięta lista, tylko karty, które najczęściej trafiają do SD i które akurat mamy w bieżącej ofercie — jeśli lepiej pasuje inny model, nowszy albo z większym VRAM-em, sprowadzamy go na zamówienie i wyceniamy na zapytanie.

Praktyka: A1111 i ComfyUI na Linuksie

Wszystkie te karty to konstrukcje pasywne, projektowane do pracy w serwerach z wymuszonym przepływem powietrza — bez dodatkowego kanału chłodzenia (shroud + wentylator) nawet nie próbuj ich uruchamiać dłużej niż kilka minut. Zasilanie idzie przez złącza EPS, nie przez typowe PCIe znane z kart konsumenckich, więc warto to sprawdzić przed zakupem zasilacza czy przejściówek. Brak wyjścia wideo oznacza pracę w trybie headless — instalacja i konfiguracja przez SSH, obraz oglądasz w przeglądarce przez interfejs A1111 albo ComfyUI.

Linux jest zdecydowanie lepiej wspierany niż Windows dla tej klasy kart — sterowniki datacenter (vGPU/Tesla) i CUDA działają tam po prostu stabilniej, a społeczność (r/StableDiffusion, wątki na GitHubie A1111, dyskusje na Hugging Face) dzieli się configami głównie pod Linuksa. Jeśli planujesz Windows, przygotuj się na więcej grzebania w sterownikach.

Przy P40 pamiętaj o fladze --no-half w A1111, inaczej ryzykujesz błędy NaN albo czarne obrazki — to częsty pierwszy problem, na jaki trafiają nowi użytkownicy tej karty. W ComfyUI warto też pilnować wersji PyTorch pod kątem wsparcia dla starszych generacji CUDA, bo nie każda nowa wersja biblioteki dobrze się z nimi dogaduje.

Kompromis: pojemność czy tempo

Nie ma tu jednej dobrej odpowiedzi, jest pytanie o Twój styl pracy. Jeśli generujesz dużo, szybko iterujesz prompty i chcesz widzieć wynik bez czekania — V100 wygrywa bez dyskusji, a 32GB dorzuca zapas na SDXL. Jeśli zależy Ci na pracy z wieloma modelami i LoRA jednocześnie, dużych rozdzielczościach, a czas generacji jest drugorzędny — P40 daje przestrzeń, której V100 16GB może zabraknąć. P100 to sensowny środek, a A2 zostawiam dla scenariuszy, gdzie liczy się cisza i pobór prądu bardziej niż prędkość.