Dwie karty pozwolą uruchomić model, który nie mieści się na jednej — ale nie dlatego, że VRAM sumuje się w jedną wielką pulę. llama.cpp i Ollama dzielą model na warstwy i rozkładają je między karty.
Czytaj dalej →Whisper (a najlepiej faster-whisper) świetnie transkrybuje polski, a lokalnie na GPU robi to szybko i bez wysyłania nagrań do zewnętrznej usługi. W naszym teście V100 32GB osiągnęła ~15× realtime, a P40/A2 ~6×.
Czytaj dalej →Jaki sprzęt na lokalny RAG po firmowych dokumentach — podział embeddingi (P4/A2) vs LLM (V100/P40), stack, RODO/ACL/OCR i uczciwy rachunek własny sprzęt vs chmura.
Czytaj dalej →Używany serwer 2U + Tesla pod lokalne AI: która baza (R730/DL380 vs R740/Supermicro), zasilanie, i dlaczego chłodzenie w racku nie jest darmowe — fan kit, riser, prąd, hałas, kolokacja.
Czytaj dalej →Ile realnie prądu biorą używane akceleratory (P4, A2, P40, P100, V100) i która ma najlepszy stosunek tokenów na wat — z naszych pomiarów poboru.
Czytaj dalej →Sama używana Tesla to dopiero połowa rachunku. Do działającego serwera AI potrzebujesz jeszcze stacji roboczej z odpowiednim BIOS-em, zasilania pod złącze CPU 8-pin (nie PCIe) i aktywnego chłodzenia karty pasywnej. Rozpisuję pełny bill-of-materials w złotówkach dla P40 24GB i V100 — z ukrytymi kosztami, o których nikt nie mówi, i z adapterem zasilania, który u nas jest w komplecie.
Czytaj dalej →Za ~2000 zł masz wybór: dużo VRAM taniej (używana Tesla V100/P100/A2 16 GB) albo wygoda konsumenckiego RTX 3060/4060 Ti. Rozkładam to uczciwie — zmierzone benchmarki LLM i SDXL, pobór mocy, chłodzenie, brak wyjścia obrazu i ukryty koszt starszego ekosystemu CUDA/PyTorch — i mówię, kiedy Tesla nie ma sensu.
Czytaj dalej →Jak sprawdzamy używane karty datacenter przed sprzedażą — sześć etapów kwalifikacji per sztuka i certyfikat przypisany do egzemplarza, który zweryfikujesz sam.
Czytaj dalej →Większość Tesli koduje wideo sprzętowo — ale nie każda się do tego nadaje. Pełna matryca NVENC/NVDEC, zmierzone strumienie transkodu całej rodziny i anty-poradnik: co kupić do Plex/Jellyfin, a czego nie.
Czytaj dalej →Tesla P4 to tani, energooszczędny transkoder do Plex/Jellyfin. Konfiguracja NVENC krok po kroku, pułapki Dockera i nasz benchmark z metodologią: ile strumieni 1080p i 4K realnie uciągnie enkoder — i czego liczba nie gwarantuje.
Czytaj dalej →PLLuM odpalisz lokalnie na używanej Tesli tak jak każdy model GGUF — przez Ollamę albo llama.cpp. Ile VRAM potrzebujesz, którą kartę (P40/P100/V100) wybrać i jak to uruchomić.
Czytaj dalej →Do lokalnego LLM w kwantyzacji wybierz P40 (24 GB, wygrywa w GGUF). P100 bierz świadomie do szybkiego FP16 (2:1), wysokiego pasma HBM2 i mocnego FP64 — kosztem 8 GB mniej pamięci. Największa pułapka: P40 ma FP16 rzędu 1/64 FP32, więc natywne FP16/ExLlama chodzą fatalnie. Z własnym benchmarkiem head-to-head na Bieliku-11B.
Czytaj dalej →Zmierzyliśmy Bielika i PLLuM na używanych Teslach — realne tokeny/s z czasem prefill, a nie tylko sama generacja. Liczby, warunki pomiaru i szablon do własnej weryfikacji.
Czytaj dalej →Kiedy CUDA 13 wygasza Maxwella, Pascala i Voltę, z naszej oferty w oficjalnym wsparciu CUDA Toolkit 13.x zostają A2 (Ampere) i T4 (Turing). Rozdzielamy CUDA Toolkit, sterownik i biblioteki AI, pokazujemy, że P40/V100 nadal działają na CUDA 12.x, i podpowiadamy — z tabelą zastosowanie → karta — kiedy dopłata do A2/T4 ma sens, a kiedy lepszy jest tańszy, pojemniejszy VRAM.
Czytaj dalej →Karta Tesla nie daje obrazu albo znika z nvidia-smi? Zwykle to nie awaria. Uporządkowana diagnostyka: brak wyjścia wideo, Above 4G i PCI/MMIO/BAR, sterownik, zasilanie CPU 8-pin (pinout), chłodzenie pasywne oraz rig 2–4× P40.
Czytaj dalej →Jeśli rozglądasz się za tanią kartą do AI z drugiej ręki, prawdopodobnie trafiłeś już na alarmujące nagłówki: „NVIDIA kończy wsparcie CUDA dla Pascala i Volty". Brzmi to jak wyrok na Teslę P40 czy V100 — najpopularniejsze używki pod lokalne modele. Krótka odpowiedź: karty nie przestają działać, al…
Czytaj dalej →Od kilku miesięcy generuję obrazki na kartach, które kiedyś stały w serwerowniach jako akceleratory obliczeniowe, a nie karty graficzne w tradycyjnym sensie. Zero wyjścia wideo, zasilanie EPS zamiast PCIe, chłodzenie pasywne wymagające wymuszonego przepływu powietrza — Tesla to sprzęt, który trzeba…
Czytaj dalej →Krótka odpowiedź, zanim rozwinę temat: jeśli planujesz realny fine-tuning — nawet z LoRA — i liczy się przepustowość liczenia na dużych batchach, sięgnij po V100, najlepiej wersję 32GB. Jeśli budujesz oszczędny serwer, na którym dostrajanie jest dodatkiem do inferencji, a priorytetem jest niski…
Czytaj dalej →Krótka odpowiedź: karty serwerowe NVIDIA (P40, P100, V100, P4, A2) nie mają własnego wentylatora — to Ty musisz im ten przepływ powietrza zapewnić, w serwerze lub w desktopie. Bez tego karta się przegrzeje, zdławi zegary (throttling), a przy dłuższym obciążeniu potrafi się zabezpieczająco wyłączyć.
Czytaj dalej →Jeśli prowadzisz badania, pilnujesz budżetu grantu albo kupujesz sprzęt do koła naukowego, prędzej czy później trafiasz na tę samą ścianę: nowy akcelerator data center kosztuje tyle, co roczne stypendium kilku doktorantów. Odpowiedź, do której sam doszedłem po kilku zakupach na własne potrzeby testo…
Czytaj dalej →Kupowanie karty obliczeniowej z drugiej ręki różni się od kupowania używanego GPU do grania. Największym ryzykiem nie jest to, że karta jest "stara" — Tesla P40 z 2016 roku potrafi solidnie pracować jeszcze długo. Prawdziwym ryzykiem jest to, że trafi się egzemplarz niesprawny albo wyeksploatowany…
Czytaj dalej →Krótka odpowiedź: tak, P40 świetnie nadaje się do lokalnych LLM — pod warunkiem, że trzymasz się modeli kwantyzowanych (GGUF) w llama.cpp albo Ollamie, a nie próbujesz odpalać czegoś, co chce natywnego FP16. Zignoruj to zastrzeżenie, a będziesz przekonany, że kupiłeś wadliwą kartę. Uwzględnij je, a…
Czytaj dalej →Krótko: 7B w kwantyzacji zmieści się na 8 GB, 13B komfortowo chce 16 GB, 34B wchodzi na 24 GB "na styk", a do 70B realnie potrzebujesz około 40-48 GB VRAM — czyli dwóch kart 24 GB albo jednej z dużą ilością pamięci. Poniżej rozpisuję, skąd biorą się te liczby i dlaczego kontekst potrafi to wszystko…
Czytaj dalej →Krótka odpowiedź, zanim rozwinę temat: jeśli stawiasz pierwszy raz lokalny model językowy i nie wiesz od czego zacząć, w 8 na 10 przypadków wygrywa Tesla P40 z 24 GB VRAM — nie dlatego, że jest najszybsza, tylko dlatego, że ma najwięcej pamięci za rozsądne pieniądze. Reszta tego tekstu to wyjaśnieni…
Czytaj dalej →Karty serwerowe dają moc data-center za ułamek ceny nowego sprzętu — ale mają swoje kwasy, o których nie przeczytasz w specyfikacji. Praktyczny przewodnik po V100, P40, P100, P4 i A2.
Czytaj dalej →