Serwery AI
DELL POWEREDGE R740
Gotowe, przetestowane serwery GPU 2U oparte na Dell PowerEdge R740 z 1–3 akceleratorami NVIDIA Tesla V100 32 GB. Konfiguracje zapewniają od 32 do 96 GB HBM2 fizycznej pamięci GPU i są przygotowane do lokalnej inferencji LLM, fine-tuningu oraz klasycznych obciążeń deep learning. Serwer dostarczamy z kompletnym GPU enablement, skonfigurowanym chłodzeniem, zasilaniem i gwarancją 12 miesięcy.
Gotowy do uruchamiania obciążeń AI.
KONFIGURACJE
Jedna platforma w trzech konfiguracjach sprzętowych. Każda wersja ma tę samą, w pełni wyposażoną bazę R740. Różnią się procesorami, liczbą kart V100 32 GB i ilością RAM — konfigurację można później rozbudować o kolejne karty GPU, bo zasilanie i okablowanie GPU są w zestawie od początku.
Inferencja modeli do ~14B, prototypy, fine-tuning LoRA, jedna usługa AI w firmie.
Modele ~30B w 8-bit lub 70B w 4-bit (podział między dwie karty), trening klasycznych sieci na dwóch kartach.
Konfiguracja z 96 GB fizycznej pamięci GPU w trzech kartach, przeznaczona m.in. do większych modeli, dłuższego kontekstu oraz równoległego uruchamiania kilku usług.
Sprzedaż wyłącznie B2B, faktura VAT 23%.
KONFIGURACJA NA ZAMÓWIENIE
Konfiguracje niestandardowe wyceniamy indywidualnie. Trzy przedstawione warianty stanowią standardowe konfiguracje bazowe. Jeśli Twój projekt wymaga innego zestawu, przygotujemy wycenę serwera R740 dobranego do Twojego obciążenia.
Inna liczba kart V100 32 GB lub inne akceleratory z naszej oferty, np. Tesla P40 24 GB, Tesla P100 16 GB, Tesla V100 16 GB.
Więcej lub mniej pamięci DDR4 ECC niż w wersjach standardowych.
Inna liczba i pojemność dysków SSD oraz układ RAID.
Inne modele Intel Xeon Scalable na zamówienie.
Prześlij informacje o planowanym obciążeniu, modelu lub środowisku. Na tej podstawie zaproponujemy konfigurację i przedstawimy wycenę, zwykle w ciągu jednego dnia roboczego.
SPECYFIKACJA PLATFORMY
Wspólna baza każdej konfiguracji. Platforma przygotowana do obsługi maksymalnie 3× GPU typu double-width, z kompletem riserów, chłodzenia, zasilania i kabli GPU. Procesory, RAM i GPU zależą od wersji.
CO URUCHOMISZ
Dostępna pamięć GPU jest jednym z głównych parametrów określających możliwy rozmiar modelu. Poniżej orientacyjne dopasowanie — dokładne wymagania zależą m.in. od długości kontekstu, wielkości batcha oraz używanego frameworka.
| Zadanie | 1× V100 32 GB | 2× V100 64 GB | 3× V100 96 GB |
|---|---|---|---|
| Inferencja LLM 7–14BFP16, np. Mistral 7B; Qwen 14B w FP16 przy krótszym kontekście lub w 8-bit | tak | tak | tak |
| Inferencja LLM ~30B8-bit ~32 GB lub 4-bit ~20 GB; FP16 ~60 GB samych wag | 4-bit | 8-bit | ✓ (FP16 z krótkim kontekstem) |
| Inferencja LLM 70Bkwantyzacja 4-bit ~40 GB + kontekst, tensor parallel | nie | 4-bit | 4-bit, dłuższy kontekst |
| Fine-tuning LoRA / QLoRAmodele 7–13B | tak | tak | tak |
| Klasyczne DL: wizja, detekcja, NLPtrening data-parallel | tak | 2 karty | 3 karty |
| Kilka niezależnych usług narazniezależne obciążenia przypisane do poszczególnych kart | nie | 2 | 3 |
Ograniczenia architektury NVIDIA Volta: NVIDIA Tesla V100 oferuje rdzenie Tensor dla obliczeń mixed-precision FP16 oraz wysoką wydajność CUDA w FP32. Nie obsługuje BF16 ani FlashAttention 2. W PyTorch, vLLM czy llama.cpp modele mogą być uruchamiane w FP16 lub kwantyzacji — działa to stabilnie, a każda karta oferuje 32 GB pamięci HBM2.
GOTOWY DO PRACY
Karty zamontowane na riserach GPU, podłączone kablami zasilania GPU, pod osłoną powietrza GPU i z wentylatorami wysokiej wydajności.
Preinstalowane Ubuntu z właściwymi sterownikami i skryptami testującymi, do weryfikacji sprzętu po odbiorze.
Zapewniamy wsparcie w doborze konfiguracji oraz uruchomieniu pierwszego obciążenia.
CERTYFIKACJA
Każdy serwer przed wysyłką przechodzi pełny przebieg certyfikacyjny w dokładnie tej konfiguracji, w której zostanie dostarczony — z tymi procesorami, modułami pamięci, dyskami, kartami GPU, zasilaczami i interfejsami sieciowymi. Przed rozpoczęciem testów obciążeniowych system automatycznie porównuje wykrytą konfigurację z profilem oczekiwanym dla danego egzemplarza. Przebieg obejmuje stan wejściowy, obciążenia, stan wyjściowy oraz automatyczną ocenę kompletności materiału dowodowego. Przebieg przerwany, niepełny lub niespełniający kryteriów certyfikacyjnych nie może uzyskać statusu CERTIFICATION.
Przed rozpoczęciem testów obciążeniowych sprawdzamy stan systemu raportowany przez iDRAC, zgodność wykrytej konfiguracji z profilem oczekiwanym, wersje firmware, profil BIOS, zasilacze i redundancję zasilania, interfejsy sieciowe, kontroler RAID oraz pełny, świeży inwentarz sprzętu z numerami seryjnymi. Dla każdej karty GPU odczytywana jest również rzeczywista szerokość i prędkość łącza PCIe z LnkSta. Przebieg nie przechodzi do właściwej certyfikacji, jeśli wymagane dane wejściowe są niekompletne lub konfiguracja nie odpowiada profilowi egzemplarza.
Serwer przechodzi burn-in procesorów, test stabilności pamięci, diagnostykę SMART i self-test każdego nośnika w trybie obsługiwanym przez dany nośnik, kontroler i firmware, pomiar przepustowości pamięci, pomiar wydajności obliczeniowej procesorów, testy obliczeniowe GPU oraz testy OpenCL/CUDA. Na końcu wykonywane jest obciążenie łączne procesorów i wszystkich kart GPU. Temperatura, błędy ECC oraz zdarzenia systemowe są monitorowane w trakcie przebiegu.
Po obciążeniach ponownie sprawdzane są liczniki ECC kart GPU, dzienniki jądra, zdarzenia sprzętowe i stan kluczowych komponentów, a wyniki porównywane są ze stanem wejściowym. Ocena końcowa ma trzy niezależne warstwy: wynik sprzętu (Hardware Result), kompletność materiału dowodowego (Evidence Pipeline) i wynik certyfikacji (Certification Result), czyli końcową kwalifikację przebiegu jako certyfikację, walidację lub wynik negatywny. Certyfikat jest wydawany wyłącznie dla przebiegu zakończonego wynikiem CERTIFICATION.
Opis pełnego przebiegu certyfikacyjnego i dokumentów wynikowych znajdziesz na osobnej stronie.
BAZA WIEDZY
Budowa serwera AI to nie tylko wybór liczby kart GPU. Przygotowaliśmy techniczne materiały dotyczące platform rackowych, pamięci VRAM, rzeczywistej wydajności używanych Tesli oraz konfiguracji lokalnych modeli AI.
Jak dobrać platformę rack, chłodzenie, zasilanie i GPU oraz na co uważać przy używanym serwerze.
Porównanie kosztu stacji roboczej i używanych kart Tesla do lokalnych zastosowań AI.
Nasze pomiary generacji i czasu prefill na używanych kartach NVIDIA Tesla.
Porównanie dwóch generacji GPU pod trening, LoRA i zastosowania AI.
P40, P100, V100, P4 i A2: architektury, VRAM i zastosowania.
Above 4G, BAR/MMIO, zasilanie, sterowniki i chłodzenie kart serwerowych.
CZĘSTE PYTANIA
Dobór konfiguracji zależy przede wszystkim od wielkości modelu, sposobu kwantyzacji, długości kontekstu i liczby równoległych użytkowników. R740 z jedną V100 32 GB jest odpowiedni m.in. do modeli 7–14B. Dwie lub trzy karty pozwalają dzielić większe modele pomiędzy GPU oraz zwiększać dostępny budżet pamięci.
Oferowana przez nas konfiguracja Dell PowerEdge R740 jest przygotowana pod maksymalnie trzy karty double-width NVIDIA Tesla V100 PCIe. Platforma zawiera odpowiednie risery, chłodzenie, zasilanie i okablowanie GPU.
Nie automatycznie. Każda V100 ma własne 32 GB HBM2. Trzy karty dają łącznie 96 GB fizycznej pamięci GPU, ale model musi zostać podzielony pomiędzy karty przez framework lub backend obsługujący pracę multi-GPU.
Tak. Platforma jest od początku wyposażona w risery, chłodzenie, zasilanie i okablowanie wymagane do obsługi maksymalnie trzech kart double-width GPU. Rozbudowa polega przede wszystkim na dołożeniu kolejnych kart GPU oraz, jeśli wymaga tego docelowa konfiguracja, rozbudowie lub wymianie pamięci RAM i procesorów.
Tak. V100 32 GB zapewnia dużą pojemność HBM2 i wysoką przepustowość pamięci. Sprawdza się m.in. przy inferencji modeli LLM w FP16 lub kwantyzacji. Należy jednak uwzględnić, że architektura Volta nie obsługuje BF16 ani nowszych funkcji dostępnych w kolejnych generacjach GPU.
Każda karta przechodzi kwalifikację na stanowisku testowym przed instalacją w serwerze: odczyt trwałych identyfikatorów egzemplarza, test pamięci, burn-in pod obciążeniem z nadzorem termicznym i sprawdzenie poprawności obliczeń. Do każdej sztuki wystawiamy certyfikat przypisany do egzemplarza. Szczegóły: jak sprawdzamy każdy używany akcelerator GPU.
Złożony serwer przechodzi osobny przebieg certyfikacyjny w końcowej konfiguracji wysyłkowej. Najpierw system automatycznie sprawdza zgodność wykrytego sprzętu z profilem oczekiwanym dla konkretnego egzemplarza, stan iDRAC, BIOS, firmware, zasilanie, sieć, RAID, pamięć oraz parametry PCIe każdej karty GPU.
Następnie wykonywane są testy CPU, RAM, nośników, GPU i obciążenie całego systemu. Po zakończeniu wyniki porównywane są ze stanem wejściowym, w tym liczniki ECC i logi błędów.
Certyfikat jest wystawiany tylko wtedy, gdy zarówno sprzęt, jak i kompletność materiału dowodowego spełniają wymagania procedury certyfikacyjnej. Do serwera dołączany jest certyfikat z kodem weryfikacyjnym oraz inwentarz sprzętu z numerami seryjnymi. Pełny opis: certyfikacja serwerów AI.
Kwalifikacja pojedynczej karty GPU jest osobnym procesem i nie zastępuje certyfikacji całego serwera: inne narzędzia, inne warunki chłodzenia, inny przedmiot oceny. Wyników pomiarowych z obu procesów nie należy porównywać bezpośrednio.
Nie zapisuje danych ani wzorców testowych. Przebieg uruchamiamy z nośnika live, z systemem działającym w pamięci RAM. Certyfikacja nie instaluje systemu, nie partycjonuje, nie formatuje i nie wykonuje testów zapisujących dane użytkownika ani wzorce testowe na przestrzeni danych nośników docelowych. Stan dysków jest oceniany przez SMART oraz self-test dostępny dla danego typu nośnika, firmware i kontrolera RAID. Self-test wykonuje sam nośnik, a jego firmware może przy tym zaktualizować własny dziennik diagnostyczny SMART. Jeżeli pełny długi self-test nie jest obsługiwany lub jego wynik nie może być wiarygodnie uzyskany przez warstwę kontrolera, procedura odpowiednio uwzględnia ten fakt w końcowej kwalifikacji przebiegu.
Tak. Serwer jest dostarczany z preinstalowanym Ubuntu, właściwym sterownikiem NVIDIA oraz naszymi skryptami testowymi umożliwiającymi weryfikację działania sprzętu po odbiorze. Te skrypty to self-test odbiorczy, narzędzie osobne od certyfikacji: potwierdza obecność i działanie podzespołów po dostawie, nie ocenia wydajności i nie wystawia certyfikatu.
Standardowe konfiguracje Dell PowerEdge R740 AI są objęte gwarancją 12 miesięcy.
Prześlij informacje o planowanym modelu lub obciążeniu. Przygotujemy konfigurację i wycenę, zwykle w ciągu jednego dnia roboczego.