Serwer AI Rome – AMD EPYC, 2–6 GPU, rack 4U

Jakie modele uruchomią Państwo na tym zestawie

Wybrana konfiguracja ma 32 GB pamięci graficznej (VRAM). Swobodnie zmieszczą się w niej na przykład te otwarte modele językowe:

Seed-OSS-36B28 GB
DeepSeek-R2 32B24 GB
Qwen3-30B-A3B MoE20 GB
Gemma 3 27B18 GB
Mistral Small 3 24B14 GB
Qwen3-14B12 GB

Większy model Llama 3.3 70B / Qwen3-72B potrzebuje około 48 GB VRAM.

Szacunek orientacyjny dla modeli kwantyzowanych (zwykle Q4) z zapasem na kontekst. Rzeczywiste zapotrzebowanie na pamięć zależy od długości kontekstu i liczby jednoczesnych użytkowników.

Co dla Państwa zapewnimy

Preinstalacja na miarę
Linux, sterowniki NVIDIA, CUDA, Docker i oprogramowanie do Państwa zadania (np. vLLM lub Ollama) zainstalujemy wcześniej – po włączeniu można od razu pracować.
72 godziny pod obciążeniem
Każdy serwer przed przekazaniem obciążamy w pełni przez 72 godziny i kontrolujemy stabilność, temperatury oraz bezbłędność pamięci ECC.
Serwis w ciągu 24/48 godzin
Kluczowe części zamienne mamy na stanie w Pradze. Interwencję serwisową i wymianę części zapewnimy w ciągu 24/48 godzin.
Hosting w naszym centrum danych
Nie mają Państwo serwerowni? Umieścimy serwer w naszym centrum danych, zadbamy o zasilanie, chłodzenie i łącze, a Państwo mają do niego zdalny dostęp.

Jak postępujemy przy serwerach AI

Opis

Serwer AI PC Praha Rome to nasza uniwersalna platforma dla firmowej AI: chatbot oparty na wewnętrznych dokumentach, asystent dla programistów, przetwarzanie umów i e-maili lub API dla własnych aplikacji. Dane pozostają w firmie, a Państwo nie płacą za tokeny ani za subskrypcję chmury. 48-rdzeniowy procesor AMD EPYC 7643 ma wystarczająco dużo linii PCIe dla wszystkich kart, a płyta ASRock Rack ROMED8-2T oferuje 2× 10 GbE i zdalne zarządzanie IPMI.

Zestaw

Procesor	AMD EPYC 7643 (48 rdzeni, socket SP3)
Płyta główna	ASRock Rack ROMED8-2T – 2× 10 GbE, IPMI
Karty graficzne	2–4× RTX 5080 / RTX 4090 / RTX 5090 / RTX Pro 6000, 2–6× L4 / L40 / Intel Arc Pro B70; podłączenie przez risery PCIe
Pamięć operacyjna	256 lub 512 GB DDR4 ECC RDIMM
Dysk	NVMe 2 lub 4 TB
Zasilanie	2 kW ATX (2 karty) lub 2× 2 kW ATX (4–6 kart)
Obudowa i chłodzenie	rack 4U, wieżowe chłodzenie CPU, wentylatory systemowe

Ile pamięci graficznej Państwo potrzebują

Pamięć graficzna	Przykładowa konfiguracja	Co komfortowo uruchomią Państwo
32–64 GB	2× RTX 5080, 2× RTX 4090, 2× RTX 5090, 2× Arc Pro B70	Llama 3.3 70B / Qwen3-72B od 48 GB, mniejsze modele dla większej liczby użytkowników
96–128 GB	4× RTX 4090, 4× RTX 5090, 2× L40, 4× L4	GLM-4.5-Air 106B, Mixtral 8x22B, Qwen3.5-122B-A10B (MoE)
144–192 GB	6× L4, 4× L40, 6× Arc Pro B70, 2× RTX Pro 6000	Qwen3-235B-A22B (Q3–Q4), od 180 GB GLM-4.6 355B
288–384 GB	6× L40, 4× RTX Pro 6000	DeepSeek-V3.2 / R1 671B (Q2), Qwen3-Coder-480B, Kimi-K2 1T (1,58 bit)

Rozmiary modeli są orientacyjne (kwantyzacja Q4, o ile nie podano inaczej) według naszego konfiguratora. Rzeczywiste zapotrzebowanie na pamięć zależy od długości kontekstu i liczby jednoczesnych użytkowników. W przypadku modeli językowych pamięć kart się sumuje, natomiast generowanie obrazów i wideo wymaga całego modelu na jednej karcie.

Pasywne karty NVIDIA L4 i L40 wymagają przepływu powietrza w racku – w tej obudowie 4U są do tego przygotowane. L4 pobiera tylko 72 W, dlatego nadaje się do transkrypcji mowy, embeddingów i wyszukiwania w dokumentach przy niskim zużyciu energii.

Co Państwo otrzymują

Serwer złożony z nowych komponentów – składamy go i testujemy w Pradze.
Preinstalowane oprogramowanie dopasowane do tego, co chcą Państwo uruchamiać na serwerze (np. Ubuntu, sterowniki i CUDA, Docker, vLLM, llama.cpp, Ollama, ComfyUI). Po włączeniu jest od razu gotowy do pracy.
Przed przekazaniem 72 godziny testu obciążeniowego pod pełnym obciążeniem.
Gwarancja 24 miesiące. Części zamienne trzymamy w Pradze, interwencję serwisową zapewniamy w ciągu 24/48 godzin.
Serwer nie musi stać u Państwa – może pracować w naszym centrum danych (hosting), a my zadbamy o zasilanie, chłodzenie i łączność.

Eksploatacja i instalacja

Serwer jest przeznaczony do racku lub pomieszczenia technicznego z chłodzeniem. Przy pełnym obciążeniu pobiera, w zależności od kart, około 1,1–2,8 kW – doradzimy w sprawie zabezpieczenia i umiejscowienia. Jeśli będą Państwo potrzebować innego procesora lub innej kombinacji kart, złożymy ją na zamówienie.

Częste pytania

Ile kart zmieści serwer Rome?

Dużych kart RTX 5080, RTX 4090 i RTX 5090 do czterech, dwuslotowych kart L40, Intel Arc Pro B70 i jednoslotowych L4 do sześciu. Sześć RTX Pro 6000 budujemy na platformie Genoa.

Jaki model na nim uruchomię?

Zależy to od sumy pamięci graficznej: od 48 GB wygodnie Llama 3.3 70B, ze 128 GB modele około 120 miliardów parametrów (MoE), a z 4× RTX Pro 6000 (384 GB) nawet największe otwarte modele w silnej kwantyzacji.

Dlaczego DDR4, a nie DDR5?

Platforma EPYC 7003 z DDR4 ECC to najlepszy stosunek ceny do wydajności przy inferencji na kartach graficznych – obliczenia odbywają się na GPU. Dla DDR5 i PCIe 5.0 oferujemy serwery Genoa i Turin.

Czy mogę umieścić serwer u Państwa?

Tak. Serwer może stać w naszym centrum danych, zadbamy o zasilanie, chłodzenie i łącze, a Państwo uzyskują do niego dostęp zdalnie.

Opinie klientów

Nie ma tu jeszcze żadnych ocen.

Oceniać mogą tylko klienci, którzy kupili u nas produkt – link do oceny wyślemy im e-mailem po zakupie.

Inne serwery AI

Pokaż wszystko

Serwer AI PC Praha Epic Elite – 2× RTX 4090, AMD EPYC 9754, 384 GB RAM
- 2× RTX 4090
- 48 GB VRAM
- EPYC 9754
- 384 GB RAM
260 093 Kč bez VAT
314 713 Kč z VAT
Na zamówienie, termin potwierdzimy
Konfigurowalny
Serwer AI PC Praha Edge – mobilna wieża, do 6 GPU
- 2–6 GPU
- 32–384 GB VRAM
- EPYC 7643
- 256–512 GB RAM
od 280 405 Kč bez VAT
339 290 Kč z VAT
Złożenie zwykle 5–7 dni roboczych
Dell Pro Max z GB10 – NVIDIA GB10, 128 GB, 4 TB
- GB10 Grace Blackwell
- 128 GB RAM
191 066 Kč bez VAT
231 190 Kč z VAT
NVIDIA DGX Spark – GB10 Grace Blackwell, 128 GB, 4 TB
- GB10 Grace Blackwell
- 128 GB RAM
181 893 Kč bez VAT
220 090 Kč z VAT