AI server Rome – AMD EPYC, 2 až 6 GPU, 4U rack

Aké modely na zostave pobežia

Zvolená konfigurácia má 32 GB grafickej pamäte (VRAM). Pohodlne sa do nej zmestia napríklad tieto otvorené jazykové modely:

Seed-OSS-36B28 GB
DeepSeek-R2 32B24 GB
Qwen3-30B-A3B MoE20 GB
Gemma 3 27B18 GB
Mistral Small 3 24B14 GB
Qwen3-14B12 GB

Väčší model Llama 3.3 70B / Qwen3-72B potrebuje približne 48 GB VRAM.

Orientačný odhad pre kvantizované modely (väčšinou Q4) s rezervou na kontext. Skutočná potreba pamäte závisí od dĺžky kontextu a počtu súbežných používateľov.

Čo pre vás zabezpečíme

Predinštalácia na mieru

Linux, ovládače NVIDIA, CUDA, Docker a softvér pre vašu úlohu (napríklad vLLM alebo Ollama) nainštalujeme vopred – po zapnutí môžete hneď pracovať.

72 hodín pod záťažou

Každý server pred odovzdaním 72 hodín naplno zaťažujeme a sledujeme stabilitu, teploty aj bezchybnosť pamätí ECC.

Servis do 24/48 hodín

Kľúčové náhradné diely držíme skladom v Prahe. Servisný zásah a výmenu dielov zabezpečíme do 24/48 hodín.

Hosting v našom dátovom centre

Nemáte serverovňu? Server umiestnime v našom dátovom centre, postaráme sa o napájanie, chladenie aj pripojenie a vy k nemu pristupujete na diaľku.

Popis

AI server PC Praha Rome je naše univerzální platforma pro firemní AI: chatbot nad interními dokumenty, asistent pro programátory, zpracování smluv a e-mailů nebo API pro vlastní aplikace. Data zůstávají ve firmě a neplatíte za tokeny ani předplatné cloudu. Procesor AMD EPYC 7643 se 48 jádry má dost linek PCIe pro všechny karty a deska ASRock Rack ROMED8-2T nabízí 2× 10 GbE a vzdálenou správu IPMI.

Sestava

Procesor	AMD EPYC 7643 (48 jader, socket SP3)
Základní deska	ASRock Rack ROMED8-2T – 2× 10 GbE, IPMI
Grafické karty	2–4× RTX 5080 / RTX 4090 / RTX 5090 / RTX Pro 6000, 2–6× L4 / L40 / Intel Arc Pro B70; připojení přes PCIe risery
Operační paměť	256 nebo 512 GB DDR4 ECC RDIMM
Disk	NVMe 2 nebo 4 TB
Napájení	2 kW ATX (2 karty) nebo 2× 2 kW ATX (4–6 karet)
Skříň a chlazení	4U rack, věžový chladič CPU, systémové ventilátory

Kolik grafické paměti potřebujete

Grafická paměť	Příklad konfigurace	Co pohodlně poběží
32–64 GB	2× RTX 5080, 2× RTX 4090, 2× RTX 5090, 2× Arc Pro B70	Llama 3.3 70B / Qwen3-72B od 48 GB, menší modely pro více uživatelů
96–128 GB	4× RTX 4090, 4× RTX 5090, 2× L40, 4× L4	GLM-4.5-Air 106B, Mixtral 8x22B, Qwen3.5-122B-A10B (MoE)
144–192 GB	6× L4, 4× L40, 6× Arc Pro B70, 2× RTX Pro 6000	Qwen3-235B-A22B (Q3–Q4), od 180 GB GLM-4.6 355B
288–384 GB	6× L40, 4× RTX Pro 6000	DeepSeek-V3.2 / R1 671B (Q2), Qwen3-Coder-480B, Kimi-K2 1T (1,58 bit)

Velikosti modelů jsou orientační (kvantizace Q4, pokud není uvedeno jinak) podle našeho konfigurátoru. Skutečná potřeba paměti závisí na délce kontextu a počtu současných uživatelů. U jazykových modelů se paměť karet sčítá, generování obrázků a videa potřebuje celý model na jedné kartě.

Pasivní karty NVIDIA L4 a L40 potřebují proudění vzduchu v racku – v této 4U skříni jsou na to připravené. L4 má jen 72 W, a proto se hodí na přepis řeči, embeddingy a vyhledávání nad dokumenty s malou spotřebou.

Co dostanete

Server sestavený z nových komponent, sestavujeme a testujeme ho v Praze.
Předinstalovaný software podle toho, co na serveru chcete provozovat (např. Ubuntu, ovladače a CUDA, Docker, vLLM, llama.cpp, Ollama, ComfyUI). Po zapnutí je hned připravený k práci.
Před předáním 72 hodin zátěžového testu pod plnou zátěží.
Záruka 24 měsíců. Náhradní díly držíme v Praze, servisní zásah zajistíme do 24/48 hodin.
Server nemusí stát u vás – můžete ho mít v našem datacentru (hosting), postaráme se o napájení, chlazení a připojení.

Provoz a instalace

Server patří do racku nebo technické místnosti s chlazením. Při plné zátěži odebírá podle karet zhruba 1,1 až 2,8 kW – poradíme s jističem i umístěním. Když budete potřebovat jiný procesor nebo jinou kombinaci karet, sestavíme ji na míru.

Časté otázky

Kolik karet do serveru Rome vejde?

Velké karty RTX 5080, RTX 4090 a RTX 5090 až čtyři, dvouslotové karty L40, Intel Arc Pro B70 a jednoslotové L4 až šest. Šest RTX Pro 6000 stavíme na platformě Genoa.

Jaký model na něm poběží?

Záleží na součtu grafické paměti: od 48 GB pohodlně Llama 3.3 70B, se 128 GB modely kolem 120 miliard parametrů (MoE), se 4× RTX Pro 6000 (384 GB) i největší otevřené modely v silné kvantizaci.

Proč DDR4 a ne DDR5?

Platforma EPYC 7003 s DDR4 ECC je nejlepší poměr cena/výkon pro inferenci na grafických kartách – výpočet běží na GPU. Pro DDR5 a PCIe 5.0 nabízíme servery Genoa a Turin.

Můžu server umístit u vás?

Ano. Server můžete mít v našem datacentru, postaráme se o napájení, chlazení i připojení a vy k němu přistupujete vzdáleně.

Ďalšie AI servery

Zobraziť všetko

AI server PC Praha Epic Elite – 2× RTX 4090, AMD EPYC 9754, 384 GB RAM
- 2× RTX 4090
- 48 GB VRAM
- EPYC 9754
- 384 GB RAM
260 093 Kč bez DPH
314 713 Kč s DPH
Na objednávku, termín potvrdíme
Konfigurovateľný
AI server PC Praha Edge – pojízdná věž, až 6 GPU
- 2–6 GPU
- 32–384 GB VRAM
- EPYC 7643
- 256–512 GB RAM
od 277 512 Kč bez DPH
335 790 Kč s DPH
Zostavenie zvyčajne 5–7 pracovných dní
Dell Pro Max s GB10 – NVIDIA GB10, 128 GB, 4 TB
- GB10 Grace Blackwell
- 128 GB zjednotená pamäť
191 066 Kč bez DPH
231 190 Kč s DPH
ASUS ROG G700 – RTX 5090 32 GB, Core Ultra 7 265KF, 64 GB, 2 TB
- RTX 5090
- 32 GB VRAM
- Core Ultra 7 265KF
- 64 GB RAM
166 107 Kč bez DPH
200 990 Kč s DPH