AI server PC Praha Rome Dual – 2× EPYC, 8 GPU
PC Praha · AI and GPU servers
AI server PC Praha Rome Dual – 2× EPYC, 8 GPU
Assembly and testing: usually 5–7 working days. We often have the server in stock and ship it straight away – we always confirm the date individually.
What the build includes
- Graphics cards
- 8× RTX 5080 16 GB 128 GB VRAM in total
- Processor
- 2× EPYC 7643 · Milan 48C
- Motherboard
- ASRock ROME2D32GM-NL
- Memory
- 8× 64 GB DDR4 ECC RDIMM 512 GB in total
- Storage
- 4 TB NVMe
- Power supply
- Server power supply 5× 1000 W
- Chassis
- 7U rack for 8 GPUs
- GPU risers
- 8× active PCIe 5.0 riser
- Cooling
- CPU cooler and server fans
- Assembly
- Assembly, OS installation and 72-hour stress test
The price above is for the complete server including assembly. We are happy to quote a different CPU, network card or chassis.
Osm grafických karet a dva procesory AMD EPYC v jednom 7U racku. Pro velké jazykové modely pro celé týmy, dolaďování modelů a výpočty, kde jedna čtyřkartová sestava nestačí.
Full description, video and specificationsWhich models this build can run
The selected configuration has 128 GB of graphics memory (VRAM). It comfortably fits, for example, these open language models:
- Qwen3.5-122B-A10B80 GB
- Mixtral 8x22B80 GB
- GLM-4.5-Air 106B72 GB
- Mistral Large 2 123B70 GB
- Llama 3.3 70B / Qwen3-72B48 GB
- Seed-OSS-36B28 GB
- DeepSeek-R2 32B24 GB
- Qwen3-30B-A3B MoE20 GB
The larger model Qwen3-235B-A22B needs roughly 140 GB of VRAM.
Indicative estimate for quantised models (mostly Q4) with headroom for context. Actual memory needs depend on context length and the number of concurrent users.
What we take care of
-
Custom pre-installation
We pre-install Linux, NVIDIA drivers, CUDA, Docker and the software for your workload (e.g. vLLM or Ollama) – you can start working as soon as you switch it on.
-
72 hours under load
Before handover every server runs at full load for 72 hours while we check stability, temperatures and ECC memory errors.
-
Service within 24/48 hours
We keep key spare parts in stock in Prague. Service visits and part replacement within 24/48 hours.
-
Hosting in our data centre
No server room? We place the server in our data centre, take care of power, cooling and connectivity, and you access it remotely.
Description
AI server PC Praha Rome Dual spojuje osm grafických karet s dvouprocesorovou deskou ASRock ROME2D32GM-NL a dvěma procesory AMD EPYC 7643 (96 jader celkem). Karty jsou připojené aktivními PCIe risery a napájí je redundantní serverové zdroje. Je to nejdostupnější cesta k osmi kartám – paměť DDR4 ECC je výrazně levnější než DDR5 a pro výpočty na grafických kartách výkon nebrzdí.
Sestava
| Procesory | 2× AMD EPYC 7643 (2× 48 jader, socket SP3) |
| Základní deska | ASRock ROME2D32GM-NL (dvouprocesorová) |
| Grafické karty | 8× podle volby: RTX 5080, RTX 4090, RTX 5090, Intel Arc Pro B70, NVIDIA L4, NVIDIA L40 nebo RTX Pro 6000; aktivní PCIe risery |
| Operační paměť | 512 GB nebo 1 TB DDR4 ECC |
| Disk | NVMe 4 nebo 8 TB |
| Napájení | redundantní serverové zdroje (5 modulů) |
| Skříň | 7U rack pro 8 karet |
Kolik grafické paměti potřebujete
| Grafická paměť | Příklad konfigurace | Co pohodlně poběží |
|---|---|---|
| 128 GB | 8× RTX 5080 | Qwen3.5-122B-A10B, GLM-4.5-Air 106B (MoE) |
| 192 GB | 8× RTX 4090, 8× L4 | GLM-4.6 355B (Q4), Qwen3-235B-A22B |
| 256 GB | 8× RTX 5090, 8× Arc Pro B70 | DeepSeek-V3.2 / R1 671B (Q2), Qwen3-Coder-480B; plné dolaďování modelu 70B |
| 384 GB | 8× L40 | Kimi-K2 1T (1,58 bit) s rezervou na dlouhý kontext |
| 768 GB | 8× RTX Pro 6000 | největší otevřené modely ve vyšší přesnosti a pro více uživatelů současně |
Velikosti modelů jsou orientační (kvantizace Q4, pokud není uvedeno jinak) podle našeho konfigurátoru. Skutečná potřeba paměti závisí na délce kontextu a počtu současných uživatelů. U jazykových modelů se paměť karet sčítá, generování obrázků a videa potřebuje celý model na jedné kartě.
Co dostanete
- Server sestavený z nových komponent, sestavujeme a testujeme ho v Praze.
- Předinstalovaný software podle toho, co na serveru chcete provozovat (např. Ubuntu, ovladače a CUDA, Docker, vLLM, llama.cpp, Ollama, ComfyUI). Po zapnutí je hned připravený k práci.
- Před předáním 72 hodin zátěžového testu pod plnou zátěží.
- Záruka 24 měsíců. Náhradní díly držíme v Praze, servisní zásah zajistíme do 24/48 hodin.
- Server nemusí stát u vás – můžete ho mít v našem datacentru (hosting), postaráme se o napájení, chlazení a připojení.
Provoz a instalace
Server patří do racku nebo serverovny. Podle karet odebírá zhruba 1,2 až 5,4 kW a potřebuje odpovídající přívod a chlazení – pomůžeme s návrhem, nebo ho provozujte v našem datacentru. Rychlejší síť pro propojení více serverů (25 až 400 GbE) doplníme na přání.