AI server PC Praha Turin Dual – 2× EPYC 9005, až 16 GPU
PC Praha · AI and GPU servers
AI server PC Praha Turin Dual – 2× EPYC 9005, až 16 GPU
Assembly and testing: usually 5–7 working days. We often have the server in stock and ship it straight away – we always confirm the date individually.
What the build includes
- Graphics cards
- 4× RTX 5080 16 GB 64 GB VRAM in total
- Processor
- 2× EPYC 9355 · Turin 32C
- Motherboard
- ASRock TURIN2D24XGM
- Memory
- 12× 64 GB DDR5 ECC RDIMM 768 GB in total
- Storage
- 4 TB NVMe
- Power supply
- 4× 2000 W power supply, redundant
- Chassis
- 7U rack for 8 GPUs
- GPU risers
- 4× PCIe riser
- Cooling
- CPU cooler and server fans
- Assembly
- Assembly, OS installation and 72-hour stress test
The price above is for the complete server including assembly. We are happy to quote a different CPU, network card or chassis.
Naše vlajková platforma: dva procesory AMD EPYC 9005, až 1,5 TB paměti DDR5 ECC a čtyři až osm grafických karet – nebo šestnáct karet RTX Pro 6000 s 1,5 TB grafické paměti.
Full description, video and specificationsWhich models this build can run
The selected configuration has 64 GB of graphics memory (VRAM). It comfortably fits, for example, these open language models:
- Llama 3.3 70B / Qwen3-72B48 GB
- Seed-OSS-36B28 GB
- DeepSeek-R2 32B24 GB
- Qwen3-30B-A3B MoE20 GB
- Gemma 3 27B18 GB
- Mistral Small 3 24B14 GB
- Qwen3-14B12 GB
The larger model Mistral Large 2 123B needs roughly 70 GB of VRAM.
Indicative estimate for quantised models (mostly Q4) with headroom for context. Actual memory needs depend on context length and the number of concurrent users.
What we take care of
-
Custom pre-installation
We pre-install Linux, NVIDIA drivers, CUDA, Docker and the software for your workload (e.g. vLLM or Ollama) – you can start working as soon as you switch it on.
-
72 hours under load
Before handover every server runs at full load for 72 hours while we check stability, temperatures and ECC memory errors.
-
Service within 24/48 hours
We keep key spare parts in stock in Prague. Service visits and part replacement within 24/48 hours.
-
Hosting in our data centre
No server room? We place the server in our data centre, take care of power, cooling and connectivity, and you access it remotely.
Description
AI server PC Praha Turin Dual stojí na dvouprocesorové desce ASRock TURIN2D24XGM se dvěma procesory AMD EPYC 9355 (2× 32 jader, Zen 5). Dvacet čtyři pozic DDR5 ECC dovolí osadit 768 GB nebo 1,5 TB operační paměti. Je určený pro výzkum, dolaďování modelů a provoz největších otevřených modelů pro celou firmu – a ve verzi s šestnácti kartami RTX Pro 6000 pro úlohy, na které se jinak pronajímá cluster.
Sestava
| Procesory | 2× AMD EPYC 9355 (2× 32 jader, Zen 5, socket SP5) |
| Základní deska | ASRock TURIN2D24XGM (dvouprocesorová) |
| Grafické karty | 4, 6 nebo 8× podle volby: RTX 5080, RTX 4090, RTX 5090, Intel Arc Pro B70, NVIDIA L4, NVIDIA L40 nebo RTX Pro 6000; nebo 16× RTX Pro 6000 (PCIe 5.0 x8) |
| Operační paměť | 768 GB nebo 1,5 TB DDR5 ECC |
| Disk | NVMe 4 nebo 8 TB |
| Napájení | redundantní serverové zdroje (u 16 karet dvojitá sada) |
| Skříň | 7U rack |
Kolik grafické paměti potřebujete
| Grafická paměť | Příklad konfigurace | Co pohodlně poběží |
|---|---|---|
| 64–192 GB | 4–8× RTX 5080 / RTX 4090, 4–6× RTX 5090, 4× L40 | Llama 3.3 70B až GLM-4.6 355B (Q4) |
| 256–384 GB | 8× RTX 5090, 6–8× L40, 4× RTX Pro 6000 | DeepSeek-V3.2 / R1 671B (Q2), Qwen3-Coder-480B, Kimi-K2 1T (1,58 bit); plné dolaďování modelu 70B |
| 576–768 GB | 6–8× RTX Pro 6000 | největší otevřené modely s rezervou na kontext a mnoho uživatelů |
| 1 536 GB | 16× RTX Pro 6000 | dotrénování velkých modelů (100B+) a provoz několika největších modelů současně |
Velikosti modelů jsou orientační (kvantizace Q4, pokud není uvedeno jinak) podle našeho konfigurátoru. Skutečná potřeba paměti závisí na délce kontextu a počtu současných uživatelů. U jazykových modelů se paměť karet sčítá, generování obrázků a videa potřebuje celý model na jedné kartě.
Co dostanete
- Server sestavený z nových komponent, sestavujeme a testujeme ho v Praze.
- Předinstalovaný software podle toho, co na serveru chcete provozovat (např. Ubuntu, ovladače a CUDA, Docker, vLLM, llama.cpp, Ollama, ComfyUI). Po zapnutí je hned připravený k práci.
- Před předáním 72 hodin zátěžového testu pod plnou zátěží.
- Záruka 24 měsíců. Náhradní díly držíme v Praze, servisní zásah zajistíme do 24/48 hodin.
- Server nemusí stát u vás – můžete ho mít v našem datacentru (hosting), postaráme se o napájení, chlazení a připojení.
Provoz a instalace
Server patří do serverovny. S osmi kartami odebírá zhruba 1,2 až 5,4 kW, se šestnácti kartami RTX Pro 6000 kolem 10 kW – návrh napájení a chlazení připravíme s vámi, nebo server provozujeme v našem datacentru. Rychlou síť až 400 GbE doplníme na přání.