AI server PC Praha Turin Dual – 2× EPYC 9005, až 16 GPU
PC Praha · KI- und GPU-Server
AI server PC Praha Turin Dual – 2× EPYC 9005, až 16 GPU
Montage und Test: in der Regel 5–7 Werktage. Oft haben wir den Server auf Lager und versenden ihn sofort – den Termin bestätigen wir immer individuell.
Was die Konfiguration enthält
- Grafikkarten
- 4× RTX 5080 16 GB insgesamt 64 GB VRAM
- Prozessor
- 2× EPYC 9355 · Turin 32C
- Mainboard
- ASRock TURIN2D24XGM
- Arbeitsspeicher
- 12× 64 GB DDR5 ECC RDIMM insgesamt 768 GB
- Speicher
- 4 TB NVMe
- Stromversorgung
- 4× Netzteil 2000 W, redundant
- Gehäuse
- 7U-Rack für 8 GPUs
- GPU-Riser
- 4× PCIe-Riser
- Kühlung
- Prozessorkühler und Serverlüfter
- Montage
- Montage, Systeminstallation und 72-Stunden-Belastungstest
Der Preis oben gilt für den kompletten Server inklusive Montage. Gern kalkulieren wir einen anderen Prozessor, eine Netzwerkkarte oder ein anderes Gehäuse.
Naše vlajková platforma: dva procesory AMD EPYC 9005, až 1,5 TB paměti DDR5 ECC a čtyři až osm grafických karet – nebo šestnáct karet RTX Pro 6000 s 1,5 TB grafické paměti.
Vollständige Beschreibung, Video und ParameterWelche Modelle auf dieser Konfiguration laufen
Die gewählte Konfiguration hat 64 GB Grafikspeicher (VRAM). Bequem passen zum Beispiel diese offenen Sprachmodelle hinein:
- Llama 3.3 70B / Qwen3-72B48 GB
- Seed-OSS-36B28 GB
- DeepSeek-R2 32B24 GB
- Qwen3-30B-A3B MoE20 GB
- Gemma 3 27B18 GB
- Mistral Small 3 24B14 GB
- Qwen3-14B12 GB
Das größere Modell Mistral Large 2 123B braucht etwa 70 GB VRAM.
Richtwert für quantisierte Modelle (meist Q4) mit Reserve für den Kontext. Der tatsächliche Speicherbedarf hängt von der Kontextlänge und der Zahl gleichzeitiger Nutzer ab.
Was wir für Sie übernehmen
-
Vorinstallation nach Maß
Linux, NVIDIA-Treiber, CUDA, Docker und die Software für Ihre Aufgabe (z. B. vLLM oder Ollama) installieren wir vorab – nach dem Einschalten können Sie sofort loslegen.
-
72 Stunden unter Last
Vor der Übergabe läuft jeder Server 72 Stunden unter Volllast; wir prüfen Stabilität, Temperaturen und die Fehlerfreiheit der ECC-Speicher.
-
Service innerhalb von 24/48 Stunden
Wichtige Ersatzteile haben wir in Prag auf Lager. Serviceeinsatz und Teiletausch sichern wir innerhalb von 24/48 Stunden zu.
-
Hosting in unserem Rechenzentrum
Kein Serverraum? Wir stellen den Server in unserem Rechenzentrum auf, kümmern uns um Strom, Kühlung und Anbindung, und Sie greifen per Fernzugriff darauf zu.
Beschreibung
AI server PC Praha Turin Dual stojí na dvouprocesorové desce ASRock TURIN2D24XGM se dvěma procesory AMD EPYC 9355 (2× 32 jader, Zen 5). Dvacet čtyři pozic DDR5 ECC dovolí osadit 768 GB nebo 1,5 TB operační paměti. Je určený pro výzkum, dolaďování modelů a provoz největších otevřených modelů pro celou firmu – a ve verzi s šestnácti kartami RTX Pro 6000 pro úlohy, na které se jinak pronajímá cluster.
Sestava
| Procesory | 2× AMD EPYC 9355 (2× 32 jader, Zen 5, socket SP5) |
| Základní deska | ASRock TURIN2D24XGM (dvouprocesorová) |
| Grafické karty | 4, 6 nebo 8× podle volby: RTX 5080, RTX 4090, RTX 5090, Intel Arc Pro B70, NVIDIA L4, NVIDIA L40 nebo RTX Pro 6000; nebo 16× RTX Pro 6000 (PCIe 5.0 x8) |
| Operační paměť | 768 GB nebo 1,5 TB DDR5 ECC |
| Disk | NVMe 4 nebo 8 TB |
| Napájení | redundantní serverové zdroje (u 16 karet dvojitá sada) |
| Skříň | 7U rack |
Kolik grafické paměti potřebujete
| Grafická paměť | Příklad konfigurace | Co pohodlně poběží |
|---|---|---|
| 64–192 GB | 4–8× RTX 5080 / RTX 4090, 4–6× RTX 5090, 4× L40 | Llama 3.3 70B až GLM-4.6 355B (Q4) |
| 256–384 GB | 8× RTX 5090, 6–8× L40, 4× RTX Pro 6000 | DeepSeek-V3.2 / R1 671B (Q2), Qwen3-Coder-480B, Kimi-K2 1T (1,58 bit); plné dolaďování modelu 70B |
| 576–768 GB | 6–8× RTX Pro 6000 | největší otevřené modely s rezervou na kontext a mnoho uživatelů |
| 1 536 GB | 16× RTX Pro 6000 | dotrénování velkých modelů (100B+) a provoz několika největších modelů současně |
Velikosti modelů jsou orientační (kvantizace Q4, pokud není uvedeno jinak) podle našeho konfigurátoru. Skutečná potřeba paměti závisí na délce kontextu a počtu současných uživatelů. U jazykových modelů se paměť karet sčítá, generování obrázků a videa potřebuje celý model na jedné kartě.
Co dostanete
- Server sestavený z nových komponent, sestavujeme a testujeme ho v Praze.
- Předinstalovaný software podle toho, co na serveru chcete provozovat (např. Ubuntu, ovladače a CUDA, Docker, vLLM, llama.cpp, Ollama, ComfyUI). Po zapnutí je hned připravený k práci.
- Před předáním 72 hodin zátěžového testu pod plnou zátěží.
- Záruka 24 měsíců. Náhradní díly držíme v Praze, servisní zásah zajistíme do 24/48 hodin.
- Server nemusí stát u vás – můžete ho mít v našem datacentru (hosting), postaráme se o napájení, chlazení a připojení.
Provoz a instalace
Server patří do serverovny. S osmi kartami odebírá zhruba 1,2 až 5,4 kW, se šestnácti kartami RTX Pro 6000 kolem 10 kW – návrh napájení a chlazení připravíme s vámi, nebo server provozujeme v našem datacentru. Rychlou síť až 400 GbE doplníme na přání.