AI server PC Praha Rome Dual – 2× EPYC, 8 GPU
PC Praha · KI- und GPU-Server
AI server PC Praha Rome Dual – 2× EPYC, 8 GPU
Montage und Test: in der Regel 5–7 Werktage. Oft haben wir den Server auf Lager und versenden ihn sofort – den Termin bestätigen wir immer individuell.
Was die Konfiguration enthält
- Grafikkarten
- 8× RTX 5080 16 GB insgesamt 128 GB VRAM
- Prozessor
- 2× EPYC 7643 · Milan 48C
- Mainboard
- ASRock ROME2D32GM-NL
- Arbeitsspeicher
- 8× 64 GB DDR4 ECC RDIMM insgesamt 512 GB
- Speicher
- 4 TB NVMe
- Stromversorgung
- Server-Netzteile 5× 1000 W
- Gehäuse
- 7U-Rack für 8 GPUs
- GPU-Riser
- 8× aktiver PCIe-5.0-Riser
- Kühlung
- Prozessorkühler und Serverlüfter
- Montage
- Montage, Systeminstallation und 72-Stunden-Belastungstest
Der Preis oben gilt für den kompletten Server inklusive Montage. Gern kalkulieren wir einen anderen Prozessor, eine Netzwerkkarte oder ein anderes Gehäuse.
Osm grafických karet a dva procesory AMD EPYC v jednom 7U racku. Pro velké jazykové modely pro celé týmy, dolaďování modelů a výpočty, kde jedna čtyřkartová sestava nestačí.
Vollständige Beschreibung, Video und ParameterWelche Modelle auf dieser Konfiguration laufen
Die gewählte Konfiguration hat 128 GB Grafikspeicher (VRAM). Bequem passen zum Beispiel diese offenen Sprachmodelle hinein:
- Qwen3.5-122B-A10B80 GB
- Mixtral 8x22B80 GB
- GLM-4.5-Air 106B72 GB
- Mistral Large 2 123B70 GB
- Llama 3.3 70B / Qwen3-72B48 GB
- Seed-OSS-36B28 GB
- DeepSeek-R2 32B24 GB
- Qwen3-30B-A3B MoE20 GB
Das größere Modell Qwen3-235B-A22B braucht etwa 140 GB VRAM.
Richtwert für quantisierte Modelle (meist Q4) mit Reserve für den Kontext. Der tatsächliche Speicherbedarf hängt von der Kontextlänge und der Zahl gleichzeitiger Nutzer ab.
Was wir für Sie übernehmen
-
Vorinstallation nach Maß
Linux, NVIDIA-Treiber, CUDA, Docker und die Software für Ihre Aufgabe (z. B. vLLM oder Ollama) installieren wir vorab – nach dem Einschalten können Sie sofort loslegen.
-
72 Stunden unter Last
Vor der Übergabe läuft jeder Server 72 Stunden unter Volllast; wir prüfen Stabilität, Temperaturen und die Fehlerfreiheit der ECC-Speicher.
-
Service innerhalb von 24/48 Stunden
Wichtige Ersatzteile haben wir in Prag auf Lager. Serviceeinsatz und Teiletausch sichern wir innerhalb von 24/48 Stunden zu.
-
Hosting in unserem Rechenzentrum
Kein Serverraum? Wir stellen den Server in unserem Rechenzentrum auf, kümmern uns um Strom, Kühlung und Anbindung, und Sie greifen per Fernzugriff darauf zu.
Beschreibung
AI server PC Praha Rome Dual spojuje osm grafických karet s dvouprocesorovou deskou ASRock ROME2D32GM-NL a dvěma procesory AMD EPYC 7643 (96 jader celkem). Karty jsou připojené aktivními PCIe risery a napájí je redundantní serverové zdroje. Je to nejdostupnější cesta k osmi kartám – paměť DDR4 ECC je výrazně levnější než DDR5 a pro výpočty na grafických kartách výkon nebrzdí.
Sestava
| Procesory | 2× AMD EPYC 7643 (2× 48 jader, socket SP3) |
| Základní deska | ASRock ROME2D32GM-NL (dvouprocesorová) |
| Grafické karty | 8× podle volby: RTX 5080, RTX 4090, RTX 5090, Intel Arc Pro B70, NVIDIA L4, NVIDIA L40 nebo RTX Pro 6000; aktivní PCIe risery |
| Operační paměť | 512 GB nebo 1 TB DDR4 ECC |
| Disk | NVMe 4 nebo 8 TB |
| Napájení | redundantní serverové zdroje (5 modulů) |
| Skříň | 7U rack pro 8 karet |
Kolik grafické paměti potřebujete
| Grafická paměť | Příklad konfigurace | Co pohodlně poběží |
|---|---|---|
| 128 GB | 8× RTX 5080 | Qwen3.5-122B-A10B, GLM-4.5-Air 106B (MoE) |
| 192 GB | 8× RTX 4090, 8× L4 | GLM-4.6 355B (Q4), Qwen3-235B-A22B |
| 256 GB | 8× RTX 5090, 8× Arc Pro B70 | DeepSeek-V3.2 / R1 671B (Q2), Qwen3-Coder-480B; plné dolaďování modelu 70B |
| 384 GB | 8× L40 | Kimi-K2 1T (1,58 bit) s rezervou na dlouhý kontext |
| 768 GB | 8× RTX Pro 6000 | největší otevřené modely ve vyšší přesnosti a pro více uživatelů současně |
Velikosti modelů jsou orientační (kvantizace Q4, pokud není uvedeno jinak) podle našeho konfigurátoru. Skutečná potřeba paměti závisí na délce kontextu a počtu současných uživatelů. U jazykových modelů se paměť karet sčítá, generování obrázků a videa potřebuje celý model na jedné kartě.
Co dostanete
- Server sestavený z nových komponent, sestavujeme a testujeme ho v Praze.
- Předinstalovaný software podle toho, co na serveru chcete provozovat (např. Ubuntu, ovladače a CUDA, Docker, vLLM, llama.cpp, Ollama, ComfyUI). Po zapnutí je hned připravený k práci.
- Před předáním 72 hodin zátěžového testu pod plnou zátěží.
- Záruka 24 měsíců. Náhradní díly držíme v Praze, servisní zásah zajistíme do 24/48 hodin.
- Server nemusí stát u vás – můžete ho mít v našem datacentru (hosting), postaráme se o napájení, chlazení a připojení.
Provoz a instalace
Server patří do racku nebo serverovny. Podle karet odebírá zhruba 1,2 až 5,4 kW a potřebuje odpovídající přívod a chlazení – pomůžeme s návrhem, nebo ho provozujte v našem datacentru. Rychlejší síť pro propojení více serverů (25 až 400 GbE) doplníme na přání.