Klíčové vlastnosti
- 4× NVIDIA GeForce RTX 5090 32 GB GDDR7 (Blackwell) – 128 GB grafické paměti celkem
- Procesor AMD EPYC 7643 (48 jader / 96 vláken) a 512 GB paměti DDR4 ECC
- Rackové provedení 4U, dva synchronizované zdroje 2 kW, 2× 10 GbE a vzdálená správa IPMI
- Dodáváme s předinstalovaným softwarem podle toho, co na serveru chcete provozovat – po zapnutí hned pracuje
Konfigurace
| Grafické karty |
4× NVIDIA GeForce RTX 5090 32 GB GDDR7 (575 W, PCIe 5.0 x16, na desce běží v PCIe 4.0 x16) |
| Procesor |
AMD EPYC 7643 (48C/96T, 225 W, 128 linek PCIe 4.0) |
| Základní deska |
ASRock Rack ROMED8-2T (7× PCIe 4.0 x16, 8× DDR4 ECC, 2× 10 GbE, IPMI) |
| Operační paměť |
512 GB DDR4-2666 ECC RDIMM (8× 64 GB, všechny sloty osazené) |
| Disk |
2 TB NVMe M.2 (PCIe 4.0) |
| Napájení |
2× 2 kW ATX, synchronizované (4 kW celkem) |
| Skříň a chlazení |
4U rack, věžový chladič CPU, 3× 120 mm vpředu + 1× 120 mm vzadu |
| Příkon |
cca 2 650 W při plné zátěži (karty 4× 575 W) |
Pro koho je
Pro firmy, vývojáře a studia, která chtějí provozovat AI modely u sebe – data neopouštějí vaši firmu a neplatíte měsíční poplatky za grafické karty v cloudu. 128 GB grafické paměti stačí na jazykové modely zhruba do 120 miliard parametrů, na generování obrázků a videa i na rendering. Když server zrovna nepočítá vaše úlohy, může těžit kryptoměny na grafických kartách.
Provoz a instalace
Server patří do racku nebo technické místnosti s dobrým chlazením a s okruhem, který unese zhruba 2,7 kW. Předem se domluvíme, co na serveru poběží (např. vLLM, llama.cpp, Ollama, ComfyUI), a připravíme ho přesně pro váš úkol. Poradíme i s umístěním.