Najważniejsze cechy
- 4× NVIDIA GeForce RTX 5090 32 GB GDDR7 (Blackwell) – łącznie 128 GB pamięci graficznej
- Procesor AMD EPYC 7643 (48 rdzeni / 96 wątków) i 512 GB pamięci DDR4 ECC
- Obudowa rack 4U, dwa zsynchronizowane zasilacze 2 kW, 2× 10 GbE i zdalne zarządzanie IPMI
- Dostarczamy z preinstalowanym oprogramowaniem dopasowanym do tego, co chcą Państwo uruchamiać – po włączeniu od razu działa
Konfiguracja
| Karty graficzne |
4× NVIDIA GeForce RTX 5090 32 GB GDDR7 (575 W, PCIe 5.0 x16, na płycie pracuje w trybie PCIe 4.0 x16) |
| Procesor |
AMD EPYC 7643 (48C/96T, 225 W, 128 linii PCIe 4.0) |
| Płyta główna |
ASRock Rack ROMED8-2T (7× PCIe 4.0 x16, 8× DDR4 ECC, 2× 10 GbE, IPMI) |
| Pamięć RAM |
512 GB DDR4-2666 ECC RDIMM (8× 64 GB, wszystkie sloty obsadzone) |
| Dysk |
2 TB NVMe M.2 (PCIe 4.0) |
| Zasilanie |
2× 2 kW ATX, zsynchronizowane (łącznie 4 kW) |
| Obudowa i chłodzenie |
rack 4U, wieżowy cooler CPU, 3× 120 mm z przodu + 1× 120 mm z tyłu |
| Pobór mocy |
ok. 2 650 W przy pełnym obciążeniu (karty 4× 575 W) |
Dla kogo
Dla firm, programistów i studiów, które chcą uruchamiać modele AI u siebie – dane nie opuszczają firmy, a Państwo nie płacą miesięcznych opłat za karty graficzne w chmurze. 128 GB pamięci graficznej wystarcza na modele językowe do ok. 120 miliardów parametrów, do generowania obrazów i wideo oraz do renderingu. Gdy serwer akurat nie liczy Państwa zadań, może służyć do kopania kryptowalut na kartach graficznych.
Eksploatacja i instalacja
Serwer powinien stać w szafie rack lub pomieszczeniu technicznym z dobrym chłodzeniem i obwodem elektrycznym, który wytrzyma ok. 2,7 kW. Wcześniej ustalimy, co będzie działać na serwerze (np. vLLM, llama.cpp, Ollama, ComfyUI), i przygotujemy go dokładnie pod Państwa zadanie. Doradzimy też w kwestii lokalizacji.