Főbb jellemzők
- 4× NVIDIA GeForce RTX 5090 32 GB GDDR7 (Blackwell) – összesen 128 GB grafikus memória
- AMD EPYC 7643 processzor (48 mag / 96 szál) és 512 GB DDR4 ECC memória
- 4U rack kivitel, két szinkronizált 2 kW-os tápegység, 2× 10 GbE és IPMI távfelügyelet
- Előre telepített szoftverrel szállítjuk aszerint, hogy mit szeretne a szerveren futtatni – bekapcsolás után azonnal dolgozik
Konfiguráció
| Videokártyák |
4× NVIDIA GeForce RTX 5090 32 GB GDDR7 (575 W, PCIe 5.0 x16, az alaplapon PCIe 4.0 x16 módban fut) |
| Processzor |
AMD EPYC 7643 (48C/96T, 225 W, 128 PCIe 4.0 sáv) |
| Alaplap |
ASRock Rack ROMED8-2T (7× PCIe 4.0 x16, 8× DDR4 ECC, 2× 10 GbE, IPMI) |
| Memória (RAM) |
512 GB DDR4-2666 ECC RDIMM (8× 64 GB, minden foglalat foglalt) |
| Tárhely |
2 TB NVMe M.2 (PCIe 4.0) |
| Tápellátás |
2× 2 kW ATX, szinkronizált (összesen 4 kW) |
| Ház és hűtés |
4U rack, torony CPU-hűtő, elöl 3× 120 mm + hátul 1× 120 mm ventilátor |
| Teljesítményfelvétel |
kb. 2 650 W teljes terhelésen (kártyák: 4× 575 W) |
Kinek szól
Cégeknek, fejlesztőknek és stúdióknak, amelyek saját helyszínükön szeretnének AI modelleket futtatni – az adatok nem hagyják el a cégét, és nem fizet havi díjat a felhőben bérelt videokártyákért. A 128 GB grafikus memória nagyjából 120 milliárd paraméterig elegendő nyelvi modellekhez, valamint kép- és videógeneráláshoz és rendereléshez is. Amikor a szerver éppen nem az Ön feladatain dolgozik, a videokártyákon kriptovalutát bányászhat.
Üzemeltetés és telepítés
A szerver rackbe vagy jó hűtésű gépterembe való, olyan áramkörre, amely nagyjából 2,7 kW-ot elbír. Előre egyeztetjük, mi fog futni a szerveren (pl. vLLM, llama.cpp, Ollama, ComfyUI), és pontosan az Ön feladatára készítjük fel. Az elhelyezésben is segítünk.