Caracteristici principale
- 4× NVIDIA GeForce RTX 5090 32 GB GDDR7 (Blackwell) – 128 GB de memorie grafică în total
- Procesor AMD EPYC 7643 (48 de nuclee / 96 de fire de execuție) și 512 GB de memorie DDR4 ECC
- Format rack 4U, două surse sincronizate de 2 kW, 2× 10 GbE și administrare la distanță IPMI
- Îl livrăm cu software preinstalat în funcție de ce doriți să rulați pe server – funcționează imediat după pornire
Configurație
| Plăci grafice |
4× NVIDIA GeForce RTX 5090 32 GB GDDR7 (575 W, PCIe 5.0 x16, pe placa de bază rulează în PCIe 4.0 x16) |
| Procesor |
AMD EPYC 7643 (48C/96T, 225 W, 128 de linii PCIe 4.0) |
| Placă de bază |
ASRock Rack ROMED8-2T (7× PCIe 4.0 x16, 8× DDR4 ECC, 2× 10 GbE, IPMI) |
| Memorie RAM |
512 GB DDR4-2666 ECC RDIMM (8× 64 GB, toate sloturile ocupate) |
| Disc |
2 TB NVMe M.2 (PCIe 4.0) |
| Alimentare |
2× 2 kW ATX, sincronizate (4 kW în total) |
| Carcasă și răcire |
Rack 4U, cooler CPU tip turn, 3× 120 mm în față + 1× 120 mm în spate |
| Consum |
aprox. 2.650 W la sarcină maximă (plăci 4× 575 W) |
Pentru cine este
Pentru firme, dezvoltatori și studiouri care doresc să ruleze modele AI la propriul sediu – datele nu părăsesc compania dumneavoastră și nu plătiți abonamente lunare pentru plăci grafice în cloud. 128 GB de memorie grafică sunt suficienți pentru modele de limbaj de până la aproximativ 120 de miliarde de parametri, pentru generarea de imagini și video, precum și pentru randare. Când serverul nu lucrează la sarcinile dumneavoastră, poate mina criptomonede pe plăcile grafice.
Funcționare și instalare
Serverul trebuie amplasat într-un rack sau într-o cameră tehnică cu răcire bună și cu un circuit electric care suportă aproximativ 2,7 kW. Stabilim dinainte ce va rula pe server (de ex. vLLM, llama.cpp, Ollama, ComfyUI) și îl pregătim exact pentru sarcina dumneavoastră. Vă sfătuim și în privința amplasării.