Caracteristici principale
- 2× NVIDIA A100 80 GB – 160 GB de memorie grafică HBM2e în total, acceleratoare destinate centrelor de date
- 2× AMD EPYC 7502 (în total 64 de nuclee / 128 de fire de execuție) și 512 GB de memorie DDR4 ECC
- Server de marcă HPE ProLiant DL385 Gen10 pentru rack, alimentare redundantă 2× 1.200 W și administrare la distanță iLO 5
- Totul nou – serverul și toate componentele sunt noi (stare: Nou)
- Îl livrăm cu software preinstalat în funcție de ce doriți să rulați pe server – funcționează imediat după pornire
Configurație
| Componentă |
Specificații |
| Server |
HPE ProLiant DL385 Gen10 (CTO), format rack |
| Acceleratoare grafice |
2× NVIDIA A100 80 GB HBM2e |
| Procesoare |
2× AMD EPYC 7502 (32C/64T fiecare, în total 64C/128T) |
| Memorie RAM |
512 GB HPE DDR4 ECC |
| Discuri |
2× 480 GB M.2 NVMe + 2× 1,6 TB SSD SAS enterprise; backplane pentru 8 discuri SFF de 2,5″ |
| Controler de discuri |
HPE Smart Array S100i (RAID) |
| Rețea |
4× 1 GbE + 2× 10 GbE SFP+ |
| Alimentare și administrare |
2× 1.200 W, sursă redundantă HPE (1+1), administrare la distanță iLO 5 |
| Stare |
Nou – serverul și toate componentele sunt noi |
| Consum |
aprox. 1.200 W la sarcină maximă (acceleratoare 2× 300 W, procesoare 2× 180 W) |
Pentru cine este
Pentru firme, echipe de cercetare și dezvoltatori care au nevoie de multă memorie grafică pe o singură placă – pentru antrenarea și ajustarea fină a modelelor, rularea modelelor mari de limbaj și calcule științifice. 160 GB de memorie HBM2e sunt suficienți, de exemplu, pentru Llama 3.3 70B cu cuantizare pe 8 biți, cu rezervă pentru context lung și mai mulți utilizatori simultan. Acceleratoarele A100 pot împărți fiecare placă în până la 7 instanțe separate (MIG), astfel încât pe server pot lucra separat mai multe echipe sau sarcini. Este potrivit și pentru randare și analiza volumelor mari de date.
Preinstalare, testare și service
Stabilim dinainte ce va rula pe server (de ex. Ubuntu, drivere NVIDIA, CUDA, Docker, PyTorch, vLLM) și îl pregătim exact pentru sarcina dumneavoastră. Înainte de predare, testăm serverul timp de 72 de ore la sarcină maximă. Configurațiile obișnuite le livrăm, de regulă, în 7–14 zile lucrătoare de la aprobarea ofertei, în funcție de disponibilitatea componentelor. Piesele de schimb esențiale le avem în stoc în Praga, iar intervenția de service și înlocuirea pieselor le asigurăm în 24/48 de ore. Garanția este de 24 de luni.
Funcționare și amplasare
Serverul trebuie amplasat într-un rack, într-o cameră de servere sau într-un centru de date. Nu doriți să vă ocupați de spațiu, zgomot și răcire? Amplasăm serverul în găzduirea noastră din centrul de date – condițiile le stabilim individual.