Főbb jellemzők
- 2× NVIDIA A100 80 GB – összesen 160 GB HBM2e grafikus memória, adatközpontokba szánt gyorsítók
- 2× AMD EPYC 7502 (összesen 64 mag / 128 szál) és 512 GB DDR4 ECC memória
- Márkás HPE ProLiant DL385 Gen10 rackszerver, redundáns 2× 1200 W tápellátás és iLO 5 távfelügyelet
- Minden új – a szerver és az összes alkatrész új (állapot: Új)
- Előtelepített szoftverrel szállítjuk aszerint, amit a szerveren futtatni szeretne – bekapcsolás után azonnal dolgozik
Konfiguráció
| Komponens |
Specifikáció |
| Szerver |
HPE ProLiant DL385 Gen10 (CTO), rack kivitel |
| Grafikus gyorsítók |
2× NVIDIA A100 80 GB HBM2e |
| Processzorok |
2× AMD EPYC 7502 (egyenként 32C/64T, összesen 64C/128T) |
| Operatív memória |
512 GB HPE DDR4 ECC |
| Meghajtók |
2× 480 GB M.2 NVMe + 2× 1,6 TB enterprise SAS SSD; backplane 8 db 2,5″ SFF meghajtóhoz |
| Meghajtóvezérlő |
HPE Smart Array S100i (RAID) |
| Hálózat |
4× 1 GbE + 2× 10 GbE SFP+ |
| Tápellátás és felügyelet |
2× 1200 W, redundáns HPE tápegység (1+1), iLO 5 távfelügyelet |
| Állapot |
Új – a szerver és az összes alkatrész új |
| Teljesítményfelvétel |
kb. 1 200 W teljes terhelésen (gyorsítók 2× 300 W, processzorok 2× 180 W) |
Kinek szól
Cégeknek, kutatócsoportoknak és fejlesztőknek, akiknek kártyánként sok grafikus memóriára van szükségük – modellek tanításához és finomhangolásához, nagy nyelvi modellek futtatásához és tudományos számításokhoz. A 160 GB HBM2e memória például elegendő a Llama 3.3 70B 8 bites kvantálással való futtatásához, tartalékkal a hosszú kontextushoz és több egyidejű felhasználóhoz. Az A100 gyorsítók minden kártyát akár 7 különálló példányra (MIG) tudnak osztani, így a szerveren több csapat vagy feladat dolgozhat egymástól elkülönítve. Renderelésre és nagy adathalmazok elemzésére is alkalmas.
Előtelepítés, teszt és szerviz
Előre egyeztetjük, mi fog futni a szerveren (pl. Ubuntu, NVIDIA illesztőprogramok, CUDA, Docker, PyTorch, vLLM), és pontosan az Ön feladatára készítjük fel. Átadás előtt a szervert 72 órán át teljes terhelés alatt teszteljük. A szokásos konfigurációkat általában az ajánlat jóváhagyásától számított 7–14 munkanapon belül szállítjuk, az alkatrészek elérhetőségétől függően. A kulcsfontosságú pótalkatrészeket Prágában raktáron tartjuk, a szervizbeavatkozást és az alkatrészcserét 24/48 órán belül biztosítjuk. 24 hónap garancia.
Üzemeltetés és elhelyezés
A szerver rackbe, szerverterembe vagy adatközpontba való. Nem szeretne a hellyel, a zajjal és a hűtéssel foglalkozni? A szervert elhelyezzük hosting szolgáltatásunkban az adatközpontban – a feltételeket egyedileg egyeztetjük.