Najważniejsze cechy
- 2× NVIDIA A100 80 GB – łącznie 160 GB pamięci graficznej HBM2e, akceleratory przeznaczone do centrów danych
- 2× AMD EPYC 7502 (łącznie 64 rdzenie / 128 wątków) i 512 GB pamięci DDR4 ECC
- Markowy serwer rack HPE ProLiant DL385 Gen10, redundantne zasilanie 2× 1200 W i zdalne zarządzanie iLO 5
- Wszystko nowe – serwer i wszystkie komponenty są nowe (stan: Nowy)
- Dostarczamy z preinstalowanym oprogramowaniem dopasowanym do tego, co chcą Państwo uruchamiać – po włączeniu od razu działa
Konfiguracja
| Komponent |
Specyfikacja |
| Serwer |
HPE ProLiant DL385 Gen10 (CTO), obudowa rack |
| Akceleratory graficzne |
2× NVIDIA A100 80 GB HBM2e |
| Procesory |
2× AMD EPYC 7502 (każdy 32C/64T, łącznie 64C/128T) |
| Pamięć RAM |
512 GB HPE DDR4 ECC |
| Dyski |
2× 480 GB M.2 NVMe + 2× 1,6 TB enterprise SAS SSD; backplane na 8 dysków 2,5″ SFF |
| Kontroler dysków |
HPE Smart Array S100i (RAID) |
| Sieć |
4× 1 GbE + 2× 10 GbE SFP+ |
| Zasilanie i zarządzanie |
2× 1200 W, redundantny zasilacz HPE (1+1), zdalne zarządzanie iLO 5 |
| Stan |
Nowy – serwer i wszystkie komponenty nowe |
| Pobór mocy |
ok. 1 200 W przy pełnym obciążeniu (akceleratory 2× 300 W, procesory 2× 180 W) |
Dla kogo
Dla firm, zespołów badawczych i programistów, którzy potrzebują dużo pamięci graficznej na jednej karcie – do treningu i dostrajania modeli, uruchamiania dużych modeli językowych i obliczeń naukowych. 160 GB pamięci HBM2e wystarcza np. na Llama 3.3 70B w kwantyzacji 8-bitowej z zapasem na długi kontekst i wielu użytkowników jednocześnie. Akceleratory A100 pozwalają podzielić każdą kartę na maksymalnie 7 niezależnych instancji (MIG), dzięki czemu na serwerze może pracować osobno kilka zespołów lub zadań. Sprawdzi się też w renderingu i analizie dużych zbiorów danych.
Preinstalacja, testy i serwis
Wcześniej ustalimy, co będzie działać na serwerze (np. Ubuntu, sterowniki NVIDIA, CUDA, Docker, PyTorch, vLLM), i przygotujemy go dokładnie pod Państwa zadanie. Przed wydaniem testujemy serwer przez 72 godziny pod pełnym obciążeniem. Typowe konfiguracje dostarczamy zwykle w ciągu 7–14 dni roboczych od akceptacji oferty, w zależności od dostępności komponentów. Kluczowe części zamienne mamy w magazynie w Pradze, interwencję serwisową i wymianę części zapewniamy w ciągu 24/48 godzin. Gwarancja 24 miesiące.
Eksploatacja i lokalizacja
Serwer powinien stać w szafie rack w serwerowni lub centrum danych. Nie chcą Państwo zajmować się miejscem, hałasem i chłodzeniem? Umieścimy serwer w naszym hostingu w centrum danych – warunki ustalimy indywidualnie.