Ключові особливості
- 2× NVIDIA A100 80 GB – загалом 160 GB відеопам’яті HBM2e, прискорювачі для дата-центрів
- 2× AMD EPYC 7502 (загалом 64 ядра / 128 потоків) і 512 GB пам’яті DDR4 ECC
- Брендовий стійковий сервер HPE ProLiant DL385 Gen10, резервоване живлення 2× 1200 W і віддалене керування iLO 5
- Усе нове – сервер і всі комплектуючі нові (стан: новий)
- Постачаємо з попередньо встановленим ПЗ під те, що ви хочете запускати на сервері, – він працює одразу після ввімкнення
Конфігурація
| Компонент |
Характеристики |
| Сервер |
HPE ProLiant DL385 Gen10 (CTO), стійкове виконання |
| Графічні прискорювачі |
2× NVIDIA A100 80 GB HBM2e |
| Процесори |
2× AMD EPYC 7502 (32C/64T кожен, загалом 64C/128T) |
| Оперативна пам’ять |
512 GB HPE DDR4 ECC |
| Накопичувачі |
2× 480 GB M.2 NVMe + 2× 1,6 TB enterprise SAS SSD; кошик на 8 дисків 2,5″ SFF |
| Контролер дисків |
HPE Smart Array S100i (RAID) |
| Мережа |
4× 1 GbE + 2× 10 GbE SFP+ |
| Живлення та керування |
2× 1200 W, резервований блок живлення HPE (1+1), віддалене керування iLO 5 |
| Стан |
Новий – сервер і всі комплектуючі нові |
| Споживана потужність |
близько 1 200 W при повному навантаженні (прискорювачі 2× 300 W, процесори 2× 180 W) |
Для кого
Для компаній, дослідницьких команд і розробників, яким потрібно багато відеопам’яті на одній карті – для навчання й донавчання моделей, роботи великих мовних моделей і наукових обчислень. 160 GB пам’яті HBM2e вистачає, наприклад, для Llama 3.3 70B у 8-бітній квантизації із запасом для довгого контексту й кількох користувачів одночасно. Прискорювачі A100 дають змогу розділити кожну карту на 7 окремих екземплярів (MIG), тож на сервері можуть незалежно працювати кілька команд або завдань. Підходить також для рендерингу й аналізу великих даних.
Попереднє встановлення, тестування та сервіс
Заздалегідь домовимося, що працюватиме на сервері (наприклад, Ubuntu, драйвери NVIDIA, CUDA, Docker, PyTorch, vLLM), і підготуємо його точно під ваше завдання. Перед передачею ми 72 години тестуємо сервер під повним навантаженням. Типові конфігурації зазвичай постачаємо за 7–14 робочих днів після погодження пропозиції, залежно від наявності комплектуючих. Ключові запчастини тримаємо на складі в Празі, сервісне втручання та заміну деталей забезпечимо протягом 24/48 годин. Гарантія – 24 місяці.
Експлуатація та розміщення
Серверу місце в стійці серверної або дата-центру. Не хочете вирішувати питання з місцем, шумом і охолодженням? Розмістимо сервер на нашому хостингу в дата-центрі – умови обговоримо індивідуально.