Ключові особливості
- 4× NVIDIA GeForce RTX 5090 32 GB GDDR7 (Blackwell) – загалом 128 GB відеопам’яті
- Процесор AMD EPYC 7643 (48 ядер / 96 потоків) і 512 GB пам’яті DDR4 ECC
- Стійкове виконання 4U, два синхронізовані блоки живлення по 2 kW, 2× 10 GbE та віддалене керування IPMI
- Постачаємо з попередньо встановленим ПЗ під те, що ви хочете запускати на сервері, – він працює одразу після ввімкнення
Конфігурація
| Відеокарти |
4× NVIDIA GeForce RTX 5090 32 GB GDDR7 (575 W, PCIe 5.0 x16, на платі працюють у режимі PCIe 4.0 x16) |
| Процесор |
AMD EPYC 7643 (48C/96T, 225 W, 128 ліній PCIe 4.0) |
| Материнська плата |
ASRock Rack ROMED8-2T (7× PCIe 4.0 x16, 8× DDR4 ECC, 2× 10 GbE, IPMI) |
| Оперативна пам’ять |
512 GB DDR4-2666 ECC RDIMM (8× 64 GB, усі слоти зайняті) |
| Накопичувач |
2 TB NVMe M.2 (PCIe 4.0) |
| Живлення |
2× 2 kW ATX, синхронізовані (загалом 4 kW) |
| Корпус і охолодження |
стійка 4U, баштовий кулер CPU, 3× 120 mm спереду + 1× 120 mm ззаду |
| Споживана потужність |
близько 2 650 W при повному навантаженні (карти 4× 575 W) |
Для кого
Для компаній, розробників і студій, які хочуть запускати AI-моделі у себе: дані не залишають вашу компанію, і ви не платите щомісяця за відеокарти в хмарі. 128 GB відеопам’яті вистачає для мовних моделей приблизно до 120 мільярдів параметрів, для генерації зображень і відео, а також для рендерингу. Коли сервер не зайнятий вашими завданнями, він може майнити криптовалюти на відеокартах.
Експлуатація та встановлення
Серверу місце в стійці або технічному приміщенні з добрим охолодженням і електролінією, яка витримає близько 2,7 kW. Заздалегідь домовимося, що працюватиме на сервері (наприклад, vLLM, llama.cpp, Ollama, ComfyUI), і підготуємо його точно під ваше завдання. Допоможемо і з розміщенням.