Ключові особливості
- 4× NVIDIA GeForce RTX 4090 24 GB GDDR6X – загалом 96 GB відеопам’яті
- Процесор AMD EPYC 7542 (32 ядра / 64 потоки) і 256 GB пам’яті DDR4 ECC з можливістю розширення до 512 GB
- Стійкове виконання 4U, два синхронізовані блоки живлення по 2 kW, 2× 10 GbE та віддалене керування IPMI
- Під замовлення – зберемо для вас новий екземпляр із комплектуючих, які є в нас на складі
- Постачаємо з попередньо встановленим ПЗ під те, що ви хочете запускати на сервері, – він працює одразу після ввімкнення
Конфігурація
| Компонент |
Характеристики |
| Відеокарти |
4× NVIDIA GeForce RTX 4090 24 GB GDDR6X (PCIe 4.0 x16) |
| Процесор |
AMD EPYC 7542 (32C/64T, 225 W) |
| Материнська плата |
ASRock Rack ROMED8-2T (7× PCIe 4.0 x16, 8× DDR4 ECC, 2× 10 GbE, IPMI) |
| Оперативна пам’ять |
256 GB DDR4-2666 ECC RDIMM (розширення до 512 GB) |
| Накопичувач |
2 TB NVMe M.2 (PCIe 4.0) |
| Живлення |
2× 2 kW ATX, синхронізовані (загалом 4 kW) |
| Корпус і охолодження |
стійка 4U, вентилятори 120 mm із потоком повітря спереду назад |
| Споживана потужність |
близько 2 200 W при повному навантаженні (карти 4× 450 W, процесор 225 W) |
| Наявність |
Під замовлення – зберемо для вас новий екземпляр (комплектуючі в наявності) |
Для кого
Для компаній, які хочуть запускати мовні моделі у себе – внутрішній чат-бот, асистент або робота з корпоративною документацією (RAG). Дані не залишають вашу компанію, і ви не платите щомісяця за відеокарти в хмарі. 96 GB відеопам’яті вистачає для квантизованих моделей близько 70 мільярдів параметрів (наприклад, Llama 3.3 70B), для кількох невеликих моделей одночасно, для донавчання (LoRA/QLoRA) моделей розміром 7–34 мільярди параметрів, а також для генерації зображень і відео (FLUX.1, SDXL). У нашому тесті Llama 3.3 70B (AWQ, 4 біти) видавала до 179 токенів за секунду при 32 одночасних запитах. Коли сервер не зайнятий вашими завданнями, він може майнити криптовалюти на відеокартах.
Попереднє встановлення, тестування та сервіс
Заздалегідь домовимося, що працюватиме на сервері (наприклад, Ubuntu, CUDA, Docker, vLLM, ComfyUI), і підготуємо його точно під ваше завдання. Перед передачею ми 72 години тестуємо сервер під повним навантаженням. Комплектуючі в наявності – ми зберемо з них новий сервер і протестуємо його зазвичай за 7–14 робочих днів після погодження пропозиції. Ключові запчастини тримаємо на складі в Празі, сервісне втручання та заміну деталей забезпечимо протягом 24/48 годин. Гарантія – 24 місяці. Пам’ять, накопичувачі або мережеві карти підберемо під ваші потреби.
Експлуатація та розміщення
Серверу місце в стійці або технічному приміщенні з добрим охолодженням і електролінією, яка витримає близько 2,3 kW. Не хочете вирішувати питання з місцем, шумом і охолодженням? Розмістимо сервер на нашому хостингу в дата-центрі – умови обговоримо індивідуально.