Đặc điểm nổi bật
- 4× NVIDIA GeForce RTX 5090 32 GB GDDR7 (Blackwell) – tổng cộng 128 GB bộ nhớ đồ họa
- Bộ xử lý AMD EPYC 7643 (48 nhân / 96 luồng) và 512 GB bộ nhớ DDR4 ECC
- Thiết kế rack 4U, hai bộ nguồn 2 kW đồng bộ, 2× 10 GbE và quản lý từ xa IPMI
- Giao kèm phần mềm cài sẵn theo đúng mục đích bạn muốn sử dụng máy chủ – bật lên là làm việc ngay
Cấu hình
| Card đồ họa |
4× NVIDIA GeForce RTX 5090 32 GB GDDR7 (575 W, PCIe 5.0 x16, trên bo mạch chạy ở PCIe 4.0 x16) |
| Bộ xử lý |
AMD EPYC 7643 (48C/96T, 225 W, 128 làn PCIe 4.0) |
| Bo mạch chủ |
ASRock Rack ROMED8-2T (7× PCIe 4.0 x16, 8× DDR4 ECC, 2× 10 GbE, IPMI) |
| Bộ nhớ RAM |
512 GB DDR4-2666 ECC RDIMM (8× 64 GB, lắp đầy tất cả khe) |
| Ổ cứng |
2 TB NVMe M.2 (PCIe 4.0) |
| Nguồn điện |
2× 2 kW ATX, đồng bộ (tổng 4 kW) |
| Vỏ và tản nhiệt |
Rack 4U, tản nhiệt CPU dạng tháp, 3× 120 mm phía trước + 1× 120 mm phía sau |
| Công suất tiêu thụ |
khoảng 2.650 W khi tải tối đa (card 4× 575 W) |
Dành cho ai
Dành cho doanh nghiệp, nhà phát triển và studio muốn tự vận hành các mô hình AI tại chỗ – dữ liệu không rời khỏi công ty bạn và bạn không phải trả phí hằng tháng cho card đồ họa trên đám mây. 128 GB bộ nhớ đồ họa đủ cho các mô hình ngôn ngữ đến khoảng 120 tỷ tham số, cho việc tạo hình ảnh và video cũng như cho rendering. Khi máy chủ không xử lý tác vụ của bạn, nó có thể đào tiền mã hóa bằng card đồ họa.
Vận hành và lắp đặt
Máy chủ cần được đặt trong rack hoặc phòng kỹ thuật có làm mát tốt và mạch điện chịu được khoảng 2,7 kW. Chúng tôi sẽ thống nhất trước với bạn những gì sẽ chạy trên máy chủ (ví dụ vLLM, llama.cpp, Ollama, ComfyUI) và chuẩn bị máy chính xác cho nhiệm vụ của bạn. Chúng tôi cũng tư vấn về vị trí đặt máy.