Đặc điểm nổi bật
- 2× NVIDIA A100 80 GB – tổng cộng 160 GB bộ nhớ đồ họa HBM2e, bộ tăng tốc dành cho trung tâm dữ liệu
- 2× AMD EPYC 7502 (tổng cộng 64 nhân / 128 luồng) và 512 GB bộ nhớ DDR4 ECC
- Máy chủ thương hiệu HPE ProLiant DL385 Gen10 dạng rack, nguồn dự phòng 2× 1200 W và quản lý từ xa iLO 5
- Tất cả đều mới – máy chủ và mọi linh kiện đều mới (tình trạng: Mới)
- Giao kèm phần mềm cài sẵn theo đúng mục đích bạn muốn sử dụng máy chủ – bật lên là làm việc ngay
Cấu hình
| Linh kiện |
Thông số |
| Máy chủ |
HPE ProLiant DL385 Gen10 (CTO), dạng rack |
| Bộ tăng tốc đồ họa |
2× NVIDIA A100 80 GB HBM2e |
| Bộ xử lý |
2× AMD EPYC 7502 (mỗi chiếc 32C/64T, tổng cộng 64C/128T) |
| Bộ nhớ RAM |
512 GB HPE DDR4 ECC |
| Ổ cứng |
2× 480 GB M.2 NVMe + 2× 1,6 TB SAS SSD doanh nghiệp; backplane cho 8 ổ 2,5″ SFF |
| Bộ điều khiển ổ cứng |
HPE Smart Array S100i (RAID) |
| Mạng |
4× 1 GbE + 2× 10 GbE SFP+ |
| Nguồn điện và quản lý |
2× 1200 W, nguồn dự phòng HPE (1+1), quản lý từ xa iLO 5 |
| Tình trạng |
Mới – máy chủ và mọi linh kiện đều mới |
| Công suất tiêu thụ |
khoảng 1.200 W khi tải tối đa (bộ tăng tốc 2× 300 W, bộ xử lý 2× 180 W) |
Dành cho ai
Dành cho doanh nghiệp, nhóm nghiên cứu và nhà phát triển cần nhiều bộ nhớ đồ họa trên một card – để huấn luyện và tinh chỉnh mô hình, vận hành các mô hình ngôn ngữ lớn và tính toán khoa học. 160 GB bộ nhớ HBM2e đủ, ví dụ, cho Llama 3.3 70B ở dạng lượng tử hóa 8 bit, còn dư cho ngữ cảnh dài và nhiều người dùng cùng lúc. Bộ tăng tốc A100 có thể chia mỗi card thành tối đa 7 phiên bản độc lập (MIG), nhờ đó nhiều nhóm hoặc tác vụ có thể làm việc tách biệt trên cùng một máy chủ. Máy cũng phù hợp cho rendering và phân tích dữ liệu lớn.
Cài đặt sẵn, kiểm tra và dịch vụ
Chúng tôi sẽ thống nhất trước với bạn những gì sẽ chạy trên máy chủ (ví dụ Ubuntu, driver NVIDIA, CUDA, Docker, PyTorch, vLLM) và chuẩn bị máy chính xác cho nhiệm vụ của bạn. Trước khi bàn giao, máy chủ được kiểm tra 72 giờ dưới tải tối đa. Các cấu hình thông thường được giao thường trong 7–14 ngày làm việc kể từ khi báo giá được duyệt, tùy theo tình trạng sẵn có của linh kiện. Chúng tôi luôn có sẵn các linh kiện thay thế chính trong kho tại Praha, việc sửa chữa và thay thế linh kiện được thực hiện trong vòng 24/48 giờ. Bảo hành 24 tháng.
Vận hành và vị trí đặt máy
Máy chủ cần được đặt trong rack tại phòng máy chủ hoặc trung tâm dữ liệu. Bạn không muốn lo về chỗ đặt, tiếng ồn và làm mát? Chúng tôi có thể đặt máy chủ tại dịch vụ hosting của chúng tôi trong trung tâm dữ liệu – điều kiện được thỏa thuận riêng.