Đặc điểm nổi bật
- 4× NVIDIA GeForce RTX 4090 24 GB GDDR6X – tổng cộng 96 GB bộ nhớ đồ họa
- Bộ xử lý AMD EPYC 7542 (32 nhân / 64 luồng) và 256 GB bộ nhớ DDR4 ECC, có thể mở rộng lên 512 GB
- Thiết kế rack 4U, hai bộ nguồn 2 kW đồng bộ, 2× 10 GbE và quản lý từ xa IPMI
- Theo đơn đặt hàng – chúng tôi lắp ráp cho bạn một máy mới từ linh kiện có sẵn trong kho
- Giao kèm phần mềm cài sẵn theo đúng mục đích bạn muốn sử dụng máy chủ – bật lên là làm việc ngay
Cấu hình
| Linh kiện |
Thông số |
| Card đồ họa |
4× NVIDIA GeForce RTX 4090 24 GB GDDR6X (PCIe 4.0 x16) |
| Bộ xử lý |
AMD EPYC 7542 (32C/64T, 225 W) |
| Bo mạch chủ |
ASRock Rack ROMED8-2T (7× PCIe 4.0 x16, 8× DDR4 ECC, 2× 10 GbE, IPMI) |
| Bộ nhớ RAM |
256 GB DDR4-2666 ECC RDIMM (mở rộng tối đa 512 GB) |
| Ổ cứng |
2 TB NVMe M.2 (PCIe 4.0) |
| Nguồn điện |
2× 2 kW ATX, đồng bộ (tổng 4 kW) |
| Vỏ và tản nhiệt |
Rack 4U, quạt 120 mm với luồng gió từ trước ra sau |
| Công suất tiêu thụ |
khoảng 2.200 W khi tải tối đa (card 4× 450 W, bộ xử lý 225 W) |
| Tình trạng sẵn có |
Theo đơn đặt hàng – chúng tôi lắp ráp cho bạn một máy mới (linh kiện có sẵn trong kho) |
Dành cho ai
Dành cho doanh nghiệp muốn tự vận hành các mô hình ngôn ngữ tại chỗ – chatbot nội bộ, trợ lý ảo hoặc làm việc với tài liệu của công ty (RAG). Dữ liệu không rời khỏi công ty bạn và bạn không phải trả phí hằng tháng cho card đồ họa trên đám mây. 96 GB bộ nhớ đồ họa đủ cho các mô hình khoảng 70 tỷ tham số ở dạng lượng tử hóa (ví dụ Llama 3.3 70B), cho nhiều mô hình nhỏ hơn chạy cùng lúc, cho tinh chỉnh (LoRA/QLoRA) các mô hình cỡ 7–34 tỷ tham số cũng như cho việc tạo hình ảnh và video (FLUX.1, SDXL). Trong thử nghiệm của chúng tôi, Llama 3.3 70B (AWQ, 4 bit) đạt tới 179 token mỗi giây với 32 truy vấn đồng thời. Khi máy chủ không xử lý tác vụ của bạn, nó có thể đào tiền mã hóa bằng card đồ họa.
Cài đặt sẵn, kiểm tra và dịch vụ
Chúng tôi sẽ thống nhất trước với bạn những gì sẽ chạy trên máy chủ (ví dụ Ubuntu, CUDA, Docker, vLLM, ComfyUI) và chuẩn bị máy chính xác cho nhiệm vụ của bạn. Trước khi bàn giao, máy chủ được kiểm tra 72 giờ dưới tải tối đa. Linh kiện có sẵn trong kho – chúng tôi lắp ráp cho bạn một máy chủ mới và kiểm tra thường trong 7–14 ngày làm việc kể từ khi báo giá được duyệt. Chúng tôi luôn có sẵn các linh kiện thay thế chính trong kho tại Praha, việc sửa chữa và thay thế linh kiện được thực hiện trong vòng 24/48 giờ. Bảo hành 24 tháng. Bộ nhớ, ổ cứng hoặc card mạng có thể được điều chỉnh theo nhu cầu của bạn.
Vận hành và vị trí đặt máy
Máy chủ cần được đặt trong rack hoặc phòng kỹ thuật có làm mát tốt và mạch điện chịu được khoảng 2,3 kW. Bạn không muốn lo về chỗ đặt, tiếng ồn và làm mát? Chúng tôi có thể đặt máy chủ tại dịch vụ hosting của chúng tôi trong trung tâm dữ liệu – điều kiện được thỏa thuận riêng.