Máy chủ AI Turin Dual – 2× AMD EPYC 9355, 16 GPU

Những mô hình nào chạy được trên cấu hình này

Cấu hình đã chọn có 64 GB bộ nhớ đồ họa (VRAM). Ví dụ, các mô hình ngôn ngữ mở sau đây chạy thoải mái:

Llama 3.3 70B / Qwen3-72B48 GB
Seed-OSS-36B28 GB
DeepSeek-R2 32B24 GB
Qwen3-30B-A3B MoE20 GB
Gemma 3 27B18 GB
Mistral Small 3 24B14 GB
Qwen3-14B12 GB

Mô hình lớn hơn Mistral Large 2 123B cần khoảng 70 GB VRAM.

Ước tính tham khảo cho các mô hình lượng tử hóa (thường là Q4) có dự phòng cho ngữ cảnh. Nhu cầu bộ nhớ thực tế phụ thuộc vào độ dài ngữ cảnh và số người dùng đồng thời.

Chúng tôi lo cho bạn những gì

Cài đặt sẵn theo yêu cầu
Linux, driver NVIDIA, CUDA, Docker và phần mềm cho tác vụ của bạn (ví dụ vLLM hoặc Ollama) được cài sẵn – bật máy lên là làm việc được ngay.
72 giờ chạy tải
Trước khi bàn giao, mỗi máy chủ đều được chạy tải tối đa trong 72 giờ để kiểm tra độ ổn định, nhiệt độ và độ chính xác của bộ nhớ ECC.
Sửa chữa trong vòng 24/48 giờ
Chúng tôi luôn có sẵn linh kiện thay thế quan trọng tại Praha. Việc sửa chữa và thay linh kiện được thực hiện trong vòng 24/48 giờ.
Hosting tại trung tâm dữ liệu của chúng tôi
Bạn không có phòng máy chủ? Chúng tôi đặt máy chủ tại trung tâm dữ liệu của mình, lo nguồn điện, làm mát và kết nối, còn bạn truy cập từ xa.

Quy trình của chúng tôi với máy chủ AI

Mô tả

Máy chủ AI PC Praha Turin Dual được xây dựng trên bo mạch hai bộ xử lý ASRock TURIN2D24XGM với hai CPU AMD EPYC 9355 (2× 32 nhân, Zen 5). Hai mươi bốn khe DDR5 ECC cho phép lắp 768 GB hoặc 1,5 TB bộ nhớ RAM. Máy được thiết kế cho nghiên cứu, tinh chỉnh mô hình và vận hành các mô hình mở lớn nhất cho toàn bộ doanh nghiệp – còn phiên bản với mười sáu card RTX Pro 6000 dành cho những tác vụ mà thông thường bạn phải thuê cả một cluster.

Cấu hình

Bộ xử lý	2× AMD EPYC 9355 (2× 32 nhân, Zen 5, socket SP5)
Bo mạch chủ	ASRock TURIN2D24XGM (hai bộ xử lý)
Card đồ họa	4, 6 hoặc 8× tùy chọn: RTX 5080, RTX 4090, RTX 5090, Intel Arc Pro B70, NVIDIA L4, NVIDIA L40 hoặc RTX Pro 6000; hoặc 16× RTX Pro 6000 (PCIe 5.0 x8)
Bộ nhớ RAM	768 GB hoặc 1,5 TB DDR5 ECC
Ổ cứng	NVMe 4 hoặc 8 TB
Nguồn điện	bộ nguồn máy chủ dự phòng (với 16 card là bộ đôi)
Vỏ máy	rack 7U

Bạn cần bao nhiêu bộ nhớ đồ họa

Bộ nhớ đồ họa	Ví dụ cấu hình	Chạy thoải mái
64–192 GB	4–8× RTX 5080 / RTX 4090, 4–6× RTX 5090, 4× L40	từ Llama 3.3 70B đến GLM-4.6 355B (Q4)
256–384 GB	8× RTX 5090, 6–8× L40, 4× RTX Pro 6000	DeepSeek-V3.2 / R1 671B (Q2), Qwen3-Coder-480B, Kimi-K2 1T (1,58 bit); tinh chỉnh toàn bộ mô hình 70B
576–768 GB	6–8× RTX Pro 6000	các mô hình mở lớn nhất, dư dả cho ngữ cảnh dài và nhiều người dùng
1 536 GB	16× RTX Pro 6000	huấn luyện bổ sung các mô hình lớn (100B+) và vận hành đồng thời nhiều mô hình lớn nhất

Kích thước mô hình chỉ mang tính tham khảo (lượng tử hóa Q4, trừ khi ghi khác) theo công cụ cấu hình của chúng tôi. Nhu cầu bộ nhớ thực tế phụ thuộc vào độ dài ngữ cảnh và số người dùng đồng thời. Với mô hình ngôn ngữ, bộ nhớ của các card được cộng dồn, còn tạo hình ảnh và video cần toàn bộ mô hình nằm trên một card.

Bạn nhận được gì

Máy chủ lắp từ linh kiện mới, được chúng tôi lắp ráp và kiểm tra tại Praha.
Phần mềm cài sẵn theo nhu cầu sử dụng của bạn (ví dụ Ubuntu, driver và CUDA, Docker, vLLM, llama.cpp, Ollama, ComfyUI). Bật máy là sẵn sàng làm việc ngay.
Trước khi bàn giao, máy được chạy thử 72 giờ dưới tải tối đa.
Bảo hành 24 tháng. Linh kiện thay thế có sẵn tại Praha, can thiệp kỹ thuật trong vòng 24/48 giờ.
Máy chủ không cần đặt tại chỗ bạn – bạn có thể đặt nó trong trung tâm dữ liệu của chúng tôi (hosting), chúng tôi lo nguồn điện, làm mát và kết nối mạng.

Vận hành và lắp đặt

Máy chủ nên đặt trong phòng máy chủ. Với tám card, máy tiêu thụ khoảng 1,2 đến 5,4 kW, với mười sáu card RTX Pro 6000 khoảng 10 kW – chúng tôi sẽ cùng bạn thiết kế hệ thống điện và làm mát, hoặc vận hành máy chủ trong trung tâm dữ liệu của chúng tôi. Mạng tốc độ cao đến 400 GbE có thể bổ sung theo yêu cầu.

Câu hỏi thường gặp

Khi nào nên chọn Turin Dual thay vì Genoa?

Khi bạn cần hơn 768 GB bộ nhớ RAM, nhiều nhân hơn để chuẩn bị dữ liệu hoặc 16 card trong một server. Với 4–8 card và 768 GB RAM, Genoa sẽ rẻ hơn.

Làm thế nào để lắp 16 card vào một server?

Phiên bản 16 card chỉ sử dụng RTX Pro 6000 kết nối qua PCIe 5.0 x8 và bộ nguồn server kép. Cấu hình cụ thể và thời gian giao hàng chúng tôi sẽ xác nhận trong báo giá.

Server có phù hợp để huấn luyện mô hình không?

Có – tinh chỉnh toàn phần (full fine-tuning) các mô hình cỡ 70B có thể thực hiện với tám card RTX 5090 trở lên, còn với 16× RTX Pro 6000 thậm chí có thể huấn luyện bổ sung các mô hình trên 100 tỷ tham số.

Tôi cần gì để vận hành?

Một phòng server có nguồn điện và làm mát từ vài kW đến khoảng 10 kW. Nếu bạn không có, chúng tôi sẽ vận hành server tại trung tâm dữ liệu của chúng tôi và bạn truy cập từ xa.

Đánh giá của khách hàng

Hiện chưa có đánh giá nào.

Chỉ khách hàng đã mua sản phẩm tại chúng tôi mới có thể đánh giá – chúng tôi sẽ gửi đường dẫn đánh giá qua e-mail sau khi mua.

Máy chủ AI khác

Xem tất cả

Tùy chỉnh cấu hình
Máy chủ AI PC Praha Genoa – EPYC 9004, tới 8 GPU
- 4–8 GPU
- 64–768 GB VRAM
- EPYC 9354
- 768 GB RAM
từ 1 315 033 Kč chưa gồm VAT
1 591 190 Kč đã gồm VAT
Lắp ráp thường mất 5–7 ngày làm việc
Máy chủ AI HPE ProLiant DL385 Gen10 – 2× NVIDIA A100 80 GB, 2× AMD EPYC 7502
- 2× A100 80 GB
- 160 GB VRAM
- 2× EPYC 7502
- 512 GB RAM
1 020 510 Kč chưa gồm VAT
1 234 817 Kč đã gồm VAT
Theo đơn đặt hàng, thời hạn sẽ được xác nhận
Máy chủ AI 4× RTX 5090 – 128 GB VRAM, AMD EPYC, 512 GB RAM
- 4× RTX 5090
- 128 GB VRAM
- EPYC 7643
- 512 GB RAM
990 909 Kč chưa gồm VAT
1 199 000 Kč đã gồm VAT
Theo đơn đặt hàng, thời hạn sẽ được xác nhận
Tùy chỉnh cấu hình
Máy chủ AI PC Praha Rome Dual – 2× EPYC, 8 GPU
- 8 GPU
- 128–768 GB VRAM
- 2× EPYC 7643
- 512–1024 GB RAM
từ 735 033 Kč chưa gồm VAT
889 390 Kč đã gồm VAT
Lắp ráp thường mất 5–7 ngày làm việc