Máy chủ AI Rome – AMD EPYC, 2–6 GPU, rack 4U

Những mô hình nào chạy được trên cấu hình này

Cấu hình đã chọn có 32 GB bộ nhớ đồ họa (VRAM). Ví dụ, các mô hình ngôn ngữ mở sau đây chạy thoải mái:

Seed-OSS-36B28 GB
DeepSeek-R2 32B24 GB
Qwen3-30B-A3B MoE20 GB
Gemma 3 27B18 GB
Mistral Small 3 24B14 GB
Qwen3-14B12 GB

Mô hình lớn hơn Llama 3.3 70B / Qwen3-72B cần khoảng 48 GB VRAM.

Ước tính tham khảo cho các mô hình lượng tử hóa (thường là Q4) có dự phòng cho ngữ cảnh. Nhu cầu bộ nhớ thực tế phụ thuộc vào độ dài ngữ cảnh và số người dùng đồng thời.

Chúng tôi lo cho bạn những gì

Cài đặt sẵn theo yêu cầu
Linux, driver NVIDIA, CUDA, Docker và phần mềm cho tác vụ của bạn (ví dụ vLLM hoặc Ollama) được cài sẵn – bật máy lên là làm việc được ngay.
72 giờ chạy tải
Trước khi bàn giao, mỗi máy chủ đều được chạy tải tối đa trong 72 giờ để kiểm tra độ ổn định, nhiệt độ và độ chính xác của bộ nhớ ECC.
Sửa chữa trong vòng 24/48 giờ
Chúng tôi luôn có sẵn linh kiện thay thế quan trọng tại Praha. Việc sửa chữa và thay linh kiện được thực hiện trong vòng 24/48 giờ.
Hosting tại trung tâm dữ liệu của chúng tôi
Bạn không có phòng máy chủ? Chúng tôi đặt máy chủ tại trung tâm dữ liệu của mình, lo nguồn điện, làm mát và kết nối, còn bạn truy cập từ xa.

Quy trình của chúng tôi với máy chủ AI

Mô tả

Máy chủ AI PC Praha Rome là nền tảng đa năng của chúng tôi cho AI doanh nghiệp: chatbot trên tài liệu nội bộ, trợ lý cho lập trình viên, xử lý hợp đồng và e-mail hoặc API cho ứng dụng riêng. Dữ liệu ở lại trong công ty và bạn không phải trả tiền token hay thuê bao cloud. Bộ vi xử lý AMD EPYC 7643 48 nhân có đủ làn PCIe cho tất cả các card, còn bo mạch ASRock Rack ROMED8-2T cung cấp 2× 10 GbE và quản lý từ xa IPMI.

Cấu hình

Bộ vi xử lý	AMD EPYC 7643 (48 nhân, socket SP3)
Bo mạch chủ	ASRock Rack ROMED8-2T – 2× 10 GbE, IPMI
Card đồ họa	2–4× RTX 5080 / RTX 4090 / RTX 5090 / RTX Pro 6000, 2–6× L4 / L40 / Intel Arc Pro B70; kết nối qua PCIe riser
Bộ nhớ RAM	256 hoặc 512 GB DDR4 ECC RDIMM
Ổ cứng	NVMe 2 hoặc 4 TB
Nguồn điện	2 kW ATX (2 card) hoặc 2× 2 kW ATX (4–6 card)
Vỏ case và làm mát	rack 4U, tản nhiệt CPU dạng tháp, quạt hệ thống

Bạn cần bao nhiêu bộ nhớ đồ họa

Bộ nhớ đồ họa	Cấu hình ví dụ	Chạy thoải mái
32–64 GB	2× RTX 5080, 2× RTX 4090, 2× RTX 5090, 2× Arc Pro B70	Llama 3.3 70B / Qwen3-72B từ 48 GB, các mô hình nhỏ hơn cho nhiều người dùng
96–128 GB	4× RTX 4090, 4× RTX 5090, 2× L40, 4× L4	GLM-4.5-Air 106B, Mixtral 8x22B, Qwen3.5-122B-A10B (MoE)
144–192 GB	6× L4, 4× L40, 6× Arc Pro B70, 2× RTX Pro 6000	Qwen3-235B-A22B (Q3–Q4), từ 180 GB GLM-4.6 355B
288–384 GB	6× L40, 4× RTX Pro 6000	DeepSeek-V3.2 / R1 671B (Q2), Qwen3-Coder-480B, Kimi-K2 1T (1,58 bit)

Kích thước mô hình chỉ mang tính tham khảo (lượng tử hóa Q4, trừ khi ghi khác) theo công cụ cấu hình của chúng tôi. Nhu cầu bộ nhớ thực tế phụ thuộc vào độ dài ngữ cảnh và số người dùng đồng thời. Với mô hình ngôn ngữ, bộ nhớ của các card được cộng dồn; còn tạo ảnh và video cần toàn bộ mô hình nằm trên một card.

Card tản nhiệt thụ động NVIDIA L4 và L40 cần luồng gió trong rack – vỏ case 4U này đã được chuẩn bị sẵn cho điều đó. L4 chỉ tiêu thụ 72 W, vì vậy rất phù hợp cho chuyển giọng nói thành văn bản, embedding và tìm kiếm trên tài liệu với mức tiêu thụ điện thấp.

Bạn nhận được gì

Máy chủ được lắp từ linh kiện mới, do chúng tôi lắp ráp và kiểm tra tại Praha.
Phần mềm cài sẵn theo nhu cầu sử dụng của bạn (ví dụ Ubuntu, driver và CUDA, Docker, vLLM, llama.cpp, Ollama, ComfyUI). Bật máy lên là sẵn sàng làm việc ngay.
Trước khi bàn giao, máy được kiểm tra 72 giờ ở mức tải tối đa.
Bảo hành 24 tháng. Linh kiện thay thế có sẵn tại Praha, chúng tôi đảm bảo can thiệp kỹ thuật trong vòng 24/48 giờ.
Máy chủ không nhất thiết phải đặt tại chỗ bạn – bạn có thể đặt nó trong trung tâm dữ liệu của chúng tôi (hosting), chúng tôi lo nguồn điện, làm mát và kết nối.

Vận hành và lắp đặt

Máy chủ nên đặt trong rack hoặc phòng kỹ thuật có làm mát. Khi tải tối đa, máy tiêu thụ khoảng 1,1 đến 2,8 kW tùy card – chúng tôi sẽ tư vấn về aptomat và vị trí đặt máy. Nếu bạn cần bộ vi xử lý khác hoặc tổ hợp card khác, chúng tôi sẽ lắp ráp theo yêu cầu.

Câu hỏi thường gặp

Máy chủ Rome lắp được bao nhiêu card?

Card lớn RTX 5080, RTX 4090 và RTX 5090 tối đa bốn card, card hai khe L40, Intel Arc Pro B70 và card một khe L4 tối đa sáu card. Cấu hình sáu card RTX Pro 6000 chúng tôi lắp trên nền tảng Genoa.

Mô hình nào có thể chạy trên máy này?

Tùy thuộc vào tổng bộ nhớ đồ họa: từ 48 GB chạy thoải mái Llama 3.3 70B, với 128 GB các mô hình khoảng 120 tỷ tham số (MoE), với 4× RTX Pro 6000 (384 GB) chạy được cả những mô hình mở lớn nhất ở mức lượng tử hóa mạnh.

Tại sao dùng DDR4 mà không phải DDR5?

Nền tảng EPYC 7003 với DDR4 ECC có tỷ lệ giá/hiệu năng tốt nhất cho suy luận (inference) trên card đồ họa – việc tính toán chạy trên GPU. Cho DDR5 và PCIe 5.0, chúng tôi cung cấp máy chủ Genoa và Turin.

Tôi có thể đặt máy chủ tại chỗ các bạn không?

Có. Máy chủ của bạn có thể đặt trong trung tâm dữ liệu của chúng tôi, chúng tôi lo nguồn điện, làm mát và kết nối, còn bạn truy cập máy từ xa.

Đánh giá của khách hàng

Hiện chưa có đánh giá nào.

Chỉ khách hàng đã mua sản phẩm tại chúng tôi mới có thể đánh giá – chúng tôi sẽ gửi đường dẫn đánh giá qua e-mail sau khi mua.

Máy chủ AI khác

Xem tất cả

Máy chủ AI PC Praha Epic Elite – 2× RTX 4090, AMD EPYC 9754, 384 GB RAM
- 2× RTX 4090
- 48 GB VRAM
- EPYC 9754
- 384 GB RAM
260 093 Kč chưa gồm VAT
314 713 Kč đã gồm VAT
Theo đơn đặt hàng, thời hạn sẽ được xác nhận
Tùy chỉnh cấu hình
Máy chủ AI PC Praha Edge – vỏ tháp có bánh xe, tới 6 GPU
- 2–6 GPU
- 32–384 GB VRAM
- EPYC 7643
- 256–512 GB RAM
từ 280 405 Kč chưa gồm VAT
339 290 Kč đã gồm VAT
Lắp ráp thường mất 5–7 ngày làm việc
Dell Pro Max với GB10 – NVIDIA GB10, 128 GB, 4 TB
- GB10 Grace Blackwell
- 128 GB RAM
191 066 Kč chưa gồm VAT
231 190 Kč đã gồm VAT
NVIDIA DGX Spark – GB10 Grace Blackwell, 128 GB, 4 TB
- GB10 Grace Blackwell
- 128 GB RAM
181 893 Kč chưa gồm VAT
220 090 Kč đã gồm VAT