Máy chủ AI Genoa – AMD EPYC 9354, DDR5, 4–8 GPU

Những mô hình nào chạy được trên cấu hình này

Cấu hình đã chọn có 64 GB bộ nhớ đồ họa (VRAM). Ví dụ, các mô hình ngôn ngữ mở sau đây chạy thoải mái:

Llama 3.3 70B / Qwen3-72B48 GB
Seed-OSS-36B28 GB
DeepSeek-R2 32B24 GB
Qwen3-30B-A3B MoE20 GB
Gemma 3 27B18 GB
Mistral Small 3 24B14 GB
Qwen3-14B12 GB

Mô hình lớn hơn Mistral Large 2 123B cần khoảng 70 GB VRAM.

Ước tính tham khảo cho các mô hình lượng tử hóa (thường là Q4) có dự phòng cho ngữ cảnh. Nhu cầu bộ nhớ thực tế phụ thuộc vào độ dài ngữ cảnh và số người dùng đồng thời.

Chúng tôi lo cho bạn những gì

Cài đặt sẵn theo yêu cầu
Linux, driver NVIDIA, CUDA, Docker và phần mềm cho tác vụ của bạn (ví dụ vLLM hoặc Ollama) được cài sẵn – bật máy lên là làm việc được ngay.
72 giờ chạy tải
Trước khi bàn giao, mỗi máy chủ đều được chạy tải tối đa trong 72 giờ để kiểm tra độ ổn định, nhiệt độ và độ chính xác của bộ nhớ ECC.
Sửa chữa trong vòng 24/48 giờ
Chúng tôi luôn có sẵn linh kiện thay thế quan trọng tại Praha. Việc sửa chữa và thay linh kiện được thực hiện trong vòng 24/48 giờ.
Hosting tại trung tâm dữ liệu của chúng tôi
Bạn không có phòng máy chủ? Chúng tôi đặt máy chủ tại trung tâm dữ liệu của mình, lo nguồn điện, làm mát và kết nối, còn bạn truy cập từ xa.

Quy trình của chúng tôi với máy chủ AI

Mô tả

Máy chủ AI PC Praha Genoa được chúng tôi xây dựng trên bộ vi xử lý AMD EPYC 9354 (32 nhân, Zen 4) và bo mạch ASRock GENOAD8X-2T/BCM. Mười hai kênh DDR5 ECC mang lại bộ nhớ RAM tốc độ cao cho các mô hình không vừa hoàn toàn trong card đồ họa, và PCIe 5.0 khai thác tối đa card RTX 5090 cũng như RTX Pro 6000. Đây là nền tảng của chúng tôi cho các triển khai doanh nghiệp đòi hỏi cao nhất: mô hình ngôn ngữ lớn cho hàng chục người dùng, reasoning và agent với ngữ cảnh dài, tạo video chất lượng cao.

Cấu hình

Bộ vi xử lý	AMD EPYC 9354 (32 nhân, Zen 4, socket SP5)
Bo mạch chủ	ASRock GENOAD8X-2T/BCM – PCIe 5.0, 2× 10 GbE
Card đồ họa	4, 6 hoặc 8× tùy chọn: RTX 5080, RTX 4090, RTX 5090, Intel Arc Pro B70, NVIDIA L4, NVIDIA L40 hoặc RTX Pro 6000
Bộ nhớ RAM	768 GB DDR5 ECC (12 module)
Ổ cứng	NVMe 4 hoặc 8 TB
Nguồn điện	dự phòng, cho vận hành 24/7
Vỏ case	rack 7U cho 8 card

Bạn cần bao nhiêu bộ nhớ đồ họa

Bộ nhớ đồ họa	Cấu hình ví dụ	Chạy thoải mái
64–128 GB	4× RTX 5080, 4× RTX 4090, 4× RTX 5090	Llama 3.3 70B, Qwen3.5-122B-A10B (MoE)
144–192 GB	6× RTX 4090, 6× RTX 5090, 4× L40, 8× L4	Qwen3-235B-A22B, GLM-4.6 355B (Q4)
256–384 GB	8× RTX 5090, 6–8× L40, 4× RTX Pro 6000	DeepSeek-V3.2 / R1 671B (Q2), Qwen3-Coder-480B, Kimi-K2 1T (1,58 bit)
576–768 GB	6–8× RTX Pro 6000	các mô hình mở lớn nhất với dư địa lớn cho ngữ cảnh và người dùng đồng thời

Kích thước mô hình chỉ mang tính tham khảo (lượng tử hóa Q4, trừ khi ghi khác) theo công cụ cấu hình của chúng tôi. Nhu cầu bộ nhớ thực tế phụ thuộc vào độ dài ngữ cảnh và số người dùng đồng thời. Với mô hình ngôn ngữ, bộ nhớ của các card được cộng dồn; còn tạo ảnh và video cần toàn bộ mô hình nằm trên một card.

Bạn nhận được gì

Máy chủ được lắp từ linh kiện mới, do chúng tôi lắp ráp và kiểm tra tại Praha.
Phần mềm cài sẵn theo nhu cầu sử dụng của bạn (ví dụ Ubuntu, driver và CUDA, Docker, vLLM, llama.cpp, Ollama, ComfyUI). Bật máy lên là sẵn sàng làm việc ngay.
Trước khi bàn giao, máy được kiểm tra 72 giờ ở mức tải tối đa.
Bảo hành 24 tháng. Linh kiện thay thế có sẵn tại Praha, chúng tôi đảm bảo can thiệp kỹ thuật trong vòng 24/48 giờ.
Máy chủ không nhất thiết phải đặt tại chỗ bạn – bạn có thể đặt nó trong trung tâm dữ liệu của chúng tôi (hosting), chúng tôi lo nguồn điện, làm mát và kết nối.

Vận hành và lắp đặt

Máy chủ nên đặt trong rack hoặc phòng máy chủ có nguồn cấp điện và làm mát cho khoảng 0,7 đến 5,2 kW tùy card. Mạng nhanh hơn (25 đến 400 GbE) để kết nối với hệ thống lưu trữ hoặc các máy chủ khác có thể bổ sung theo yêu cầu. Chúng tôi cũng có thể vận hành máy chủ trong trung tâm dữ liệu của mình.

Câu hỏi thường gặp

Genoa dành cho ai?

Dành cho các doanh nghiệp muốn chạy những mô hình mở lớn nhất hoặc phục vụ nhiều người dùng cùng lúc. Các cấu hình sáu và tám card RTX Pro 6000 chúng tôi lắp ráp chính trên nền tảng này.

Vì sao lại là 768 GB RAM?

Bo mạch có 12 kênh DDR5 và chúng tôi lắp đầy tất cả – khi đó bộ nhớ chạy nhanh nhất. RAM lớn cũng hữu ích khi một phần mô hình không vừa trong card đồ họa.

Khác biệt so với Turin Dual là gì?

Turin Dual có hai bộ xử lý EPYC 9005 mới hơn, tối đa 1,5 TB RAM và hỗ trợ 16 card RTX Pro 6000. Genoa dùng một bộ xử lý và có giá rẻ hơn.

Tôi có thể bắt đầu với bốn card rồi bổ sung thêm không?

Có, vỏ máy được thiết kế cho tám card. Khi nâng cấp, chúng tôi sẽ bổ sung card, riser và nếu cần cả nguồn điện – hãy liên hệ với chúng tôi để tính toán.

Đánh giá của khách hàng

Hiện chưa có đánh giá nào.

Chỉ khách hàng đã mua sản phẩm tại chúng tôi mới có thể đánh giá – chúng tôi sẽ gửi đường dẫn đánh giá qua e-mail sau khi mua.

Máy chủ AI khác

Xem tất cả

Tùy chỉnh cấu hình
Máy chủ AI PC Praha Turin Dual – 2× EPYC 9005, tối đa 16 GPU
- 4–16 GPU
- 64–1536 GB VRAM
- 2× EPYC 9355
- 768–1536 GB RAM
từ 1 442 306 Kč chưa gồm VAT
1 745 190 Kč đã gồm VAT
Lắp ráp thường mất 5–7 ngày làm việc
Máy chủ AI HPE ProLiant DL385 Gen10 – 2× NVIDIA A100 80 GB, 2× AMD EPYC 7502
- 2× A100 80 GB
- 160 GB VRAM
- 2× EPYC 7502
- 512 GB RAM
1 020 510 Kč chưa gồm VAT
1 234 817 Kč đã gồm VAT
Theo đơn đặt hàng, thời hạn sẽ được xác nhận
Máy chủ AI 4× RTX 5090 – 128 GB VRAM, AMD EPYC, 512 GB RAM
- 4× RTX 5090
- 128 GB VRAM
- EPYC 7643
- 512 GB RAM
990 909 Kč chưa gồm VAT
1 199 000 Kč đã gồm VAT
Theo đơn đặt hàng, thời hạn sẽ được xác nhận
Tùy chỉnh cấu hình
Máy chủ AI PC Praha Rome Dual – 2× EPYC, 8 GPU
- 8 GPU
- 128–768 GB VRAM
- 2× EPYC 7643
- 512–1024 GB RAM
từ 735 033 Kč chưa gồm VAT
889 390 Kč đã gồm VAT
Lắp ráp thường mất 5–7 ngày làm việc