Máy chủ AI Edge – tháp di động, AMD EPYC, 2–6 GPU

Những mô hình nào chạy được trên cấu hình này

Cấu hình đã chọn có 32 GB bộ nhớ đồ họa (VRAM). Ví dụ, các mô hình ngôn ngữ mở sau đây chạy thoải mái:

Seed-OSS-36B28 GB
DeepSeek-R2 32B24 GB
Qwen3-30B-A3B MoE20 GB
Gemma 3 27B18 GB
Mistral Small 3 24B14 GB
Qwen3-14B12 GB

Mô hình lớn hơn Llama 3.3 70B / Qwen3-72B cần khoảng 48 GB VRAM.

Ước tính tham khảo cho các mô hình lượng tử hóa (thường là Q4) có dự phòng cho ngữ cảnh. Nhu cầu bộ nhớ thực tế phụ thuộc vào độ dài ngữ cảnh và số người dùng đồng thời.

Chúng tôi lo cho bạn những gì

Cài đặt sẵn theo yêu cầu
Linux, driver NVIDIA, CUDA, Docker và phần mềm cho tác vụ của bạn (ví dụ vLLM hoặc Ollama) được cài sẵn – bật máy lên là làm việc được ngay.
72 giờ chạy tải
Trước khi bàn giao, mỗi máy chủ đều được chạy tải tối đa trong 72 giờ để kiểm tra độ ổn định, nhiệt độ và độ chính xác của bộ nhớ ECC.
Sửa chữa trong vòng 24/48 giờ
Chúng tôi luôn có sẵn linh kiện thay thế quan trọng tại Praha. Việc sửa chữa và thay linh kiện được thực hiện trong vòng 24/48 giờ.
Hosting tại trung tâm dữ liệu của chúng tôi
Bạn không có phòng máy chủ? Chúng tôi đặt máy chủ tại trung tâm dữ liệu của mình, lo nguồn điện, làm mát và kết nối, còn bạn truy cập từ xa.

Quy trình của chúng tôi với máy chủ AI

Mô tả

Máy chủ AI PC Praha Edge sử dụng cùng nền tảng AMD EPYC như máy chủ rack Rome của chúng tôi, nhưng trong vỏ tháp chắc chắn có bánh xe. Dành cho những nơi không có phòng máy chủ: camera AI hoặc kiểm tra chất lượng trong sản xuất, ghi chép cuộc họp và cuộc gọi tại chi nhánh, trợ lý nội bộ cho công ty không muốn gửi dữ liệu ra khỏi tòa nhà. Nguồn điện kép cho vận hành 24/7 và máy chủ có thể dễ dàng di chuyển đến nơi cần dùng.

Cấu hình

Bộ vi xử lý	AMD EPYC 7643 (48 nhân, socket SP3)
Bo mạch chủ	ASRock Rack ROMED8-2T – 2× 10 GbE, IPMI
Card đồ họa	2–4× RTX 5080 / RTX 4090 / RTX 5090 / RTX Pro 6000, 2–6× Intel Arc Pro B70 hoặc NVIDIA L4; kết nối qua PCIe riser
Bộ nhớ RAM	256 hoặc 512 GB DDR4 ECC RDIMM
Ổ cứng	NVMe 2 hoặc 4 TB
Nguồn điện	dự phòng cho vận hành 24/7
Vỏ case	vỏ case dạng tháp có bánh xe

Bạn cần bao nhiêu bộ nhớ đồ họa

Bộ nhớ đồ họa	Cấu hình ví dụ	Chạy thoải mái
32–64 GB	2× RTX 5080, 2× RTX 4090, 2× L4, 2× RTX 5090	Seed-OSS-36B, từ 48 GB Llama 3.3 70B / Qwen3-72B
96–144 GB	4× RTX 4090, 4× RTX 5090, 4× Arc Pro B70, 6× L4	Qwen3.5-122B-A10B (MoE), với 144 GB Qwen3-235B-A22B (Q3–Q4)
192 GB	6× Arc Pro B70, 2× RTX Pro 6000	GLM-4.6 355B (Q4)
384 GB	4× RTX Pro 6000	DeepSeek-V3.2 / R1 671B (Q2), Kimi-K2 1T (1,58 bit)

Kích thước mô hình chỉ mang tính tham khảo (lượng tử hóa Q4, trừ khi ghi khác) theo công cụ cấu hình của chúng tôi. Nhu cầu bộ nhớ thực tế phụ thuộc vào độ dài ngữ cảnh và số người dùng đồng thời. Với mô hình ngôn ngữ, bộ nhớ của các card được cộng dồn; còn tạo ảnh và video cần toàn bộ mô hình nằm trên một card.

Để chuyển giọng nói thành văn bản (Whisper), tổng hợp giọng nói hoặc embedding, chỉ cần card tiết kiệm điện NVIDIA L4 24 GB, tiêu thụ 72 W mỗi card. Chúng tôi không lắp card thụ động L40 vào vỏ tháp – chúng cần đặt trong rack có luồng gió được kiểm soát (máy chủ Rome hoặc Genoa).

Bạn nhận được gì

Máy chủ được lắp từ linh kiện mới, do chúng tôi lắp ráp và kiểm tra tại Praha.
Phần mềm cài sẵn theo nhu cầu sử dụng của bạn (ví dụ Ubuntu, driver và CUDA, Docker, vLLM, llama.cpp, Ollama, ComfyUI). Bật máy lên là sẵn sàng làm việc ngay.
Trước khi bàn giao, máy được kiểm tra 72 giờ ở mức tải tối đa.
Bảo hành 24 tháng. Linh kiện thay thế có sẵn tại Praha, chúng tôi đảm bảo can thiệp kỹ thuật trong vòng 24/48 giờ.
Máy chủ không nhất thiết phải đặt tại chỗ bạn – bạn có thể đặt nó trong trung tâm dữ liệu của chúng tôi (hosting), chúng tôi lo nguồn điện, làm mát và kết nối.

Vận hành

Nguồn điện dự phòng đồng nghĩa với độ ồn cao hơn khi chạy tải – máy chủ phù hợp đặt trong phòng kỹ thuật, kho hoặc văn phòng nơi tiếng ồn không là vấn đề. Tùy card, máy tiêu thụ khoảng 1,1 đến 2,8 kW. Mạng nhanh hơn (25 đến 400 GbE) có thể bổ sung theo yêu cầu.

Câu hỏi thường gặp

Edge khác server Rome ở điểm nào?

Nền tảng giống nhau (AMD EPYC 7643, ROMED8-2T), nhưng Edge ở dạng thùng đứng có bánh xe và có nguồn dự phòng để vận hành 24/7 – bạn không cần rack.

Server có êm không?

Không. Do các card mạnh và nguồn kép, server khá ồn khi chạy tải. Server nên đặt trong phòng kỹ thuật hoặc nơi tiếng ồn không gây phiền. Máy êm là AI workstation của chúng tôi.

Card nào tiết kiệm điện nhất?

NVIDIA L4 – 24 GB bộ nhớ với 72 W. Sáu card L4 mang lại 144 GB bộ nhớ đồ họa với mức tiêu thụ thấp, phù hợp cho chuyển giọng nói thành văn bản, embedding và các mô hình ngôn ngữ nhỏ hơn.

Quản lý server từ xa như thế nào?

Bo mạch có quản lý từ xa IPMI, vì vậy bạn có thể bật, khởi động lại hoặc cài đặt lại server mà không cần tiếp cận trực tiếp.

Đánh giá của khách hàng

Hiện chưa có đánh giá nào.

Chỉ khách hàng đã mua sản phẩm tại chúng tôi mới có thể đánh giá – chúng tôi sẽ gửi đường dẫn đánh giá qua e-mail sau khi mua.

Máy chủ AI khác

Xem tất cả

Tùy chỉnh cấu hình
Máy chủ AI PC Praha Rome – EPYC, tới 6 GPU
- 2–6 GPU
- 32–384 GB VRAM
- EPYC 7643
- 256–512 GB RAM
từ 260 157 Kč chưa gồm VAT
314 790 Kč đã gồm VAT
Lắp ráp thường mất 5–7 ngày làm việc
Máy chủ AI PC Praha Epic Elite – 2× RTX 4090, AMD EPYC 9754, 384 GB RAM
- 2× RTX 4090
- 48 GB VRAM
- EPYC 9754
- 384 GB RAM
260 093 Kč chưa gồm VAT
314 713 Kč đã gồm VAT
Theo đơn đặt hàng, thời hạn sẽ được xác nhận
Dell Pro Max với GB10 – NVIDIA GB10, 128 GB, 4 TB
- GB10 Grace Blackwell
- 128 GB RAM
191 066 Kč chưa gồm VAT
231 190 Kč đã gồm VAT
NVIDIA DGX Spark – GB10 Grace Blackwell, 128 GB, 4 TB
- GB10 Grace Blackwell
- 128 GB RAM
181 893 Kč chưa gồm VAT
220 090 Kč đã gồm VAT