{"product_id":"nvidia-cmp-170hx","title":"NVIDIA CMP 170HX 64 GB HBM2e (đã mở khóa)","description":"\u003cp\u003e\u003cstrong\u003ePhiên bản đã chỉnh sửa với bộ nhớ 64 GB HBM2e được mở khóa.\u003c\/strong\u003e NVIDIA CMP 170HX là card dùng chip GA100 – cùng thế hệ Ampere với A100 dành cho trung tâm dữ liệu. Từ nhà máy, card chỉ có 8 GB bộ nhớ; chúng tôi bán những chiếc đã được mở khóa bộ nhớ lên đủ 64 GB HBM2e. Nhờ vậy, đây hiện là một trong những cách rẻ nhất để đưa trọn một mô hình ngôn ngữ lớn vào bộ nhớ nhanh của card đồ họa.\u003c\/p\u003e\n\u003cp\u003eVới mức giá khoảng 1.500 Kč cho mỗi gigabyte bộ nhớ (đã gồm VAT), card chỉ có giá khoảng một phần ba so với các card chuyên nghiệp có bộ nhớ lớn. Hãy mua card vì dung lượng bộ nhớ, không phải vì sức mạnh tính toán thô – đó là so sánh công bằng và chúng tôi muốn nói rõ ngay từ đầu.\u003c\/p\u003e\n\u003ch2\u003eDành cho ai\u003c\/h2\u003e\n\u003cul\u003e\n\u003cli\u003eVận hành một mô hình lớn được nạp vào bộ nhớ và chạy liên tục nhiều giờ (suy luận, chatbot, trợ lý AI nội bộ).\u003c\/li\u003e\n\u003cli\u003eThử nghiệm với các mô hình lớn khi ngân sách hạn chế – 64 GB bộ nhớ nhanh với giá chỉ bằng một phần nhỏ so với card chuyên nghiệp.\u003c\/li\u003e\n\u003cli\u003eSuy luận theo lô, khi giới hạn nằm ở dung lượng bộ nhớ chứ không phải sức mạnh tính toán.\u003c\/li\u003e\n\u003cli\u003eMáy chủ nhiều card, nơi mô hình được chia theo lớp (ví dụ llama.cpp) – mỗi card có riêng 64 GB.\u003c\/li\u003e\n\u003c\/ul\u003e\n\u003ch2\u003eKhông phù hợp cho\u003c\/h2\u003e\n\u003cul\u003e\n\u003cli\u003eHuấn luyện và fine-tuning – phần tính toán bị hạn chế so với A100 đầy đủ.\u003c\/li\u003e\n\u003cli\u003eTriển khai cần hiệu năng được đảm bảo và đồng đều ở mọi card – các card riêng lẻ có thể khác nhau; cho mục đích đó, chúng tôi sẵn lòng đề xuất \u003ca href=\"\/vi\/products\/nvidia-rtx-pro-6000-blackwell-server-edition-96gb\"\u003eRTX PRO 6000\u003c\/a\u003e.\u003c\/li\u003e\n\u003cli\u003ePC để bàn thông thường – card không có quạt riêng và không có cổng xuất hình.\u003c\/li\u003e\n\u003c\/ul\u003e\n\u003ch2\u003eThông số\u003c\/h2\u003e\n\u003cul\u003e\n\u003cli\u003e\n\u003cstrong\u003eGPU:\u003c\/strong\u003e NVIDIA GA100 (Ampere)\u003c\/li\u003e\n\u003cli\u003e\n\u003cstrong\u003eBộ nhớ:\u003c\/strong\u003e 64 GB HBM2e (đã mở khóa, từ nhà máy 8 GB)\u003c\/li\u003e\n\u003cli\u003e\n\u003cstrong\u003eBăng thông bộ nhớ:\u003c\/strong\u003e 931–970 GB\/s (theo đo đạc của chúng tôi)\u003c\/li\u003e\n\u003cli\u003e\n\u003cstrong\u003eCông suất tiêu thụ:\u003c\/strong\u003e tối đa 250 W, trong thử nghiệm 60 phút ổn định ở 244–245 W\u003c\/li\u003e\n\u003cli\u003e\n\u003cstrong\u003eSức mạnh tính toán:\u003c\/strong\u003e hạn chế so với A100, khác nhau giữa các card\u003c\/li\u003e\n\u003cli\u003e\n\u003cstrong\u003eECC:\u003c\/strong\u003e tắt\u003c\/li\u003e\n\u003cli\u003e\n\u003cstrong\u003eTản nhiệt:\u003c\/strong\u003e thụ động – cần luồng gió mạnh (vỏ máy chủ, ống dẫn gió hoặc quạt cho từng card)\u003c\/li\u003e\n\u003cli\u003e\n\u003cstrong\u003eCổng xuất hình:\u003c\/strong\u003e không có\u003c\/li\u003e\n\u003cli\u003e\n\u003cstrong\u003ePhần mềm:\u003c\/strong\u003e Linux (Ubuntu 22.04 \/ 24.04), driver NVIDIA mã nguồn mở kèm dịch vụ mở khóa, llama.cpp \/ ik_llama.cpp\u003c\/li\u003e\n\u003cli\u003e\n\u003cstrong\u003eTình trạng:\u003c\/strong\u003e đã qua sử dụng (sau khi đào coin), được kiểm tra trước khi gửi\u003c\/li\u003e\n\u003c\/ul\u003e\n\u003ch2\u003eCách mở khóa hoạt động\u003c\/h2\u003e\n\u003cp\u003eBộ nhớ 64 GB được kích hoạt nhờ driver đã chỉnh sửa, và một dịch vụ sẽ kích hoạt lại sau mỗi lần khởi động hệ thống. Sau khi cập nhật kernel hoặc driver, cần mở khóa lại, nếu không card sẽ lại hiển thị 8 GB – vì vậy chúng tôi khuyên nên cố định phiên bản driver. Hướng dẫn chi tiết từng bước có trong bài \u003ca href=\"https:\/\/kentino.com\/blogs\/ai-corner\/complete-technical-guide-flashing-cmp-170hx-unlocking-64-gb-hbm2e-on-ubuntu-22-04-lts\" target=\"_blank\" rel=\"noopener\"\u003eUnlocking 64 GB HBM2e on Ubuntu\u003c\/a\u003e (tiếng Anh). Chúng tôi sẵn lòng hỗ trợ bạn cài đặt.\u003c\/p\u003e\n\u003ch2\u003eCần bao nhiêu card cho mô hình nào\u003c\/h2\u003e\n\u003cp\u003eCác mô hình lớn kiểu mixture-of-experts có thể chia ra nhiều card: ví dụ GLM-5.3-Flash ở chất lượng Q4 vừa trọn trong bốn card. Tính toán cho 1–6 card, dung lượng RAM và bộ nguồn cần thiết có trong hướng dẫn \u003ca href=\"https:\/\/kentino.com\/blogs\/ai-corner\/running-glm-5-3-flash-on-cmp-170hx-a-sizing-guide\" target=\"_blank\" rel=\"noopener\"\u003eRunning GLM-5.3-Flash on CMP 170HX – a sizing guide\u003c\/a\u003e (tiếng Anh). Với hai card trở lên, chúng tôi khuyên dùng bo mạch có khe riêng cho từng card (EPYC \/ Threadripper) và bộ nguồn 1–2 kW tùy số lượng card.\u003c\/p\u003e\n\u003ch2\u003eCâu hỏi thường gặp\u003c\/h2\u003e\n\u003cp\u003e\u003cstrong\u003ePhần mềm của tôi có thấy đủ 64 GB không?\u003c\/strong\u003e\u003cbr\u003eCó, sau khi mở khóa, toàn bộ dung lượng đều có thể sử dụng – đó là lý do chính để mua card này. Tuy nhiên, sức mạnh tính toán bị hạn chế so với A100 và khác nhau giữa các card.\u003c\/p\u003e\n\u003cp\u003e\u003cstrong\u003eTôi có thể lắp nhiều card vào một máy chủ không?\u003c\/strong\u003e\u003cbr\u003eCó. Mỗi card có riêng 64 GB và mô hình được chia giữa các card theo lớp. Hãy cho chúng tôi biết bạn muốn chạy mô hình nào, chúng tôi sẽ đề xuất số lượng card và cấu hình.\u003c\/p\u003e\n\u003cp\u003e\u003cstrong\u003eCard có cần tản nhiệt đặc biệt không?\u003c\/strong\u003e\u003cbr\u003eCó. Card tản nhiệt thụ động và sẽ quá nóng trong vỏ máy thông thường. Card cần vỏ máy chủ có luồng gió từ trước ra sau hoặc ống dẫn gió kèm quạt.\u003c\/p\u003e\n\u003cp\u003e\u003cstrong\u003eCác bạn có lắp ráp trọn bộ máy chủ cho tôi không?\u003c\/strong\u003e\u003cbr\u003eCó – chúng tôi lắp ráp và kiểm tra \u003ca href=\"\/vi\/collections\/ai-servery\"\u003emáy chủ AI\u003c\/a\u003e nhiều card, cài đặt hệ điều hành và phần mở khóa, hoặc vận hành máy chủ trong trung tâm dữ liệu của chúng tôi.\u003c\/p\u003e\n\u003cp\u003eGiao hàng theo đơn đặt hàng – thời hạn giao hàng và số lượng có sẵn sẽ được xác nhận sau khi đặt hàng hoặc gửi yêu cầu. Với số lượng nhiều, chúng tôi sẽ chuẩn bị báo giá riêng – \u003ca href=\"\/vi\/pages\/kontakt\"\u003ehãy liên hệ với chúng tôi\u003c\/a\u003e.\u003c\/p\u003e","brand":"NVIDIA","offers":[{"title":"Default Title","offer_id":53070997225759,"sku":null,"price":94999.0,"currency_code":"CZK","in_stock":true}],"thumbnail_url":"\/\/cdn.shopify.com\/s\/files\/1\/0976\/4693\/6351\/files\/nvidia-cmp-170hx-pro-mining-164mh-s-205w.jpg?v=1792417385","url":"https:\/\/pcpraha.cz\/vi\/products\/nvidia-cmp-170hx","provider":"PCPRAHA","version":"1.0","type":"link"}