{"product_id":"nvidia-cmp-170hx","title":"NVIDIA CMP 170HX 64 GB HBM2e (розблокована)","description":"\u003cp\u003e\u003cstrong\u003eМодифікована версія з розблокованою пам’яттю 64 GB HBM2e.\u003c\/strong\u003e NVIDIA CMP 170HX – карта на чипі GA100 того ж покоління Ampere, що й серверна A100. З заводу вона має лише 8 GB пам’яті; ми продаємо екземпляри, у яких пам’ять розблоковано до повних 64 GB HBM2e. Завдяки цьому сьогодні це один із найдешевших способів повністю розмістити велику мовну модель у швидкій пам’яті відеокарти.\u003c\/p\u003e\n\u003cp\u003eЗа ціною близько 1 500 Kč за гігабайт пам’яті (з ПДВ) вона коштує приблизно третину від ціни професійних карт із великим обсягом пам’яті. Купуйте її заради обсягу пам’яті, а не заради чистої обчислювальної потужності – це чесне порівняння, і краще сказати про це одразу.\u003c\/p\u003e\n\u003ch2\u003eДля кого\u003c\/h2\u003e\n\u003cul\u003e\n\u003cli\u003eРобота однієї великої моделі, яка завантажується в пам’ять і працює годинами (інференс, чат-бот, внутрішній AI-асистент).\u003c\/li\u003e\n\u003cli\u003eЕксперименти з великими моделями за обмеженого бюджету – 64 GB швидкої пам’яті за невелику частку ціни професійної карти.\u003c\/li\u003e\n\u003cli\u003eПакетний інференс, де обмеженням є обсяг пам’яті, а не обчислювальна потужність.\u003c\/li\u003e\n\u003cli\u003eСервери з кількома картами, де модель ділиться за шарами (наприклад, llama.cpp), – кожна карта має власні 64 GB.\u003c\/li\u003e\n\u003c\/ul\u003e\n\u003ch2\u003eДля чого не підходить\u003c\/h2\u003e\n\u003cul\u003e\n\u003cli\u003eНавчання та fine-tuning – обчислювальна частина порівняно з повноцінною A100 обмежена.\u003c\/li\u003e\n\u003cli\u003eЗавдання, де потрібна гарантована й однакова на всіх екземплярах продуктивність, – окремі карти відрізняються; для таких завдань ми охоче запропонуємо \u003ca href=\"\/uk\/products\/nvidia-rtx-pro-6000-blackwell-server-edition-96gb\"\u003eRTX PRO 6000\u003c\/a\u003e.\u003c\/li\u003e\n\u003cli\u003eЗвичайні настільні ПК – карта не має власного вентилятора й відеовиходів.\u003c\/li\u003e\n\u003c\/ul\u003e\n\u003ch2\u003eХарактеристики\u003c\/h2\u003e\n\u003cul\u003e\n\u003cli\u003e\n\u003cstrong\u003eGPU:\u003c\/strong\u003e NVIDIA GA100 (Ampere)\u003c\/li\u003e\n\u003cli\u003e\n\u003cstrong\u003eПам’ять:\u003c\/strong\u003e 64 GB HBM2e (розблокована, з заводу 8 GB)\u003c\/li\u003e\n\u003cli\u003e\n\u003cstrong\u003eПропускна здатність пам’яті:\u003c\/strong\u003e 931–970 GB\/s (наші вимірювання)\u003c\/li\u003e\n\u003cli\u003e\n\u003cstrong\u003eЕнергоспоживання:\u003c\/strong\u003e до 250 W, у 60-хвилинному тесті стабільно 244–245 W\u003c\/li\u003e\n\u003cli\u003e\n\u003cstrong\u003eОбчислювальна потужність:\u003c\/strong\u003e обмежена порівняно з A100, відрізняється між екземплярами\u003c\/li\u003e\n\u003cli\u003e\n\u003cstrong\u003eECC:\u003c\/strong\u003e вимкнено\u003c\/li\u003e\n\u003cli\u003e\n\u003cstrong\u003eОхолодження:\u003c\/strong\u003e пасивне – потрібен потужний потік повітря (серверний корпус, повітровод або вентилятор для кожної карти)\u003c\/li\u003e\n\u003cli\u003e\n\u003cstrong\u003eВідеовиходи:\u003c\/strong\u003e немає\u003c\/li\u003e\n\u003cli\u003e\n\u003cstrong\u003eПЗ:\u003c\/strong\u003e Linux (Ubuntu 22.04 \/ 24.04), відкритий драйвер NVIDIA зі службою розблокування, llama.cpp \/ ik_llama.cpp\u003c\/li\u003e\n\u003cli\u003e\n\u003cstrong\u003eСтан:\u003c\/strong\u003e вживана (після майнінгу), протестована перед відправленням\u003c\/li\u003e\n\u003c\/ul\u003e\n\u003ch2\u003eЯк працює розблокування\u003c\/h2\u003e\n\u003cp\u003eПам’ять 64 GB стає доступною завдяки модифікованому драйверу, який служба знову активує після кожного запуску системи. Після оновлення ядра або драйвера розблокування потрібно відновити, інакше карта знову покаже 8 GB, – тому радимо зафіксувати версію драйвера. Детальну покрокову інструкцію ви знайдете в посібнику \u003ca href=\"https:\/\/kentino.com\/blogs\/ai-corner\/complete-technical-guide-flashing-cmp-170hx-unlocking-64-gb-hbm2e-on-ubuntu-22-04-lts\" target=\"_blank\" rel=\"noopener\"\u003eUnlocking 64 GB HBM2e on Ubuntu\u003c\/a\u003e (англійською). З налаштуванням ми охоче допоможемо.\u003c\/p\u003e\n\u003ch2\u003eСкільки карт для якої моделі\u003c\/h2\u003e\n\u003cp\u003eВеликі моделі типу mixture-of-experts можна розподілити між кількома картами: наприклад, GLM-5.3-Flash у якості Q4 повністю вміщується в чотири карти. Розрахунок для 1–6 карт, потрібний обсяг RAM і блоки живлення ви знайдете в посібнику \u003ca href=\"https:\/\/kentino.com\/blogs\/ai-corner\/running-glm-5-3-flash-on-cmp-170hx-a-sizing-guide\" target=\"_blank\" rel=\"noopener\"\u003eRunning GLM-5.3-Flash on CMP 170HX – a sizing guide\u003c\/a\u003e (англійською). Для двох і більше карт радимо плату з окремим слотом для кожної карти (EPYC \/ Threadripper) і блок живлення на 1–2 kW залежно від кількості карт.\u003c\/p\u003e\n\u003ch2\u003eЧасті запитання\u003c\/h2\u003e\n\u003cp\u003e\u003cstrong\u003eЧи побачить моє ПЗ всі 64 GB?\u003c\/strong\u003e\u003cbr\u003eТак, після розблокування адресується весь обсяг – це головна причина купити карту. Проте обчислювальна потужність порівняно з A100 обмежена й відрізняється між екземплярами.\u003c\/p\u003e\n\u003cp\u003e\u003cstrong\u003eЧи можна встановити в один сервер кілька карт?\u003c\/strong\u003e\u003cbr\u003eТак. Кожна карта має власні 64 GB, і модель розподіляється між ними за шарами. Напишіть нам, яку модель ви хочете запускати, і ми порадимо кількість карт і конфігурацію.\u003c\/p\u003e\n\u003cp\u003e\u003cstrong\u003eЧи потрібне спеціальне охолодження?\u003c\/strong\u003e\u003cbr\u003eТак. Карта пасивна й у звичайному корпусі перегріється. Їй потрібен серверний корпус із продувом спереду назад або повітровод із вентилятором.\u003c\/p\u003e\n\u003cp\u003e\u003cstrong\u003eЗберете мені весь сервер?\u003c\/strong\u003e\u003cbr\u003eТак – зберемо й протестуємо \u003ca href=\"\/uk\/collections\/ai-servery\"\u003eAI-сервер\u003c\/a\u003e із кількома картами, встановимо систему та розблокування, а за бажання розмістимо його в нашому дата-центрі.\u003c\/p\u003e\n\u003cp\u003eПостачаємо під замовлення – термін постачання й доступну кількість підтвердимо після замовлення або запиту. На кілька штук підготуємо індивідуальну пропозицію – \u003ca href=\"\/uk\/pages\/kontakt\"\u003eнапишіть нам\u003c\/a\u003e.\u003c\/p\u003e","brand":"NVIDIA","offers":[{"title":"Default Title","offer_id":53070997225759,"sku":null,"price":94999.0,"currency_code":"CZK","in_stock":true}],"thumbnail_url":"\/\/cdn.shopify.com\/s\/files\/1\/0976\/4693\/6351\/files\/nvidia-cmp-170hx-pro-mining-164mh-s-205w.jpg?v=1792417385","url":"https:\/\/pcpraha.cz\/uk\/products\/nvidia-cmp-170hx","provider":"PCPRAHA","version":"1.0","type":"link"}