Відеокарта для локального ШІ у 2026 році: RTX 5090 чи RTX PRO 6000 Blackwell?

Для локального ШІ найважливіша відеопам’ять (VRAM): модель має вміститися в неї повністю, ще й із запасом на контекст. На GeForce RTX 5090 з 32 GB, згідно з формулою нижче, вміщується модель приблизно до 25 мільярдів параметрів у 8 бітах. У 4 бітах — близько 45 мільярдів. RTX PRO 6000 Blackwell з 96 GB на одній карті вміщує модель приблизно до 80 мільярдів параметрів у 8 бітах. У 4 бітах — близько 140 мільярдів. Для ще більших моделей потрібно кілька карт.

Коротко

• Потрібний обсяг VRAM розрахувати просто: параметри в мільярдах × байти на вагу × 1,2. У 4 бітах це приблизно 0,6 GB на мільярд параметрів.
• RTX 5090 (32 GB, 575 W) — найдешевший вхід для моделей приблизно до 45 млрд параметрів у 4 бітах. Готовий комп’ютер із нею коштує в нас від 200 990 Kč.
• RTX PRO 6000 Blackwell (96 GB, 300–600 W залежно від версії) має втричі більше пам’яті на одній карті. Робоча станція з нею коштує від 625 290 Kč.
• Понад 96 GB VRAM 1 GB у найдешевшій збірці з RTX PRO 6000 коштує 5 932 Kč, з RTX 5090 — 8 609 Kč (станом на 4.11.2026).
• Сервер із 4 картами споживає близько 2,7 kW, із вісьмома — понад 5 kW. Це вже окрема лінія, а не звичайна розетка.

Ми продавець: усі карти та збірки з таблиць є в нашому асортименті. Ціни — з нашої пропозиції станом на 4.11.2026 з ПДВ, характеристики карт — з офіційних сторінок NVIDIA.

Як розрахувати, скільки VRAM потрібно моделі?

Моделі з 32 мільярдами параметрів у 4 бітах потрібно близько 19 GB VRAM. Рахуємо за формулою:

VRAM [GB] ≈ кількість параметрів [млрд] × байти на вагу × 1,2

• Байти на вагу визначає квантизація (стиснення ваг моделі): FP16 = 2 байти, 8 біт (Q8) = 1 байт, 4 біти (Q4) = 0,5 байта.
• × 1,2 — запас приблизно 20 % на KV-кеш (пам’ять для контексту розмови) і роботу ПЗ.

Запас 20 % — грубе правило для одного користувача та контексту звичайної довжини. Довгим документам або кільком користувачам одночасно потрібно більше пам’яті під KV-кеш. Реальні 4-бітні формати часто займають трохи більше ніж 4 біти на вагу, тому орієнтуйтеся на верхню межу.

Формула справджується й на реальній моделі. OpenAI зазначає, що gpt-oss-120b (117 млрд параметрів, нативно у 4-бітному форматі MXFP4) працює у 80 GB пам’яті. За формулою виходить 117 × 0,5 × 1,2 = 70 GB.

У моделях типу MoE (mixture of experts) у пам’яті мають бути всі параметри, хоча під час обчислень працює лише їхня частина. У gpt-oss-120b це 5,1 млрд активних параметрів із 117 млрд. Тож пам’ять рахуйте за загальною кількістю.

Яка модель вміститься на RTX 5090, а яка на RTX PRO 6000?

На одну RTX 5090, згідно з формулою, вміщується модель приблизно до 25 млрд параметрів у 8 бітах або до 45 млрд у 4 бітах. У таблиці — потрібний обсяг VRAM для поширених розмірів моделей і найменша збірка, яку ми для цього продаємо:

Коли модель розподіляється між кількома картами, вони обмінюються даними через шину PCIe. Тому одна карта з великою пам’яттю простіша, ніж кілька менших із тим самим сумарним обсягом VRAM. Для моделей від 32 до 48 GB вистачить і однієї RTX PRO 5000 Blackwell з 48 GB. У 4 бітах ви економите пам’ять ціною певної втрати точності; наскільки великої — залежить від конкретної моделі.

Які характеристики мають карти для локального ШІ?

RTX 5090 і RTX PRO 6000 Workstation мають однакову пропускну здатність пам’яті 1 792 GB/s, відрізняються вони переважно обсягом VRAM: 32 GB проти 96 GB. Огляд карт, які ми продаємо окремо або у збірках:

¹ NVIDIA вказує «AI TOPS» без уточнення точності. ² Теоретична продуктивність FP4 з використанням розрідженості (sparsity) за даними NVIDIA. ³ Точність NVIDIA не вказує. ⁴ З розрідженістю, без неї вдвічі менше. * Версію RTX PRO 6000 у збірці (Workstation або Max-Q) підтвердимо в пропозиції.

Значення TOPS і PFLOPS — теоретичний максимум виробника, і порівнювати їх напряму між серіями GeForce і PRO не можна. Швидкість генерації тексту для одного користувача обмежує переважно пропускна здатність пам’яті: для кожного нового слова карта має пройти активні ваги моделі. Тому DGX Spark зі 128 GB вміщує велику модель, але з пропускною здатністю 273 GB/s генерує повільніше, ніж карта з 1 792 GB/s.

Коли достатньо RTX 5090?

RTX 5090 достатньо, якщо вам вистачить моделі приблизно до 45 млрд параметрів у 4 бітах (до 25 млрд у 8 бітах) і від одного до кількох користувачів. Типові завдання — асистент для програміста, чат за документами невеликої команди, розпізнавання мовлення або генерування зображень.

• Переваги RTX 5090: найнижча ціна входу, пропускна здатність 1 792 GB/s, звичне ПЗ (CUDA, PyTorch, llama.cpp, vLLM).
• Недоліки RTX 5090: лише 32 GB, потужність 575 W на карту, і NVIDIA рекомендує блок живлення комп’ютера на 1 000 W. На відміну від серії PRO, NVIDIA не вказує для неї пам’ять з ECC. Для моделі на 70 млрд параметрів потрібно щонайменше дві карти.

Зверніть увагу на ціну: сама RTX 5090 нині на ринку дорога. Сервер із 2× RTX 5090 (64 GB) коштує в нас 647 790 Kč. Робоча станція з однією RTX PRO 6000 (96 GB) обійдеться в 625 290 Kč, тобто трохи дешевше.

Коли потрібна RTX PRO 6000 Blackwell?

RTX PRO 6000 Blackwell потрібна для моделей близько 70 млрд параметрів у 8 бітах, 120 млрд у 4 бітах або якщо ви хочете запустити модель 32B у повній точності FP16. Вона підходить і там, де на сервері чергуються кілька завдань або користувачів.

• Переваги RTX PRO 6000 Blackwell: 96 GB на одній карті, пам’ять з ECC, за даними NVIDIA підтримка MIG (поділ карти на 4 ізольовані екземпляри). Модель не треба ділити між картами.
• Недоліки RTX PRO 6000 Blackwell: висока ціна однієї карти. Версія Workstation споживає до 600 W. Server Edition призначена для стійкових серверів із керованим потоком повітря і в нас доступна під попереднє замовлення з доставкою приблизно за 2 місяці.

Workstation, Max-Q чи Server Edition?

Усі три версії мають 96 GB GDDR7 з ECC. Відрізняються вони потужністю та охолодженням:

• Workstation Edition: 600 W, кулер із продувом повітря крізь карту, 1 792 GB/s. Найвища продуктивність для настільної станції.
• Max-Q: 300 W, активне охолодження, та сама пропускна здатність 1 792 GB/s, нижча теоретична продуктивність (3 511 проти 4 000 TOPS FP4). Кращий вибір для кількох карт в одному корпусі.
• Server Edition: до 600 W (налаштовується), 1 597 GB/s, версія для серверів із повітряним або рідинним охолодженням.

Коли потрібні дві й більше карт?

Кілька карт потрібні, щойно модель разом із запасом перевищує пам’ять однієї карти: понад 32 GB у RTX 5090 і понад 96 GB у RTX PRO 6000. Друга причина — більше одночасних користувачів, через яких зростає KV-кеш.

Понад 96 GB VRAM найдешевша збірка з RTX PRO 6000 у нашому асортименті виходить дешевшою за 1 GB пам’яті, ніж найдешевша збірка з RTX 5090 (5 932 проти 8 609 Kč). Сервер із 4× RTX PRO 6000 (384 GB) коштує 2 277 990 Kč, сервер із 8× RTX 5090 (256 GB) — 2 238 290 Kč. Майже за ту саму ціну ви отримуєте на 128 GB VRAM більше і вдвічі менше карт.

Скільки коштують наші збірки для локального ШІ?

Найдешевша збірка з RTX 5090 коштує 200 990 Kč, з RTX PRO 6000 Blackwell — 625 290 Kč. Ціни — мінімальні варіанти кожної конфігурації станом на 4.11.2026 з ПДВ:

Збірки PC Praha ми складаємо під замовлення, і ви самі обираєте карту, оперативну пам’ять і накопичувач. Гарантія 24 місяці. У конфігураторі є також RTX 5080, RTX 4090, NVIDIA L4 і L40 та Intel Arc Pro B70. Arc Pro B70 не підтримує CUDA, тому заздалегідь перевірте, що ваше ПЗ на ній запуститься.

DGX Spark — невеликий комп’ютер зі 128 GB пам’яті, спільної для процесора та графіки. NVIDIA зазначає, що один такий комп’ютер вміщує модель до 200 млрд параметрів. Машини з чипом GB10 у нас найдешевші в перерахунку на 1 GB пам’яті, але пропускна здатність 273 GB/s приблизно в 6,6 раза нижча, ніж у RTX 5090.

Скільки електроенергії споживають ШІ-збірки та яке їм потрібне підключення?

Робоча станція з однією картою за повного навантаження споживає близько 0,9 kW, сервер із 4 картами — близько 2,7 kW. Оцінка в таблиці — сума потужності карт за даними NVIDIA, процесора та інших компонентів за нашим конфігуратором. Вартість години рахуємо за домашнім тарифом 4,5 Kč/kWh (орієнтовно, зазвичай чеський 20-годинний тариф D57d; на стандартному D02d близько 6,4 Kč/kWh, див. Скільки коштує електроенергія для майнінгу).

RTX PRO 6000 рахуємо з 600 W. З версією Max-Q (300 W) потужність на 300 W на карту нижча. Під час звичайного використання карти не працюють на повному навантаженні цілий день, тому реальне споживання зазвичай нижче.

• Блоки живлення: у наших збірках станція має один блок живлення на 1 650 W, сервер до 3 карт — один на 2 000 W. Сервер із 4–6 картами має два блоки по 2 000 W. Восьмикарткові сервери оснащені серверними блоками живлення 5× 1 000–1 200 W. Сервери Edge і Turin Dual мають дубльовані блоки живлення.
• Підключення 230 V: постійне навантаження не повинне перевищувати приблизно 80 % номіналу автоматичного вимикача. На лінії 16 A це близько 2,9 kW. Серверу з 8 або 16 картами потрібно кілька ліній або серверна; це оцінить електрик. Докладний порядок дій — у нашому чек-листі підготовки місця.
• Охолодження та шум: уся електроенергія перетворюється на тепло, сервер із 4 картами гріє як електрообігрівач потужністю 2,7 kW. Робочі станції ми складаємо для тихої роботи. Стійковим серверам місце в серверній або технічному приміщенні. Рівень шуму в dB ми поки не перевірили вимірюваннями, тому не вказуємо його.
• Серверні карти: L40 і RTX PRO 6000 Server Edition призначені для серверів із керованим потоком повітря, Server Edition — також у версії з рідинним охолодженням. У звичайний корпус ПК вони не підходять.

Як дата-центри охолоджують ШІ-сервери і чому для найбільших збірок повітря недостатньо, ми розповідаємо в статті ШІ-сервери: як вони виглядають, як охолоджуються і від чого залежить їхня ціна.

Як вибрати карту крок за кроком?

1. Оберіть модель, яку хочете запускати, і з’ясуйте кількість її параметрів.
2. Оберіть квантизацію: Q4 для економії пам’яті, Q8 або FP16 для вищої точності.
3. Розрахуйте VRAM: параметри × байти на вагу × 1,2. Для довгого контексту або більшої кількості користувачів додайте запас.
4. Знайдіть у таблиці найменшу збірку, у яку вміститься модель.
5. Перевірте потужність і підключення там, де стоятиме збірка.
6. Надішліть нам запит із моделлю та кількістю користувачів — ми запропонуємо конфігурацію.

Навіщо запускати ШІ локально і коли це вигідніше за хмару, ми розбираємо в статті ШІ-сервер для компанії, роботи та дому.

Що далі

• Запит на ШІ-сервер – напишіть, яку модель і скільки користувачів ви хочете обслуговувати, і ми підготуємо індивідуальну пропозицію.
• ШІ- та GPU-сервери – усі збірки, карти та машини з GB10 з актуальними цінами.
• Чи можна переробити ASIC на ШІ-сервер? – чому це неможливо і що все ж можна використати з майнінг-ферми.

Джерела

• NVIDIA: GeForce RTX 5090 – характеристики
• NVIDIA: порівняння GeForce RTX 5090 і RTX 5080 (пропускна здатність пам’яті, AI TOPS)
• NVIDIA: RTX PRO 6000 Blackwell Workstation Edition
• NVIDIA: RTX PRO 6000 Blackwell Max-Q Workstation Edition
• NVIDIA: RTX PRO 6000 Blackwell Server Edition
• NVIDIA: RTX PRO 5000 Blackwell · RTX PRO 4500 Blackwell · RTX PRO 4000 Blackwell
• NVIDIA: L40 · NVIDIA: L4
• NVIDIA: DGX Spark – пам’ять, пропускна здатність, розмір моделей
• OpenAI: Introducing gpt-oss – параметри та пам’ять gpt-oss-120b