GPU pro lokální AI v roce 2026: RTX 5090, nebo RTX PRO 6000 Blackwell?

Pro lokální AI rozhoduje hlavně grafická paměť (VRAM): model se do ní musí vejít celý i s rezervou na kontext. Na GeForce RTX 5090 s 32 GB se podle vzorce níže vejde model zhruba do 25 miliard parametrů v 8 bitech. Ve 4 bitech je to kolem 45 miliard. RTX PRO 6000 Blackwell s 96 GB unese na jedné kartě model zhruba do 80 miliard parametrů v 8 bitech. Ve 4 bitech zvládne kolem 140 miliard. Na ještě větší modely potřebujete víc karet.

Shrnutí

• Potřebnou VRAM spočítáte jednoduše: parametry v miliardách × bajty na váhu × 1,2. Ve 4 bitech je to zhruba 0,6 GB na miliardu parametrů.
• RTX 5090 (32 GB, 575 W) je nejlevnější vstup pro modely zhruba do 45 mld. parametrů ve 4 bitech. Hotový počítač s ní u nás stojí od 200 990 Kč.
• RTX PRO 6000 Blackwell (96 GB, 300–600 W podle edice) má trojnásobek paměti na jedné kartě. Pracovní stanice s ní stojí od 625 290 Kč.
• Nad 96 GB VRAM stojí 1 GB u nejlevnější sestavy s RTX PRO 6000 5 932 Kč, u RTX 5090 8 609 Kč (k 4. 11. 2026).
• Server se 4 kartami bere kolem 2,7 kW, osmikaretový přes 5 kW. To už je jiný okruh než běžná zásuvka.

Jsme prodejce: všechny karty a sestavy v tabulkách prodáváme. Ceny jsou z naší nabídky k 4. 11. 2026 včetně DPH, parametry karet z oficiálních stránek NVIDIA.

Jak spočítat, kolik VRAM model potřebuje?

Model s 32 miliardami parametrů potřebuje ve 4 bitech kolem 19 GB VRAM. Počítáme to tímto vzorcem:

VRAM [GB] ≈ počet parametrů [mld.] × bajty na váhu × 1,2

• Bajty na váhu určuje kvantizace (komprese vah modelu): FP16 = 2 bajty, 8 bitů (Q8) = 1 bajt, 4 bity (Q4) = 0,5 bajtu.
• × 1,2 je rezerva zhruba 20 % na KV cache (paměť pro kontext konverzace) a provoz softwaru.

Rezerva 20 % je hrubé pravidlo pro jednoho uživatele a běžně dlouhý kontext. Dlouhé dokumenty nebo víc uživatelů najednou potřebují víc paměti na KV cache. Skutečné 4bitové formáty mají často o něco víc než 4 bity na váhu, proto počítejte spíš s horní hranou.

Vzorec sedí i na reálném modelu. OpenAI uvádí, že gpt-oss-120b (117 mld. parametrů, nativně ve 4bitovém formátu MXFP4) běží v 80 GB paměti. Podle vzorce vychází 117 × 0,5 × 1,2 = 70 GB.

U modelů typu MoE (mixture of experts) musí být v paměti všechny parametry, i když při výpočtu pracuje jen jejich část. U gpt-oss-120b je to 5,1 mld. aktivních parametrů ze 117 mld. Paměť tedy počítejte z celkového počtu.

Jaký model se vejde na RTX 5090 a jaký na RTX PRO 6000?

Na jednu RTX 5090 se podle vzorce vejde model zhruba do 25 mld. parametrů v 8 bitech nebo do 45 mld. ve 4 bitech. Tabulka ukazuje potřebnou VRAM pro běžné velikosti modelů a nejmenší sestavu, kterou na to prodáváme:

Když se model rozdělí mezi víc karet, karty si předávají data přes sběrnici PCIe. Jedna karta s velkou pamětí je proto jednodušší než několik menších se stejným součtem VRAM. Na modely mezi 32 a 48 GB stačí i jedna RTX PRO 5000 Blackwell s 48 GB. Ve 4 bitech šetříte paměť za cenu určité ztráty přesnosti; jak velké, záleží na konkrétním modelu.

Jaké parametry mají karty pro lokální AI?

RTX 5090 a RTX PRO 6000 Workstation mají stejnou propustnost paměti 1 792 GB/s, liší se hlavně velikostí VRAM: 32 GB proti 96 GB. Přehled karet, které prodáváme samostatně nebo v sestavách:

¹ NVIDIA uvádí „AI TOPS“ bez upřesnění přesnosti. ² Teoretický výkon FP4 s využitím řídkosti (sparsity) podle NVIDIA. ³ Přesnost NVIDIA neuvádí. ⁴ S řídkostí, bez ní poloviční. * Edici RTX PRO 6000 v sestavě (Workstation, nebo Max-Q) potvrdíme v nabídce.

Čísla TOPS a PFLOPS jsou teoretická maxima výrobce a mezi řadami GeForce a PRO je nelze přímo srovnávat. Rychlost psaní textu u jednoho uživatele omezuje hlavně propustnost paměti: pro každé nové slovo musí karta projít aktivní váhy modelu. Proto DGX Spark se 128 GB unese velký model, ale s propustností 273 GB/s generuje pomaleji než karta s 1 792 GB/s.

Kdy stačí RTX 5090?

RTX 5090 stačí, když vám vystačí model zhruba do 45 mld. parametrů ve 4 bitech (do 25 mld. v 8 bitech) a jeden až několik uživatelů. Typicky jde o asistenta pro programátora, chat nad dokumenty menšího týmu, přepis řeči nebo generování obrázků.

• Výhody RTX 5090: nejnižší cena vstupu, propustnost 1 792 GB/s, běžný software (CUDA, PyTorch, llama.cpp, vLLM).
• Nevýhody RTX 5090: jen 32 GB, příkon 575 W na kartu a NVIDIA doporučuje zdroj počítače 1 000 W. NVIDIA u ní neuvádí paměť s ECC, na rozdíl od řady PRO. Na model 70 mld. parametrů potřebujete aspoň dvě karty.

Pozor na cenu: samotná RTX 5090 je dnes na trhu drahá. Server se 2× RTX 5090 (64 GB) u nás stojí 647 790 Kč. Pracovní stanice s jednou RTX PRO 6000 (96 GB) vyjde na 625 290 Kč, tedy o něco levněji.

Kdy potřebujete RTX PRO 6000 Blackwell?

RTX PRO 6000 Blackwell potřebujete pro modely kolem 70 mld. parametrů v 8 bitech, 120 mld. ve 4 bitech, nebo když chcete 32B model v plné přesnosti FP16. Hodí se také tam, kde se na serveru střídá víc úloh nebo uživatelů.

• Výhody RTX PRO 6000 Blackwell: 96 GB na jedné kartě, paměť s ECC, podle NVIDIA podpora MIG (rozdělení karty až na 4 oddělené instance). Model se nemusí dělit mezi karty.
• Nevýhody RTX PRO 6000 Blackwell: vysoká cena jedné karty. Edice Workstation bere až 600 W. Server Edition je určená do rackových serverů s řízeným prouděním vzduchu a u nás je na předobjednávku s dodáním zhruba do 2 měsíců.

Workstation, Max-Q, nebo Server Edition?

Všechny tři edice mají 96 GB GDDR7 s ECC. Liší se příkonem a chlazením:

• Workstation Edition: 600 W, chladič s průtokem vzduchu skrz kartu, 1 792 GB/s. Nejvyšší výkon do stolní stanice.
• Max-Q: 300 W, aktivní chlazení, stejná propustnost 1 792 GB/s, nižší teoretický výkon (3 511 proti 4 000 TOPS FP4). Lepší volba pro víc karet v jedné skříni.
• Server Edition: až 600 W (nastavitelné), 1 597 GB/s, vzduchem nebo kapalinou chlazená verze do serverů.

Kdy jsou potřeba dvě a víc karet?

Víc karet potřebujete, jakmile model i s rezervou přesáhne paměť jedné karty: nad 32 GB u RTX 5090 a nad 96 GB u RTX PRO 6000. Druhým důvodem je víc souběžných uživatelů, kterým roste KV cache.

Nad 96 GB VRAM vychází v naší nabídce nejlevnější sestava s RTX PRO 6000 levněji na 1 GB paměti než nejlevnější sestava s RTX 5090 (5 932 proti 8 609 Kč). Server se 4× RTX PRO 6000 (384 GB) stojí 2 277 990 Kč, server s 8× RTX 5090 (256 GB) 2 238 290 Kč. Za téměř stejnou cenu tak dostanete o 128 GB VRAM víc a poloviční počet karet.

Kolik stojí naše sestavy pro lokální AI?

Nejlevnější sestava s RTX 5090 stojí 200 990 Kč, s RTX PRO 6000 Blackwell 625 290 Kč. Ceny jsou nejnižší varianty každé konfigurace k 4. 11. 2026 včetně DPH:

Sestavy PC Praha skládáme na objednávku a vybíráte u nich kartu, operační paměť a disk. Záruka je 24 měsíců. V konfigurátoru najdete i RTX 5080, RTX 4090, NVIDIA L4 a L40 a Intel Arc Pro B70. Karta Arc Pro B70 nepodporuje CUDA, ověřte proto předem, že na ní váš software poběží.

DGX Spark je malý počítač se 128 GB paměti sdílené mezi procesorem a grafikou. NVIDIA uvádí, že jeden unese model až 200 mld. parametrů. Stroje s čipem GB10 jsou u nás za 1 GB paměti nejlevnější, propustnost 273 GB/s je ale zhruba 6,6× nižší než u RTX 5090.

Kolik berou AI sestavy elektřiny a co potřebují za přívod?

Pracovní stanice s jednou kartou bere při plné zátěži kolem 0,9 kW, server se 4 kartami kolem 2,7 kW. Odhad v tabulce je součet příkonu karet podle NVIDIA, procesoru a ostatních dílů podle našeho konfigurátoru. Cenu za hodinu počítáme s elektřinou doma za 4,5 Kč/kWh (orientačně, typicky dvacetihodinová sazba D57d; na běžné D02d kolem 6,4 Kč/kWh, viz Kolik stojí elektřina pro těžbu).

RTX PRO 6000 počítáme s 600 W. S edicí Max-Q (300 W) je příkon o 300 W na kartu nižší. Při běžném používání karty plnou zátěž nedrží celý den, skutečná spotřeba proto bývá nižší.

• Zdroje: v našich sestavách má stanice jeden zdroj 1 650 W a server do 3 karet jeden zdroj 2 000 W. Server se 4–6 kartami má dva zdroje 2 000 W. Osmikaretové servery mají serverové zdroje 5× 1 000–1 200 W. Servery Edge a Turin Dual mají zdroje zdvojené.
• Přívod 230 V: trvalý odběr by neměl přesáhnout zhruba 80 % jističe. Na okruhu 16 A je to kolem 2,9 kW. Server s 8 nebo 16 kartami potřebuje víc okruhů nebo serverovnu; posoudí elektrikář. Podrobný postup popisujeme v checklistu přípravy místa.
• Chlazení a hluk: všechna elektřina se mění na teplo, server se 4 kartami topí jako přímotop o výkonu 2,7 kW. Pracovní stanici stavíme na tichý provoz. Rackové servery patří do serverovny nebo technické místnosti. Hlučnost v dB zatím nemáme ověřenou měřením, neuvádíme ji proto.
• Serverové karty: L40 a RTX PRO 6000 Server Edition jsou určené do serverů s řízeným prouděním vzduchu, Server Edition i ve verzi s kapalinovým chlazením. Do běžné PC skříně se nehodí.

Jak AI servery chladí datacentra a proč u největších sestav nestačí vzduch, popisujeme v článku AI servery: jak vypadají, jak se chladí a co určuje jejich cenu.

Jak vybrat kartu krok za krokem?

1. Vyberte model, který chcete provozovat, a zjistěte jeho počet parametrů.
2. Zvolte kvantizaci: Q4 pro úsporu paměti, Q8 nebo FP16 pro vyšší přesnost.
3. Spočítejte VRAM: parametry × bajty na váhu × 1,2. Pro dlouhý kontext nebo víc uživatelů přidejte rezervu.
4. V tabulce najděte nejmenší sestavu, do které se model vejde.
5. Ověřte příkon a přívod v místě, kde bude sestava stát.
6. Pošlete nám poptávku s modelem a počtem uživatelů, navrhneme konfiguraci.

Proč provozovat AI lokálně a kdy se to proti cloudu vyplatí, rozebíráme v článku AI server pro firmu, práci i domů.

Co dál

• Poptávka AI serveru – napište, jaký model a kolik uživatelů chcete obsloužit, připravíme nabídku na míru.
• AI a GPU servery – všechny sestavy, karty a stroje s GB10 s aktuálními cenami.
• Dá se ASIC přestavět na AI server? – proč to nejde a co z těžební farmy využít lze.

Zdroje

• NVIDIA: GeForce RTX 5090 – specifikace
• NVIDIA: srovnání GeForce RTX 5090 a RTX 5080 (propustnost paměti, AI TOPS)
• NVIDIA: RTX PRO 6000 Blackwell Workstation Edition
• NVIDIA: RTX PRO 6000 Blackwell Max-Q Workstation Edition
• NVIDIA: RTX PRO 6000 Blackwell Server Edition
• NVIDIA: RTX PRO 5000 Blackwell · RTX PRO 4500 Blackwell · RTX PRO 4000 Blackwell
• NVIDIA: L40 · NVIDIA: L4
• NVIDIA: DGX Spark – paměť, propustnost, velikost modelů
• OpenAI: Introducing gpt-oss – parametry a paměť gpt-oss-120b