GPU helyi AI-hoz 2026-ban: RTX 5090 vagy RTX PRO 6000 Blackwell?

A helyi AI-nál elsősorban a grafikus memória (VRAM) dönt: a modellnek teljes egészében el kell férnie benne, a kontextushoz szükséges tartalékkal együtt. Az alábbi képlet szerint a 32 GB-os GeForce RTX 5090-re 8 biten nagyjából 25 milliárd paraméteres modell fér el. 4 biten ez körülbelül 45 milliárd. A 96 GB-os RTX PRO 6000 Blackwell egyetlen kártyán 8 biten nagyjából 80 milliárd paraméteres modellt bír el. 4 biten mintegy 140 milliárdot. Még nagyobb modellekhez több kártyára van szüksége.

Összefoglalás

• A szükséges VRAM egyszerűen kiszámítható: paraméterek milliárdban × bájt/súly × 1,2. 4 biten ez nagyjából 0,6 GB milliárd paraméterenként.
• Az RTX 5090 (32 GB, 575 W) a legolcsóbb belépő a 4 biten nagyjából 45 mrd. paraméterig terjedő modellekhez. Egy kész számítógép ezzel a kártyával nálunk már 200 990 Kč-tól elérhető.
• Az RTX PRO 6000 Blackwell (96 GB, kiadástól függően 300–600 W) háromszoros memóriát kínál egyetlen kártyán. Egy munkaállomás ezzel már 625 290 Kč-tól kapható.
• 96 GB VRAM felett 1 GB ára a legolcsóbb RTX PRO 6000-es konfigurációnál 5 932 Kč, az RTX 5090-esnél 8 609 Kč (2026. 11. 4-i állapot).
• Egy 4 kártyás szerver kb. 2,7 kW-ot fogyaszt, egy 8 kártyás 5 kW felett. Ez már más áramkör, mint egy hagyományos konnektor.

Viszonteladók vagyunk: a táblázatokban szereplő összes kártyát és konfigurációt forgalmazzuk. Az árak kínálatunkból származnak, 2026. 11. 4-i állapot szerint, ÁFA-val; a kártyák paraméterei az NVIDIA hivatalos oldalairól.

Hogyan számítható ki, mennyi VRAM kell egy modellhez?

Egy 32 milliárd paraméteres modellnek 4 biten kb. 19 GB VRAM-ra van szüksége. Ezzel a képlettel számolunk:

VRAM [GB] ≈ paraméterek száma [mrd.] × bájt/súly × 1,2

• A bájt/súly értéket a kvantálás (a modell súlyainak tömörítése) határozza meg: FP16 = 2 bájt, 8 bit (Q8) = 1 bájt, 4 bit (Q4) = 0,5 bájt.
• A × 1,2 nagyjából 20 % tartalék a KV cache-re (a beszélgetés kontextusának memóriája) és a szoftver működésére.

A 20 %-os tartalék durva ökölszabály egy felhasználóra és szokásos hosszúságú kontextusra. Hosszú dokumentumokhoz vagy több egyidejű felhasználóhoz több memória kell a KV cache-nek. A valós 4 bites formátumok gyakran valamivel több mint 4 bitet használnak súlyonként, ezért inkább a felső határral számoljon.

A képlet valós modellen is beválik. Az OpenAI szerint a gpt-oss-120b (117 mrd. paraméter, natívan 4 bites MXFP4 formátumban) 80 GB memóriában fut. A képlet szerint 117 × 0,5 × 1,2 = 70 GB jön ki.

Az MoE (mixture of experts) típusú modelleknél az összes paraméternek a memóriában kell lennie, még ha a számítás során csak egy részük dolgozik is. A gpt-oss-120b esetében ez 117 mrd.-ból 5,1 mrd. aktív paraméter. A memóriát tehát a teljes paraméterszámból számolja.

Milyen modell fér el az RTX 5090-en és milyen az RTX PRO 6000-en?

A képlet szerint egy RTX 5090-re 8 biten nagyjából 25 mrd., 4 biten 45 mrd. paraméterig terjedő modell fér el. A táblázat a szokásos modellméretekhez szükséges VRAM-ot és az erre kínált legkisebb konfigurációnkat mutatja:

Ha a modellt több kártya között osztják szét, a kártyák a PCIe buszon keresztül adják át egymásnak az adatokat. Egyetlen nagy memóriájú kártya ezért egyszerűbb megoldás, mint több kisebb, azonos összesített VRAM-mal. A 32 és 48 GB közötti modellekhez egyetlen 48 GB-os RTX PRO 5000 Blackwell is elegendő. 4 biten memóriát takarít meg, cserébe némi pontosságvesztésért; hogy mekkoráért, az a konkrét modelltől függ.

Milyen paraméterekkel rendelkeznek a helyi AI-hoz való kártyák?

Az RTX 5090 és az RTX PRO 6000 Workstation memória-sávszélessége egyaránt 1 792 GB/s, főként a VRAM méretében különböznek: 32 GB a 96 GB-tal szemben. Az önállóan vagy konfigurációkban forgalmazott kártyák áttekintése:

¹ Az NVIDIA az „AI TOPS” értéket a pontosság megjelölése nélkül adja meg. ² Elméleti FP4 teljesítmény ritkítással (sparsity) az NVIDIA szerint. ³ A pontosságot az NVIDIA nem adja meg. ⁴ Ritkítással, anélkül a fele. * Az RTX PRO 6000 kiadását a konfigurációban (Workstation vagy Max-Q) az ajánlatban erősítjük meg.

A TOPS és PFLOPS értékek a gyártó elméleti maximumai, és a GeForce és PRO sorozat között közvetlenül nem hasonlíthatók össze. Egy felhasználónál a szövegírás sebességét főként a memória-sávszélesség korlátozza: minden új szóhoz a kártyának végig kell mennie a modell aktív súlyain. Ezért a 128 GB-os DGX Spark elbír egy nagy modellt, de 273 GB/s sávszélességgel lassabban generál, mint egy 1 792 GB/s-os kártya.

Mikor elég az RTX 5090?

Az RTX 5090 elegendő, ha beéri egy 4 biten nagyjából 45 mrd. (8 biten 25 mrd.) paraméterig terjedő modellel, és egy vagy néhány felhasználóval. Jellemzően programozói asszisztensről, kisebb csapat dokumentumain alapuló chatről, beszédátírásról vagy képgenerálásról van szó.

• Az RTX 5090 előnyei: a legalacsonyabb belépési ár, 1 792 GB/s sávszélesség, elterjedt szoftverek (CUDA, PyTorch, llama.cpp, vLLM).
• Az RTX 5090 hátrányai: csak 32 GB, kártyánként 575 W teljesítményfelvétel, és az NVIDIA 1 000 W-os számítógép-tápegységet ajánl hozzá. Az NVIDIA nem ad meg hozzá ECC memóriát, ellentétben a PRO sorozattal. Egy 70 mrd. paraméteres modellhez legalább két kártya kell.

Figyeljen az árra: maga az RTX 5090 ma drága a piacon. Egy 2× RTX 5090-es (64 GB) szerver nálunk 647 790 Kč. Egy munkaállomás egy RTX PRO 6000-rel (96 GB) 625 290 Kč-ba kerül, vagyis valamivel olcsóbb.

Mikor van szüksége RTX PRO 6000 Blackwellre?

Az RTX PRO 6000 Blackwellre 8 biten 70 mrd. körüli, 4 biten 120 mrd. paraméteres modellekhez van szüksége, vagy ha egy 32B modellt teljes FP16 pontossággal szeretne futtatni. Akkor is jól jön, ha a szerveren több feladat vagy felhasználó váltja egymást.

• Az RTX PRO 6000 Blackwell előnyei: 96 GB egyetlen kártyán, ECC memória, az NVIDIA szerint MIG támogatás (a kártya legfeljebb 4 különálló példányra osztható). A modellt nem kell kártyák között felosztani.
• Az RTX PRO 6000 Blackwell hátrányai: egy kártya magas ára. A Workstation kiadás legfeljebb 600 W-ot vesz fel. A Server Edition irányított légáramlású rack szerverekbe készült, és nálunk előrendelhető, nagyjából 2 hónapon belüli szállítással.

Workstation, Max-Q vagy Server Edition?

Mindhárom kiadás 96 GB GDDR7 memóriával rendelkezik ECC-vel. Teljesítményfelvételben és hűtésben különböznek:

• Workstation Edition: 600 W, a kártyán átáramló levegős hűtés, 1 792 GB/s. A legnagyobb teljesítmény asztali munkaállomásba.
• Max-Q: 300 W, aktív hűtés, ugyanúgy 1 792 GB/s sávszélesség, alacsonyabb elméleti teljesítmény (3 511 a 4 000 TOPS FP4-gyel szemben). Jobb választás, ha több kártya kerül egy házba.
• Server Edition: legfeljebb 600 W (állítható), 1 597 GB/s, levegő- vagy folyadékhűtéses változat szerverekbe.

Mikor kell két vagy több kártya?

Több kártyára akkor van szüksége, ha a modell a tartalékkal együtt meghaladja egy kártya memóriáját: RTX 5090-nél 32 GB, RTX PRO 6000-nél 96 GB felett. A másik ok a több egyidejű felhasználó, akiknél nő a KV cache.

96 GB VRAM felett kínálatunkban a legolcsóbb RTX PRO 6000-es konfiguráció 1 GB memóriára vetítve olcsóbb, mint a legolcsóbb RTX 5090-es (5 932 a 8 609 Kč-val szemben). A 4× RTX PRO 6000-es szerver (384 GB) ára 2 277 990 Kč, a 8× RTX 5090-esé (256 GB) 2 238 290 Kč. Szinte ugyanazért az árért így 128 GB-tal több VRAM-ot és feleannyi kártyát kap.

Mennyibe kerülnek a helyi AI-hoz kínált konfigurációink?

A legolcsóbb RTX 5090-es konfiguráció 200 990 Kč, az RTX PRO 6000 Blackwelles 625 290 Kč. Az árak az egyes konfigurációk legolcsóbb változatai, 2026. 11. 4-i állapot szerint, ÁFA-val:

A PC Praha konfigurációkat rendelésre állítjuk össze, és Ön választja ki hozzájuk a kártyát, a rendszermemóriát és a lemezt. A garancia 24 hónap. A konfigurátorban RTX 5080, RTX 4090, NVIDIA L4 és L40, valamint Intel Arc Pro B70 is megtalálható. Az Arc Pro B70 kártya nem támogatja a CUDA-t, ezért előre ellenőrizze, hogy az Ön szoftvere futni fog-e rajta.

A DGX Spark egy kis számítógép 128 GB, a processzor és a grafika között megosztott memóriával. Az NVIDIA szerint egy ilyen gép legfeljebb 200 mrd. paraméteres modellt bír el. A GB10 chipes gépek nálunk 1 GB memóriára vetítve a legolcsóbbak, a 273 GB/s sávszélesség azonban nagyjából 6,6-szor alacsonyabb, mint az RTX 5090-é.

Mennyi áramot fogyasztanak az AI konfigurációk, és milyen betáp kell hozzájuk?

Egy egykártyás munkaállomás teljes terhelésen kb. 0,9 kW-ot, egy 4 kártyás szerver kb. 2,7 kW-ot vesz fel. A táblázatban szereplő becslés a kártyák NVIDIA szerinti teljesítményfelvételének, valamint a processzor és az egyéb alkatrészek konfigurátorunk szerinti értékének összege. Az óránkénti költséget otthoni 4,5 Kč/kWh-s áramárral számoljuk (tájékoztató jelleggel, jellemzően a cseh D57d húszórás tarifa; a szokásos D02d tarifán kb. 6,4 Kč/kWh, lásd: Mennyibe kerül az áram a bányászathoz).

Az RTX PRO 6000-et 600 W-tal számoljuk. A Max-Q kiadással (300 W) a teljesítményfelvétel kártyánként 300 W-tal alacsonyabb. Szokásos használat mellett a kártya nem fut egész nap teljes terhelésen, ezért a tényleges fogyasztás általában alacsonyabb.

• Tápegységek: konfigurációinkban a munkaállomás egy 1 650 W-os, a legfeljebb 3 kártyás szerver egy 2 000 W-os tápegységgel rendelkezik. A 4–6 kártyás szerverben két 2 000 W-os tápegység van. A 8 kártyás szerverek 5× 1 000–1 200 W-os szervertápegységgel rendelkeznek. Az Edge és Turin Dual szerverek tápegységei redundánsak.
• 230 V-os betáp: a tartós terhelés ne haladja meg a kismegszakító kb. 80 %-át. Egy 16 A-es áramkörön ez kb. 2,9 kW. A 8 vagy 16 kártyás szerverhez több áramkör vagy szerverterem kell; ezt villanyszerelő ítéli meg. A részletes lépéseket a helyszín-előkészítési ellenőrzőlistában írjuk le.
• Hűtés és zaj: az összes elektromos energia hővé alakul, egy 4 kártyás szerver úgy fűt, mint egy 2,7 kW-os elektromos fűtőtest. A munkaállomást csendes üzemre építjük. A rack szerverek szerverterembe vagy gépészeti helyiségbe valók. A dB-ben mért zajszintet még nem ellenőriztük méréssel, ezért nem adjuk meg.
• Szerverkártyák: az L40 és az RTX PRO 6000 Server Edition irányított légáramlású szerverekbe készült, a Server Edition folyadékhűtéses változatban is. Hagyományos PC-házba nem valók.

Arról, hogyan hűtik az adatközpontok az AI szervereket, és miért nem elég a levegő a legnagyobb konfigurációknál, az AI szerverek: hogyan néznek ki, hogyan hűtik őket és mi határozza meg az árukat című cikkben írunk.

Hogyan válasszon kártyát lépésről lépésre?

1. Válassza ki a futtatni kívánt modellt, és nézze meg a paraméterszámát.
2. Válasszon kvantálást: Q4 a memória megtakarításához, Q8 vagy FP16 a nagyobb pontossághoz.
3. Számítsa ki a VRAM-ot: paraméterek × bájt/súly × 1,2. Hosszú kontextushoz vagy több felhasználóhoz adjon hozzá tartalékot.
4. Keresse meg a táblázatban a legkisebb konfigurációt, amelybe a modell belefér.
5. Ellenőrizze a teljesítményfelvételt és a betápot azon a helyen, ahol a konfiguráció állni fog.
6. Küldje el nekünk ajánlatkérését a modellel és a felhasználók számával, mi pedig javaslatot teszünk a konfigurációra.

Hogy miért érdemes az AI-t helyben futtatni, és mikor éri meg a felhővel szemben, azt az AI szerver cégeknek, munkához és otthonra című cikkben elemezzük.

További lépések

• AI szerver ajánlatkérés – írja meg, milyen modellt és hány felhasználót szeretne kiszolgálni, és testre szabott ajánlatot készítünk.
• AI és GPU szerverek – az összes konfiguráció, kártya és GB10-es gép aktuális árakkal.
• Átépíthető-e egy ASIC AI szerverré? – miért nem lehetséges, és mit lehet hasznosítani egy bányászfarmból.

Források

• NVIDIA: GeForce RTX 5090 – specifikáció
• NVIDIA: a GeForce RTX 5090 és RTX 5080 összehasonlítása (memória-sávszélesség, AI TOPS)
• NVIDIA: RTX PRO 6000 Blackwell Workstation Edition
• NVIDIA: RTX PRO 6000 Blackwell Max-Q Workstation Edition
• NVIDIA: RTX PRO 6000 Blackwell Server Edition
• NVIDIA: RTX PRO 5000 Blackwell · RTX PRO 4500 Blackwell · RTX PRO 4000 Blackwell
• NVIDIA: L40 · NVIDIA: L4
• NVIDIA: DGX Spark – memória, sávszélesség, modellméretek
• OpenAI: Introducing gpt-oss – a gpt-oss-120b paraméterei és memóriaigénye