GPU pentru AI local în 2026: RTX 5090 sau RTX PRO 6000 Blackwell?

Pentru AI local contează în primul rând memoria plăcii video (VRAM): modelul trebuie să încapă integral în ea, cu o rezervă pentru context. Pe un GeForce RTX 5090 cu 32 GB încape, conform formulei de mai jos, un model de aproximativ 25 de miliarde de parametri pe 8 biți. Pe 4 biți sunt în jur de 45 de miliarde. RTX PRO 6000 Blackwell cu 96 GB duce pe o singură placă un model de aproximativ 80 de miliarde de parametri pe 8 biți. Pe 4 biți face față la circa 140 de miliarde. Pentru modele și mai mari aveți nevoie de mai multe plăci.

Pe scurt

• VRAM-ul necesar se calculează simplu: parametri în miliarde × octeți per pondere × 1,2. Pe 4 biți înseamnă aproximativ 0,6 GB per miliard de parametri.
• RTX 5090 (32 GB, 575 W) este cea mai ieftină intrare pentru modele de aproximativ 45 mld. de parametri pe 4 biți. Un calculator gata asamblat cu această placă costă la noi de la 200.990 Kč.
• RTX PRO 6000 Blackwell (96 GB, 300–600 W în funcție de ediție) are de trei ori mai multă memorie pe o singură placă. O stație de lucru cu ea costă de la 625.290 Kč.
• Peste 96 GB VRAM, 1 GB costă 5.932 Kč la cel mai ieftin sistem cu RTX PRO 6000 și 8.609 Kč la cel cu RTX 5090 (la 4.11.2026).
• Un server cu 4 plăci consumă în jur de 2,7 kW, unul cu opt plăci peste 5 kW. Asta înseamnă deja alt circuit decât o priză obișnuită.

Suntem vânzător: toate plăcile și sistemele din tabele le vindem noi. Prețurile sunt din oferta noastră la 4.11.2026, cu TVA inclus, iar parametrii plăcilor provin de pe site-urile oficiale NVIDIA.

Cum calculați de cât VRAM are nevoie un model?

Un model cu 32 de miliarde de parametri are nevoie pe 4 biți de aproximativ 19 GB VRAM. Calculăm după această formulă:

VRAM [GB] ≈ număr de parametri [mld.] × octeți per pondere × 1,2

• Octeții per pondere sunt dați de cuantizare (comprimarea ponderilor modelului): FP16 = 2 octeți, 8 biți (Q8) = 1 octet, 4 biți (Q4) = 0,5 octeți.
• × 1,2 este o rezervă de aproximativ 20 % pentru KV cache (memoria pentru contextul conversației) și funcționarea software-ului.

Rezerva de 20 % este o regulă aproximativă pentru un singur utilizator și un context de lungime obișnuită. Documentele lungi sau mai mulți utilizatori simultan au nevoie de mai multă memorie pentru KV cache. Formatele reale pe 4 biți au adesea puțin mai mult de 4 biți per pondere, de aceea calculați mai degrabă cu limita superioară.

Formula se potrivește și pe un model real. OpenAI precizează că gpt-oss-120b (117 mld. de parametri, nativ în formatul pe 4 biți MXFP4) rulează în 80 GB de memorie. Conform formulei rezultă 117 × 0,5 × 1,2 = 70 GB.

La modelele de tip MoE (mixture of experts) toți parametrii trebuie să fie în memorie, chiar dacă la calcul lucrează doar o parte dintre ei. La gpt-oss-120b sunt 5,1 mld. de parametri activi din 117 mld. Calculați deci memoria din numărul total.

Ce model încape pe RTX 5090 și ce model pe RTX PRO 6000?

Pe un singur RTX 5090 încape, conform formulei, un model de aproximativ 25 mld. de parametri pe 8 biți sau de 45 mld. pe 4 biți. Tabelul arată VRAM-ul necesar pentru dimensiunile uzuale de modele și cel mai mic sistem pe care îl vindem pentru acestea:

Când modelul este împărțit pe mai multe plăci, acestea își transmit datele prin magistrala PCIe. De aceea, o singură placă cu memorie mare este mai simplă decât mai multe plăci mai mici cu același VRAM total. Pentru modele între 32 și 48 GB ajunge și un singur RTX PRO 5000 Blackwell cu 48 GB. Pe 4 biți economisiți memorie cu prețul unei anumite pierderi de precizie; cât de mare, depinde de modelul concret.

Ce parametri au plăcile pentru AI local?

RTX 5090 și RTX PRO 6000 Workstation au aceeași lățime de bandă a memoriei, 1.792 GB/s, și diferă în principal prin dimensiunea VRAM: 32 GB față de 96 GB. Prezentare generală a plăcilor pe care le vindem separat sau în sisteme:

¹ NVIDIA indică „AI TOPS” fără a preciza precizia. ² Performanță teoretică FP4 cu utilizarea rarității (sparsity), conform NVIDIA. ³ NVIDIA nu precizează precizia. ⁴ Cu raritate; fără ea, jumătate. * Ediția RTX PRO 6000 din sistem (Workstation sau Max-Q) o confirmăm în ofertă.

Valorile TOPS și PFLOPS sunt maxime teoretice ale producătorului și nu pot fi comparate direct între seriile GeForce și PRO. Viteza de generare a textului pentru un singur utilizator este limitată în principal de lățimea de bandă a memoriei: pentru fiecare cuvânt nou, placa trebuie să parcurgă ponderile active ale modelului. De aceea, DGX Spark cu 128 GB duce un model mare, dar cu o lățime de bandă de 273 GB/s generează mai lent decât o placă cu 1.792 GB/s.

Când ajunge RTX 5090?

RTX 5090 ajunge atunci când vă este suficient un model de aproximativ 45 mld. de parametri pe 4 biți (25 mld. pe 8 biți) și unul sau câțiva utilizatori. De regulă este vorba de un asistent pentru programatori, chat peste documentele unei echipe mai mici, transcrierea vorbirii sau generarea de imagini.

• Avantajele RTX 5090: cel mai mic preț de intrare, lățime de bandă de 1.792 GB/s, software obișnuit (CUDA, PyTorch, llama.cpp, vLLM).
• Dezavantajele RTX 5090: doar 32 GB, putere de 575 W per placă, iar NVIDIA recomandă o sursă de 1.000 W pentru calculator. NVIDIA nu specifică pentru ea memorie cu ECC, spre deosebire de seria PRO. Pentru un model de 70 mld. de parametri aveți nevoie de cel puțin două plăci.

Atenție la preț: RTX 5090 în sine este astăzi scumpă pe piață. Un server cu 2× RTX 5090 (64 GB) costă la noi 647.790 Kč. O stație de lucru cu un singur RTX PRO 6000 (96 GB) ajunge la 625.290 Kč, adică puțin mai ieftin.

Când aveți nevoie de RTX PRO 6000 Blackwell?

Aveți nevoie de RTX PRO 6000 Blackwell pentru modele de circa 70 mld. de parametri pe 8 biți, 120 mld. pe 4 biți sau când doriți un model de 32B în precizie completă FP16. Este potrivit și acolo unde pe server alternează mai multe sarcini sau mai mulți utilizatori.

• Avantajele RTX PRO 6000 Blackwell: 96 GB pe o singură placă, memorie cu ECC, conform NVIDIA suport MIG (împărțirea plăcii în până la 4 instanțe separate). Modelul nu trebuie împărțit între plăci.
• Dezavantajele RTX PRO 6000 Blackwell: prețul ridicat al unei singure plăci. Ediția Workstation consumă până la 600 W. Server Edition este destinată serverelor rack cu flux de aer controlat și la noi este disponibilă la precomandă, cu livrare în aproximativ 2 luni.

Workstation, Max-Q sau Server Edition?

Toate cele trei ediții au 96 GB GDDR7 cu ECC. Diferă prin putere și răcire:

• Workstation Edition: 600 W, răcitor cu flux de aer prin placă, 1.792 GB/s. Cea mai mare performanță pentru o stație de birou.
• Max-Q: 300 W, răcire activă, aceeași lățime de bandă de 1.792 GB/s, performanță teoretică mai mică (3.511 față de 4.000 TOPS FP4). Alegere mai bună pentru mai multe plăci într-o singură carcasă.
• Server Edition: până la 600 W (reglabil), 1.597 GB/s, versiune pentru servere, răcită cu aer sau cu lichid.

Când sunt necesare două sau mai multe plăci?

Aveți nevoie de mai multe plăci de îndată ce modelul, inclusiv rezerva, depășește memoria unei singure plăci: peste 32 GB la RTX 5090 și peste 96 GB la RTX PRO 6000. Al doilea motiv sunt mai mulți utilizatori simultani, pentru care crește KV cache-ul.

Peste 96 GB VRAM, în oferta noastră cel mai ieftin sistem cu RTX PRO 6000 iese mai ieftin per 1 GB de memorie decât cel mai ieftin sistem cu RTX 5090 (5.932 față de 8.609 Kč). Un server cu 4× RTX PRO 6000 (384 GB) costă 2.277.990 Kč, un server cu 8× RTX 5090 (256 GB) 2.238.290 Kč. La un preț aproape identic obțineți astfel cu 128 GB VRAM mai mult și jumătate din numărul de plăci.

Cât costă sistemele noastre pentru AI local?

Cel mai ieftin sistem cu RTX 5090 costă 200.990 Kč, cel cu RTX PRO 6000 Blackwell 625.290 Kč. Prețurile sunt pentru cea mai ieftină variantă a fiecărei configurații la 4.11.2026, cu TVA inclus:

Sistemele PC Praha le asamblăm la comandă, iar dumneavoastră alegeți placa, memoria RAM și discul. Garanția este de 24 de luni. În configurator găsiți și RTX 5080, RTX 4090, NVIDIA L4 și L40, precum și Intel Arc Pro B70. Placa Arc Pro B70 nu suportă CUDA, de aceea verificați în prealabil că software-ul dumneavoastră va rula pe ea.

DGX Spark este un calculator mic cu 128 GB de memorie partajată între procesor și placa grafică. NVIDIA precizează că un singur aparat duce un model de până la 200 mld. de parametri. Aparatele cu cipul GB10 sunt la noi cele mai ieftine per 1 GB de memorie, însă lățimea de bandă de 273 GB/s este de aproximativ 6,6× mai mică decât la RTX 5090.

Câtă electricitate consumă sistemele AI și ce alimentare necesită?

O stație de lucru cu o singură placă consumă la sarcină maximă în jur de 0,9 kW, un server cu 4 plăci în jur de 2,7 kW. Estimarea din tabel este suma puterii plăcilor conform NVIDIA, a procesorului și a celorlalte componente conform configuratorului nostru. Prețul pe oră îl calculăm cu electricitatea casnică la 4,5 Kč/kWh (orientativ, de regulă tariful de 20 de ore D57d; la tariful obișnuit D02d în jur de 6,4 Kč/kWh, vedeți Cât costă electricitatea pentru minerit).

Pentru RTX PRO 6000 calculăm cu 600 W. Cu ediția Max-Q (300 W) puterea este cu 300 W mai mică per placă. La o utilizare obișnuită, placa nu menține sarcina maximă toată ziua, astfel încât consumul real este de obicei mai mic.

• Surse de alimentare: în sistemele noastre, stația are o sursă de 1.650 W, iar serverul cu până la 3 plăci o sursă de 2.000 W. Serverul cu 4–6 plăci are două surse de 2.000 W. Serverele cu opt plăci au surse de server 5× 1.000–1.200 W. Serverele Edge și Turin Dual au surse redundante.
• Alimentare 230 V: consumul continuu nu ar trebui să depășească aproximativ 80 % din valoarea siguranței. Pe un circuit de 16 A înseamnă în jur de 2,9 kW. Un server cu 8 sau 16 plăci are nevoie de mai multe circuite sau de o cameră de servere; decizia o ia un electrician. Procedura detaliată o descriem în lista de verificare pentru pregătirea locului.
• Răcire și zgomot: toată electricitatea se transformă în căldură, un server cu 4 plăci încălzește ca un radiator electric de 2,7 kW. Stația de lucru o construim pentru funcționare silențioasă. Serverele rack își au locul într-o cameră de servere sau într-o încăpere tehnică. Nivelul de zgomot în dB nu l-am verificat încă prin măsurători, de aceea nu îl indicăm.
• Plăci de server: L40 și RTX PRO 6000 Server Edition sunt destinate serverelor cu flux de aer controlat, Server Edition și în versiune cu răcire cu lichid. Nu sunt potrivite pentru o carcasă PC obișnuită.

Cum sunt răcite serverele AI în centrele de date și de ce la cele mai mari sisteme aerul nu mai este suficient descriem în articolul Servere AI: cum arată, cum se răcesc și ce le determină prețul.

Cum alegeți placa pas cu pas?

1. Alegeți modelul pe care doriți să îl rulați și aflați numărul său de parametri.
2. Alegeți cuantizarea: Q4 pentru economie de memorie, Q8 sau FP16 pentru precizie mai mare.
3. Calculați VRAM-ul: parametri × octeți per pondere × 1,2. Pentru context lung sau mai mulți utilizatori adăugați o rezervă.
4. În tabel găsiți cel mai mic sistem în care încape modelul.
5. Verificați puterea și alimentarea în locul unde va sta sistemul.
6. Trimiteți-ne o cerere cu modelul și numărul de utilizatori, iar noi vă propunem configurația.

De ce să rulați AI local și când merită acest lucru față de cloud analizăm în articolul Server AI pentru firmă, muncă și acasă.

Ce urmează

• Cerere de ofertă pentru server AI – scrieți-ne ce model și câți utilizatori doriți să deserviți, iar noi vă pregătim o ofertă personalizată.
• Servere AI și GPU – toate sistemele, plăcile și aparatele cu GB10, cu prețuri actuale.
• Se poate transforma un ASIC într-un server AI? – de ce nu se poate și ce se poate folosi dintr-o fermă de minerit.

Surse

• NVIDIA: GeForce RTX 5090 – specificații
• NVIDIA: comparație GeForce RTX 5090 și RTX 5080 (lățime de bandă a memoriei, AI TOPS)
• NVIDIA: RTX PRO 6000 Blackwell Workstation Edition
• NVIDIA: RTX PRO 6000 Blackwell Max-Q Workstation Edition
• NVIDIA: RTX PRO 6000 Blackwell Server Edition
• NVIDIA: RTX PRO 5000 Blackwell · RTX PRO 4500 Blackwell · RTX PRO 4000 Blackwell
• NVIDIA: L40 · NVIDIA: L4
• NVIDIA: DGX Spark – memorie, lățime de bandă, dimensiunea modelelor
• OpenAI: Introducing gpt-oss – parametrii și memoria gpt-oss-120b