Servere AI

Server AI pentru companie, lucru și acasă: AI propriu fără cloud

Autor: Actualizat 9 min de citit

Ilustrace: AI server s grafickými kartami, chatovací bublina a štít se zámkem

Un server AI propriu înseamnă că modelul lingvistic rulează pe hardware-ul dumneavoastră, iar datele companiei nu pleacă nicăieri. Nu plătiți pentru tokeni și nici abonamente per utilizator, puteți încerca noile modele deschise imediat ce apar și puteți extinde treptat serverul cu alte plăci grafice. Pentru scrierea obișnuită de e-mailuri de către câțiva oameni, abonamentul în cloud este mai ieftin. Serverul merită acolo unde datele nu au voie să iasă din firmă, unde AI-ul procesează volume mari de documente sau unde doriți să îl integrați în propriile sisteme.

Pe scurt

  • Modelul local nu trimite nimic în cloud – contractele, datele clienților și codul sursă rămân în companie.
  • Pentru 20 de persoane, cloudul costă aproximativ 8.700–13.000 Kč pe lună doar pentru licențele de bază. Serverul propriu este o investiție unică plus electricitatea.
  • Ce model va rula depinde în principal de memoria grafică (VRAM): 32 GB ajung pentru modele de circa 30 de miliarde de parametri, 96–128 GB pentru modele de circa 120 de miliarde.
  • Puteți începe cu o singură placă și extinde serverul mai târziu. Configurațiile noastre pornesc de la aproximativ 110.000 Kč și ajung la servere de milioane.

De ce vor companiile AI fără cloud

Angajații introduc în chatboți contracte, oferte, tabele cu datele clienților și cod sursă. Potrivit unei analize Check Point din toamna anului 2025, una din 54 de interogări adresate instrumentelor AI publice prezenta un risc ridicat de scurgere a datelor sensibile, iar acest lucru a afectat 91 % dintre organizațiile monitorizate.

Conform GDPR, răspunderea pentru prelucrarea datelor personale într-un instrument AI o poartă compania care îl folosește. Aceasta trebuie să știe unde ajung datele, iar la transferul în afara UE trebuie să aibă un temei juridic. Cadrul pentru transferul datelor în SUA (EU–US Data Privacy Framework) a trecut, ce-i drept, de Tribunalul UE, însă decizia a fost atacată cu apel, iar incertitudinea juridică persistă.

Versiunile pentru companii ale serviciilor cloud au protecții: ChatGPT Business, Claude Team și Microsoft 365 Copilot nu se antrenează pe datele companiei, conform propriilor condiții. Datele sunt însă procesate în continuare de o firmă străină, pe serverele ei. Modelul local este singura variantă în care textul nu părăsește deloc rețeaua dumneavoastră.

Atenție la un lucru: în 2025, guvernul ceh a interzis produsele DeepSeek în administrația de stat, iar Armata Cehă a avertizat în privința chatboților chinezești din cloud, deoarece stochează datele în China. Acest lucru se referă la serviciile cloud. Un model deschis descărcat rulează la dumneavoastră fără conexiune la serverele lor – chiar și așa, alegeți modele cu licență clară și origine verificată.

Cât costă AI-ul în cloud

Serviciu Preț per utilizator și lună 20 de utilizatori pe lună
ChatGPT Business (Standard) 20 USD (plată anuală), 25 USD lunar circa 8.700–10.900 Kč
Claude Team (Standard) 20 USD (plată anuală), 25 USD lunar circa 8.700–10.900 Kč
Microsoft 365 Copilot (Enterprise) 30 USD + licență Microsoft 365 circa 13.000 Kč + licență
Locuri premium (ChatGPT, Claude) 100 USD (plată anuală) circa 43.500 Kč

Prețuri fără TVA conform listelor de prețuri ale producătorilor la 25.10.2026, convertite la cursul Băncii Naționale Cehe (ČNB) de 21,74 Kč/USD. Dacă integrați AI-ul în propriile aplicații prin API, plătiți pentru fiecare milion de tokeni – la modelele performante 2–10 USD pentru intrare și 10–50 USD pentru ieșire. La procesarea automată a mii de documente pe lună, factura crește rapid.

Ce poate face un server AI propriu

  • Chat pentru companie în stilul ChatGPT pentru întreaga echipă – de exemplu Open WebUI cu conturi de utilizator, care rulează doar în rețeaua dumneavoastră.
  • Chat pe documentele companiei (RAG) – modelul răspunde pe baza directivelor, contractelor, manualelor sau e-mailurilor dumneavoastră și citează sursa.
  • Asistent pentru programatori – completarea codului în VS Code sau JetBrains (Continue) fără ca acesta să fie trimis în afară.
  • Transcrierea ședințelor și a apelurilor – modelul Whisper se descurcă și cu limba cehă, iar ședința nu trebuie încărcată pe un server străin.
  • Imagini, video și randare – generare de imagini (ComfyUI), Blender, DaVinci Resolve.
  • Automatizare – propriile aplicații apelează modelul prin API la fel ca în cloud, doar că fără taxă per token.
  • Experimente – un nou model deschis (Qwen, Gemma, Mistral, gpt-oss, DeepSeek…) îl descărcați și îl încercați chiar în aceeași zi.

De câtă VRAM aveți nevoie: ce server pentru ce model

Modelul trebuie să încapă integral (inclusiv contextul) în memoria grafică. Regula aproximativă: un model comprimat la 4 biți are nevoie de circa 0,6 GB pentru fiecare miliard de parametri, plus memorie pentru context.

Configurație Memorie grafică Ce rulează pe ea Viteză (orientativ)
1× RTX 5090 32 GB modele de 27–31 mld. de parametri (de ex. Qwen3.8-27B, Gemma 4 31B), gpt-oss-20b circa 60 de tokeni/s
2× RTX 5090 64 GB modele de circa 70 mld. de parametri circa 27 de tokeni/s
RTX PRO 6000 Blackwell 96 GB gpt-oss-120b, Mistral Small 4, modele 70B gpt-oss-120b circa 130 de tokeni/s
4× RTX 5090 128 GB modele de circa 120 mld. de parametri, mai mulți utilizatori simultan în funcție de model
Servere H200 / B200 141–192 GB per placă cele mai mari modele deschise, cu sute de miliarde de parametri pentru zeci până la sute de utilizatori

Vitezele provin din teste publice din 2026 și variază în funcție de versiunea modelului și a software-ului. Ca reper: 30 de tokeni pe secundă înseamnă mai repede decât puteți citi.

Server AI pentru companie, pentru lucru sau pentru acasă

Pentru companie

Server în camera de servere sau la noi în centrul de date, chat pentru întreaga echipă, conectare la documente și sisteme interne. Pentru 10–50 de persoane ajung de obicei 2–4 plăci și un model de circa 30–120 de miliarde de parametri. Pentru mai mulți utilizatori simultani se folosește vLLM, care pune eficient interogările la coadă.

Pentru lucru – pentru dezvoltatori, analiști, creativi

O stație de lucru cu una sau două plăci, sub birou. Asistent pentru cod, transcrieri, generare de imagini și testarea noilor modele. O singură RTX 5090 face față astăzi unor modele care acum un an erau rezervate serverelor.

Acasă

Pentru pasionați și antreprenori mici: chat local care nu trimite nicăieri întrebările dumneavoastră, generare de imagini, jocuri și, pe deasupra, putere pentru alte proiecte. Țineți cont de zgomot și căldură – o placă cu un consum de 575 W încălzește ca un mic radiator electric.

Când merită un server propriu și când nu

Să fim sinceri: dacă echipa folosește AI doar ocazional pentru scrierea de texte, abonamentul de 20 USD de persoană iese mai ieftin decât un server. Serverul propriu are sens atunci când este valabil cel puțin unul dintre următoarele:

  • Datele nu au voie să iasă – sănătate, drept, contabilitate, dezvoltare software, secrete comerciale, date personale ale clienților.
  • Procesați volume mari – mii de documente, transcrieri a ore întregi de înregistrări, răspunsuri automate. Un studiu academic din 2025 a arătat, pentru o implementare mică cu o singură RTX 5090, o recuperare a investiției de ordinul lunilor față de un API plătit.
  • Doriți să experimentați – să testați modele, să le ajustați pe propriile date (fine-tuning), să construiți propriile aplicații.
  • Folosiți serverul în mai multe moduri – AI ziua, randare sau antrenare noaptea.

Țineți cont și de costurile suplimentare. Un server cu 4 plăci consumă la sarcină maximă circa 2,7 kW – la 8 ore pe zi și 22 de zile lucrătoare înseamnă aproximativ 475 kWh și 2.600 Kč pe lună fără TVA. Are nevoie și de administrare: actualizările modelelor și ale driverelor necesită, potrivit unor sondaje internaționale, 10–20 de ore pe lună, dacă nu se ocupă furnizorul de ele.

Și calitatea: cele mai bune modele deschise rămân în urma celor mai performante modele din cloud, în medie, cu aproximativ patru luni de dezvoltare. Cele mai puternice au însă sute de miliarde de parametri și au nevoie de un server mare. Pe o singură placă va rula un model mai mic – pentru rezumate, răspunsuri pe baza documentelor sau scrierea de cod este de obicei suficient.

Cum să începeți ieftin și să extindeți

  1. Începeți cu o singură placă și un model de circa 30 mld. de parametri. Veți vedea cum se integrează AI-ul în companie.
  2. Alegeți o bază cu rezervă – placă de bază și procesor cu suficiente sloturi PCIe, sursă cu rezervă de putere și carcasă sau cadru pentru plăci suplimentare.
  3. Adăugați plăci după nevoie – fiecare RTX 5090 în plus adaugă 32 GB de memorie. Împărțirea modelului pe mai multe plăci reduce puțin viteza, dar permite modele mai mari.
  4. La creștere, luați în calcul plăcile profesionale cu 96 GB (RTX PRO 6000) sau plăcile pentru servere – mai puține plăci, mai multă memorie pe fiecare.
  5. Plăcile vechi nu își pierd valoarea – din cauza lipsei de memorii din 2026, plăcile grafice se vând mai scump decât au costat noi. Astfel, un upgrade vă returnează o parte din investiție.

Cum decurge colaborarea cu noi

Asamblăm servere AI la comandă în Praga – de la stații de lucru de aproximativ 110.000 Kč până la servere de zeci de milioane. Stabilim dinainte ce va rula pe server (model, software, număr de utilizatori) și, în funcție de aceasta, propunem configurația și bugetul.

  • Preinstalăm sistemul, driverele și software-ul – îl porniți și funcționează.
  • Înainte de predare, testăm fiecare server timp de 72 de ore la sarcină maximă.
  • Vă predăm serverul la birou sau îl amplasăm în centrul nostru de date – fără zgomot și fără grija răcirii la dumneavoastră.
  • Ținem piese de schimb în Praga și asigurăm intervenția de service în 24/48 de ore.
  • Când serverul nu lucrează la sarcinile dumneavoastră, poate mina criptomonede pe plăcile grafice.

Pașii următori

Surse

Întrebări frecvente

Kolik stojí AI server pro firmu?
Sestavy skládáme od zhruba 110 tisíc Kč s jednou grafickou kartou až po servery za miliony korun. Cena se odvíjí hlavně od grafické paměti, kterou potřebuje zvolený model, a od počtu uživatelů.
Odcházejí z lokálního AI serveru nějaká data ven?
Ne. Model běží na vašem hardwaru a dotazy ani dokumenty neopouštějí vaši síť. Server může fungovat i úplně bez připojení k internetu.
Kolik VRAM potřebuji pro jazykový model?
Model zkomprimovaný na 4 bity potřebuje zhruba 0,6 GB na každou miliardu parametrů plus paměť na kontext. Jedna RTX 5090 s 32 GB zvládne modely kolem 30 miliard parametrů, 96–128 GB modely kolem 120 miliard.
Je lokální model stejně dobrý jako ChatGPT?
Nejlepší otevřené modely zaostávají za špičkovými cloudovými zhruba o čtyři měsíce vývoje. Na shrnutí, odpovědi z firemních dokumentů, přepisy nebo psaní kódu menší lokální modely běžně stačí.
Můžu server později rozšířit?
Ano. Stačí zvolit základ s rezervou slotů a zdroje a karty přidávat podle potřeby. Server také můžeme umístit v našem datacentru, pokud nechcete řešit hluk a chlazení.

Textul a fost pregătit cu ajutorul AI. Faptele, cifrele și procedurile au fost verificate de Yegor.

Minere din articol

Alte articole din rubrica Ghiduri și comparații