AI szerverek

AI szerver cégeknek, munkához és otthonra: saját AI felhő nélkül

Szerző: Frissítve 8 perc olvasás

Ilustrace: AI server s grafickými kartami, chatovací bublina a štít se zámkem

A saját AI szerver azt jelenti, hogy a nyelvi modell az Ön hardverén fut, és a céges adatok sehová sem kerülnek ki. Nem fizet tokenekért, sem felhasználónkénti előfizetésért, az új nyílt modelleket azonnal kipróbálhatja, amint megjelennek, a szervert pedig fokozatosan bővítheti további videokártyákkal. Ha csak néhány ember ír vele alkalmanként e-maileket, a felhőalapú előfizetés olcsóbb. A szerver ott térül meg, ahol az adatok nem hagyhatják el a céget, ahol az AI nagy mennyiségű dokumentumot dolgoz fel, vagy ahol saját rendszereibe szeretné bekötni.

Összefoglalás

  • A helyi modell semmit sem küld a felhőbe – a szerződések, az ügyféladatok és a forráskód is a cégen belül marad.
  • A felhő 20 főre havonta nagyjából 8 700–13 000 Kč-ba kerül, csak az alaplicencekért. A saját szerver egyszeri beruházás plusz az áram.
  • Hogy milyen modell fut rajta, azt elsősorban a grafikus memória (VRAM) dönti el: 32 GB elég a 30 milliárd paraméter körüli modellekhez, 96–128 GB a 120 milliárd körüliekhez.
  • Kezdhet egyetlen kártyával, és később bővítheti a szervert. Konfigurációinkat nagyjából 110 ezer Kč-tól egészen a milliókba kerülő szerverekig állítjuk össze.

Miért akarnak a cégek felhő nélküli AI-t

Az alkalmazottak szerződéseket, ajánlatokat, ügyféladatokat tartalmazó táblázatokat és forráskódot is bemásolnak a chatbotokba. A Check Point 2025 őszi elemzése szerint a nyilvános AI-eszközökhöz intézett kérések közül minden 54. hordozta az érzékeny adatok kiszivárgásának magas kockázatát, és ez a vizsgált szervezetek 91 %-át érintette.

A GDPR szerint a személyes adatok AI-eszközben történő kezeléséért az a cég felel, amely az eszközt használja. Tudnia kell, hová kerülnek az adatok, és az EU-n kívülre történő továbbításhoz jogalappal kell rendelkeznie. Az USA-ba irányuló adattovábbítás keretrendszere (EU–US Data Privacy Framework) ugyan megállta a helyét az EU Törvényszéke előtt, a döntés ellen azonban fellebbezést nyújtottak be, így a jogbizonytalanság továbbra is fennáll.

A felhőszolgáltatások céges változatai rendelkeznek védelemmel: a ChatGPT Business, a Claude Team és a Microsoft 365 Copilot is a feltételei szerint nem tanít a céges adatokon. Az adatokat azonban továbbra is egy külső cég dolgozza fel a saját szerverein. A helyi modell az egyetlen olyan megoldás, amelynél a szöveg egyáltalán nem hagyja el az Ön hálózatát.

Egy dologra figyeljen: a cseh kormány 2025-ben megtiltotta a DeepSeek termékeit az államigazgatásban, a Cseh Hadsereg pedig óva intett a kínai felhőalapú chatbotoktól, mert az adatokat Kínában tárolják. Ez a felhőszolgáltatásokra vonatkozik. A letöltött nyílt modell Önnél fut, a szervereikhez való csatlakozás nélkül – mégis válasszon egyértelmű licencű és ellenőrzött eredetű modelleket.

Mennyibe kerül az AI a felhőben

Szolgáltatás Ár felhasználónként havonta 20 felhasználó havonta
ChatGPT Business (Standard) 20 USD (éves fizetés), havonta 25 USD kb. 8 700–10 900 Kč
Claude Team (Standard) 20 USD (éves fizetés), havonta 25 USD kb. 8 700–10 900 Kč
Microsoft 365 Copilot (Enterprise) 30 USD + Microsoft 365 licenc kb. 13 000 Kč + licenc
Prémium helyek (ChatGPT, Claude) 100 USD (éves fizetés) kb. 43 500 Kč

Az árak ÁFA nélkül értendők, a gyártók 2026. 10. 25-i árlistái alapján, a Cseh Nemzeti Bank 21,74 Kč/USD árfolyamán átszámítva. Ha az AI-t API-n keresztül saját alkalmazásaiba köti be, minden millió tokenért fizet – a nagy teljesítményű modelleknél 2–10 USD-t a bemenetért és 10–50 USD-t a kimenetért. Havonta több ezer dokumentum automatikus feldolgozásánál a számla gyorsan összeadódik.

Mire képes a saját AI szerver

  • Céges chat ChatGPT-stílusban az egész csapatnak – például Open WebUI felhasználói fiókokkal, csak az Ön hálózatában fut.
  • Chat a céges dokumentumok felett (RAG) – a modell az Ön szabályzataiból, szerződéseiből, kézikönyveiből vagy e-mailjeiből válaszol, és megadja a forrást.
  • Asszisztens programozóknak – kódkiegészítés VS Code-ban vagy JetBrains-ben (Continue), a kód kiküldése nélkül.
  • Megbeszélések és hívások leiratozása – a Whisper modell a cseh nyelvet is kezeli, a megbeszélést nem kell idegen szerverre feltölteni.
  • Képek, videó és renderelés – képgenerálás (ComfyUI), Blender, DaVinci Resolve.
  • Automatizálás – a saját alkalmazások ugyanúgy API-n keresztül hívják a modellt, mint a felhőt, csak tokendíj nélkül.
  • Kísérletezés – egy új nyílt modellt (Qwen, Gemma, Mistral, gpt-oss, DeepSeek…) még aznap letölthet és kipróbálhat.

Mennyi VRAM kell: milyen szerver milyen modellhez

A modellnek teljes egészében (a kontextussal együtt) a grafikus memóriában kell maradnia. Durva ökölszabály: a 4 bitre tömörített modellnek milliárd paraméterenként kb. 0,6 GB kell, ehhez jön a kontextus memóriaigénye.

Konfiguráció Grafikus memória Mi fut rajta Sebesség (tájékoztató jelleggel)
1× RTX 5090 32 GB 27–31 milliárd paraméteres modellek (pl. Qwen3.8-27B, Gemma 4 31B), gpt-oss-20b kb. 60 token/s
2× RTX 5090 64 GB 70 milliárd paraméter körüli modellek kb. 27 token/s
RTX PRO 6000 Blackwell 96 GB gpt-oss-120b, Mistral Small 4, 70B modellek gpt-oss-120b kb. 130 token/s
4× RTX 5090 128 GB 120 milliárd paraméter körüli modellek, több egyidejű felhasználó modelltől függően
H200 / B200 szerverek 141–192 GB kártyánként a legnagyobb, több száz milliárd paraméteres nyílt modellek több tíz–több száz felhasználónak

A sebességek 2026-os nyilvános tesztek alapján, a modell és a szoftver verziójától függően változnak. Viszonyításképp: másodpercenként 30 token gyorsabb, mint ahogy olvasni tud.

AI szerver a cégbe, munkához vagy otthonra

A cégbe

Szerver a szerverteremben vagy nálunk az adatközpontban, chat az egész csapatnak, a dokumentumok és belső rendszerek bekötésével. 10–50 főre általában elég 2–4 kártya és egy 30–120 milliárd paraméter körüli modell. Több egyidejű felhasználóhoz vLLM-et telepítünk, amely hatékonyan sorba rendezi a kéréseket.

Munkához – fejlesztőknek, elemzőknek, kreatívoknak

Munkaállomás egy vagy két kártyával az asztal alatt. Kódasszisztens, leiratok, képgenerálás és új modellek kipróbálása. Egyetlen RTX 5090 ma olyan modelleket is elbír, amelyek egy éve még a szerverek kiváltságai voltak.

Otthonra

Lelkes felhasználóknak és kisvállalkozóknak: helyi chat, amely sehová sem küldi el a kérdéseit, képgenerálás, játék, és mellé teljesítmény további projektekhez. Számoljon a zajjal és a hővel – egy 575 W-os kártya úgy fűt, mint egy kis hősugárzó.

Mikor éri meg a saját szerver, és mikor nem

Legyünk őszinték: ha a csapat csak alkalmanként használja az AI-t szövegírásra, a fejenkénti 20 USD-s előfizetés olcsóbb, mint a szerver. A saját szervernek akkor van értelme, ha az alábbiak közül legalább egy teljesül:

  • Az adatok nem kerülhetnek ki – egészségügy, jog, könyvelés, fejlesztés, üzleti titok, ügyfelek személyes adatai.
  • Nagy mennyiséget dolgoz fel – több ezer dokumentum, órányi felvételek leiratozása, automatikus válaszok. Egy 2025-ös tudományos tanulmány szerint egy kis, egyetlen RTX 5090-es telepítés a fizetős API-hoz képest hónapok alatt megtérült.
  • Kísérletezni szeretne – modelleket kipróbálni, saját adatokon finomhangolni (fine-tuning), saját alkalmazásokat építeni.
  • A szervert többféleképpen használja ki – napközben AI, éjszaka renderelés vagy tanítás.

Számoljon a többletköltségekkel is. Egy 4 kártyás szerver teljes terhelésnél kb. 2,7 kW-ot vesz fel – napi 8 órával és 22 munkanappal számolva ez kb. 475 kWh és havi 2 600 Kč ÁFA nélkül. Üzemeltetést is igényel: külföldi felmérések szerint a modellek és illesztőprogramok frissítése havonta 10–20 órát vesz igénybe, ha nem a szállító intézi.

És a minőség: a legjobb nyílt modellek átlagosan nagyjából négy hónapnyi fejlesztéssel maradnak le a csúcskategóriás felhőalapú modellek mögött. A legerősebbek azonban több száz milliárd paraméteresek, és nagy szervert igényelnek. Egyetlen kártyán kisebb modell fut – összefoglalókhoz, dokumentumokból adott válaszokhoz vagy kódíráshoz általában elég.

Hogyan kezdjen olcsón, és bővítsen később

  1. Kezdjen egyetlen kártyával és egy 30 milliárd paraméter körüli modellel. Kipróbálhatja, hogyan illeszkedik az AI a cég működésébe.
  2. Válasszon tartalékkal rendelkező alapot – elegendő PCIe-foglalattal rendelkező alaplapot és processzort, teljesítménytartalékkal bíró tápegységet, valamint házat vagy keretet további kártyákhoz.
  3. Bővítse kártyákkal igény szerint – minden további RTX 5090 32 GB memóriát ad hozzá. A modell több kártya közötti megosztása kissé csökkenti a sebességet, de nagyobb modelleket tesz lehetővé.
  4. Növekedéskor fontolja meg a professzionális kártyákat 96 GB-tal (RTX PRO 6000) vagy a szerverkártyákat – kevesebb kártya, több memória egy kártyán.
  5. A régi kártyák nem veszítenek értékükből – 2026-ban a memóriahiány miatt a videokártyák drágábban kelnek el, mint amennyibe újonnan kerültek. A bővítés így a beruházás egy részét visszahozza.

Hogyan zajlik nálunk

Az AI szervereket Prágában, egyedi megrendelésre állítjuk össze – a nagyjából 110 ezer Kč-ba kerülő munkaállomástól a több tízmillió Kč-s szerverekig. Előre egyeztetjük, mi fog futni a szerveren (modell, szoftver, felhasználók száma), és ennek alapján javaslunk konfigurációt és költségvetést.

  • A rendszert, az illesztőprogramokat és a szoftvert előre telepítjük – bekapcsolja, és működik.
  • Átadás előtt minden szervert 72 órán át teljes terhelés alatt tesztelünk.
  • A szervert átadjuk az irodájában, vagy elhelyezzük az adatközpontunkban – így Önnél nincs zaj és hűtési gond.
  • A pótalkatrészeket Prágában tartjuk, a szervizbeavatkozást 24/48 órán belül biztosítjuk.
  • Amikor a szerver éppen nem az Ön feladatain dolgozik, a videokártyákon kriptovalutát bányászhat.

Mi a következő lépés

Források

Gyakori kérdések

Mennyibe kerül egy AI szerver a cégnek?
A konfigurációkat már kb. 110 ezer Kč-tól állítjuk össze egy videokártyával, egészen a több millió koronás szerverekig. Az ár főleg a választott modellhez szükséges videomemóriától és a felhasználók számától függ.
Távoznak adatok a helyi AI szerverről?
Nem. A modell az Ön hardverén fut, és sem a kérdések, sem a dokumentumok nem hagyják el az Ön hálózatát. A szerver teljesen internetkapcsolat nélkül is működhet.
Mennyi VRAM kell egy nyelvi modellhez?
A 4 bitre tömörített modellnek milliárd paraméterenként nagyjából 0,6 GB kell, plusz memória a kontextushoz. Egy 32 GB-os RTX 5090 kb. 30 milliárd paraméteres modelleket bír, 96–128 GB pedig kb. 120 milliárd paraméteres modelleket.
Olyan jó a helyi modell, mint a ChatGPT?
A legjobb nyílt modellek nagyjából négy hónapnyi fejlesztéssel maradnak el a csúcskategóriás felhőmodellektől. Összefoglalókhoz, céges dokumentumokból adott válaszokhoz, átiratokhoz vagy kódíráshoz a kisebb helyi modellek is általában elegendők.
Bővíthetem később a szervert?
Igen. Elég tartalék slotokkal és tápegység-kapacitással rendelkező alapot választani, a kártyákat pedig igény szerint hozzáadni. A szervert az adatközpontunkban is elhelyezhetjük, ha nem szeretne a zajjal és a hűtéssel foglalkozni.

A szöveg AI segítségével készült. A tényeket, számokat és eljárásokat Yegor ellenőrizte.

A cikkhez kapcsolódó bányagépek

További cikkek a(z) Útmutatók és összehasonlítások rovatban