AI servery: ako vyzerajú, ako sa chladia a čo určuje ich cenu
Moderný AI server je predovšetkým výkonný GPU akcelerátor s veľkou pamäťou, napájaním v ráde kilowattov a čoraz častejšie s kvapalinovým chladením – vzduch už pri najhustejších zostavách nestačí. Cenu určuje hlavne trieda grafických kariet a množstvo ich pamäte (VRAM): od pracovnej stanice s jednou či dvoma kartami pre menšie modely až po celé racky NVIDIA Blackwell pre dátové centrá. Nižšie je prehľad, ako sa AI servery skladajú, ako sa chladia a prečo firmy prechádzajú z cloudu na vlastný hardvér.
Zhrnutie
- Firmy prechádzajú na lokálne AI servery pre rastúce účty za cloudové API a kvôli ochrane dát.
- Menšie otvorené modely (Gemma 3, Phi-4, Mistral Small 3) zvládnu veľkú časť bežných firemných úloh na vlastnom hardvéri.
- Racky s najnovšími čipmi majú tepelnú záťaž nad 100 kW – bez kvapalinového chladenia ich nemožno prevádzkovať.
- Cenu servera najviac ovplyvňuje typ a počet GPU a veľkosť ich pamäte.
Prečo firmy prechádzajú na lokálne AI servery
Ešte nedávno firmy počítali hlavne s cloudovými modelmi. Neústupné dopyty stoviek zamestnancov a AI agenti bežiaci na pozadí však viedli k javu, ktorému sa v odbore hovorí „šok z vyúčtovania za tokeny“ (token bill shock).
V reakcii na to rastie trend suverénnej AI (sovereign AI) a lokálnych serverov. Namiesto odosielania citlivých dát na zahraničné cloudové servery nasadzujú firmy infraštruktúru vo vlastnej sieti. Optimalizované menšie jazykové modely, ako sú Llama 4 Scout, Mistral Small 3 alebo Phi-4, ukázali, že veľkú časť firemných úloh možno riešiť lokálne bez drahého predplatného.
Prečo vzduchové chladenie prestáva stačiť
Hlavným technickým problémom súčasných AI serverov je teplo. Tradičné vzduchové chladenie – výkonné ventilátory a klimatizácia – hustotu týchto výpočtov nezvláda.
Čipy najnovšej generácie, napríklad grafické procesory NVIDIA Blackwell (GB200) alebo akcelerátory AMD radu MI, majú obrovský príkon. Tepelná záťaž jedného serverového racku dnes presahuje 100–130 kW. Pre predstavu: také teplo by v zime vykúrilo celý bytový dom.
Ako sa AI infraštruktúra chladí
- Priame kvapalinové chladenie (direct-to-chip) – dnes najžiadanejší štandard. Medené chladiace dosky (cold plates) sa montujú priamo na GPU a procesor a kvapalina odvádza teplo priamo od zdroja.
- Imerzné (ponorné) chladenie – servery sú celé ponorené vo vani s dielektrickou kvapalinou. Umožňuje maximálnu hustotu hardvéru, údržba je však zložitejšia.
Vďaka kvapalinovým okruhom môžu dátové centrá obmedziť veľké externé chladiace jednotky (chillery) a znížiť koeficient PUE k hodnotám okolo 1,15–1,2. Rovnakú fyziku riešia aj ťažiari kryptomien – porovnanie nájdete v článku Kde končí vzduchové chladenie.
Z čoho sa AI server skladá a čo určuje cenu
Pre veľké IT ekosystémy sa štandardom stávajú hotové systémy od Dellu či HPE alebo racky na architektúre NVIDIA Blackwell NVL72. Stredné firmy a lokálne nasadenia častejšie volia zostavené konfigurácie na mieru.
| Trieda systému | Cieľové modely | Typický hardvér | Chladenie |
|---|---|---|---|
| Lokálny stack (malá firma) | Menšie modely (Gemma 3, Phi-4, Mistral 24B) | Pracovná stanica s 1–2 kartami RTX (24–32 GB VRAM) alebo Mac Studio so 64 GB | Výkonné vzduchové alebo uzavretý vodný okruh (AIO) |
| Firemný AI server | Veľké otvorené modely (Llama 4 Scout, 109B) | Server s viacerými GPU – herné karty s veľkou VRAM alebo NVIDIA H100/H200, AMD MI300 | Vzduch pri menších zostavách, pri dátacentrových GPU kvapalina direct-to-chip |
| Dátové centrum | Trénovanie modelov, klastre AI agentov | Racky na architektúre NVIDIA Blackwell GB200 | Kompletne kvapalinové (jednotky CDU, chladiace veže) |
Cenu zostavy určuje hlavne:
- GPU a ich pamäť (VRAM) – veľkosť modelu, ktorý server udrží v pamäti, je daná súčtom VRAM všetkých kariet. To je najväčšia položka rozpočtu.
- Procesor a operačná pamäť – serverové CPU s dostatkom PCIe liniek a stovkami GB RAM na prácu s dátami.
- Napájanie a chladenie – server so štyrmi výkonnými GPU odoberá okolo 2,5–3 kW, dátacentrový rack desiatky až vyše sto kW.
- Sieť – na prepojenie viacerých serverov pri trénovaní je potrebná rýchla sieť (InfiniBand alebo 400GbE).
Príklad strednej triedy z našej ponuky: AI server so 4× RTX 5090 má dohromady 128 GB VRAM, procesor AMD EPYC, 512 GB RAM a príkon okolo 2 650 W. Aktuálnu cenu a konfigurácie nájdete pri produkte.
Aký softvér sa na AI serveroch používa
Na správu lokálneho výkonu sa používajú nástroje ako vLLM (pre vyťažené firemné systémy, s technikou PagedAttention) alebo Ollama a LM Studio na rýchle nasadenie pilotných projektov.
Kam sa AI infraštruktúra posúva
Odvetvie AI serverov sa rýchlo vzďaľuje od modelu „len si prenajmi cloud“. Rozhodujúcim sa stáva výkon na watt, ochrana dát a možnosť napojiť systémy cez otvorené protokoly.
Uspejú firmy, ktoré dokážu zladiť výkon nových čipov s reálnymi možnosťami napájania a chladenia. Lokálna AI prestala byť drahou hračkou pre nadšencov a stáva sa základom nezávislosti a efektívnosti firiem.
Čo ďalej
- AI servery PC Praha – konfigurácie na mieru podľa modelu, ktorý chcete prevádzkovať.
- Dá sa Bitcoin ASIC prestavať na AI server? – prečo to nejde a čo sa z ťažobnej farmy využiť dá.
- Mining 2.0 – ako sa ťažiari preorientovávajú na AI infraštruktúru.
Časté otázky
Koľko VRAM potrebujem na lokálny jazykový model?
Prečo AI servery potrebujú kvapalinové chladenie?
Oplatí sa lokálny AI server namiesto cloudu?
Aký softvér sa na lokálnu AI používa?
Koľko elektriny spotrebuje AI server so štyrmi GPU?
Text bol pripravený s pomocou AI. Fakty, čísla a postupy overil Yegor.
