AI servery: jak vypadají, jak se chladí a co určuje jejich cenu
Moderní AI server je především výkonný GPU akcelerátor s velkou pamětí, napájením v řádu kilowattů a stále častěji s kapalinovým chlazením – vzduch už u nejhustších sestav nestačí. Cenu určuje hlavně třída grafických karet a množství jejich paměti (VRAM): od pracovní stanice s jednou či dvěma kartami pro menší modely až po celé racky NVIDIA Blackwell pro datacentra. Níže je přehled, jak se AI servery skládají, jak se chladí a proč firmy přecházejí z cloudu na vlastní hardware.
Shrnutí
- Firmy přecházejí na lokální AI servery kvůli rostoucím účtům za cloudové API a kvůli ochraně dat.
- Menší otevřené modely (Gemma 3, Phi-4, Mistral Small 3) zvládnou velkou část běžných firemních úloh na vlastním hardwaru.
- Racky s nejnovějšími čipy mají tepelnou zátěž přes 100 kW – bez kapalinového chlazení je nelze provozovat.
- Cenu serveru nejvíc ovlivňuje typ a počet GPU a velikost jejich paměti.
Proč firmy přecházejí na lokální AI servery
Ještě nedávno firmy počítaly hlavně s cloudovými modely. Neustálé dotazy stovek zaměstnanců a AI agenti běžící na pozadí ale vedly k jevu, kterému se v oboru říká „šok z vyúčtování za tokeny“ (token bill shock).
V reakci na to roste trend suverénní AI (sovereign AI) a lokálních serverů. Místo odesílání citlivých dat na zahraniční cloudové servery nasazují firmy infrastrukturu ve vlastní síti. Optimalizované menší jazykové modely, jako jsou Llama 4 Scout, Mistral Small 3 nebo Phi-4, ukázaly, že velkou část firemních úloh lze řešit lokálně bez drahého předplatného.
Proč vzduchové chlazení přestává stačit
Hlavním technickým problémem současných AI serverů je teplo. Tradiční vzduchové chlazení – výkonné ventilátory a klimatizace – hustotu těchto výpočtů nezvládá.
Čipy nejnovější generace, například grafické procesory NVIDIA Blackwell (GB200) nebo akcelerátory AMD řady MI, mají obrovský příkon. Tepelná zátěž jednoho serverového racku dnes přesahuje 100–130 kW. Pro představu: takové teplo by v zimě vytopilo celý bytový dům.
Jak se AI infrastruktura chladí
- Přímé kapalinové chlazení (direct-to-chip) – dnes nejžádanější standard. Měděné chladicí desky (cold plates) se montují přímo na GPU a procesor a kapalina odvádí teplo přímo od zdroje.
- Imerzní (ponorné) chlazení – servery jsou celé ponořené ve vaně s dielektrickou kapalinou. Umožňuje maximální hustotu hardwaru, údržba je ale složitější.
Díky kapalinovým okruhům mohou datová centra omezit velké externí chladicí jednotky (chillery) a snížit koeficient PUE k hodnotám kolem 1,15–1,2. Stejnou fyziku řeší i těžaři kryptoměn – srovnání najdete v článku Kde končí vzduchové chlazení.
Z čeho se AI server skládá a co určuje cenu
Pro velké IT ekosystémy se standardem stávají hotové systémy od Dellu či HPE nebo racky na architektuře NVIDIA Blackwell NVL72. Střední firmy a lokální nasazení častěji volí sestavené konfigurace na míru.
| Třída systému | Cílové modely | Typický hardware | Chlazení |
|---|---|---|---|
| Lokální stack (malá firma) | Menší modely (Gemma 3, Phi-4, Mistral 24B) | Pracovní stanice s 1–2 kartami RTX (24–32 GB VRAM) nebo Mac Studio s 64 GB | Výkonné vzduchové nebo uzavřený vodní okruh (AIO) |
| Firemní AI server | Velké otevřené modely (Llama 4 Scout, 109B) | Server s více GPU – herní karty s velkou VRAM nebo NVIDIA H100/H200, AMD MI300 | Vzduch u menších sestav, u datacentrových GPU kapalina direct-to-chip |
| Datové centrum | Trénování modelů, clustery AI agentů | Racky na architektuře NVIDIA Blackwell GB200 | Kompletně kapalinové (CDU jednotky, chladicí věže) |
Cenu sestavy určuje hlavně:
- GPU a jejich paměť (VRAM) – velikost modelu, který server udrží v paměti, je dána součtem VRAM všech karet. To je největší položka rozpočtu.
- Procesor a operační paměť – serverové CPU s dostatkem PCIe linek a stovkami GB RAM pro práci s daty.
- Napájení a chlazení – server se čtyřmi výkonnými GPU odebírá kolem 2,5–3 kW, datacentrový rack desítky až přes sto kW.
- Síť – pro propojení více serverů při trénování je potřeba rychlá síť (InfiniBand nebo 400GbE).
Příklad střední třídy z naší nabídky: AI server se 4× RTX 5090 má dohromady 128 GB VRAM, procesor AMD EPYC, 512 GB RAM a příkon kolem 2 650 W. Aktuální cenu a konfigurace najdete u produktu.
Jaký software se na AI serverech používá
Pro správu lokálního výkonu se používají nástroje jako vLLM (pro vytížené firemní systémy, s technikou PagedAttention) nebo Ollama a LM Studio pro rychlé nasazení pilotních projektů.
Kam se AI infrastruktura posouvá
Odvětví AI serverů se rychle vzdaluje od modelu „jen si pronajmi cloud“. Rozhodující se stává výkon na watt, ochrana dat a možnost napojit systémy přes otevřené protokoly.
Uspějí firmy, které dokážou sladit výkon nových čipů s reálnými možnostmi napájení a chlazení. Lokální AI přestala být drahou hračkou pro nadšence a stává se základem nezávislosti a efektivity firem.
Co dál
- AI servery PC Praha – konfigurace na míru podle modelu, který chcete provozovat.
- Dá se Bitcoin ASIC přestavět na AI server? – proč to nejde a co z těžební farmy využít lze.
- Mining 2.0 – jak se těžaři přeorientovávají na AI infrastrukturu.
Časté dotazy
Kolik VRAM potřebuji na lokální jazykový model?
Proč AI servery potřebují kapalinové chlazení?
Vyplatí se lokální AI server místo cloudu?
Jaký software se na lokální AI používá?
Kolik elektřiny spotřebuje AI server se čtyřmi GPU?
Text byl připraven s pomocí AI. Fakta, čísla a postupy ověřil Yegor.
