PC Praha Rome Dual AI szerver – 2× EPYC, 8 GPU

A PC Praha Rome Dual AI szerver nyolc videokártyát egyesít a kétprocesszoros ASRock ROME2D32GM-NL alaplappal és két AMD EPYC 7643 processzorral (összesen 96 mag). A kártyák aktív PCIe riserekkel csatlakoznak, tápellátásukat redundáns szerver tápegységek biztosítják. Ez a legkedvezőbb út a nyolc kártyához – a DDR4 ECC memória jóval olcsóbb a DDR5-nél, a GPU-s számításoknál pedig nem fogja vissza a teljesítményt.

Konfiguráció

Mennyi videomemóriára van szüksége?

A modellméretek tájékoztató jellegűek (Q4 kvantálás, ha nincs másként jelölve), konfigurátorunk alapján. A tényleges memóriaigény a kontextus hosszától és az egyidejű felhasználók számától függ. Nyelvi modelleknél a kártyák memóriája összeadódik, a kép- és videógeneráláshoz viszont a teljes modellnek egyetlen kártyán kell elférnie.

Mit kap?

• Új alkatrészekből épített szerver – Prágában szereljük össze és teszteljük.
• Előtelepített szoftverek aszerint, mit szeretne futtatni a szerveren (pl. Ubuntu, illesztőprogramok és CUDA, Docker, vLLM, llama.cpp, Ollama, ComfyUI). Bekapcsolás után azonnal munkára kész.
• Átadás előtt 72 órás terheléses teszt teljes terhelés mellett.
• 24 hónap garancia. A pótalkatrészeket Prágában tartjuk, a szervizbeavatkozást 24/48 órán belül biztosítjuk.
• A szervernek nem kell Önnél állnia – elhelyezheti adatközpontunkban (hosting), mi gondoskodunk a tápellátásról, a hűtésről és a hálózati kapcsolatról.

Üzemeltetés és telepítés

A szerver rackbe vagy szerverterembe való. A kártyáktól függően kb. 1,2–5,4 kW-ot vesz fel, és megfelelő betáplálást és hűtést igényel – segítünk a tervezésben, vagy üzemeltesse adatközpontunkban. Több szerver összekapcsolásához gyorsabb hálózatot (25–400 GbE) kérésre biztosítunk.