Server AI PC Praha Rome Dual cu opt plăci grafice și două procesoare EPYC

Server AI PC Praha Rome Dual – 2× EPYC, 8 GPU

8× RTX 5080 16 GB (128 GB VRAM) / 512 GB DDR4 ECC / 4 TB NVMe
936 990 Kč
Salt la informațiile despre produs
Server AI PC Praha Rome Dual cu opt plăci grafice și două procesoare EPYC
  • Server AI PC Praha Rome Dual cu opt plăci grafice și două procesoare EPYC
  • Traseele riserelor PCIe către plăcile grafice
  • Montarea plăcilor grafice – din față
  • Server AI ambalat pentru transport
Server AI PC Praha Rome Dual – 2× EPYC, 8 GPU

PC Praha · Servere AI și GPU

Server AI PC Praha Rome Dual – 2× EPYC, 8 GPU

Parametri în funcție de configurație

Plăci video
8 GPU
Memorie grafică
128–768 GB
Procesor
2× AMD EPYC 7643
Memorie RAM
512–1024 GB
Format
Rack 7U pentru 8 GPU
774 372 Kč fără TVA
936 990 Kč cu TVA 21 %
Plăci grafice
Memorie RAM
Stocare

Asamblare și testare: de obicei 5–7 zile lucrătoare. Adesea avem serverul în stoc și îl expediem imediat – termenul îl confirmăm întotdeauna individual.

Plăci grafice
Memorie RAM
Stocare
  • Garanție 24 luni, reclamații direct la noi
  • Vă ajutăm cu configurația și cu software-ul
  • La cerere îl operăm în centrul nostru de date

Ce conține configurația

Plăci video
8× RTX 5080 16 GB în total 128 GB VRAM
Procesor
2× EPYC 7643 · Milan 48C
Placă de bază
ASRock ROME2D32GM-NL
Memorie RAM
8× 64 GB DDR4 ECC RDIMM în total 512 GB
Stocare
4 TB NVMe
Alimentare
Alimentare de server 5× 1000 W
Carcasă
Rack 7U pentru 8 GPU
Conectarea plăcilor
8× riser activ PCIe 5.0
Răcire
Cooler de procesor și ventilatoare de server
Asamblare
Asamblare, instalarea sistemului și test de stres de 72 de ore

Prețul de mai sus este pentru întregul server, inclusiv asamblarea. Vă oferim cu plăcere preț și pentru alt procesor, altă placă de rețea sau altă carcasă.

Opt plăci grafice și două procesoare AMD EPYC într-un singur rack 7U. Pentru modele de limbaj mari folosite de echipe întregi, fine-tuning de modele și calcule unde o configurație cu patru plăci nu mai ajunge.

Descriere completă, video și parametri

Ce modele vor rula pe această configurație

Configurația aleasă are 128 GB de memorie grafică (VRAM). În ea încap confortabil, de exemplu, aceste modele lingvistice deschise:

  • Qwen3.5-122B-A10B80 GB
  • Mixtral 8x22B80 GB
  • GLM-4.5-Air 106B72 GB
  • Mistral Large 2 123B70 GB
  • Llama 3.3 70B / Qwen3-72B48 GB
  • Seed-OSS-36B28 GB
  • DeepSeek-R2 32B24 GB
  • Qwen3-30B-A3B MoE20 GB

Modelul mai mare Qwen3-235B-A22B necesită aproximativ 140 GB VRAM.

Estimare orientativă pentru modele cuantizate (de regulă Q4), cu rezervă pentru context. Necesarul real de memorie depinde de lungimea contextului și de numărul de utilizatori simultani.

Ce vă asigurăm

  • Preinstalare la cerere

    Instalăm în prealabil Linux, driverele NVIDIA, CUDA, Docker și software-ul pentru sarcina dumneavoastră (de exemplu vLLM sau Ollama) – după pornire puteți lucra imediat.

  • 72 de ore sub sarcină

    Înainte de predare, fiecare server este solicitat la maximum timp de 72 de ore, iar noi urmărim stabilitatea, temperaturile și funcționarea fără erori a memoriilor ECC.

  • Service în 24/48 de ore

    Păstrăm piesele de schimb esențiale în stoc la Praga. Intervenția de service și înlocuirea pieselor le asigurăm în 24/48 de ore.

  • Hosting în centrul nostru de date

    Nu aveți o cameră de servere? Amplasăm serverul în centrul nostru de date, ne ocupăm de alimentare, răcire și conectivitate, iar dumneavoastră îl accesați de la distanță.

Cum procedăm cu serverele AI

Descriere

Serverul AI PC Praha Rome Dual combină opt plăci grafice cu placa de bază dual-procesor ASRock ROME2D32GM-NL și două procesoare AMD EPYC 7643 (96 de nuclee în total). Plăcile sunt conectate prin riser-e PCIe active și alimentate de surse de server redundante. Este cea mai accesibilă cale către opt plăci – memoria DDR4 ECC este mult mai ieftină decât DDR5 și nu frânează performanța calculelor pe plăcile grafice.

Configurație

Procesoare 2× AMD EPYC 7643 (2× 48 de nuclee, socket SP3)
Placă de bază ASRock ROME2D32GM-NL (dual-procesor)
Plăci grafice 8× la alegere: RTX 5080, RTX 4090, RTX 5090, Intel Arc Pro B70, NVIDIA L4, NVIDIA L40 sau RTX Pro 6000; riser-e PCIe active
Memorie RAM 512 GB sau 1 TB DDR4 ECC
Stocare NVMe 4 sau 8 TB
Alimentare surse de server redundante (5 module)
Carcasă rack 7U pentru 8 plăci

De câtă memorie grafică aveți nevoie

Memorie grafică Exemplu de configurație Ce rulează confortabil
128 GB 8× RTX 5080 Qwen3.5-122B-A10B, GLM-4.5-Air 106B (MoE)
192 GB 8× RTX 4090, 8× L4 GLM-4.6 355B (Q4), Qwen3-235B-A22B
256 GB 8× RTX 5090, 8× Arc Pro B70 DeepSeek-V3.2 / R1 671B (Q2), Qwen3-Coder-480B; fine-tuning complet al unui model 70B
384 GB 8× L40 Kimi-K2 1T (1,58 biți), cu rezervă pentru context lung
768 GB 8× RTX Pro 6000 cele mai mari modele deschise, în precizie mai mare și pentru mai mulți utilizatori simultan

Dimensiunile modelelor sunt orientative (cuantizare Q4, dacă nu este indicat altfel), conform configuratorului nostru. Necesarul real de memorie depinde de lungimea contextului și de numărul de utilizatori simultani. La modelele de limbaj memoria plăcilor se însumează, iar generarea de imagini și video necesită întregul model pe o singură placă.

Ce primiți

  • Server asamblat din componente noi – îl asamblăm și îl testăm în Praga.
  • Software preinstalat în funcție de ce doriți să rulați pe server (de ex. Ubuntu, drivere și CUDA, Docker, vLLM, llama.cpp, Ollama, ComfyUI). După pornire este imediat gata de lucru.
  • Înainte de predare: 72 de ore de test de stres la sarcină maximă.
  • Garanție 24 de luni. Piesele de schimb le avem în stoc în Praga, iar intervenția de service o asigurăm în 24/48 de ore.
  • Serverul nu trebuie să stea la dumneavoastră – îl puteți avea în centrul nostru de date (găzduire); ne ocupăm de alimentare, răcire și conectivitate.

Funcționare și instalare

Serverul își are locul într-un rack sau într-o cameră de servere. În funcție de plăci, consumă aproximativ 1,2–5,4 kW și necesită alimentare și răcire corespunzătoare – vă ajutăm cu proiectarea sau îl puteți opera în centrul nostru de date. O rețea mai rapidă pentru interconectarea mai multor servere (25–400 GbE) o adăugăm la cerere.

Întrebări frecvente

De ce două procesoare?
Opt plăci au nevoie de mai multe linii PCIe decât oferă un singur procesor EPYC 7003. Placa de bază cu două procesoare le conectează pe toate și, în plus, dublează memoria și nucleele pentru pregătirea datelor.
Este potrivit pentru antrenare?
Pentru fine-tuning (LoRA, QLoRA) da, iar cu 256 GB sau mai mult chiar și pentru fine-tuning complet al unui model de 70B. Antrenarea modelelor de la zero este o sarcină pentru clustere.
Care este diferența față de serverele Genoa și Turin?
Rome Dual folosește DDR4 și PCIe 4.0, mai ieftine. Genoa și Turin au DDR5, PCIe 5.0 și procesoare mai noi – merită mai ales cu cele mai scumpe plăci și multă memorie RAM.
De ce am nevoie pentru funcționare?
Un rack, un circuit electric de câțiva kW și răcire. Dacă nu le aveți, serverul îl operăm în centrul nostru de date.

Evaluările clienților

Deocamdată nu există nicio evaluare.

Pot evalua doar clienții care au cumpărat produsul de la noi – le trimitem linkul pentru evaluare prin e-mail după cumpărare.

Alte servere AI

Vezi tot