Serwer AI Rome Dual – 2× EPYC, 8 GPU, 768 GB VRAM

Jakie modele uruchomią Państwo na tym zestawie

Wybrana konfiguracja ma 128 GB pamięci graficznej (VRAM). Swobodnie zmieszczą się w niej na przykład te otwarte modele językowe:

Qwen3.5-122B-A10B80 GB
Mixtral 8x22B80 GB
GLM-4.5-Air 106B72 GB
Mistral Large 2 123B70 GB
Llama 3.3 70B / Qwen3-72B48 GB
Seed-OSS-36B28 GB
DeepSeek-R2 32B24 GB
Qwen3-30B-A3B MoE20 GB

Większy model Qwen3-235B-A22B potrzebuje około 140 GB VRAM.

Szacunek orientacyjny dla modeli kwantyzowanych (zwykle Q4) z zapasem na kontekst. Rzeczywiste zapotrzebowanie na pamięć zależy od długości kontekstu i liczby jednoczesnych użytkowników.

Co dla Państwa zapewnimy

Preinstalacja na miarę
Linux, sterowniki NVIDIA, CUDA, Docker i oprogramowanie do Państwa zadania (np. vLLM lub Ollama) zainstalujemy wcześniej – po włączeniu można od razu pracować.
72 godziny pod obciążeniem
Każdy serwer przed przekazaniem obciążamy w pełni przez 72 godziny i kontrolujemy stabilność, temperatury oraz bezbłędność pamięci ECC.
Serwis w ciągu 24/48 godzin
Kluczowe części zamienne mamy na stanie w Pradze. Interwencję serwisową i wymianę części zapewnimy w ciągu 24/48 godzin.
Hosting w naszym centrum danych
Nie mają Państwo serwerowni? Umieścimy serwer w naszym centrum danych, zadbamy o zasilanie, chłodzenie i łącze, a Państwo mają do niego zdalny dostęp.

Jak postępujemy przy serwerach AI

Opis

Serwer AI PC Praha Rome Dual łączy osiem kart graficznych z dwuprocesorową płytą ASRock ROME2D32GM-NL i dwoma procesorami AMD EPYC 7643 (łącznie 96 rdzeni). Karty są podłączone przez aktywne risery PCIe i zasilane redundantnymi zasilaczami serwerowymi. To najbardziej przystępna droga do ośmiu kart – pamięć DDR4 ECC jest wyraźnie tańsza niż DDR5, a przy obliczeniach na kartach graficznych nie ogranicza wydajności.

Zestaw

Procesory	2× AMD EPYC 7643 (2× 48 rdzeni, socket SP3)
Płyta główna	ASRock ROME2D32GM-NL (dwuprocesorowa)
Karty graficzne	8× do wyboru: RTX 5080, RTX 4090, RTX 5090, Intel Arc Pro B70, NVIDIA L4, NVIDIA L40 lub RTX Pro 6000; aktywne risery PCIe
Pamięć operacyjna	512 GB lub 1 TB DDR4 ECC
Dysk	NVMe 4 lub 8 TB
Zasilanie	redundantne zasilacze serwerowe (5 modułów)
Obudowa	rack 7U na 8 kart

Ile pamięci graficznej Państwo potrzebują

Pamięć graficzna	Przykładowa konfiguracja	Co komfortowo uruchomią Państwo
128 GB	8× RTX 5080	Qwen3.5-122B-A10B, GLM-4.5-Air 106B (MoE)
192 GB	8× RTX 4090, 8× L4	GLM-4.6 355B (Q4), Qwen3-235B-A22B
256 GB	8× RTX 5090, 8× Arc Pro B70	DeepSeek-V3.2 / R1 671B (Q2), Qwen3-Coder-480B; pełne dostrajanie modelu 70B
384 GB	8× L40	Kimi-K2 1T (1,58 bit) z zapasem na długi kontekst
768 GB	8× RTX Pro 6000	największe otwarte modele w wyższej precyzji i dla wielu użytkowników jednocześnie

Rozmiary modeli są orientacyjne (kwantyzacja Q4, o ile nie podano inaczej) według naszego konfiguratora. Rzeczywiste zapotrzebowanie na pamięć zależy od długości kontekstu i liczby jednoczesnych użytkowników. W przypadku modeli językowych pamięć kart się sumuje, natomiast generowanie obrazów i wideo wymaga całego modelu na jednej karcie.

Co Państwo otrzymują

Serwer złożony z nowych komponentów – składamy go i testujemy w Pradze.
Preinstalowane oprogramowanie dopasowane do tego, co chcą Państwo uruchamiać na serwerze (np. Ubuntu, sterowniki i CUDA, Docker, vLLM, llama.cpp, Ollama, ComfyUI). Po włączeniu jest od razu gotowy do pracy.
Przed przekazaniem 72 godziny testu obciążeniowego pod pełnym obciążeniem.
Gwarancja 24 miesiące. Części zamienne trzymamy w Pradze, interwencję serwisową zapewniamy w ciągu 24/48 godzin.
Serwer nie musi stać u Państwa – może pracować w naszym centrum danych (hosting), a my zadbamy o zasilanie, chłodzenie i łączność.

Eksploatacja i instalacja

Serwer jest przeznaczony do racku lub serwerowni. W zależności od kart pobiera około 1,2–5,4 kW i wymaga odpowiedniego przyłącza oraz chłodzenia – pomożemy w projekcie albo mogą Państwo eksploatować go w naszym centrum danych. Szybszą sieć do łączenia wielu serwerów (25–400 GbE) dodamy na życzenie.

Częste pytania

Dlaczego dwa procesory?

Osiem kart potrzebuje więcej linii PCIe, niż oferuje jeden procesor EPYC 7003. Płyta dwuprocesorowa połączy je wszystkie, a jednocześnie podwoi pamięć i liczbę rdzeni do przygotowania danych.

Czy nadaje się do trenowania?

Do dostrajania (LoRA, QLoRA) tak, a z 256 GB i więcej także do pełnego dostrajania modelu wielkości 70B. Trenowanie modeli od zera to zadanie dla klastrów.

Jaka jest różnica w porównaniu z serwerami Genoa i Turin?

Rome Dual wykorzystuje tańsze DDR4 i PCIe 4.0. Genoa i Turin mają DDR5, PCIe 5.0 i nowsze procesory – opłacają się głównie przy najdroższych kartach i dużej pamięci operacyjnej.

Czego potrzebuję do eksploatacji?

Szafy rack, obwodu na kilka kW i chłodzenia. Jeśli ich Państwo nie mają, serwer uruchomimy w naszym centrum danych.

Opinie klientów

Nie ma tu jeszcze żadnych ocen.

Oceniać mogą tylko klienci, którzy kupili u nas produkt – link do oceny wyślemy im e-mailem po zakupie.

Inne serwery AI

Pokaż wszystko

Serwer AI 4× RTX 5090 – 128 GB VRAM, AMD EPYC, 512 GB RAM
- 4× RTX 5090
- 128 GB VRAM
- EPYC 7643
- 512 GB RAM
990 909 Kč bez VAT
1 199 000 Kč z VAT
Na zamówienie, termin potwierdzimy
Serwer AI HPE ProLiant DL385 Gen10 – 2× NVIDIA A100 80 GB, 2× AMD EPYC 7502
- 2× A100 80 GB
- 160 GB VRAM
- 2× EPYC 7502
- 512 GB RAM
1 020 510 Kč bez VAT
1 234 817 Kč z VAT
Na zamówienie, termin potwierdzimy
Serwer AI K-AI 96 ROME – 4× RTX 4090, 96 GB VRAM, AMD EPYC 7542
- 4× RTX 4090
- 96 GB VRAM
- EPYC 7542
- 256 GB RAM
449 493 Kč bez VAT
543 886 Kč z VAT
Na zamówienie, termin potwierdzimy
Konfigurowalny
Serwer AI PC Praha Edge – mobilna wieża, do 6 GPU
- 2–6 GPU
- 32–384 GB VRAM
- EPYC 7643
- 256–512 GB RAM
od 280 405 Kč bez VAT
339 290 Kč z VAT
Złożenie zwykle 5–7 dni roboczych