Kľúčové vlastnosti
- 4× NVIDIA GeForce RTX 4090 24 GB GDDR6X – spolu 96 GB grafickej pamäte
- Procesor AMD EPYC 7542 (32 jadier / 64 vlákien) a 256 GB pamäte DDR4 ECC, rozšíriteľné na 512 GB
- Rackové vyhotovenie 4U, dva synchronizované zdroje 2 kW, 2× 10 GbE a vzdialená správa IPMI
- Na objednávku – zostavíme vám nový kus z komponentov, ktoré máme na sklade
- Dodávame s predinštalovaným softvérom podľa toho, na čo chcete server používať – po zapnutí hneď pracuje
Konfigurácia
| Komponent |
Špecifikácia |
| Grafické karty |
4× NVIDIA GeForce RTX 4090 24 GB GDDR6X (PCIe 4.0 x16) |
| Procesor |
AMD EPYC 7542 (32C/64T, 225 W) |
| Základná doska |
ASRock Rack ROMED8-2T (7× PCIe 4.0 x16, 8× DDR4 ECC, 2× 10 GbE, IPMI) |
| Operačná pamäť |
256 GB DDR4-2666 ECC RDIMM (rozšírenie až na 512 GB) |
| Disk |
2 TB NVMe M.2 (PCIe 4.0) |
| Napájanie |
2× 2 kW ATX, synchronizované (spolu 4 kW) |
| Skriňa a chladenie |
4U rack, 120 mm ventilátory s prúdením vzduchu spredu dozadu |
| Príkon |
cca 2 200 W pri plnom zaťažení (karty 4× 450 W, procesor 225 W) |
| Dostupnosť |
Na objednávku – zostavíme vám nový kus (komponenty na sklade) |
Pre koho je určený
Pre firmy, ktoré chcú prevádzkovať jazykové modely u seba – interný chatbot, asistenta alebo prácu s firemnou dokumentáciou (RAG). Dáta neopúšťajú vašu firmu a neplatíte mesačné poplatky za grafické karty v cloude. 96 GB grafickej pamäte stačí na modely okolo 70 miliárd parametrov v kvantizovanej podobe (napr. Llama 3.3 70B), na niekoľko menších modelov naraz, na doladenie (LoRA/QLoRA) modelov s veľkosťou 7 – 34 miliárd parametrov aj na generovanie obrázkov a videa (FLUX.1, SDXL). V našom teste dosiahla Llama 3.3 70B (AWQ, 4 bity) až 179 tokenov za sekundu pri 32 súbežných dopytoch. Keď server práve nepočíta vaše úlohy, môže ťažiť kryptomeny na grafických kartách.
Predinštalácia, test a servis
Vopred sa dohodneme, čo na serveri pobeží (napr. Ubuntu, CUDA, Docker, vLLM, ComfyUI), a pripravíme ho presne pre vašu úlohu. Pred odovzdaním server 72 hodín testujeme pod plným zaťažením. Komponenty máme na sklade – server vám z nich zostavíme nový a otestujeme zvyčajne do 7 – 14 pracovných dní od schválenia ponuky. Kľúčové náhradné diely máme na sklade v Prahe, servisný zásah a výmenu dielov zabezpečíme do 24/48 hodín. Záruka je 24 mesiacov. Pamäť, disky alebo sieťové karty upravíme podľa vašich potrieb.
Prevádzka a umiestnenie
Server patrí do racku alebo technickej miestnosti s dobrým chladením a s okruhom, ktorý znesie približne 2,3 kW. Nechcete riešiť miesto, hluk a chladenie? Server umiestnime na náš hosting v dátovom centre – podmienky dohodneme individuálne.