{"product_id":"k-ai-96-rome-4090-vykonna-bestie-pro-ai-inferenci-a-llm","title":"AI-сервер K-AI 96 ROME – 4× RTX 4090, 96 GB VRAM, AMD EPYC 7542","description":"\u003ch3\u003eКлючові особливості\u003c\/h3\u003e\u003cul\u003e\n\u003cli\u003e4× NVIDIA GeForce RTX 4090 24 GB GDDR6X – загалом 96 GB відеопам’яті\u003c\/li\u003e\n\u003cli\u003eПроцесор AMD EPYC 7542 (32 ядра \/ 64 потоки) і 256 GB пам’яті DDR4 ECC з можливістю розширення до 512 GB\u003c\/li\u003e\n\u003cli\u003eСтійкове виконання 4U, два синхронізовані блоки живлення по 2 kW, 2× 10 GbE та віддалене керування IPMI\u003c\/li\u003e\n\u003cli\u003eПід замовлення – зберемо для вас новий екземпляр із комплектуючих, які є в нас на складі\u003c\/li\u003e\n\u003cli\u003eПостачаємо з попередньо встановленим ПЗ під те, що ви хочете запускати на сервері, – він працює одразу після ввімкнення\u003c\/li\u003e\n\u003c\/ul\u003e\u003ch3\u003eКонфігурація\u003c\/h3\u003e\u003ctable\u003e\n\u003cthead\u003e\n\u003ctr\u003e\n\u003cth\u003eКомпонент\u003c\/th\u003e\n\u003cth\u003eХарактеристики\u003c\/th\u003e\n\u003c\/tr\u003e\n\u003c\/thead\u003e\n\u003ctbody\u003e\n\u003ctr\u003e\n\u003ctd\u003eВідеокарти\u003c\/td\u003e\n\u003ctd\u003e4× NVIDIA GeForce RTX 4090 24 GB GDDR6X (PCIe 4.0 x16)\u003c\/td\u003e\n\u003c\/tr\u003e\n\u003ctr\u003e\n\u003ctd\u003eПроцесор\u003c\/td\u003e\n\u003ctd\u003eAMD EPYC 7542 (32C\/64T, 225 W)\u003c\/td\u003e\n\u003c\/tr\u003e\n\u003ctr\u003e\n\u003ctd\u003eМатеринська плата\u003c\/td\u003e\n\u003ctd\u003eASRock Rack ROMED8-2T (7× PCIe 4.0 x16, 8× DDR4 ECC, 2× 10 GbE, IPMI)\u003c\/td\u003e\n\u003c\/tr\u003e\n\u003ctr\u003e\n\u003ctd\u003eОперативна пам’ять\u003c\/td\u003e\n\u003ctd\u003e256 GB DDR4-2666 ECC RDIMM (розширення до 512 GB)\u003c\/td\u003e\n\u003c\/tr\u003e\n\u003ctr\u003e\n\u003ctd\u003eНакопичувач\u003c\/td\u003e\n\u003ctd\u003e2 TB NVMe M.2 (PCIe 4.0)\u003c\/td\u003e\n\u003c\/tr\u003e\n\u003ctr\u003e\n\u003ctd\u003eЖивлення\u003c\/td\u003e\n\u003ctd\u003e2× 2 kW ATX, синхронізовані (загалом 4 kW)\u003c\/td\u003e\n\u003c\/tr\u003e\n\u003ctr\u003e\n\u003ctd\u003eКорпус і охолодження\u003c\/td\u003e\n\u003ctd\u003eстійка 4U, вентилятори 120 mm із потоком повітря спереду назад\u003c\/td\u003e\n\u003c\/tr\u003e\n\u003ctr\u003e\n\u003ctd\u003eСпоживана потужність\u003c\/td\u003e\n\u003ctd\u003eблизько 2 200 W при повному навантаженні (карти 4× 450 W, процесор 225 W)\u003c\/td\u003e\n\u003c\/tr\u003e\n\u003ctr\u003e\n\u003ctd\u003eНаявність\u003c\/td\u003e\n\u003ctd\u003eПід замовлення – зберемо для вас новий екземпляр (комплектуючі в наявності)\u003c\/td\u003e\n\u003c\/tr\u003e\n\u003c\/tbody\u003e\n\u003c\/table\u003e\u003ch3\u003eДля кого\u003c\/h3\u003e\u003cp\u003eДля компаній, які хочуть запускати мовні моделі у себе – внутрішній чат-бот, асистент або робота з корпоративною документацією (RAG). Дані не залишають вашу компанію, і ви не платите щомісяця за відеокарти в хмарі. 96 GB відеопам’яті вистачає для квантизованих моделей близько 70 мільярдів параметрів (наприклад, Llama 3.3 70B), для кількох невеликих моделей одночасно, для донавчання (LoRA\/QLoRA) моделей розміром 7–34 мільярди параметрів, а також для генерації зображень і відео (FLUX.1, SDXL). У нашому тесті Llama 3.3 70B (AWQ, 4 біти) видавала до 179 токенів за секунду при 32 одночасних запитах. Коли сервер не зайнятий вашими завданнями, він може майнити криптовалюти на відеокартах.\u003c\/p\u003e\u003ch3\u003eПопереднє встановлення, тестування та сервіс\u003c\/h3\u003e\u003cp\u003eЗаздалегідь домовимося, що працюватиме на сервері (наприклад, Ubuntu, CUDA, Docker, vLLM, ComfyUI), і підготуємо його точно під ваше завдання. Перед передачею ми 72 години тестуємо сервер під повним навантаженням. Комплектуючі в наявності – ми зберемо з них новий сервер і протестуємо його зазвичай за 7–14 робочих днів після погодження пропозиції. Ключові запчастини тримаємо на складі в Празі, сервісне втручання та заміну деталей забезпечимо протягом 24\/48 годин. Гарантія – 24 місяці. Пам’ять, накопичувачі або мережеві карти підберемо під ваші потреби.\u003c\/p\u003e\u003ch3\u003eЕксплуатація та розміщення\u003c\/h3\u003e\u003cp\u003eСерверу місце в стійці або технічному приміщенні з добрим охолодженням і електролінією, яка витримає близько 2,3 kW. Не хочете вирішувати питання з місцем, шумом і охолодженням? Розмістимо сервер на нашому хостингу в дата-центрі – умови обговоримо індивідуально.\u003c\/p\u003e","brand":"PC Praha","offers":[{"title":"Default Title","offer_id":53066125476127,"sku":"PCP-AI-KAI96-4X4090","price":543886.0,"currency_code":"CZK","in_stock":true}],"thumbnail_url":"\/\/cdn.shopify.com\/s\/files\/1\/0976\/4693\/6351\/files\/k-ai-96-rome-4090-vykonna-bestie-pro-ai-inferenci-a-llm.jpg?v=1792343619","url":"https:\/\/pcpraha.cz\/uk\/products\/k-ai-96-rome-4090-vykonna-bestie-pro-ai-inferenci-a-llm","provider":"PCPRAHA","version":"1.0","type":"link"}