{"product_id":"k-ai-96-rome-4090-vykonna-bestie-pro-ai-inferenci-a-llm","title":"KI-Server K-AI 96 ROME – 4× RTX 4090, 96 GB VRAM, AMD EPYC 7542","description":"\u003ch3\u003eWichtigste Merkmale\u003c\/h3\u003e\u003cul\u003e\n\u003cli\u003e4× NVIDIA GeForce RTX 4090 24 GB GDDR6X – insgesamt 96 GB Grafikspeicher\u003c\/li\u003e\n\u003cli\u003eProzessor AMD EPYC 7542 (32 Kerne \/ 64 Threads) und 256 GB DDR4-ECC-Speicher, erweiterbar auf 512 GB\u003c\/li\u003e\n\u003cli\u003e4U-Rackgehäuse, zwei synchronisierte 2-kW-Netzteile, 2× 10 GbE und IPMI-Fernverwaltung\u003c\/li\u003e\n\u003cli\u003eAuf Bestellung – wir bauen Ihnen ein neues Gerät aus Komponenten, die wir auf Lager haben\u003c\/li\u003e\n\u003cli\u003eWird mit vorinstallierter Software für Ihren geplanten Einsatz geliefert – nach dem Einschalten sofort einsatzbereit\u003c\/li\u003e\n\u003c\/ul\u003e\u003ch3\u003eKonfiguration\u003c\/h3\u003e\u003ctable\u003e\n\u003cthead\u003e\n\u003ctr\u003e\n\u003cth\u003eKomponente\u003c\/th\u003e\n\u003cth\u003eSpezifikation\u003c\/th\u003e\n\u003c\/tr\u003e\n\u003c\/thead\u003e\n\u003ctbody\u003e\n\u003ctr\u003e\n\u003ctd\u003eGrafikkarten\u003c\/td\u003e\n\u003ctd\u003e4× NVIDIA GeForce RTX 4090 24 GB GDDR6X (PCIe 4.0 x16)\u003c\/td\u003e\n\u003c\/tr\u003e\n\u003ctr\u003e\n\u003ctd\u003eProzessor\u003c\/td\u003e\n\u003ctd\u003eAMD EPYC 7542 (32C\/64T, 225 W)\u003c\/td\u003e\n\u003c\/tr\u003e\n\u003ctr\u003e\n\u003ctd\u003eMainboard\u003c\/td\u003e\n\u003ctd\u003eASRock Rack ROMED8-2T (7× PCIe 4.0 x16, 8× DDR4 ECC, 2× 10 GbE, IPMI)\u003c\/td\u003e\n\u003c\/tr\u003e\n\u003ctr\u003e\n\u003ctd\u003eArbeitsspeicher\u003c\/td\u003e\n\u003ctd\u003e256 GB DDR4-2666 ECC RDIMM (erweiterbar auf 512 GB)\u003c\/td\u003e\n\u003c\/tr\u003e\n\u003ctr\u003e\n\u003ctd\u003eLaufwerk\u003c\/td\u003e\n\u003ctd\u003e2 TB NVMe M.2 (PCIe 4.0)\u003c\/td\u003e\n\u003c\/tr\u003e\n\u003ctr\u003e\n\u003ctd\u003eStromversorgung\u003c\/td\u003e\n\u003ctd\u003e2× 2 kW ATX, synchronisiert (insgesamt 4 kW)\u003c\/td\u003e\n\u003c\/tr\u003e\n\u003ctr\u003e\n\u003ctd\u003eGehäuse und Kühlung\u003c\/td\u003e\n\u003ctd\u003e4U-Rack, 120-mm-Lüfter mit Luftstrom von vorne nach hinten\u003c\/td\u003e\n\u003c\/tr\u003e\n\u003ctr\u003e\n\u003ctd\u003eLeistungsaufnahme\u003c\/td\u003e\n\u003ctd\u003eca. 2.200 W unter Volllast (Karten 4× 450 W, Prozessor 225 W)\u003c\/td\u003e\n\u003c\/tr\u003e\n\u003ctr\u003e\n\u003ctd\u003eVerfügbarkeit\u003c\/td\u003e\n\u003ctd\u003eAuf Bestellung – wir bauen Ihnen ein neues Gerät (Komponenten auf Lager)\u003c\/td\u003e\n\u003c\/tr\u003e\n\u003c\/tbody\u003e\n\u003c\/table\u003e\u003ch3\u003eFür wen er geeignet ist\u003c\/h3\u003e\u003cp\u003eFür Unternehmen, die Sprachmodelle im eigenen Haus betreiben möchten – einen internen Chatbot, einen Assistenten oder die Arbeit mit Firmendokumenten (RAG). Ihre Daten verlassen das Unternehmen nicht, und Sie zahlen keine monatlichen Gebühren für Cloud-GPUs. 96 GB Grafikspeicher reichen für Modelle um 70 Milliarden Parameter in quantisierter Form (z. B. Llama 3.3 70B), für mehrere kleinere Modelle gleichzeitig, für Feintuning (LoRA\/QLoRA) von Modellen mit 7–34 Milliarden Parametern sowie für Bild- und Videogenerierung (FLUX.1, SDXL). In unserem Test erreichte Llama 3.3 70B (AWQ, 4 Bit) bis zu 179 Token pro Sekunde bei 32 gleichzeitigen Anfragen. Wenn der Server gerade nicht mit Ihren Aufgaben beschäftigt ist, kann er auf den Grafikkarten Kryptowährungen minen.\u003c\/p\u003e\u003ch3\u003eVorinstallation, Test und Service\u003c\/h3\u003e\u003cp\u003eWir stimmen vorab ab, was auf dem Server laufen soll (z. B. Ubuntu, CUDA, Docker, vLLM, ComfyUI), und richten ihn genau für Ihre Aufgabe ein. Vor der Übergabe testen wir den Server 72 Stunden unter Volllast. Die Komponenten haben wir auf Lager – wir bauen daraus einen neuen Server und testen ihn in der Regel innerhalb von 7–14 Arbeitstagen nach Freigabe des Angebots. Wichtige Ersatzteile haben wir in Prag auf Lager, Serviceeinsatz und Teiletausch erfolgen innerhalb von 24\/48 Stunden. Die Garantie beträgt 24 Monate. Arbeitsspeicher, Laufwerke oder Netzwerkkarten passen wir an Ihre Anforderungen an.\u003c\/p\u003e\u003ch3\u003eBetrieb und Aufstellung\u003c\/h3\u003e\u003cp\u003eDer Server gehört in ein Rack oder einen Technikraum mit guter Kühlung und einem Stromkreis, der etwa 2,3 kW verträgt. Sie möchten sich nicht um Platz, Lärm und Kühlung kümmern? Wir bringen den Server in unserem Hosting im Rechenzentrum unter – die Konditionen vereinbaren wir individuell.\u003c\/p\u003e","brand":"PC Praha","offers":[{"title":"Default Title","offer_id":53066125476127,"sku":"PCP-AI-KAI96-4X4090","price":543886.0,"currency_code":"CZK","in_stock":true}],"thumbnail_url":"\/\/cdn.shopify.com\/s\/files\/1\/0976\/4693\/6351\/files\/k-ai-96-rome-4090-vykonna-bestie-pro-ai-inferenci-a-llm.jpg?v=1792343619","url":"https:\/\/pcpraha.cz\/de\/products\/k-ai-96-rome-4090-vykonna-bestie-pro-ai-inferenci-a-llm","provider":"PCPRAHA","version":"1.0","type":"link"}