Wichtigste Merkmale
- 4× NVIDIA GeForce RTX 4090 24 GB GDDR6X – insgesamt 96 GB Grafikspeicher
- Prozessor AMD EPYC 7542 (32 Kerne / 64 Threads) und 256 GB DDR4-ECC-Speicher, erweiterbar auf 512 GB
- 4U-Rackgehäuse, zwei synchronisierte 2-kW-Netzteile, 2× 10 GbE und IPMI-Fernverwaltung
- Auf Bestellung – wir bauen Ihnen ein neues Gerät aus Komponenten, die wir auf Lager haben
- Wird mit vorinstallierter Software für Ihren geplanten Einsatz geliefert – nach dem Einschalten sofort einsatzbereit
Konfiguration
| Komponente |
Spezifikation |
| Grafikkarten |
4× NVIDIA GeForce RTX 4090 24 GB GDDR6X (PCIe 4.0 x16) |
| Prozessor |
AMD EPYC 7542 (32C/64T, 225 W) |
| Mainboard |
ASRock Rack ROMED8-2T (7× PCIe 4.0 x16, 8× DDR4 ECC, 2× 10 GbE, IPMI) |
| Arbeitsspeicher |
256 GB DDR4-2666 ECC RDIMM (erweiterbar auf 512 GB) |
| Laufwerk |
2 TB NVMe M.2 (PCIe 4.0) |
| Stromversorgung |
2× 2 kW ATX, synchronisiert (insgesamt 4 kW) |
| Gehäuse und Kühlung |
4U-Rack, 120-mm-Lüfter mit Luftstrom von vorne nach hinten |
| Leistungsaufnahme |
ca. 2.200 W unter Volllast (Karten 4× 450 W, Prozessor 225 W) |
| Verfügbarkeit |
Auf Bestellung – wir bauen Ihnen ein neues Gerät (Komponenten auf Lager) |
Für wen er geeignet ist
Für Unternehmen, die Sprachmodelle im eigenen Haus betreiben möchten – einen internen Chatbot, einen Assistenten oder die Arbeit mit Firmendokumenten (RAG). Ihre Daten verlassen das Unternehmen nicht, und Sie zahlen keine monatlichen Gebühren für Cloud-GPUs. 96 GB Grafikspeicher reichen für Modelle um 70 Milliarden Parameter in quantisierter Form (z. B. Llama 3.3 70B), für mehrere kleinere Modelle gleichzeitig, für Feintuning (LoRA/QLoRA) von Modellen mit 7–34 Milliarden Parametern sowie für Bild- und Videogenerierung (FLUX.1, SDXL). In unserem Test erreichte Llama 3.3 70B (AWQ, 4 Bit) bis zu 179 Token pro Sekunde bei 32 gleichzeitigen Anfragen. Wenn der Server gerade nicht mit Ihren Aufgaben beschäftigt ist, kann er auf den Grafikkarten Kryptowährungen minen.
Vorinstallation, Test und Service
Wir stimmen vorab ab, was auf dem Server laufen soll (z. B. Ubuntu, CUDA, Docker, vLLM, ComfyUI), und richten ihn genau für Ihre Aufgabe ein. Vor der Übergabe testen wir den Server 72 Stunden unter Volllast. Die Komponenten haben wir auf Lager – wir bauen daraus einen neuen Server und testen ihn in der Regel innerhalb von 7–14 Arbeitstagen nach Freigabe des Angebots. Wichtige Ersatzteile haben wir in Prag auf Lager, Serviceeinsatz und Teiletausch erfolgen innerhalb von 24/48 Stunden. Die Garantie beträgt 24 Monate. Arbeitsspeicher, Laufwerke oder Netzwerkkarten passen wir an Ihre Anforderungen an.
Betrieb und Aufstellung
Der Server gehört in ein Rack oder einen Technikraum mit guter Kühlung und einem Stromkreis, der etwa 2,3 kW verträgt. Sie möchten sich nicht um Platz, Lärm und Kühlung kümmern? Wir bringen den Server in unserem Hosting im Rechenzentrum unter – die Konditionen vereinbaren wir individuell.