KI-Server für Unternehmen, Arbeit und Zuhause: eigene KI ohne Cloud

Ein eigener KI-Server bedeutet, dass das Sprachmodell auf Ihrer Hardware läuft und Firmendaten das Haus nicht verlassen. Sie zahlen weder für Tokens noch für Abonnements pro Nutzer, können neue offene Modelle sofort nach ihrem Erscheinen testen und den Server schrittweise um weitere Grafikkarten erweitern. Wenn nur ein paar Personen gewöhnliche E-Mails schreiben, ist ein Cloud-Abo günstiger. Ein Server lohnt sich dort, wo Daten das Unternehmen nicht verlassen dürfen, wo KI große Mengen an Dokumenten verarbeitet oder wo Sie sie in Ihre eigenen Systeme einbinden möchten.

Zusammenfassung

• Ein lokales Modell sendet nichts in die Cloud – Verträge, Kundendaten und Quellcode bleiben im Unternehmen.
• Für 20 Personen kostet die Cloud allein für die Basislizenzen etwa 8.700–13.000 Kč im Monat. Ein eigener Server ist eine einmalige Investition plus Strom.
• Welches Modell laufen kann, entscheidet vor allem der Grafikspeicher (VRAM): 32 GB reichen für Modelle mit rund 30 Milliarden Parametern, 96–128 GB für Modelle mit rund 120 Milliarden.
• Sie können mit einer Karte beginnen und den Server später erweitern. Wir bauen Systeme ab etwa 110.000 Kč bis hin zu Servern für Millionen.

Warum Unternehmen KI ohne Cloud wollen

Mitarbeitende fügen Verträge, Angebote, Tabellen mit Kundendaten und Quellcode in Chatbots ein. Laut einer Analyse von Check Point aus dem Herbst 2025 barg jede 54. Anfrage an öffentliche KI-Tools ein hohes Risiko, sensible Daten preiszugeben – betroffen waren 91 % der beobachteten Organisationen.

Nach der DSGVO ist das Unternehmen, das ein KI-Tool nutzt, für die Verarbeitung personenbezogener Daten darin verantwortlich. Es muss wissen, wohin die Daten gehen, und für eine Übermittlung außerhalb der EU eine Rechtsgrundlage haben. Der Rahmen für Datenübermittlungen in die USA (EU–US Data Privacy Framework) hat vor dem Gericht der EU zwar Bestand gehabt, gegen die Entscheidung wurde jedoch Rechtsmittel eingelegt, und die Rechtsunsicherheit bleibt.

Business-Versionen von Cloud-Diensten haben Schutzmechanismen: ChatGPT Business, Claude Team und Microsoft 365 Copilot trainieren laut ihren Bedingungen nicht mit Firmendaten. Die Daten verarbeitet aber trotzdem ein fremdes Unternehmen auf seinen Servern. Ein lokales Modell ist die einzige Variante, bei der der Text Ihr Netzwerk überhaupt nicht verlässt.

Achten Sie auf eines: Die tschechische Regierung hat 2025 DeepSeek-Produkte in der Staatsverwaltung verboten, und die tschechische Armee warnte vor chinesischen Cloud-Chatbots, weil sie Daten in China speichern. Das betrifft Cloud-Dienste. Ein heruntergeladenes offenes Modell läuft bei Ihnen ohne Verbindung zu deren Servern – wählen Sie trotzdem Modelle mit klarer Lizenz und geprüfter Herkunft.

Was KI in der Cloud kostet

Preise ohne MwSt. laut Preislisten der Anbieter zum 25.10.2026, umgerechnet zum ČNB-Kurs von 21,74 Kč/USD. Wenn Sie KI per API in eigene Anwendungen einbinden, zahlen Sie für jede Million Tokens – bei leistungsstarken Modellen 2–10 USD für die Eingabe und 10–50 USD für die Ausgabe. Bei der automatischen Verarbeitung tausender Dokumente pro Monat summiert sich die Rechnung schnell.

Was ein eigener KI-Server kann

• Firmenchat im Stil von ChatGPT für das ganze Team – zum Beispiel Open WebUI mit Benutzerkonten, läuft nur in Ihrem Netzwerk.
• Chat über Firmendokumente (RAG) – das Modell antwortet aus Ihren Richtlinien, Verträgen, Handbüchern oder E-Mails und nennt die Quelle.
• Assistent für Programmierer – Codevervollständigung in VS Code oder JetBrains (Continue), ohne Code nach außen zu senden.
• Transkription von Besprechungen und Gesprächen – das Modell Whisper beherrscht auch Tschechisch, Besprechungen müssen nicht auf einen fremden Server hochgeladen werden.
• Bilder, Video und Rendering – Bildgenerierung (ComfyUI), Blender, DaVinci Resolve.
• Automatisierung – eigene Anwendungen rufen das Modell per API auf wie in der Cloud, nur ohne Gebühr pro Token.
• Experimente – ein neues offenes Modell (Qwen, Gemma, Mistral, gpt-oss, DeepSeek…) laden Sie herunter und testen es noch am selben Tag.

Wie viel VRAM Sie brauchen: welcher Server für welches Modell

Das Modell muss vollständig (samt Kontext) in den Grafikspeicher passen. Faustregel: Ein auf 4 Bit komprimiertes Modell benötigt etwa 0,6 GB pro Milliarde Parameter, dazu Speicher für den Kontext.

Geschwindigkeiten laut öffentlichen Tests aus dem Jahr 2026; sie ändern sich mit der Modell- und Softwareversion. Zum Vergleich: 30 Tokens pro Sekunde sind schneller, als Sie lesen können.

KI-Server für das Unternehmen, für die Arbeit oder für zu Hause

Für das Unternehmen

Ein Server im Serverraum oder bei uns im Rechenzentrum, Chat für das ganze Team, Anbindung an Dokumente und interne Systeme. Für 10–50 Personen reichen meist 2–4 Karten und ein Modell mit etwa 30–120 Milliarden Parametern. Für mehr gleichzeitige Nutzer kommt vLLM zum Einsatz, das Anfragen effizient in eine Warteschlange stellt.

Für die Arbeit – für Entwickler, Analysten, Kreative

Eine Workstation mit einer oder zwei Karten unter dem Schreibtisch. Code-Assistent, Transkriptionen, Bildgenerierung und Tests neuer Modelle. Eine einzige RTX 5090 bewältigt heute Modelle, die vor einem Jahr noch Servern vorbehalten waren.

Für zu Hause

Für Enthusiasten und kleine Unternehmer: ein lokaler Chat, der Ihre Anfragen nirgendwohin sendet, Bildgenerierung, Spiele und dazu Leistung für weitere Projekte. Rechnen Sie mit Lärm und Wärme – eine Karte mit 575 W Leistungsaufnahme heizt wie ein kleiner Elektroheizer.

Wann sich ein eigener Server lohnt und wann nicht

Seien wir ehrlich: Wenn Ihr Team KI nur gelegentlich zum Schreiben von Texten nutzt, ist ein Abo für 20 USD pro Person günstiger als ein Server. Ein eigener Server ist sinnvoll, wenn mindestens einer dieser Punkte zutrifft:

• Daten dürfen das Unternehmen nicht verlassen – Gesundheitswesen, Recht, Buchhaltung, Entwicklung, Geschäftsgeheimnisse, personenbezogene Daten von Kunden.
• Sie verarbeiten große Mengen – Tausende Dokumente, Transkripte stundenlanger Aufnahmen, automatische Antworten. Eine wissenschaftliche Studie aus dem Jahr 2025 ergab für einen kleinen Einsatz mit einer RTX 5090 eine Amortisation innerhalb von Monaten gegenüber einer kostenpflichtigen API.
• Sie wollen experimentieren – Modelle testen, sie auf eigenen Daten feintunen (Fine-Tuning), eigene Anwendungen entwickeln.
• Sie nutzen den Server auf mehrere Arten – tagsüber KI, nachts Rendering oder Training.

Rechnen Sie auch mit Zusatzkosten. Ein Server mit 4 Karten nimmt unter Volllast etwa 2,7 kW auf – bei 8 Stunden täglich und 22 Arbeitstagen sind das rund 475 kWh und 2.600 Kč im Monat ohne MwSt. Er braucht auch Betreuung: Updates von Modellen und Treibern nehmen laut internationalen Umfragen 10–20 Stunden im Monat in Anspruch, wenn sie nicht der Lieferant übernimmt.

Und die Qualität: Die besten offenen Modelle liegen im Durchschnitt etwa vier Monate Entwicklung hinter den führenden Cloud-Modellen zurück. Die stärksten haben jedoch Hunderte Milliarden Parameter und brauchen einen großen Server. Auf einer Karte läuft ein kleineres Modell – für Zusammenfassungen, Antworten aus Dokumenten oder das Schreiben von Code reicht das in der Regel aus.

Günstig starten und erweitern

1. Beginnen Sie mit einer Karte und einem Modell mit rund 30 Mrd. Parametern. So sehen Sie, wie KI in Ihr Unternehmen passt.
2. Wählen Sie eine Basis mit Reserve – Mainboard und Prozessor mit ausreichend PCIe-Steckplätzen, ein Netzteil mit Leistungsreserve und ein Gehäuse oder Rahmen für weitere Karten.
3. Fügen Sie nach Bedarf Karten hinzu – jede weitere RTX 5090 bringt 32 GB Speicher. Die Aufteilung eines Modells auf mehrere Karten senkt die Geschwindigkeit etwas, ermöglicht aber größere Modelle.
4. Beim Wachstum professionelle Karten erwägen mit 96 GB (RTX PRO 6000) oder Serverkarten – weniger Karten, mehr Speicher pro Karte.
5. Alte Karten verlieren nicht an Wert – bei der Speicherknappheit im Jahr 2026 werden Grafikkarten teurer verkauft, als sie neu gekostet haben. Ein Upgrade bringt so einen Teil der Investition zurück.

So läuft es bei uns ab

KI-Server bauen wir in Prag auf Bestellung – von der Workstation für etwa 110.000 Kč bis zu Servern für Dutzende Millionen. Vorab besprechen wir, was auf dem Server laufen soll (Modell, Software, Anzahl der Nutzer), und schlagen danach Konfiguration und Budget vor.

• System, Treiber und Software installieren wir vor – einschalten und es funktioniert.
• Jeden Server testen wir vor der Übergabe 72 Stunden unter Volllast.
• Wir liefern den Server in Ihr Büro oder stellen ihn in unserem Rechenzentrum auf – ohne Lärm und ohne Kühlungssorgen bei Ihnen.
• Ersatzteile halten wir in Prag vor, einen Serviceeinsatz sichern wir innerhalb von 24/48 Stunden zu.
• Wenn der Server gerade nicht Ihre Aufgaben berechnet, kann er auf den Grafikkarten Kryptowährungen minen.

Wie geht es weiter

• Sehen Sie sich Beispielkonfigurationen an und senden Sie eine Anfrage: KI-Server mit maßgeschneiderter Vorinstallation.
• Konkrete Konfigurationen mit Preis: KI- und GPU-Server.
• Wie KI-Server aussehen, wie sie gekühlt werden und was ihren Preis bestimmt: KI-Server: Kühlung und Preis.
• Wie viel eine Grafikkarte verdient, wenn der Server keine KI berechnet: Rentabilität von Grafikkarten.
• Welche Grafikkarte für lokale KI: GPU für lokale KI: RTX 5090 oder RTX PRO 6000 Blackwell?

Quellen

• Seznam Zprávy: jede 54. Anfrage verrät ein Geheimnis (27.10.2025, auf Tschechisch)
• epravo.cz: Nutzung von KI-Tools und DSGVO (18.12.2025, auf Tschechisch)
• WilmerHale: Rechtsmittel gegen das EU–US Data Privacy Framework (1.12.2025)
• BusinessInfo.cz: Firmen-KI ohne Cloud (14.5.2026, auf Tschechisch)
• ČT24: Regierung verbietet DeepSeek in der Staatsverwaltung (9.7.2025, auf Tschechisch)
• OpenAI: Preise für ChatGPT Business · Claude: Preise · Microsoft 365 Copilot
• Hardware Corner: RTX 5090 und Sprachmodelle
• DatabaseMart: Test der RTX PRO 6000 in Ollama (10/2026)
• arXiv 2509.18101: Kosten des lokalen LLM-Betriebs im Vergleich zur API
• Epoch AI: Abstand zwischen offenen und geschlossenen Modellen (5/2026)
• ČNB: Devisenkurse