KI-Workstation konfigurieren & kaufen — von 24 GB bis 4× 96 GB GPU.

Am Markt liegen KI-Workstations je nach Ausstattung zwischen rund 3.000 € netto (Einstieg mit einer GPU) und über 70.000 € netto (vier RTX PRO 6000 mit zusammen 384 GB GPU-Speicher). Den größten Preisanteil hat die GPU-Wahl: eine GeForce RTX 5090 (32 GB) kostet einen Bruchteil einer RTX PRO 6000 Blackwell (96 GB ECC). Bei Nelpx stellen Sie Ihre Konfiguration im Konfigurator zusammen und erhalten in der Regel innerhalb von 48 Stunden ein konkretes Angebot mit Nettopreis.

Faustregel nach den offiziellen Speicher-Richtwerten von Hugging Face: Ein 8B-Modell läuft in FP16 mit rund 16 GB VRAM, 4-bit-quantisiert schon ab etwa 4 GB. Ein 70B-Modell braucht 4-bit-quantisiert rund 35 GB nur für die Gewichte — mit Kontext-Cache praktisch 40 GB und mehr, in FP16 sogar etwa 140 GB. Für 8B-Klasse reicht eine 32-GB-Karte (RTX 5090, RTX PRO 4500), für 70B-4-bit empfehlen wir 48 GB aufwärts (RTX PRO 5000), komfortabel 96 GB (RTX PRO 6000), für 70B mit großem Kontext oder Fine-Tuning mehrere GPUs.

Die RTX 5090 (32 GB GDDR7, 575 W) ist die schnellste Consumer-Karte und ideal für Entwicklung, Prototyping und Modelle bis zur 8B-Klasse in FP16 — sie hat aber kein ECC und keine Profi-Treiber. Die RTX PRO 6000 Blackwell Workstation Edition (96 GB GDDR7 mit ECC, 600 W) fasst dreimal so viel Speicher bei identischer Speicherbandbreite (1.792 GB/s), unterstützt MIG mit bis zu 4 isolierten Instanzen und ist für den Dauerbetrieb ausgelegt. Wer lokal mit 70B-Modellen arbeitet, kommt an 96 GB praktisch nicht vorbei.

Nein. Aktuelle Workstation-GPUs — GeForce RTX 5090 wie auch RTX PRO 6000 Blackwell — haben kein NVLink mehr. Zwei Karten mit je 96 GB ergeben also keinen 192-GB-Pool; Modelle werden stattdessen per Software (Tensor-/Pipeline-Parallelismus, z. B. mit vLLM) über PCIe 5.0 auf die Karten verteilt. Das funktioniert gut, skaliert aber nicht verlustfrei. Echtes GPU-zu-GPU-Fabric mit NVLink gibt es erst in der Server-Klasse, etwa bei NVIDIA HGX-Systemen.

Bewährte Faustregel: möglichst das Doppelte des GPU-Speichers, damit Modelle geladen, konvertiert und gecacht werden können, ohne dass das System auslagert. Volle 2×-Reserven für 96-GB-GPUs erreichen Sie auf den Threadripper-Plattformen mit ECC-RDIMM bis 512 GB; auf den Desktop-Plattformen (Ryzen, Core Ultra) sind 128 GB die praktische Ausbaustufe — dort priorisiert man den GPU-Speicher. Für Einzel-GPU-Systeme mit 24–32 GB VRAM sind 64–128 GB ein guter Startpunkt.

Für lange Trainings- und Dauer-Inferenz-Workloads: ja, empfehlenswert. ECC korrigiert Speicher-Bitfehler, die sonst zu abgebrochenen Läufen oder stillen Rechenfehlern führen können. Die RTX-PRO-Blackwell-Karten haben ECC-VRAM ab Werk; auf CPU-Seite bieten die Threadripper-Plattformen ECC-RDIMM (4 Kanäle bei TRX50, 8 Kanäle bei Threadripper PRO). Ryzen- und Core-Ultra-Systeme laufen mit schnellem Standard-DDR5 ohne ECC — völlig ausreichend für Entwicklung und Prototyping.

Eine Workstation ist richtig, solange ein einzelnes Team direkt an der Maschine arbeitet: Entwicklung, Prototyping, lokale Inferenz, Fine-Tuning kleinerer Modelle. Ein GPU-Server lohnt sich, sobald mehrere Nutzer oder Dienste gleichzeitig auf die GPUs zugreifen, Trainings über Tage laufen oder mehr als vier GPUs bzw. NVLink nötig werden — dann geht es Richtung RTX-PRO-Server oder NVIDIA HGX. Wir beraten herstellerneutral, wo die Grenze in Ihrem Fall liegt, und liefern beide Welten.

Wer GPUs dauerhaft nutzt, fährt on-premises meist günstiger: Bei kontinuierlicher Auslastung kann sich eine Workstation oft schon innerhalb von ein bis zwei Jahren gegenüber Cloud-Mietpreisen amortisieren — abhängig von Auslastung und Vergleichstarif. Dazu kommen die Datenschutz-Argumente: Daten und Modelle bleiben im Haus, es gibt keinen Drittland-Transfer und keine laufenden Kosten pro Token. Die Cloud bleibt sinnvoll für Lastspitzen und sehr große, seltene Trainingsläufe — viele unserer Kunden fahren hybrid.

Eine Single-GPU-Workstation mit Premium-Luftkühlung oder 360-mm-AiO ist bürotauglich und läuft an einer normalen 230-V-Steckdose. Mit steigender GPU-Zahl steigen Abwärme und Lautstärke deutlich: Ein Dual- oder Quad-GPU-System mit bis zu 2.200-W-Netzteil gehört eher in einen separaten Raum, und wir empfehlen dafür einen eigenen Stromkreis. Sagen Sie uns den Aufstellort — wir legen Kühlung und Netzteil entsprechend aus.

Ubuntu LTS ist der De-facto-Standard für KI-Workloads: beste Unterstützung für CUDA, PyTorch, TensorFlow und Container-Workflows. Wir installieren wahlweise Ubuntu 24.04 LTS oder das aktuelle Ubuntu 26.04 LTS, alternativ Windows 11 Pro (z. B. für gemischte Kreativ-/Entwickler-Arbeitsplätze) — oder liefern ohne Betriebssystem. Auf Wunsch richten wir den kompletten KI-Stack mit Treibern, CUDA und Frameworks fertig ein.

Weil der Preis von der konkreten Konfiguration abhängt — zwischen einer Einstiegs-Workstation und einem Quad-GPU-System liegt mehr als der Faktor 20. Sie stellen sich im Konfigurator Ihr Wunschsystem zusammen und senden die Anfrage ab; Sie erhalten in der Regel innerhalb von 48 Stunden ein verbindliches Angebot mit Nettopreisen, Liefertermin und Alternativvorschlägen, wenn eine Komponente aktuell schlecht verfügbar ist.

Bei Nelpx konfigurieren Sie Ihre KI-Workstation online und erhalten das Angebot direkt vom Team: Beschaffung, Assemblierung, Test vor Auslieferung und Lieferung in der DACH-Region aus einer Hand. Der Betrieb erfolgt on-premises in Ihrem Haus: Ihre Daten verlassen das Unternehmen nicht — keine Cloud-Abhängigkeit, keine Drittland-Übermittlung. Wenn Ihr Bedarf über die Workstation-Klasse hinauswächst, begleiten wir den Umstieg auf GPU-Server bis hin zu NVIDIA-HGX-Systemen.