RTX PRO 6000 Server kaufen - GIGABYTE-Plattformen von 2U bis 8 GPUs

Bei Nelpx beginnen 8-GPU-Systeme (GIGABYTE XL44 mit 8× RTX PRO 6000 Blackwell Server Edition) bei 149.000 € zzgl. MwSt. Kompaktere 2U-Server mit 2-4 GPUs liegen deutlich darunter - Preis auf Anfrage, da die Kartenpreise stark schwanken: Die Einzelkarte kostet bei Nelpx aktuell 15.200 € netto (auf Lager) und hat seit dem Launch um mehr als 50 % zugelegt (US-Listenpreis). Am schnellsten geht es über den Konfigurator auf dieser Seite.

Bei Nelpx konfigurierbar sind die sechs wichtigsten Plattformen (Stand August 2026): Die dedizierten NVIDIA RTX PRO Server XL44-SX2 (Intel Xeon 6) und XL43-ZX2 (AMD EPYC 9005) kommen fest mit 8 GPUs plus ConnectX-8-SuperNIC-Switch, der XLS4-SX2 mit 8 flüssigkeitsgekühlten GPUs in 6U. Dazu die flexiblen Modelle XV24-SX0 und XV23-ZU0 (2U, je bis 4 GPUs, validiert bei 25 °C Umgebung) und der G494-ZB4 (4U, bis 8 GPUs - bei 600-W-Karten mit zusätzlichem Lüfter-Kit). GIGABYTE validiert dabei nur einheitliche GPU-Bestückung. Insgesamt listet GIGABYTE aktuell 15 Modelle mit RTX-PRO-6000-Support - weitere konfiguriert Nelpx auf Anfrage. Andere Serien wie der G493 führen die Karte ausdrücklich nicht auf der Kompatibilitätsliste. Weitere freigegebene Plattformen - auch für andere Karten - zeigt der GPU-Kompatibilitäts-Finder.

Nein, die RTX PRO 6000 Blackwell Server Edition hat kein NVLink - Multi-GPU läuft über PCIe Gen 5. Für Inferenz, viele parallele Modelle und MoE-Quantisierungen ist das in der Praxis unkritisch; unabhängige Benchmarks messen bei Einzel-GPU-Inferenz rund 28 % niedrigere Kosten pro Token als bei der H100. Bei dichtem 8-Wege-Tensor-Parallel großer Modelle liefern NVLink-Systeme wie die H200 NVL dagegen ein Mehrfaches des Durchsatzes - für solche Workloads beraten wir Richtung H200.

Eine Karte (96 GB): Llama 3.3 70B in FP4 mit 1.724 Token/s oder Qwen3-30B in FP4 mit knapp 10.000 Token/s (offizielle TensorRT-LLM-Benchmarks); 70B-Modelle in FP8 passen mit moderaten Batchgrößen, FP16-70B nicht. Vier Karten (384 GB): Qwen3-235B-A22B in FP4. Acht Karten (768 GB): MoE-Modelle wie Qwen3-Coder-480B als 4-Bit-Quantisierung (~320 GB). Nelpx dimensioniert die Konfiguration passend zum Zielmodell.

Ja. Multi-Instance GPU (MIG) partitioniert jede Karte in bis zu 4 vollständig isolierte Instanzen mit je 24 GB - ideal für Multi-Team- und Multi-Tenant-Betrieb. Virtualisierung ist ab NVIDIA vGPU 19.0 unterstützt (RTX vWS, vPC/vApps), auch kombiniert mit MIG. Ein 8-GPU-Server lässt sich so in bis zu 32 isolierte GPU-Instanzen aufteilen.

Die H200 NVL bietet 141 GB HBM3e mit 4,8 TB/s und NVLink - überlegen bei langen Kontexten, speicherbandbreiten-limitierter Inferenz und dichtem Multi-GPU-Betrieb, aber mit rund 26.200 € netto pro Karte rund 70 % teurer. Die RTX PRO 6000 (96 GB GDDR7, 1.597 GB/s, FP4-Unterstützung, RT-Cores für Grafik/Omniverse) kostet bei Nelpx aktuell 15.200 € netto und liefert bei Einzel-GPU-Inferenz die besseren Kosten pro Token. Faustregel: Inferenz, Grafik und Multi-Tenant → RTX PRO 6000; HBM-Bandbreite, NVLink-Skalierung und Training → H200 NVL.

Die RTX PRO 6000 verdoppelt den Speicher (96 statt 48 GB), fast verdoppelt die Bandbreite (1.597 statt 864 GB/s) und bringt FP4-Unterstützung der 5. Tensor-Core-Generation mit. NVIDIA nennt bis zu 5× höheren LLM-Inferenz-Durchsatz gegenüber der L40S (Herstellerangabe). Für bestehende L40S-Flotten bleibt die Karte gut nutzbar - für neue KI-Projekte ist die RTX PRO 6000 der klar modernere Baustein.

Gleicher Chip, anderes Kühlkonzept: Die Server Edition ist passiv gekühlt (Dual-Slot, bis 600 W konfigurierbar, auf 450 W kappbar, 1.597 GB/s) und auf den Front-to-Back-Luftstrom von Servern ausgelegt. Die Workstation Edition hat einen aktiven Kühler (fix 600 W, 1.792 GB/s) für Tower-Workstations. In GIGABYTE-Servern ist ausschließlich die Server Edition validiert - aktiv gekühlte Workstation-Karten sind für dichtes Stacking im Server nicht vorgesehen. Für Workstations mit RTX-PRO-Karten: siehe unsere KI-Workstations.

Jede Karte ist mit bis zu 600 W konfigurierbar und lässt sich auf 450 W kappen. Ein 8-GPU-System liegt als Richtwert bei rund 6-7 kW (XL44: 3+1 redundante 3.200-W-Titanium-Netzteile); die 2U-Systeme mit 4 GPUs bei rund 3-4 kW. Die Karten sind passiv gekühlt und brauchen Server-Airflow; bei den flexiblen Plattformen (XV23, XV24, G494) validiert GIGABYTE die GPU-Bestückung bis 25 °C Umgebungstemperatur, der XL44 ist für 10-30 °C spezifiziert. Fürs Büro sind die Systeme nicht geeignet. Wer höhere Dichte will: Der XLS4-SX2 kühlt GPUs, CPUs und DIMMs per Direct Liquid Cooling (2× UQD08, Vorlauf bis 45 °C).

Über zwei UQD08-Schnellkupplungen auf der Rückseite, direkt neben den Netzteilen: eine für den Vorlauf, eine für den Rücklauf. Die Kupplungen stammen von CEJN, entsprechen der OCP-UQD-Spezifikation und sind am Server als Stecker (male) ausgeführt. Der Kühlkreislauf muss je Server 10 l/min liefern, der Druckverlust liegt dabei bei ca. 0,3 bar (4,3 psi). Die Vorlauftemperatur darf bis 45 °C betragen, der maximale Betriebsdruck der Cold Plates liegt bei ca. 3,8 bar (55 psi). Flüssigkeitsgekühlt sind die 8 GPUs, beide CPUs und die 32 DIMMs. Alle Daten- und Management-Anschlüsse (8× QSFP 400 Gb/s, Management-LAN, USB, Mini-DP) liegen vorne, hinten befinden sich nur Strom und Kühlwasser. Alle Werte in der Übersicht zur DLC-Anbindung.

Nein. Die Adapterschläuche zwischen Rack-Manifold und Server sind nicht im Lieferumfang und werden kundenseitig gestellt. Weil die Kupplungen am Server als UQD08-Stecker (male) ausgeführt sind, brauchen die Schläuche am Server-Ende UQD08-Buchsen (female). Pro Server sind zwei Schläuche nötig: Vorlauf und Rücklauf. Im Lieferumfang sind der Server, ein 3-teiliges Schienen-Kit und 4 CPU-Carrier; C19-Netzkabel gehören ebenfalls nicht dazu.

Ja - die Referenzplattform GIGABYTE XL44-SX2 ist lieferbar (aktuelle Lieferzeit typisch 6-12 Wochen je nach GPU-Allokation), die Einzelkarten sind im Handel lagernd. Die 2U-Modelle XV23/XV24 und der G494 sind reguläre GIGABYTE-Serienprodukte. Die Neuvorstellungen XL43-ZX2 (AMD-Variante) und XLS4-SX2 (Flüssigkühlung) sind angekündigt - Liefertermine klärt Nelpx auf Anfrage direkt im Herstellerkanal.

Ja - NVIDIA definiert dafür die Enterprise-Referenzarchitektur „RTX PRO AI Factory“: Knotenprofil 2-8-5-200 (2 CPUs, 8 GPUs, 5× 200-Gb/s-NICs), skalierbar von 4 Servern (32 GPUs) bis 32 Server mit 256 GPUs über Spectrum-X-Ethernet und BlueField-3. Die XL44/XL43-Server bringen den ConnectX-8-SuperNIC-Switch mit QSFP-400G-Ports dafür ab Werk mit. Nelpx plant Fabric, Switches und Verkabelung mit.

Ja - als On-Premise-System bleiben Daten, Prompts und Modelle vollständig in der eigenen Infrastruktur, was DSGVO-Bewertung und EU-AI-Act-Einordnung deutlich vereinfacht. Die Karte unterstützt zudem Confidential Computing mit Secure Boot. Nelpx konzipiert die Umgebung inklusive Netzwerk- und Sicherheitsarchitektur und liefert EU-weit.