RTX PRO 6000 Server kaufen — GIGABYTE-Plattformen von 2U bis 8 GPUs

Bei Nelpx beginnen 8-GPU-Systeme (GIGABYTE XL44 mit 8× RTX PRO 6000 Blackwell Server Edition) bei 149.000 € zzgl. MwSt. Kompaktere 2U-Server mit 2–4 GPUs liegen deutlich darunter — Preis auf Anfrage, da die Kartenpreise stark schwanken: Die Einzelkarte kostet aktuell rund 11.400–13.200 € netto und hat seit dem Launch um mehr als 50 % zugelegt (US-Listenpreis). Am schnellsten geht es über den Konfigurator auf dieser Seite; das Angebot kommt in der Regel innerhalb von 48 Stunden.

Bei Nelpx konfigurierbar sind die sechs wichtigsten Plattformen (Stand August 2026): Die dedizierten NVIDIA RTX PRO Server XL44-SX2 (Intel Xeon 6) und XL43-ZX2 (AMD EPYC 9005) kommen fest mit 8 GPUs plus ConnectX-8-SuperNIC-Switch, der XLS4-SX2 mit 8 flüssigkeitsgekühlten GPUs in 6U. Dazu die flexiblen Modelle XV24-SX0 und XV23-ZU0 (2U, je bis 4 GPUs, validiert bei 25 °C Umgebung) und der G494-ZB4 (4U, bis 8 GPUs — bei 600-W-Karten mit zusätzlichem Lüfter-Kit). GIGABYTE validiert dabei nur einheitliche GPU-Bestückung. Insgesamt listet GIGABYTE aktuell 15 Modelle mit RTX-PRO-6000-Support — weitere konfiguriert Nelpx auf Anfrage. Andere Serien wie der G493 führen die Karte ausdrücklich nicht auf der Kompatibilitätsliste.

Nein, die RTX PRO 6000 Blackwell Server Edition hat kein NVLink — Multi-GPU läuft über PCIe Gen 5. Für Inferenz, viele parallele Modelle und MoE-Quantisierungen ist das in der Praxis unkritisch; unabhängige Benchmarks messen bei Einzel-GPU-Inferenz rund 28 % niedrigere Kosten pro Token als bei der H100. Bei dichtem 8-Wege-Tensor-Parallel großer Modelle liefern NVLink-Systeme wie die H200 NVL dagegen ein Mehrfaches des Durchsatzes — für solche Workloads beraten wir Richtung H200.

Eine Karte (96 GB): Llama 3.3 70B in FP4 mit 1.724 Token/s oder Qwen3-30B in FP4 mit knapp 10.000 Token/s (offizielle TensorRT-LLM-Benchmarks); 70B-Modelle in FP8 passen mit moderaten Batchgrößen, FP16-70B nicht. Vier Karten (384 GB): Qwen3-235B-A22B in FP4. Acht Karten (768 GB): MoE-Modelle wie Qwen3-Coder-480B als 4-Bit-Quantisierung (~320 GB). Nelpx dimensioniert die Konfiguration passend zum Zielmodell.

Ja. Multi-Instance GPU (MIG) partitioniert jede Karte in bis zu 4 vollständig isolierte Instanzen mit je 24 GB — ideal für Multi-Team- und Multi-Tenant-Betrieb. Virtualisierung ist ab NVIDIA vGPU 19.0 unterstützt (RTX vWS, vPC/vApps), auch kombiniert mit MIG. Ein 8-GPU-Server lässt sich so in bis zu 32 isolierte GPU-Instanzen aufteilen.

Die H200 NVL bietet 141 GB HBM3e mit 4,8 TB/s und NVLink — überlegen bei langen Kontexten, speicherbandbreiten-limitierter Inferenz und dichtem Multi-GPU-Betrieb, aber mit rund 25.900 € netto pro Karte rund doppelt so teuer. Die RTX PRO 6000 (96 GB GDDR7, 1.597 GB/s, FP4-Unterstützung, RT-Cores für Grafik/Omniverse) kostet aktuell rund 11.400–13.200 € netto und liefert bei Einzel-GPU-Inferenz die besseren Kosten pro Token. Faustregel: Inferenz, Grafik und Multi-Tenant → RTX PRO 6000; HBM-Bandbreite, NVLink-Skalierung und Training → H200 NVL.

Die RTX PRO 6000 verdoppelt den Speicher (96 statt 48 GB), fast verdoppelt die Bandbreite (1.597 statt 864 GB/s) und bringt FP4-Unterstützung der 5. Tensor-Core-Generation mit. NVIDIA nennt bis zu 5× höheren LLM-Inferenz-Durchsatz gegenüber der L40S (Herstellerangabe). Für bestehende L40S-Flotten bleibt die Karte gut nutzbar — für neue KI-Projekte ist die RTX PRO 6000 der klar modernere Baustein.

Gleicher Chip, anderes Kühlkonzept: Die Server Edition ist passiv gekühlt (Dual-Slot, bis 600 W konfigurierbar, auf 450 W kappbar, 1.597 GB/s) und auf den Front-to-Back-Luftstrom von Servern ausgelegt. Die Workstation Edition hat einen aktiven Kühler (fix 600 W, 1.792 GB/s) für Tower-Workstations. In GIGABYTE-Servern ist ausschließlich die Server Edition validiert — aktiv gekühlte Workstation-Karten sind für dichtes Stacking im Server nicht vorgesehen. Für Workstations mit RTX-PRO-Karten: siehe unsere KI-Workstations.

Jede Karte ist mit bis zu 600 W konfigurierbar und lässt sich auf 450 W kappen. Ein 8-GPU-System liegt als Richtwert bei rund 6–7 kW (XL44: 3+1 redundante 3.200-W-Titanium-Netzteile); die 2U-Systeme mit 4 GPUs bei rund 3–4 kW. Die Karten sind passiv gekühlt und brauchen Server-Airflow; bei den flexiblen Plattformen (XV23, XV24, G494) validiert GIGABYTE die GPU-Bestückung bis 25 °C Umgebungstemperatur, der XL44 ist für 10–30 °C spezifiziert. Fürs Büro sind die Systeme nicht geeignet. Wer höhere Dichte will: Der XLS4-SX2 kühlt alle 8 GPUs per Direct Liquid Cooling.

Ja — die Referenzplattform GIGABYTE XL44-SX2 ist lieferbar (aktuelle Lieferzeit typisch 6–12 Wochen je nach GPU-Allokation), die Einzelkarten sind im Handel lagernd. Die 2U-Modelle XV23/XV24 und der G494 sind reguläre GIGABYTE-Serienprodukte. Die Neuvorstellungen XL43-ZX2 (AMD-Variante) und XLS4-SX2 (Flüssigkühlung) sind angekündigt — Liefertermine klärt Nelpx auf Anfrage direkt im Herstellerkanal.

Ja — NVIDIA definiert dafür die Enterprise-Referenzarchitektur „RTX PRO AI Factory“: Knotenprofil 2-8-5-200 (2 CPUs, 8 GPUs, 5× 200-Gb/s-NICs), skalierbar von 4 Servern (32 GPUs) bis 32 Server mit 256 GPUs über Spectrum-X-Ethernet und BlueField-3. Die XL44/XL43-Server bringen den ConnectX-8-SuperNIC-Switch mit QSFP-400G-Ports dafür ab Werk mit. Nelpx plant Fabric, Switches und Verkabelung mit.

Ja — als On-Premise-System bleiben Daten, Prompts und Modelle vollständig in der eigenen Infrastruktur, was DSGVO-Bewertung und EU-AI-Act-Einordnung deutlich vereinfacht. Die Karte unterstützt zudem Confidential Computing mit Secure Boot. Nelpx konzipiert die Umgebung inklusive Netzwerk- und Sicherheitsarchitektur und liefert EU-weit.