Zum Inhalt springen
Nelpx
NVIDIA RTX PRO 6000 Blackwell · Server Edition
Art.-Nr. TCSRTXPRO6000SE-PB Auf Lager 13.100 € zzgl. MwSt.

RTX PRO 6000 Server Edition kaufen

Die Blackwell-Server-GPU mit 96 GB GDDR7 (ECC) - Llama 70B läuft in FP8 auf einer einzigen Karte. Passiv gekühlt für PCIe-Gen5-Server, 400–600 W konfigurierbar, MIG- und vGPU-fähig. Nelpx liefert die Original-PNY-Karte ab Lager - einzeln, im Multi-GPU-Verbund oder mit passendem Server. Angebot in 48 h.

IT-Systemhaus für HPC & AI-Infrastruktur · Lieferung EU-weit, innerhalb Deutschlands versandkostenfrei · Tagesaktuelle Preise & Verfügbarkeit

NVIDIA RTX PRO 6000 Blackwell Server Edition - passiv gekühlte PCIe-Gen5-Karte mit 96 GB GDDR7
Preis pro Karte 13.100 € zzgl. MwSt. Auf Lager · Angebot in 48 h
NVIDIA RTX PRO 6000 Blackwell Server Edition - PCIe Gen5, Dual-Slot, passiv. Bild: NVIDIA/PNY.
96 GBGDDR7 mit ECC pro Karte
1,6 TB/sSpeicherbandbreite (1.597 GB/s)
4 PFLOPSFP4 peak (Herstellerangabe)
4 × 24 GBMIG-Instanzen pro Karte
Kurz beantwortet

Was kostet die RTX PRO 6000 Server Edition?

Die NVIDIA RTX PRO 6000 Blackwell Server Edition (geliefert als Original-PNY-Karte, Artikelnummer TCSRTXPRO6000SE-PB, NVIDIA-P/N 900-2G153-0000-000) kostet bei Nelpx 13.100 € zzgl. MwSt. pro Karte - auf Lager und kurzfristig lieferbar. Sie ist die passiv gekühlte Server-Ausführung der Blackwell-Generation mit 96 GB GDDR7 (ECC) und 1.597 GB/s Speicherbandbreite: Ein 70B-Modell in FP8 läuft komplett auf einer Karte, per MIG teilt sie sich in bis zu 4 Instanzen à 24 GB. Damit ist sie 2026 die Preis-Leistungs-GPU für LLM-Inferenz, Rendering und Visual Computing im PCIe-Server - deutlich unterhalb der H200-Klasse.

Preis
13.100 € netto pro Karte bei Nelpx - der Markt tendiert seit der NVIDIA-Listenpreiserhöhung im Juni 2026 (GDDR7-Knappheit) aufwärts; Angebot mit tagesaktueller Bestätigung in der Regel in 48 h.
Verfügbarkeit
Auf Lager bei Nelpx - Original-Neuware aus dem autorisierten EU-Kanal.
Artikelnummer
TCSRTXPRO6000SE-PB (Retail) / TCSRTXPRO6000SE-BLK (Bulk) · NVIDIA-P/N 900-2G153-0000-000 · US-Kit: NVRTXPRO6000TCGPU-KIT.

Stand: 6. August 2026 · Quellen: PNY-Produktseite & NVIDIA-Datenblatt (Server Edition), deutsche Distributionspreise - Herstellerclaims sind gekennzeichnet.

Das Produkt

96 GB Blackwell für den GPU-Server - als Original-PNY-Karte

Die Server Edition bringt die größte VRAM-Ausstattung aller Blackwell-PCIe-Karten in qualifizierte Gen5-Server: passiv, headless, für 1 bis 8 GPUs pro System.

01 · Die KarteRTX PRO 6000 Blackwell Server Edition

96 GB GDDR7 mit ECC, 1.597 GB/s, 24.064 CUDA-Cores, Tensor-Cores der 5. Generation mit FP4. PCIe Gen5 x16, Dual-Slot, passiv gekühlt, 400–600 W konfigurierbar. Displayausgänge ab Werk deaktiviert - die Karte ist für den Headless-Betrieb im Rack gebaut.

02 · Der BetriebMIG, vGPU & P2P

Bis zu 4 vollisolierte MIG-Instanzen à 24 GB pro Karte (lizenzfrei), vGPU-Support ab vGPU 19.0 für virtualisierte Workloads, GPUDirect-P2P über PCIe Gen5 für Multi-GPU-Inferenz. Confidential Computing wird unterstützt.

03 · Kanal & SoftwareNeuware aus dem autorisierten Kanal

Nelpx liefert ausschließlich Original-Neuware aus dem autorisierten NVIDIA-Channel - keine Graumarkt-Importe. NVIDIA AI Enterprise ist als separates Software-Kit (3 oder 5 Jahre) zubuchbar.

GPU-Speicher96 GB GDDR7 mit ECC · 512 bit · 1.597 GB/s
Rechenwerke24.064 CUDA-Cores · 752 Tensor-Cores (5. Gen) · 188 RT-Cores (4. Gen)
AI-LeistungFP4: 4 PFLOPS · FP8: 2 PFLOPS · FP16/BF16: 1 PFLOPS · FP32: 120 TFLOPS (Herstellerangaben, peak)
MIG / vGPUbis 4 Instanzen à 24 GB · vGPU ab 19.0 (inkl. vGPU auf MIG)
Multi-GPUkein NVLink - PCIe Gen5 x16 (128 GB/s bidirektional), GPUDirect-P2P unterstützt
Formfaktor / KühlungPCIe Gen5 x16 · Dual-Slot FHFL · passiv (Server-Airflow erforderlich) · 400–600 W konfigurierbar · 1× CEM5-16-Pin
ArtikelnummernTCSRTXPRO6000SE-PB (Retail) / TCSRTXPRO6000SE-BLK (Bulk) · NVIDIA 900-2G153-0000-000
Server-Integrationqualifizierte Systeme mit 1–8 Karten - u. a. GIGABYTE XL44/G494/XV24/XV23, Supermicro, Dell, HPE, Lenovo

Werte: NVIDIA-Datenblatt RTX PRO 6000 Blackwell Server Edition und PNY-EU-Produktseite, Stand 06.08.2026. Achtung bei Fremdquellen: Vergleichsportale listen für die Server Edition teils fälschlich die Workstation-Werte (1.792 GB/s / 126 TFLOPS) - die Server Edition hat 1.597 GB/s und 120 TFLOPS FP32.

Konfigurator

Ihre RTX-PRO-6000-Bestellung.
In 2 Minuten angefragt.

Stückzahl, Software und Services wählen - als PDF herunterladen oder direkt an Nelpx senden. Angebot mit tagesaktueller Bestätigung in der Regel innerhalb von 48 Stunden.

01 · GPU fest - Server Edition, auf Lager
NVIDIA RTX PRO 6000 Blackwell Server Edition · Art.-Nr. TCSRTXPRO6000SE-PB · 96 GB GDDR7 (ECC) · 1.597 GB/s · PCIe Gen5, Dual-Slot, passiv, 400–600 W konfigurierbar · 13.100 € netto je Karte
02 · Anzahl Karten

= 96 GB GDDR7 · ~0,6 kW GPU-Last

03 · Einsatzumgebung
BestandsserverNelpx prüft Airflow-Qualifikation & Slot-Layout kostenlos - die Karte ist passiv!
Mit neuem Serverz. B. GIGABYTE XL44 (8×), XV24/XV23 (bis 4×)
OffenNelpx empfiehlt passend zum Workload
04 · NVIDIA AI Enterprise separate Subscription - nicht im Kartenpreis enthalten
OhneCUDA, vLLM & TensorRT-LLM laufen ohne Subscription
3 JahreSubscription, im Angebot ausgewiesen
5 JahreSubscription, im Angebot ausgewiesen
05 · Integration & Services
Nur LieferungKarte(n) ab Lager
Einbau + Setupinkl. Enterprise-Treiber & CUDA-Stack
KomplettServer, Stack, MIG-/vGPU-Setup
06 · Ihre Daten für PDF & Angebot

Datenschutz: Konfiguration und Kontaktdaten bleiben beim Ausfüllen vollständig in Ihrem Browser - Daten werden erst beim aktiven Absenden der E-Mail übertragen.

Praxis-Check

Passt mein Modell in 96 GB?

Die wichtigste Frage vor dem Kauf - gängige Modelle mit Speicherbedarf (Richtwerte: Gewichte + Reserve für KV-Cache; lange Kontexte brauchen mehr):

Llama 3.3 70B · FP4 (NVFP4)1.724 Tokens/s auf einer Karte (TensorRT-LLM, NVIDIA)
~40 GB · 1 Karte ✓
Qwen3-30B · FP4~9.900 Tokens/s pro GPU (TensorRT-LLM, NVIDIA)
~19 GB · 1 Karte ✓
Llama 3.3 70B · FP8der Standard-Fall - ~70 GB Gewichte, Rest für Overhead und KV-Cache
~70 GB · 1 Karte ✓
Llama 70B · FP16volle Präzision passt nicht auf eine Karte
~140 GB · 2 Karten
Qwen3-235B-A22B · FP41.731 Tokens/s je GPU im 4er-Verbund (TensorRT-LLM)
2–4 Karten
Qwen3-Coder 480B · AWQGewichte ~250 GB + Cache - der Fall für den 8-GPU-Server → GIGABYTE XL44
8 Karten empfohlen (768 GB)

Durchsatzwerte: offizielle TensorRT-LLM-Benchmarks (nvidia.github.io; Kontext 1k/1k Token - längere Kontexte senken den Durchsatz deutlich) und Community-Messungen, Stand 06.08.2026 - Faustregel: FP16 ≈ 2 Byte, FP8 ≈ 1 Byte, FP4/INT4 ≈ 0,5 Byte pro Parameter, plus 10–20 % Overhead. Per MIG laufen alternativ bis zu 4 kleinere Modelle parallel auf einer Karte (4× 24 GB).

Technische Daten

Server Edition im Vergleich: H200 NVL, L40S & RTX 6000 Ada

Ehrlich eingeordnet: Die RTX PRO 6000 SE ist die VRAM-stärkste PCIe-Karte unterhalb der HBM-Klasse - mit Grafik-Silizium, das den reinen KI-Beschleunigern fehlt.

GPU-Speicher pro Karte

GB - GDDR7 vs. HBM3e vs. GDDR6

H200 NVL141 GB HBM3e
RTX PRO 6000 SE96 GB GDDR7 (ECC)
RTX 6000 Ada48 GB GDDR6
L40S48 GB GDDR6

Speicherbandbreite

GB/s - entscheidend für Token-Durchsatz

H200 NVL4.800 GB/s
RTX PRO 6000 SE1.597 GB/s
RTX 6000 Ada960 GB/s
L40S864 GB/s

Preis pro GB GPU-Speicher

€/GB netto, rechnerisch aus Nelpx-Kartenpreisen - weniger ist besser

RTX PRO 6000 SE~136 €/GB (13.100 € / 96 GB)
H200 NVL~186 €/GB (ab 26.200 € / 141 GB)

Ein 70B-Modell in FP8 (~70 GB)

Wie viele Karten braucht es? - weniger ist besser

RTX PRO 6000 SE1 Karte (73 % belegt)
RTX 6000 Ada / L40S2 Karten (48 GB reichen nicht)

Werte: NVIDIA-Datenblätter (Server-Edition-Spalte!), Stand 06.08.2026. €/GB ist eine rechnerische Einordnung auf Basis der Nelpx-Preise dieser Seite und der H200-Kaufseite (ab-Preis). Die H200 NVL bietet dafür NVLink-Bridges (900 GB/s) und FP64-Tensor-Leistung - für Training und Modelle jenseits 96 GB bleibt sie gesetzt.

Alle technischen Daten anzeigen (RTX PRO 6000 Blackwell Server Edition)
SpezifikationNVIDIA RTX PRO 6000 Blackwell Server Edition
ArchitekturNVIDIA Blackwell · Tensor-Cores 5. Gen (FP4) · RT-Cores 4. Gen
Rechenwerke24.064 CUDA-Cores · 752 Tensor-Cores · 188 RT-Cores
GPU-Speicher96 GB GDDR7 mit ECC · 512 bit · 1.597 GB/s
AI-/Compute-LeistungFP4: 4 PFLOPS · FP8: 2 PFLOPS · FP16/BF16: 1 PFLOPS · TF32: 234 TFLOPS · FP32: 120 TFLOPS (Herstellerangaben, peak)
RT-Core-Leistung355 TFLOPS (Herstellerangabe)
MIGbis 4 Instanzen à 24 GB (lizenzfrei)
vGPUunterstützt ab NVIDIA vGPU 19.0 - inkl. vGPU auf MIG (Software separat lizenziert)
Multi-GPUkein NVLink · PCIe Gen5 x16 (128 GB/s bidirektional) · GPUDirect-P2P unterstützt
Confidential Computingunterstützt (Secure Boot mit Root of Trust)
Video-Engines4× NVENC (9. Gen) · 4× NVDEC (6. Gen) · 4× JPEG-Decoder
Display4× DisplayPort 2.1b - ab Werk deaktiviert (Headless-Server-Betrieb)
FormfaktorPCIe Gen5 x16 · Dual-Slot FHFL · passiv gekühlt (qualifizierter Server-Airflow erforderlich)
Leistungsaufnahme400–600 W konfigurierbar · 1× PCIe-CEM5-16-Pin
TreiberNVIDIA RTX Enterprise / Production Branch (kein Game-Ready-Treiber)
ArtikelnummernTCSRTXPRO6000SE-PB (Retail) · TCSRTXPRO6000SE-BLK (Bulk) · US-Kit NVRTXPRO6000TCGPU-KIT · NVIDIA-P/N 900-2G153-0000-000
SoftwareNVIDIA AI Enterprise separat als Software-Kit (3 oder 5 Jahre) - nicht im Kartenpreis enthalten
Skalierung

Von einer Karte zum 8-GPU-Server

Die Server Edition ist als Rack-GPU geboren - vom Einstieg mit einer Karte bis zum vollen NVIDIA-Referenz-Setup mit 8 GPUs pro System.

Einstieg1 Karte96 GB - 70B-Klasse in FP8/FP4 auf einer GPU, MIG für bis zu 4 Teams
Kompakt2–4 Kartenbis 384 GB im 2U-Server (z. B. GIGABYTE XV24/XV23, 25 °C, einheitliches Modell)
Voller Server8 Karten768 GB GDDR7 im 4U-System - z. B. GIGABYTE XL44 mit ConnectX-8-SuperNIC
Referenzbis 256 GPUsNVIDIA-Referenzarchitektur „RTX PRO AI Factory“: 32 Server à 8 GPUs mit Spectrum-X
Karte ab Lager - passenden Server liefert Nelpx gleich mit

Als offizieller GIGABYTE-Partner konfiguriert Nelpx die Server Edition direkt in qualifizierte Plattformen: GIGABYTE XL44 mit 8× RTX PRO 6000 (Systeme ab 149.000 € netto) oder kompakte 2U-Systeme bis 4 Karten - mit Airflow-Prüfung, Enterprise-Treiber-Setup und Angebot in der Regel innerhalb von 48 Stunden.

Jetzt konfigurieren
Einsatzszenarien

Wofür lohnt sich die RTX PRO 6000 Server Edition?

01LLM-Inferenz bis 70B

Der Kern-Use-Case: 70B-Modelle in FP8 oder FP4 auf einer Karte - mit Tensor-Cores der 5. Generation, die FP4 nativ beschleunigen. Unabhängige Benchmarks sehen die Karte bei Single-GPU-Inferenz-Kosten vor den HBM-Beschleunigern.

02Multi-Tenant per MIG

Bis 4 isolierte Instanzen à 24 GB pro Karte: mehrere Teams, Modelle oder Dev-/Test-/Prod-Umgebungen parallel - MIG selbst ist lizenzfrei, vGPU-Virtualisierung kommt ab vGPU 19.0 dazu.

03Rendering & Visual Computing

188 RT-Cores und 4× NVENC/NVDEC: Render-Farmen, Streaming-Pipelines und Video-KI profitieren vom Grafik-Silizium, das reinen KI-Beschleunigern wie der H200 fehlt.

04Viele Modelle parallel

Statt eines großen Modells: 4–8 Karten fahren Dutzende kleiner und mittlerer Modelle gleichzeitig - ideal für Agenten-Workloads, RAG-Flotten und API-Serving mit gemischten Modellgrößen.

05DSGVO-konforme KI on-premises

Prompts, Dokumente und Modelle bleiben im Haus - die Alternative zur US-Cloud-API, per Confidential Computing auch für sensible Workloads abgesichert.

06Virtualisierte Workstations

Per vGPU wird der GPU-Server zur Workstation-Flotte: CAD-, DCC- und Engineering-Arbeitsplätze zentral bereitgestellt - mit ISV-zertifizierten Enterprise-Treibern.

Editionen-Kompass

Server, Workstation oder Max-Q - welche RTX PRO 6000 ist richtig?

Gleicher Blackwell-Chip, gleiche 96 GB - drei Kühlkonzepte für drei Einsatzorte. Die häufigsten Verwechslungen klärt diese Übersicht:

Diese Seite · ab Lager Server Edition Art.-Nr. TCSRTXPRO6000SE-PB
  • Passiv - Kühlung durch den Server-Airflow
  • 400–600 W konfigurierbar
  • 1.597 GB/s · 120 TFLOPS FP32
  • bis zu 8 Karten pro Rack-System, vGPU-Support
  • Displayausgänge ab Werk deaktiviert (headless)
  • ⚠ Überhitzt im Workstation-Gehäuse ohne Server-Airflow
Workstation Edition Art.-Nr. VCNRTXPRO6000B-PB · auf Anfrage
  • Aktiv - Double-Flow-Through-Kühler (bläst ins Gehäuse)
  • Fix 600 W · 1.792 GB/s · 126 TFLOPS FP32
  • Für 1–2 GPUs im Tower, 4× DisplayPort 2.1b aktiv
  • Die Wahl für die KI-Workstation unterm Schreibtisch
Max-Q Edition Art.-Nr. VCNRTXPRO6000BQ-PB · eigene Seite
  • Blower - Abluft direkt nach hinten hinaus
  • 300 W · gemessen nur 5–14 % langsamer je Workload (Puget)
  • Für dicht gepackte 2–4-GPU-Workstations
  • „Max-Q“ heißt hier nicht Laptop - es ist eine Desktop-Karte

Leistungswerte: NVIDIA-Datenblätter der drei Editionen; Max-Q-Messungen: Puget Systems (Content-Creation-Suite), Stand 06.08.2026. Bulk-Varianten (-BLK) aller Editionen liefert Nelpx ebenfalls.

Einordnung

RTX PRO 6000 Server Edition kaufen - oder etwas anderes?

Die ehrliche Entscheidungshilfe - denn nicht jedes Projekt braucht dieselbe GPU:

Darum die Server Edition

  • 96 GB auf einer Karte: die ganze 70B-Klasse in FP8/FP4 ohne Sharding - größter VRAM unterhalb der HBM-Klasse.
  • Auf Lager: Original-Neuware aus dem autorisierten EU-Kanal, 13.100 € netto.
  • FP4 nativ: Tensor-Cores der 5. Generation - die Hopper-Klasse (H200) kann kein FP4.
  • Universal-GPU: RT-Cores und 4× NVENC/NVDEC für Rendering und Video - das fehlt reinen KI-Beschleunigern.
  • ~136 €/GB VRAM: rechnerisch deutlich unter der H200-Klasse (~186 €/GB) - bei eigenem Grafik-Funktionsumfang.

Die Alternativen ehrlich betrachtet

  • NVIDIA H200 NVL: 141 GB HBM3e, 4,8 TB/s und NVLink-Bridges - gesetzt für Training, Tensor-Parallelismus und Modelle über 96 GB (zur H200-Seite).
  • NVIDIA L40S: 48 GB zum kleineren Preis - reicht für die 7B–32B-Klasse und Grafik-Mischbetrieb (zur L40S-Seite).
  • Workstation/Max-Q Edition: gleiche 96 GB für den Tower statt fürs Rack - Nelpx liefert beide auf Anfrage (KI-Workstation konfigurieren).
  • Kompletter 8-GPU-Server: Karte plus Plattform in einem Projekt - GIGABYTE XL44 ab 149.000 € netto oder der GPU-Server-Konfigurator.
  • HGX-Klasse: für Cluster-Training und Modelle jenseits der PCIe-Welt - HGX B300.
FAQ

Häufige Fragen zur RTX PRO 6000 Blackwell Server Edition

Was kostet die RTX PRO 6000 Blackwell Server Edition?

Bei Nelpx kostet die NVIDIA RTX PRO 6000 Blackwell Server Edition (96 GB GDDR7, geliefert als PNY-Karte TCSRTXPRO6000SE-PB) 13.100 € zzgl. MwSt. pro Karte - auf Lager. Zur Einordnung: NVIDIA hat den US-Listenpreis der RTX PRO 6000 im Juni 2026 um rund 55 % angehoben (GDDR7-Knappheit), der seriöse deutsche Marktpreis der Server Edition bewegt sich Anfang August 2026 rund zwischen 11.300 und 14.800 € netto und tendiert aufwärts. Nelpx bestätigt den Preis tagesaktuell im Angebot - in der Regel innerhalb von 48 Stunden über den Konfigurator auf dieser Seite.

Welche Artikelnummer hat die PNY RTX PRO 6000 Blackwell Server Edition?

Die PNY-Artikelnummer der Server Edition für Europa lautet TCSRTXPRO6000SE-PB (Retail) bzw. TCSRTXPRO6000SE-BLK (Bulk); in den USA wird sie auch als Kit NVRTXPRO6000TCGPU-KIT geführt. Die zugehörige NVIDIA-Teilenummer ist 900-2G153-0000-000. Zur Abgrenzung: Die Workstation Edition trägt die bekannte PNY-Nummer VCNRTXPRO6000B-PB (Bulk: VCNRTXPRO6000B-BLK), die Max-Q-Variante VCNRTXPRO6000BQ-PB. Wer eine dieser Nummern sucht, findet bei Nelpx die passende Karte - die Server Edition ab Lager, Workstation und Max-Q auf Anfrage.

Ist die RTX PRO 6000 Blackwell Server Edition lieferbar?

Ja - die RTX PRO 6000 Blackwell Server Edition ist bei Nelpx als Original-PNY-Karte auf Lager und kurzfristig lieferbar. Der Gesamtmarkt wird allerdings enger: Wegen des GDDR7-Speicherengpasses hat NVIDIA die Listenpreise im Juni 2026 deutlich angehoben, und einzelne Handelskanäle zeigen bereits Lücken. Wer Bedarf hat, sichert sich Karte und Preis am besten frühzeitig - Angebot in der Regel innerhalb von 48 Stunden.

Was unterscheidet Server Edition, Workstation Edition und Max-Q?

Alle drei nutzen denselben Blackwell-Chip mit 96 GB GDDR7 (ECC) - sie unterscheiden sich in Kühlung und Einsatzort. Die Server Edition ist passiv gekühlt (Dual-Slot, 400–600 W konfigurierbar, 1.597 GB/s) und gehört in Server mit qualifiziertem Airflow - bis zu 8 Karten pro Rack-System, Displayausgänge ab Werk deaktiviert. Die Workstation Edition (600 W, aktiver Double-Flow-Through-Kühler, 1.792 GB/s) ist die Karte für 1–2 GPUs im Tower. Die Max-Q Edition (300 W, Blower) ist für dicht gepackte Multi-GPU-Workstations gedacht - Max-Q heißt hier nicht Laptop. Wichtig: Die passive Server Edition überhitzt im normalen Workstation-Gehäuse ohne Server-Airflow. Die Max-Q-Edition führt Nelpx auf einer eigenen Seite.

Hat die RTX PRO 6000 Blackwell Server Edition NVLink?

Nein - die gesamte RTX-PRO-6000-Blackwell-Familie hat kein NVLink. Mehrere Karten kommunizieren über PCIe Gen5 (x16, 128 GB/s bidirektional); GPUDirect-P2P über PCIe wird unterstützt. Für viele parallele Inferenz-Workloads und Modelle bis 96 GB pro Karte ist das völlig ausreichend. Wer Tensor-Parallelismus mit hoher GPU-zu-GPU-Bandbreite oder Modelle jenseits der 96 GB pro Verbund braucht, greift zur NVIDIA H200 NVL mit NVLink-Bridge (900 GB/s) - Nelpx liefert beide und rechnet die Varianten im Angebot gegeneinander.

Läuft Llama 70B auf einer RTX PRO 6000 Server Edition?

Ja - in FP8-Quantisierung belegt ein 70B-Modell wie Llama 3.3 rund 70 GB (Gewichte) und passt damit auf die 96-GB-Karte - der Rest bleibt für Overhead, KV-Cache und Kontexte. In FP4 (NVFP4) misst NVIDIA mit TensorRT-LLM 1.724 Tokens/s für Llama 3.3 70B auf einer Karte. FP16 (~140 GB) passt nicht auf eine einzelne Karte - dafür braucht es zwei Karten oder eine H200 NVL. Kleinere Modelle wie Qwen3-30B erreichen in FP4 knapp 10.000 Tokens/s pro GPU.

Passt die Server Edition in meinen vorhandenen Server?

Nur, wenn das Chassis für passive 600-W-GPUs qualifiziert ist: Die Karte hat keinen eigenen Lüfter und braucht kräftigen Front-to-Back-Airflow, dazu PCIe Gen5 x16, einen Dual-Slot-Platz und Netzteil-Reserve (CEM5-16-Pin-Anschluss). Qualifizierte Plattformen gibt es u. a. von GIGABYTE (XL44, G494, XV24/XV23), Supermicro, Dell, HPE und Lenovo. Die Displayausgänge sind ab Werk deaktiviert - die Karte ist für den Headless-Betrieb im Rack gedacht. Nelpx prüft Ihre Server-Konfiguration vor der Bestellung kostenlos und liefert auf Wunsch den passenden GPU-Server gleich mit.

Unterstützt die Karte MIG und vGPU?

Ja, beides. Per Multi-Instance GPU (MIG) lässt sich jede Karte in bis zu 4 vollständig isolierte Instanzen mit je 24 GB aufteilen - MIG selbst ist lizenzfrei. Zusätzlich unterstützt die Server Edition NVIDIA vGPU (ab vGPU 19.0, auch vGPU auf MIG) für virtualisierte Workstations und KI-Workloads - die vGPU-Software wird separat lizenziert. Damit bedient eine Karte mehrere Teams, VMs oder Services parallel.

Ist NVIDIA AI Enterprise beim Kauf enthalten?

Nein - anders als bei der NVIDIA H200 NVL ist bei der RTX PRO 6000 Server Edition keine AI-Enterprise-Subscription im Kartenpreis enthalten. Die Subscription ist als separates Software-Kit über den autorisierten Channel erhältlich - wahlweise über 3 oder 5 Jahre. Im Konfigurator auf dieser Seite lässt sie sich direkt mit anfragen - Nelpx weist es im Angebot transparent aus. Für reine Open-Source-Stacks (vLLM, TensorRT-LLM, CUDA) ist keine Subscription erforderlich.

Warum PNY - gibt es die Karte auch von anderen Herstellern?

PNY ist seit 2003 autorisierter NVIDIA-Channel-Partner für professionelle GPUs in Europa und Nordamerika - die RTX-PRO-Karten kommen im europäischen Retail-Kanal ganz überwiegend über PNY in den Handel; daneben existieren NVIDIA-branded OEM-Versionen über Serverhersteller, und im asiatisch-pazifischen Raum übernimmt u. a. Leadtek den Vertrieb. Technisch sind alle Karten identisches NVIDIA-Referenzdesign; „PNY“ steht auf Verpackung, Support und Garantieweg. Wer also die NVIDIA RTX PRO 6000 Blackwell Server Edition kaufen will, kauft in Europa in aller Regel die PNY-Version - bei Nelpx ab Lager. Alle Details zur PNY-Ausführung stehen auf der PNY-Karten-Seite.

RTX PRO 6000 Server Edition oder NVIDIA H200 NVL - was ist richtig?

Faustregel: Die RTX PRO 6000 Server Edition (96 GB GDDR7, FP4-Unterstützung, ca. halber Preis) ist die Wahl für LLM-Inferenz bis zur 70B-Klasse, viele parallele Modelle, Rendering und Visual Computing - als Universal-GPU mit Grafik-Silizium. Die H200 NVL (141 GB HBM3e, 4,8 TB/s, NVLink-Bridge 900 GB/s) gewinnt bei Modellen über 96 GB, Tensor-Parallelismus über mehrere GPUs, Training und FP64-HPC. Unabhängige Benchmarks sehen die RTX PRO 6000 bei Single-GPU-Inferenz-Kosten vorn. Nelpx rechnet beide Wege im Angebot transparent vor.

Jetzt Projekt starten

Ihre RTX PRO 6000 Server Edition - ab Lager, angefragt in 2 Minuten

13.100 € zzgl. MwSt. pro Karte, auf Lager. Der GDDR7-Markt wird enger und die Listenpreise steigen: Wer jetzt anfragt, sichert Karte und Preis. Nelpx liefert einzeln, im Multi-GPU-Verbund oder mit passendem Server.

Jetzt konfigurieren & Angebot einholen

Auf Lager · Angebot in der Regel innerhalb von 48 h · Lieferung & Integration EU-weit