Zum Inhalt springen
Datacenter-GPUs aus Käufersicht · Stand Oktober 2026

NVIDIA H100, H200, B200 und B300 im Vergleich

Im HGX B200 stehen 180 GB je GPU bereit, 192 GB ist der Chip-Höchstwert. Für das HGX B300 weist NVIDIAs Datenblatt 270 GB je GPU aus, 288 GB ist laut NVIDIA der Chip-Höchstwert. Bei FP8 und FP16 rechnet die B300 nicht schneller als die B200. Dazu die Serverdaten für Käufer: Bauhöhe, Netzteile, Zuluftgrenze.

IT-Systemhaus für HPC & AI-Infrastruktur · Lieferung EU-weit · Konfiguration, Angebot und Lieferung aus einer Hand

HERSTELLERWERTE MIT QUELLESPARSE UND DENSE GETRENNTSERVERDATEN VON GIGABYTE
GPU-Speicher je GPU laut NVIDIA
1
H10080 GB (SXM) oder 94 GB (NVL)
2
H200141 GB, Rechenwerte wie H100
3
B200180 GB im HGX B200, FP4 nativ
4
B300270 GB im HGX B300, kaum FP64

Je 8-GPU-System: 1.440 GB und 2,1 TB.

141 GBje H200, Rechenwerte wie H100
180 GBje B200 im HGX B200
270 GBje B300 im HGX B300 laut Datenblatt
30 °CZuluftgrenze luftgekühlter Blackwell-Server von GIGABYTE

Welche NVIDIA-GPU für wen: H100, H200, B200 oder B300?

Für LLM-Inferenz bis 96 GB je Modell reicht die NVIDIA RTX PRO 6000 Blackwell Server Edition, bis 141 GB je Karte die H200 NVL. Große Modelle und Training gehören auf ein 8-GPU-System: HGX B200 mit 1.440 GB oder HGX B300 mit 2,1 TB GPU-Speicher, beide mit FP4. Simulation mit doppelter Genauigkeit läuft auf HGX H200 oder HGX B200, nicht auf dem HGX B300 mit 10 TFLOPS FP64 je System. Die H100 ist ein Auslaufmodell. Nelpx liefert die Systeme als GIGABYTE-Server EU-weit.

Speicher je GPU
80 bis 270 GBH100 SXM bis B300 im HGX B300
FP4 nativ
B200, B300, RTX PRO 6000H100, H200 und L40S enden bei FP8
FP64 je 8-GPU-System
296 / 272 / 10 TFLOPSHGX B200 / 8 × H200 rechnerisch / HGX B300

Quellen: NVIDIA H200 Datasheet (11/2024), Blackwell Ultra Datasheet (10/2025), HGX Produktseite. Abruf 05.10.2026.

H100, H200, RTX PRO 6000 und L40S: Hopper und PCIe-Karten je GPU

Einzeln kaufen können Sie H200 NVL, RTX PRO 6000 Blackwell Server Edition und L40S. FP4 beherrscht hier nur die RTX PRO 6000, alle anderen enden bei FP8.

GPUSpeicherBandbreiteTDPFP64 / Tensor-CoreNVLinkBauform
H100 SXM80 GB3,35 TB/sbis 700 W34 / 67 TFLOPS900 GB/sSXM im HGX-Board
H100 NVL94 GB3,9 TB/s350-400 W30 / 60 TFLOPS600 GB/s (Bridge)PCIe, Dual-Slot
H200 SXM141 GB4,8 TB/sbis 700 W34 / 67 TFLOPS900 GB/sSXM im HGX H200
H200 NVL141 GB4,8 TB/sbis 600 W30 / 60 TFLOPS900 GB/s je GPU, Bridge für 2 oder 4 KartenPCIe, Dual-Slot
RTX PRO 6000 Blackwell Server Edition96 GB GDDR71.597 GB/sbis 600 Wnicht angegebenneinPCIe, Dual-Slot
L40S48 GB GDDR6864 GB/s350 Wnicht angegebenneinPCIe, Dual-Slot, passiv

Quellen: NVIDIA H100 Datasheet (09/2024), H200 Datasheet (11/2024), Produktseiten RTX PRO 6000 Blackwell Server Edition und L40S. Abruf 05.10.2026.

B200 und B300: die Blackwell-Module je GPU

B200 und B300 gibt es als 8-GPU-Baugruppe im HGX B200 und HGX B300, außerdem in den Rack-Systemen GB200 und GB300 NVL72. Die B300 bringt mehr Speicher und mehr FP4 ohne Sparsity, verliert aber fast das gesamte FP64.

GPUSpeicherBandbreiteTDPFP4 sparse / denseFP64NVLink
B200180 GB HBM3e im HGX B2007,7 TB/sbis 1.000 W18 / 9 PFLOPS37 TFLOPS1,8 TB/s
B300 (Blackwell Ultra)270 GB HBM3e im HGX B3007,7 TB/sbis 1.100 W18 / 14 PFLOPS1,2 TFLOPS1,8 TB/s

Quellen: NVIDIA Blackwell Architecture Technical Brief V2.1 (30.09.2025), Blackwell Ultra Datasheet (01.10.2025). 7,7 TB/s gelten je GPU im HGX-System, 8 TB/s nennt NVIDIA für GB200 und GB300. Je B300 nennt NVIDIA gerundet 14 PFLOPS FP4 dense, für das System 108 PFLOPS (8 × 13,5). Abruf 05.10.2026.

GPU-Einordnung in drei Klicks

Einsatz, Speicherbedarf und Standort wählen. Den Speicherbedarf rechnen Sie vorher mit dem Modellrechner auf /llm-server-kaufen.

01

Einsatz

02

Speicherbedarf

Modell plus KV-Cache plus 15 % Reserve.

03

Standort

ANFRAGE

Angebot anfordern

Optional - die Angaben wandern in die E-Mail und ins PDF. Sie erhalten ein Angebot mit Nettopreis und Liefertermin.

Ihre Eingaben bleiben beim Ausfüllen vollständig in Ihrem Browser - übertragen wird erst beim aktiven Absenden der E-Mail. Datenschutzerklärung

H200 vs H100 und B200 vs B300: vier Zahlen, die Einordnung brauchen

Wer auf den Chip-Höchstwert statt auf den Systemwert plant, kauft zu knapp.

B200180 GB je GPU im HGX B200

NVIDIA gibt für das 8-GPU-System 1.440 GB an, also 180 GB je GPU. „Up to 192 GB“ ist der Chip-Höchstwert aus dem Technical Brief.

B300270 GB je GPU und 2,1 TB je System

Das NVIDIA-Datenblatt weist für das HGX B300 270 GB HBM3e je GPU und 2,1 TB je System aus. NVIDIAs Entwicklerblog nennt bis zu 288 GB HBM3e je Blackwell-Ultra-GPU und schreibt dazu, dass die verfügbare HBM-Kapazität je Ausführung variiert (GB300: 279 GB, HGX B300: 270 GB). Wir rechnen mit 2,1 TB.

B300 und B200 im Detail
H100 / H200Gleiche Rechenwerte, mehr Speicher

H100 SXM und H200 SXM haben beide 3.958 TFLOPS FP8 (sparse). NVIDIAs „1,9x bei Llama2 70B“ misst Batch 32 gegen Batch 8: Der Vorsprung kommt aus mehr und schnellerem Speicher: 141 statt 80 GB (größerer Batch) und 4,8 statt 3,35 TB/s.

FP64„536 gegen 296“ vergleicht zwei verschiedene Pfade

Acht H200 SXM kommen rechnerisch auf 272 TFLOPS FP64 und 536 über die Tensor-Cores. Für das HGX B200 nennt NVIDIA 296 TFLOPS für beide Pfade. Bei reinem FP64 liegen die Systeme etwa gleichauf.

Quellen: NVIDIA DGX B200 User Guide, Technical Brief V2.1, Blackwell Ultra Datasheet, Entwicklerblog (22.08.2025), H200 und HGX Produktseite. Abruf 05.10.2026.

Ist die B300 schneller als die B200? Bei FP4 ohne Sparsity und bei Attention

Bei FP8, FP16 und FP4 sparse nennt NVIDIA für HGX B200 und HGX B300 dieselben Werte. Mehr bietet das B300-System bei FP4 dense (+50 %), bei der Attention-Leistung (laut NVIDIA doppelt so hoch), beim Speicher und im Netzwerk. Dafür fallen FP64 und INT8 fast weg. NVIDIAs Standardzahlen sind Sparse-Werte, ohne Sparsity gilt die Hälfte.

Wert je 8-GPU-SystemHGX H200HGX B200HGX B300
GPU-Speicher1.128 GB1.440 GB2,1 TB
FP4 sparse / densenicht unterstützt144 / 72 PFLOPS144 / 108 PFLOPS
FP8 sparse / dense32 PFLOPS sparse, dense nicht ausgewiesen72 / 36 PFLOPS72 / 36 PFLOPS
FP16/BF16 sparse15,8 PFLOPS36 PFLOPS36 PFLOPS
FP64272 TFLOPS, Tensor-Core-Pfad 536296 TFLOPS10 TFLOPS
INT8 sparse32 POPS72 POPS3 POPS
NetzwerkSteckkarten0,8 TB/s1,6 TB/s

Quellen: NVIDIA HGX Produktseite (Fußnote „Dense is 1/2 sparse spec shown“), H200 Datasheet (11/2024). Die Spalte HGX H200 ist aus acht mal dem Wert je GPU gerechnet. Abruf 05.10.2026.

HGX H200, B200 und B300 als GIGABYTE-Server: Bauhöhe, Netzteile, Zuluft

GIGABYTE baut B200 und B300 auch luftgekühlt. Der Preis dafür sind 8 statt 5 Höheneinheiten, zwölf Netzteile und eine Zuluftgrenze von 30 °C statt 35 °C. Flüssiggekühlt brauchen beide 4 Höheneinheiten.

SystemGIGABYTE-ModellBauhöheNetzteileKühlungZuluft
HGX H200, LuftG593-ZD1-AAX35 HE4+2 × 3.000 WLuft10-35 °C
HGX H200, DLCG593-SD1-LAX35 HE4+2 × 3.000 WCPU und GPU direkt flüssig10-35 °C
HGX B200, LuftG893-ZD1-AAX58 HE6+6 × 3.000 WLuft10-30 °C
HGX B200, DLCG4L3-ZD1-LAX54 HE4+4 × 3.000 Wdirekt flüssig mit Leckerkennung10-35 °C
HGX B300, LuftG894-SD3-AAX78 HE12 × 3.000 WLuft10-30 °C
HGX B300, DLCG4L4-SD3-LAX74 HE5+5 × 3.000 Wdirekt flüssig, auch DIMMs10-35 °C

Quelle: GIGABYTE Produktseiten (dort als Betriebstemperatur), Abruf 05.10.2026. NVIDIA nennt für das eigene System mit 8 × B200 maximal 14,3 kW. Je Rack nennt GIGABYTE im GIGAPOD luftgekühlt 54 oder 55 kW mit HGX B200 und 66 oder 70 kW mit HGX B300.

Wie viel schneller ist die B200 als die H200? MLPerf mit Kontext

In MLPerf Inference v5.0 (02.04.2025) lieferten 8 × B200 in NVIDIAs Einreichung bei Llama 2 70B Offline das 2,8-Fache von 8 × H200. Die B200 lief dabei in FP4, die H200 endet bei FP8: Verglichen wird also FP4 gegen FP8. Bei Stable Diffusion XL, das NVIDIA nicht unter den FP4-Läufen nennt, bleibt Faktor 1,6.

8 × B200, Llama 2 70B Offline, FP498.858 Token/s
8 × H200, Llama 2 70B Offline, ohne FP434.988 Token/s
8 × B200, Stable Diffusion XL Offline30,38 Bilder/s
8 × H200, Stable Diffusion XL Offline18,99 Bilder/s

Quelle: NVIDIA Developer Blog zu MLPerf Inference v5.0 (Closed Division, mlcommons.org, Einträge 5.0-0056 und 5.0-0060). HGX B300: In MLPerf Inference v6.0 (01.04.2026, Closed Division) erreichten Systeme mit 8 × B300 bei Llama 2 70B Offline 108.669 bis 115.730 Token/s, darunter der GIGABYTE G894-SD3-AAX7 mit 109.343 Token/s. 8 × B200 kamen in derselben Runde auf 101.595 bis 103.954 Token/s (Supermicro, HPE). Andere Runde und Software als die Balken oben, daher nicht direkt vergleichbar. Abruf 05.10.2026 (v5.0) und 24.10.2026 (v6.0, Ergebnis-Repository von MLCommons).

Welche Modelle passen in einen 8-GPU-Server? Der Rechenweg

DeepSeek-R1 passt in FP8 in alle drei Generationen, in FP16 nur ins HGX B300. Wir rechnen: Parameter × Byte je Parameter (FP16 = 2, FP8 = 1), plus KV-Cache für alle gleichzeitigen Anfragen, plus 15 % Reserve. Beispiel DeepSeek-R1 in FP8: 671 GB Gewichte + rund 11 GB KV-Cache, mal 1,15 = rund 785 GB.

Modell und PräzisionBedarfHGX H200 (1.128 GB)HGX B200 (1.440 GB)HGX B300 (2,1 TB)
Llama 3.3 70B, FP8141 GBpasstpasstpasst
Qwen3 235B-A22B, FP16576 GBpasstpasstpasst
DeepSeek-R1 (671 Mrd.), FP8785 GBpasstpasstpasst
DeepSeek-R1 (671 Mrd.), FP161.556 GBpasst nichtpasst nichtpasst

Formel und Modellwerte: Nelpx-Modellrechner auf /llm-server-kaufen, je 20 Anfragen mit 8.000 Token, KV-Cache in FP16. Eine Speichergrenze, keine Durchsatz-Zusage.

Welche GPU für welchen Einsatz? Entscheidungstabelle

Die Generation steht am Ende der Entscheidung. Zuerst kommt der Speicher, dann die Präzision (FP4 oder FP64), dann der Raum.

EinsatzPassendes SystemBegründung aus den Daten
LLM-Inferenz klein (bis rund 32 Mrd. Parameter)RTX PRO 6000 Blackwell Server Edition oder L40SBis rund 32 Mrd. Parameter passt das Modell in FP8 auf eine Karte mit 48 GB, in FP16 auf die Karte mit 96 GB. NVLink ist nicht nötig.
LLM-Inferenz groß (235 bis 671 Mrd. Parameter)HGX B200 oder HGX B3001.440 GB oder 2,1 TB in einer NVLink-Domäne, FP4 nativ. B300 bei langen Kontexten.
Fine-Tuning (LoRA)H200 NVL bis 70 Mrd. Parameter, darüber HGX B200 oder B300141 GB je Karte, Bridge über 2 oder 4 Karten.
Training über 8 GPUs und mehrHGX B200 oder HGX B300, mehrere Knoten als KI-ClusterFP8 72 statt 32 PFLOPS sparse je System, NVLink 1,8 TB/s statt 900 GB/s. B300 bringt hier vor allem Speicher, Netzwerk und laut NVIDIA doppelte Attention-Leistung.
HPC mit FP64 (CFD, FEM, Molekulardynamik)HGX H200 oder HGX B200, nicht B300FP64 je System: 272, 296 und 10 TFLOPS.

Abgeleitet aus den Herstellerwerten der Tabellen oben. Preisrahmen: Was kostet ein GPU-Server?

H200 vs RTX PRO 6000 und L40S: wann reicht eine PCIe-Karte?

Eine PCIe-Karte reicht, solange jedes Modell auf eine oder wenige Karten passt. Die RTX PRO 6000 Blackwell Server Edition hat 96 GB und FP4, aber 1.597 GB/s gegen 4,8 TB/s der H200 NVL und kein NVLink. Die H200 NVL koppelt zwei oder vier Karten per Bridge. Die L40S mit 48 GB ist die Karte für kleine Modelle.

B200 vs RTX PRO 6000: Acht RTX PRO 6000 im GIGABYTE XL44 addieren sich auf 768 GB, die Karten sprechen jedoch nur über PCIe miteinander. Das passt für viele Modelle nebeneinander, nicht als Ersatz für ein HGX-System.

Nelpx-Preise, Stand Oktober 2026, netto laut Produktseite: H200 NVL ab 44.000 €, RTX PRO 6000 Blackwell Server Edition 16.950 € („Auf Lager“), L40S ab 9.600 € je Karte („Lieferzeit 2-3 Wochen“). GIGABYTE XL44 Preis auf Anfrage („Lieferbar · 6-12 Wochen“), HGX B200 ab 370.000 €, HGX B300 ab 450.000 € je System, HGX H200 Preis auf Anfrage.

Quellen: NVIDIA Produktseiten und H200 Datasheet (11/2024), Nelpx-Produktseiten. Abruf 05.10.2026.

Jetzt kaufen oder auf Rubin warten?

Warten lohnt nur, wenn Flüssigkeitskühlung vorhanden ist und der Bedarf Zeit hat. NVIDIA meldete am 26.08.2026, dass die Vera-Rubin-Plattform in die volle Serienproduktion hochläuft und erste Racks bei Partnern laufen.

Jetzt kaufen: H200, B200 oder B300

  • HGX B200 und HGX B300 sind laut NVIDIA in Auslieferung, auch als luftgekühlte Server.
  • Software legt nach: In MLPerf Inference v6.0 (01.04.2026) erreichte das GB300 NVL72 bei DeepSeek-R1 (Server) das 2,77-Fache der Vorrunde auf gleicher Hardware.
  • NVIDIA projiziert für HGX Rubin NVL8 den zehnfachen Token-Durchsatz gegen HGX B200, gerechnet sparse gegen dense.

Auf Rubin warten

  • 288 GB HBM4 je Rubin-GPU laut NVIDIA; Speicherbandbreite 19,2 TB/s je GPU im Vera Rubin NVL72, 130 TB/s je HGX-Rubin-NVL8-System.
  • FP64 kommt zurück: 265 TFLOPS je HGX Rubin NVL8 nach 10 beim HGX B300 (HGX B200: 296).
  • HGX Rubin NVL8 ist bei GIGABYTE nur flüssiggekühlt gelistet, mit 210 bis 305 kW je Rack. Für luftgekühlte Räume gibt es damit bisher keinen Nachfolger.
  • Kundenprojekte mit Vera Rubin NVL72 planen wir ab H1 2027. Das ist unsere Planung, keine Aussage von NVIDIA.
Luftgekühlter Raum oder Bedarf in den nächsten Monaten: jetzt kaufen. Flüssigkeitskühlung und Start erst 2027: Rubin prüfen, über Vera Rubin NVL72 oder den GIGAPOD mit HGX Rubin NVL8. Quellen: NVIDIA (HGX Produktseite, Quartalskonferenz), GIGABYTE GIGAPOD. Abruf 05.10.2026.

Lebenszyklus: was im Oktober 2026 noch lieferbar ist

Die H100 läuft aus, die H200 ist knapp, B200 und B300 werden ausgeliefert.

GPUStand laut Hersteller und PresseBei Nelpx
H100Angekündigt am 22.03.2022. H100 NVL laut Distributor abgekündigt: letzte Auslieferung 15.06.2026, Ersatz H200 NVL. In NVIDIAs Line Card vom August 2025 fehlt die H100.Restbestand je Anfrage
H200Angekündigt am 13.11.2023. Presse im März 2026: Fertigung gestoppt, kurz darauf Neustart für China-Aufträge. Eine Abkündigung haben wir nicht gefunden.H200 NVL: „Verfügbarkeit auf Anfrage“, Lieferlage sehr angespannt. HGX H200: „Restverfügbarkeit im OEM-Kanal“
B200 und B300Angekündigt am 18.03.2024 und 18.03.2025. NVIDIA: „HGX B300 and HGX B200 shipping now“.HGX B300 und HGX B200: „Lieferbar - Slots nach Allokation“

Quellen: NVIDIA Pressemitteilungen, HGX Produktseite, Line Card (08/2025); Viperatech (17.06.2025); TrendForce (05.03.2026), Semafor (17.03.2026). In Anführungszeichen: Wortlaut der Nelpx-Produktseiten. Abruf 05.10.2026.

Für wen welche GPU nicht passt: vier typische Fehlkäufe

B300 für Simulation

Mit 10 TFLOPS FP64 je System ist das HGX B300 für Codes mit doppelter Genauigkeit die falsche Wahl.

Luftgekühlter Blackwell-Server im warmen Raum

Wer 30 °C Zuluft nicht halten kann, braucht das HGX H200, Direktflüssigkühlung oder einen anderen Standort.

Colocation als Standort
Ein 8-GPU-System für ein kleines Modell

Passt das Modell in 96 GB, genügt ein PCIe-Server mit einer oder wenigen Karten.

Einordnung: RTX-5090-Server
Später GPUs nachstecken

SXM-Systeme kommen fest mit acht GPUs. Wer klein anfangen will, nimmt einen PCIe-Server mit H200 NVL.

Häufige Fragen zu H100, H200, B200 und B300

Kann ich eine B200 oder B300 als einzelne Karte kaufen?

Als einzelne PCIe-Karte nein. B200 und B300 gibt es als SXM-Module auf dem HGX-Board, also als fertigen Server mit acht GPUs und 1.440 GB oder 2,1 TB GPU-Speicher. Als PCIe-Karten liefert Nelpx H200 NVL (141 GB), RTX PRO 6000 Blackwell Server Edition (96 GB) und L40S (48 GB).

Brauchen B200 und B300 Flüssigkeitskühlung?

Nein. GIGABYTE baut HGX B200 und HGX B300 luftgekühlt mit 8 Höheneinheiten (G893, G894) und flüssiggekühlt mit 4 (G4L3, G4L4). Die luftgekühlten Modelle sind bis 30 °C spezifiziert, die flüssiggekühlten bis 35 °C. Nur flüssiggekühlt gibt es das Rack-System GB300 NVL72.

Was bringt FP4, und welche GPU kann es?

NVFP4 speichert Gewichte mit 4,5 Bit je Wert und braucht laut NVIDIA rund 1,8-mal weniger Speicher als FP8. Ohne Sparsity rechnet das HGX B200 in FP4 doppelt so schnell wie in FP8 (72 gegen 36 PFLOPS), das HGX B300 dreimal so schnell (108 gegen 36). Nativ können das B200, B300 und RTX PRO 6000 Blackwell.

Was ist der Unterschied zwischen H200 NVL und H200 SXM?

Beide haben 141 GB und 4,8 TB/s. Die H200 NVL ist eine luftgekühlte PCIe-Karte mit bis 600 W und 3.341 TFLOPS FP8 (sparse). Die H200 SXM sitzt zu acht auf dem HGX-Board, nimmt bis 700 W auf und erreicht 3.958 TFLOPS. NVIDIA AI Enterprise ist laut Datenblatt bei der NVL enthalten, beim SXM-System ein Add-on.

Lohnt sich der Aufpreis vom HGX B200 zum HGX B300?

Bei Nelpx beginnt das HGX B200 bei 370.000 € netto, das HGX B300 bei 450.000 € netto. Dafür gibt es 2,1 TB statt 1.440 GB GPU-Speicher, 108 statt 72 PFLOPS bei FP4 dense und 1,6 statt 0,8 TB/s Netzwerk. Der Aufpreis lohnt sich, wenn Speicher oder FP4-Inferenz der Engpass ist, nicht für FP8 oder FP16.

Unterstützt die B300 MIG?

Ja. Das Blackwell Ultra Datasheet nennt sieben MIG-Instanzen je GPU. Die H200 SXM teilt sich in bis zu sieben Instanzen mit je 18 GB, die H200 NVL in sieben mit je 16,5 GB, die RTX PRO 6000 Blackwell Server Edition in bis zu vier. Die L40S unterstützt kein MIG.

Weiterführende Seiten

Angebot für H200, B200 oder B300 anfordern

Nennen Sie uns Modell, Zahl der gleichzeitigen Nutzer und Aufstellort. Sie erhalten ein Angebot mit Nettopreis und Liefertermin für das passende GIGABYTE-System.