NVIDIA H100, H200, B200 und B300 im Vergleich
Im HGX B200 stehen 180 GB je GPU bereit, 192 GB ist der Chip-Höchstwert. Für das HGX B300 weist NVIDIAs Datenblatt 270 GB je GPU aus, 288 GB ist laut NVIDIA der Chip-Höchstwert. Bei FP8 und FP16 rechnet die B300 nicht schneller als die B200. Dazu die Serverdaten für Käufer: Bauhöhe, Netzteile, Zuluftgrenze.
IT-Systemhaus für HPC & AI-Infrastruktur · Lieferung EU-weit · Konfiguration, Angebot und Lieferung aus einer Hand
Je 8-GPU-System: 1.440 GB und 2,1 TB.
Welche NVIDIA-GPU für wen: H100, H200, B200 oder B300?
Für LLM-Inferenz bis 96 GB je Modell reicht die NVIDIA RTX PRO 6000 Blackwell Server Edition, bis 141 GB je Karte die H200 NVL. Große Modelle und Training gehören auf ein 8-GPU-System: HGX B200 mit 1.440 GB oder HGX B300 mit 2,1 TB GPU-Speicher, beide mit FP4. Simulation mit doppelter Genauigkeit läuft auf HGX H200 oder HGX B200, nicht auf dem HGX B300 mit 10 TFLOPS FP64 je System. Die H100 ist ein Auslaufmodell. Nelpx liefert die Systeme als GIGABYTE-Server EU-weit.
- Speicher je GPU
- 80 bis 270 GBH100 SXM bis B300 im HGX B300
- FP4 nativ
- B200, B300, RTX PRO 6000H100, H200 und L40S enden bei FP8
- FP64 je 8-GPU-System
- 296 / 272 / 10 TFLOPSHGX B200 / 8 × H200 rechnerisch / HGX B300
Quellen: NVIDIA H200 Datasheet (11/2024), Blackwell Ultra Datasheet (10/2025), HGX Produktseite. Abruf 05.10.2026.
H100, H200, RTX PRO 6000 und L40S: Hopper und PCIe-Karten je GPU
Einzeln kaufen können Sie H200 NVL, RTX PRO 6000 Blackwell Server Edition und L40S. FP4 beherrscht hier nur die RTX PRO 6000, alle anderen enden bei FP8.
| GPU | Speicher | Bandbreite | TDP | FP64 / Tensor-Core | NVLink | Bauform |
|---|---|---|---|---|---|---|
| H100 SXM | 80 GB | 3,35 TB/s | bis 700 W | 34 / 67 TFLOPS | 900 GB/s | SXM im HGX-Board |
| H100 NVL | 94 GB | 3,9 TB/s | 350-400 W | 30 / 60 TFLOPS | 600 GB/s (Bridge) | PCIe, Dual-Slot |
| H200 SXM | 141 GB | 4,8 TB/s | bis 700 W | 34 / 67 TFLOPS | 900 GB/s | SXM im HGX H200 |
| H200 NVL | 141 GB | 4,8 TB/s | bis 600 W | 30 / 60 TFLOPS | 900 GB/s je GPU, Bridge für 2 oder 4 Karten | PCIe, Dual-Slot |
| RTX PRO 6000 Blackwell Server Edition | 96 GB GDDR7 | 1.597 GB/s | bis 600 W | nicht angegeben | nein | PCIe, Dual-Slot |
| L40S | 48 GB GDDR6 | 864 GB/s | 350 W | nicht angegeben | nein | PCIe, Dual-Slot, passiv |
Quellen: NVIDIA H100 Datasheet (09/2024), H200 Datasheet (11/2024), Produktseiten RTX PRO 6000 Blackwell Server Edition und L40S. Abruf 05.10.2026.
B200 und B300: die Blackwell-Module je GPU
B200 und B300 gibt es als 8-GPU-Baugruppe im HGX B200 und HGX B300, außerdem in den Rack-Systemen GB200 und GB300 NVL72. Die B300 bringt mehr Speicher und mehr FP4 ohne Sparsity, verliert aber fast das gesamte FP64.
| GPU | Speicher | Bandbreite | TDP | FP4 sparse / dense | FP64 | NVLink |
|---|---|---|---|---|---|---|
| B200 | 180 GB HBM3e im HGX B200 | 7,7 TB/s | bis 1.000 W | 18 / 9 PFLOPS | 37 TFLOPS | 1,8 TB/s |
| B300 (Blackwell Ultra) | 270 GB HBM3e im HGX B300 | 7,7 TB/s | bis 1.100 W | 18 / 14 PFLOPS | 1,2 TFLOPS | 1,8 TB/s |
Quellen: NVIDIA Blackwell Architecture Technical Brief V2.1 (30.09.2025), Blackwell Ultra Datasheet (01.10.2025). 7,7 TB/s gelten je GPU im HGX-System, 8 TB/s nennt NVIDIA für GB200 und GB300. Je B300 nennt NVIDIA gerundet 14 PFLOPS FP4 dense, für das System 108 PFLOPS (8 × 13,5). Abruf 05.10.2026.
GPU-Einordnung in drei Klicks
Einsatz, Speicherbedarf und Standort wählen. Den Speicherbedarf rechnen Sie vorher mit dem Modellrechner auf /llm-server-kaufen.
Einsatz
Speicherbedarf
Modell plus KV-Cache plus 15 % Reserve.
Standort
Angebot anfordern
Optional - die Angaben wandern in die E-Mail und ins PDF. Sie erhalten ein Angebot mit Nettopreis und Liefertermin.
Ihre Eingaben bleiben beim Ausfüllen vollständig in Ihrem Browser - übertragen wird erst beim aktiven Absenden der E-Mail. Datenschutzerklärung
H200 vs H100 und B200 vs B300: vier Zahlen, die Einordnung brauchen
Wer auf den Chip-Höchstwert statt auf den Systemwert plant, kauft zu knapp.
NVIDIA gibt für das 8-GPU-System 1.440 GB an, also 180 GB je GPU. „Up to 192 GB“ ist der Chip-Höchstwert aus dem Technical Brief.
Das NVIDIA-Datenblatt weist für das HGX B300 270 GB HBM3e je GPU und 2,1 TB je System aus. NVIDIAs Entwicklerblog nennt bis zu 288 GB HBM3e je Blackwell-Ultra-GPU und schreibt dazu, dass die verfügbare HBM-Kapazität je Ausführung variiert (GB300: 279 GB, HGX B300: 270 GB). Wir rechnen mit 2,1 TB.
B300 und B200 im DetailH100 SXM und H200 SXM haben beide 3.958 TFLOPS FP8 (sparse). NVIDIAs „1,9x bei Llama2 70B“ misst Batch 32 gegen Batch 8: Der Vorsprung kommt aus mehr und schnellerem Speicher: 141 statt 80 GB (größerer Batch) und 4,8 statt 3,35 TB/s.
Acht H200 SXM kommen rechnerisch auf 272 TFLOPS FP64 und 536 über die Tensor-Cores. Für das HGX B200 nennt NVIDIA 296 TFLOPS für beide Pfade. Bei reinem FP64 liegen die Systeme etwa gleichauf.
Quellen: NVIDIA DGX B200 User Guide, Technical Brief V2.1, Blackwell Ultra Datasheet, Entwicklerblog (22.08.2025), H200 und HGX Produktseite. Abruf 05.10.2026.
Ist die B300 schneller als die B200? Bei FP4 ohne Sparsity und bei Attention
Bei FP8, FP16 und FP4 sparse nennt NVIDIA für HGX B200 und HGX B300 dieselben Werte. Mehr bietet das B300-System bei FP4 dense (+50 %), bei der Attention-Leistung (laut NVIDIA doppelt so hoch), beim Speicher und im Netzwerk. Dafür fallen FP64 und INT8 fast weg. NVIDIAs Standardzahlen sind Sparse-Werte, ohne Sparsity gilt die Hälfte.
| Wert je 8-GPU-System | HGX H200 | HGX B200 | HGX B300 |
|---|---|---|---|
| GPU-Speicher | 1.128 GB | 1.440 GB | 2,1 TB |
| FP4 sparse / dense | nicht unterstützt | 144 / 72 PFLOPS | 144 / 108 PFLOPS |
| FP8 sparse / dense | 32 PFLOPS sparse, dense nicht ausgewiesen | 72 / 36 PFLOPS | 72 / 36 PFLOPS |
| FP16/BF16 sparse | 15,8 PFLOPS | 36 PFLOPS | 36 PFLOPS |
| FP64 | 272 TFLOPS, Tensor-Core-Pfad 536 | 296 TFLOPS | 10 TFLOPS |
| INT8 sparse | 32 POPS | 72 POPS | 3 POPS |
| Netzwerk | Steckkarten | 0,8 TB/s | 1,6 TB/s |
Quellen: NVIDIA HGX Produktseite (Fußnote „Dense is 1/2 sparse spec shown“), H200 Datasheet (11/2024). Die Spalte HGX H200 ist aus acht mal dem Wert je GPU gerechnet. Abruf 05.10.2026.
HGX H200, B200 und B300 als GIGABYTE-Server: Bauhöhe, Netzteile, Zuluft
GIGABYTE baut B200 und B300 auch luftgekühlt. Der Preis dafür sind 8 statt 5 Höheneinheiten, zwölf Netzteile und eine Zuluftgrenze von 30 °C statt 35 °C. Flüssiggekühlt brauchen beide 4 Höheneinheiten.
| System | GIGABYTE-Modell | Bauhöhe | Netzteile | Kühlung | Zuluft |
|---|---|---|---|---|---|
| HGX H200, Luft | G593-ZD1-AAX3 | 5 HE | 4+2 × 3.000 W | Luft | 10-35 °C |
| HGX H200, DLC | G593-SD1-LAX3 | 5 HE | 4+2 × 3.000 W | CPU und GPU direkt flüssig | 10-35 °C |
| HGX B200, Luft | G893-ZD1-AAX5 | 8 HE | 6+6 × 3.000 W | Luft | 10-30 °C |
| HGX B200, DLC | G4L3-ZD1-LAX5 | 4 HE | 4+4 × 3.000 W | direkt flüssig mit Leckerkennung | 10-35 °C |
| HGX B300, Luft | G894-SD3-AAX7 | 8 HE | 12 × 3.000 W | Luft | 10-30 °C |
| HGX B300, DLC | G4L4-SD3-LAX7 | 4 HE | 5+5 × 3.000 W | direkt flüssig, auch DIMMs | 10-35 °C |
Quelle: GIGABYTE Produktseiten (dort als Betriebstemperatur), Abruf 05.10.2026. NVIDIA nennt für das eigene System mit 8 × B200 maximal 14,3 kW. Je Rack nennt GIGABYTE im GIGAPOD luftgekühlt 54 oder 55 kW mit HGX B200 und 66 oder 70 kW mit HGX B300.
Wie viel schneller ist die B200 als die H200? MLPerf mit Kontext
In MLPerf Inference v5.0 (02.04.2025) lieferten 8 × B200 in NVIDIAs Einreichung bei Llama 2 70B Offline das 2,8-Fache von 8 × H200. Die B200 lief dabei in FP4, die H200 endet bei FP8: Verglichen wird also FP4 gegen FP8. Bei Stable Diffusion XL, das NVIDIA nicht unter den FP4-Läufen nennt, bleibt Faktor 1,6.
Quelle: NVIDIA Developer Blog zu MLPerf Inference v5.0 (Closed Division, mlcommons.org, Einträge 5.0-0056 und 5.0-0060). HGX B300: In MLPerf Inference v6.0 (01.04.2026, Closed Division) erreichten Systeme mit 8 × B300 bei Llama 2 70B Offline 108.669 bis 115.730 Token/s, darunter der GIGABYTE G894-SD3-AAX7 mit 109.343 Token/s. 8 × B200 kamen in derselben Runde auf 101.595 bis 103.954 Token/s (Supermicro, HPE). Andere Runde und Software als die Balken oben, daher nicht direkt vergleichbar. Abruf 05.10.2026 (v5.0) und 24.10.2026 (v6.0, Ergebnis-Repository von MLCommons).
Welche Modelle passen in einen 8-GPU-Server? Der Rechenweg
DeepSeek-R1 passt in FP8 in alle drei Generationen, in FP16 nur ins HGX B300. Wir rechnen: Parameter × Byte je Parameter (FP16 = 2, FP8 = 1), plus KV-Cache für alle gleichzeitigen Anfragen, plus 15 % Reserve. Beispiel DeepSeek-R1 in FP8: 671 GB Gewichte + rund 11 GB KV-Cache, mal 1,15 = rund 785 GB.
| Modell und Präzision | Bedarf | HGX H200 (1.128 GB) | HGX B200 (1.440 GB) | HGX B300 (2,1 TB) |
|---|---|---|---|---|
| Llama 3.3 70B, FP8 | 141 GB | passt | passt | passt |
| Qwen3 235B-A22B, FP16 | 576 GB | passt | passt | passt |
| DeepSeek-R1 (671 Mrd.), FP8 | 785 GB | passt | passt | passt |
| DeepSeek-R1 (671 Mrd.), FP16 | 1.556 GB | passt nicht | passt nicht | passt |
Formel und Modellwerte: Nelpx-Modellrechner auf /llm-server-kaufen, je 20 Anfragen mit 8.000 Token, KV-Cache in FP16. Eine Speichergrenze, keine Durchsatz-Zusage.
Welche GPU für welchen Einsatz? Entscheidungstabelle
Die Generation steht am Ende der Entscheidung. Zuerst kommt der Speicher, dann die Präzision (FP4 oder FP64), dann der Raum.
| Einsatz | Passendes System | Begründung aus den Daten |
|---|---|---|
| LLM-Inferenz klein (bis rund 32 Mrd. Parameter) | RTX PRO 6000 Blackwell Server Edition oder L40S | Bis rund 32 Mrd. Parameter passt das Modell in FP8 auf eine Karte mit 48 GB, in FP16 auf die Karte mit 96 GB. NVLink ist nicht nötig. |
| LLM-Inferenz groß (235 bis 671 Mrd. Parameter) | HGX B200 oder HGX B300 | 1.440 GB oder 2,1 TB in einer NVLink-Domäne, FP4 nativ. B300 bei langen Kontexten. |
| Fine-Tuning (LoRA) | H200 NVL bis 70 Mrd. Parameter, darüber HGX B200 oder B300 | 141 GB je Karte, Bridge über 2 oder 4 Karten. |
| Training über 8 GPUs und mehr | HGX B200 oder HGX B300, mehrere Knoten als KI-Cluster | FP8 72 statt 32 PFLOPS sparse je System, NVLink 1,8 TB/s statt 900 GB/s. B300 bringt hier vor allem Speicher, Netzwerk und laut NVIDIA doppelte Attention-Leistung. |
| HPC mit FP64 (CFD, FEM, Molekulardynamik) | HGX H200 oder HGX B200, nicht B300 | FP64 je System: 272, 296 und 10 TFLOPS. |
Abgeleitet aus den Herstellerwerten der Tabellen oben. Preisrahmen: Was kostet ein GPU-Server?
H200 vs RTX PRO 6000 und L40S: wann reicht eine PCIe-Karte?
Eine PCIe-Karte reicht, solange jedes Modell auf eine oder wenige Karten passt. Die RTX PRO 6000 Blackwell Server Edition hat 96 GB und FP4, aber 1.597 GB/s gegen 4,8 TB/s der H200 NVL und kein NVLink. Die H200 NVL koppelt zwei oder vier Karten per Bridge. Die L40S mit 48 GB ist die Karte für kleine Modelle.
B200 vs RTX PRO 6000: Acht RTX PRO 6000 im GIGABYTE XL44 addieren sich auf 768 GB, die Karten sprechen jedoch nur über PCIe miteinander. Das passt für viele Modelle nebeneinander, nicht als Ersatz für ein HGX-System.
Nelpx-Preise, Stand Oktober 2026, netto laut Produktseite: H200 NVL ab 44.000 €, RTX PRO 6000 Blackwell Server Edition 16.950 € („Auf Lager“), L40S ab 9.600 € je Karte („Lieferzeit 2-3 Wochen“). GIGABYTE XL44 Preis auf Anfrage („Lieferbar · 6-12 Wochen“), HGX B200 ab 370.000 €, HGX B300 ab 450.000 € je System, HGX H200 Preis auf Anfrage.
Quellen: NVIDIA Produktseiten und H200 Datasheet (11/2024), Nelpx-Produktseiten. Abruf 05.10.2026.
Jetzt kaufen oder auf Rubin warten?
Warten lohnt nur, wenn Flüssigkeitskühlung vorhanden ist und der Bedarf Zeit hat. NVIDIA meldete am 26.08.2026, dass die Vera-Rubin-Plattform in die volle Serienproduktion hochläuft und erste Racks bei Partnern laufen.
Jetzt kaufen: H200, B200 oder B300
- HGX B200 und HGX B300 sind laut NVIDIA in Auslieferung, auch als luftgekühlte Server.
- Software legt nach: In MLPerf Inference v6.0 (01.04.2026) erreichte das GB300 NVL72 bei DeepSeek-R1 (Server) das 2,77-Fache der Vorrunde auf gleicher Hardware.
- NVIDIA projiziert für HGX Rubin NVL8 den zehnfachen Token-Durchsatz gegen HGX B200, gerechnet sparse gegen dense.
Auf Rubin warten
- 288 GB HBM4 je Rubin-GPU laut NVIDIA; Speicherbandbreite 19,2 TB/s je GPU im Vera Rubin NVL72, 130 TB/s je HGX-Rubin-NVL8-System.
- FP64 kommt zurück: 265 TFLOPS je HGX Rubin NVL8 nach 10 beim HGX B300 (HGX B200: 296).
- HGX Rubin NVL8 ist bei GIGABYTE nur flüssiggekühlt gelistet, mit 210 bis 305 kW je Rack. Für luftgekühlte Räume gibt es damit bisher keinen Nachfolger.
- Kundenprojekte mit Vera Rubin NVL72 planen wir ab H1 2027. Das ist unsere Planung, keine Aussage von NVIDIA.
Lebenszyklus: was im Oktober 2026 noch lieferbar ist
Die H100 läuft aus, die H200 ist knapp, B200 und B300 werden ausgeliefert.
| GPU | Stand laut Hersteller und Presse | Bei Nelpx |
|---|---|---|
| H100 | Angekündigt am 22.03.2022. H100 NVL laut Distributor abgekündigt: letzte Auslieferung 15.06.2026, Ersatz H200 NVL. In NVIDIAs Line Card vom August 2025 fehlt die H100. | Restbestand je Anfrage |
| H200 | Angekündigt am 13.11.2023. Presse im März 2026: Fertigung gestoppt, kurz darauf Neustart für China-Aufträge. Eine Abkündigung haben wir nicht gefunden. | H200 NVL: „Verfügbarkeit auf Anfrage“, Lieferlage sehr angespannt. HGX H200: „Restverfügbarkeit im OEM-Kanal“ |
| B200 und B300 | Angekündigt am 18.03.2024 und 18.03.2025. NVIDIA: „HGX B300 and HGX B200 shipping now“. | HGX B300 und HGX B200: „Lieferbar - Slots nach Allokation“ |
Quellen: NVIDIA Pressemitteilungen, HGX Produktseite, Line Card (08/2025); Viperatech (17.06.2025); TrendForce (05.03.2026), Semafor (17.03.2026). In Anführungszeichen: Wortlaut der Nelpx-Produktseiten. Abruf 05.10.2026.
Für wen welche GPU nicht passt: vier typische Fehlkäufe
Mit 10 TFLOPS FP64 je System ist das HGX B300 für Codes mit doppelter Genauigkeit die falsche Wahl.
Wer 30 °C Zuluft nicht halten kann, braucht das HGX H200, Direktflüssigkühlung oder einen anderen Standort.
Colocation als StandortPasst das Modell in 96 GB, genügt ein PCIe-Server mit einer oder wenigen Karten.
Einordnung: RTX-5090-ServerSXM-Systeme kommen fest mit acht GPUs. Wer klein anfangen will, nimmt einen PCIe-Server mit H200 NVL.
Häufige Fragen zu H100, H200, B200 und B300
Kann ich eine B200 oder B300 als einzelne Karte kaufen?
Als einzelne PCIe-Karte nein. B200 und B300 gibt es als SXM-Module auf dem HGX-Board, also als fertigen Server mit acht GPUs und 1.440 GB oder 2,1 TB GPU-Speicher. Als PCIe-Karten liefert Nelpx H200 NVL (141 GB), RTX PRO 6000 Blackwell Server Edition (96 GB) und L40S (48 GB).
Brauchen B200 und B300 Flüssigkeitskühlung?
Nein. GIGABYTE baut HGX B200 und HGX B300 luftgekühlt mit 8 Höheneinheiten (G893, G894) und flüssiggekühlt mit 4 (G4L3, G4L4). Die luftgekühlten Modelle sind bis 30 °C spezifiziert, die flüssiggekühlten bis 35 °C. Nur flüssiggekühlt gibt es das Rack-System GB300 NVL72.
Was bringt FP4, und welche GPU kann es?
NVFP4 speichert Gewichte mit 4,5 Bit je Wert und braucht laut NVIDIA rund 1,8-mal weniger Speicher als FP8. Ohne Sparsity rechnet das HGX B200 in FP4 doppelt so schnell wie in FP8 (72 gegen 36 PFLOPS), das HGX B300 dreimal so schnell (108 gegen 36). Nativ können das B200, B300 und RTX PRO 6000 Blackwell.
Was ist der Unterschied zwischen H200 NVL und H200 SXM?
Beide haben 141 GB und 4,8 TB/s. Die H200 NVL ist eine luftgekühlte PCIe-Karte mit bis 600 W und 3.341 TFLOPS FP8 (sparse). Die H200 SXM sitzt zu acht auf dem HGX-Board, nimmt bis 700 W auf und erreicht 3.958 TFLOPS. NVIDIA AI Enterprise ist laut Datenblatt bei der NVL enthalten, beim SXM-System ein Add-on.
Lohnt sich der Aufpreis vom HGX B200 zum HGX B300?
Bei Nelpx beginnt das HGX B200 bei 370.000 € netto, das HGX B300 bei 450.000 € netto. Dafür gibt es 2,1 TB statt 1.440 GB GPU-Speicher, 108 statt 72 PFLOPS bei FP4 dense und 1,6 statt 0,8 TB/s Netzwerk. Der Aufpreis lohnt sich, wenn Speicher oder FP4-Inferenz der Engpass ist, nicht für FP8 oder FP16.
Unterstützt die B300 MIG?
Ja. Das Blackwell Ultra Datasheet nennt sieben MIG-Instanzen je GPU. Die H200 SXM teilt sich in bis zu sieben Instanzen mit je 18 GB, die H200 NVL in sieben mit je 16,5 GB, die RTX PRO 6000 Blackwell Server Edition in bis zu vier. Die L40S unterstützt kein MIG.
Weiterführende Seiten
Angebot für H200, B200 oder B300 anfordern
Nennen Sie uns Modell, Zahl der gleichzeitigen Nutzer und Aufstellort. Sie erhalten ein Angebot mit Nettopreis und Liefertermin für das passende GIGABYTE-System.
NVIDIA H100, H200, B200 und B300 im Vergleich
Im HGX B200 stehen 180 GB je GPU bereit, 192 GB ist der Chip-Höchstwert. Für das HGX B300 weist NVIDIAs Datenblatt 270 GB je GPU aus, 288 GB ist laut NVIDIA der Chip-Höchstwert. Bei FP8 und FP16 rechnet die B300 nicht schneller als die B200. Dazu die Serverdaten für Käufer: Bauhöhe, Netzteile, Zuluftgrenze.
IT-Systemhaus für HPC & AI-Infrastruktur · Lieferung EU-weit · Konfiguration, Angebot und Lieferung aus einer Hand
Je 8-GPU-System: 1.440 GB und 2,1 TB.
Welche NVIDIA-GPU für wen: H100, H200, B200 oder B300?
Für LLM-Inferenz bis 96 GB je Modell reicht die NVIDIA RTX PRO 6000 Blackwell Server Edition, bis 141 GB je Karte die H200 NVL. Große Modelle und Training gehören auf ein 8-GPU-System: HGX B200 mit 1.440 GB oder HGX B300 mit 2,1 TB GPU-Speicher, beide mit FP4. Simulation mit doppelter Genauigkeit läuft auf HGX H200 oder HGX B200, nicht auf dem HGX B300 mit 10 TFLOPS FP64 je System. Die H100 ist ein Auslaufmodell. Nelpx liefert die Systeme als GIGABYTE-Server EU-weit.
- Speicher je GPU
- 80 bis 270 GBH100 SXM bis B300 im HGX B300
- FP4 nativ
- B200, B300, RTX PRO 6000H100, H200 und L40S enden bei FP8
- FP64 je 8-GPU-System
- 296 / 272 / 10 TFLOPSHGX B200 / 8 × H200 rechnerisch / HGX B300
Quellen: NVIDIA H200 Datasheet (11/2024), Blackwell Ultra Datasheet (10/2025), HGX Produktseite. Abruf 05.10.2026.
H100, H200, RTX PRO 6000 und L40S: Hopper und PCIe-Karten je GPU
Einzeln kaufen können Sie H200 NVL, RTX PRO 6000 Blackwell Server Edition und L40S. FP4 beherrscht hier nur die RTX PRO 6000, alle anderen enden bei FP8.
| GPU | Speicher | Bandbreite | TDP | FP64 / Tensor-Core | NVLink | Bauform |
|---|---|---|---|---|---|---|
| H100 SXM | 80 GB | 3,35 TB/s | bis 700 W | 34 / 67 TFLOPS | 900 GB/s | SXM im HGX-Board |
| H100 NVL | 94 GB | 3,9 TB/s | 350-400 W | 30 / 60 TFLOPS | 600 GB/s (Bridge) | PCIe, Dual-Slot |
| H200 SXM | 141 GB | 4,8 TB/s | bis 700 W | 34 / 67 TFLOPS | 900 GB/s | SXM im HGX H200 |
| H200 NVL | 141 GB | 4,8 TB/s | bis 600 W | 30 / 60 TFLOPS | 900 GB/s je GPU, Bridge für 2 oder 4 Karten | PCIe, Dual-Slot |
| RTX PRO 6000 Blackwell Server Edition | 96 GB GDDR7 | 1.597 GB/s | bis 600 W | nicht angegeben | nein | PCIe, Dual-Slot |
| L40S | 48 GB GDDR6 | 864 GB/s | 350 W | nicht angegeben | nein | PCIe, Dual-Slot, passiv |
Quellen: NVIDIA H100 Datasheet (09/2024), H200 Datasheet (11/2024), Produktseiten RTX PRO 6000 Blackwell Server Edition und L40S. Abruf 05.10.2026.
B200 und B300: die Blackwell-Module je GPU
B200 und B300 gibt es als 8-GPU-Baugruppe im HGX B200 und HGX B300, außerdem in den Rack-Systemen GB200 und GB300 NVL72. Die B300 bringt mehr Speicher und mehr FP4 ohne Sparsity, verliert aber fast das gesamte FP64.
| GPU | Speicher | Bandbreite | TDP | FP4 sparse / dense | FP64 | NVLink |
|---|---|---|---|---|---|---|
| B200 | 180 GB HBM3e im HGX B200 | 7,7 TB/s | bis 1.000 W | 18 / 9 PFLOPS | 37 TFLOPS | 1,8 TB/s |
| B300 (Blackwell Ultra) | 270 GB HBM3e im HGX B300 | 7,7 TB/s | bis 1.100 W | 18 / 14 PFLOPS | 1,2 TFLOPS | 1,8 TB/s |
Quellen: NVIDIA Blackwell Architecture Technical Brief V2.1 (30.09.2025), Blackwell Ultra Datasheet (01.10.2025). 7,7 TB/s gelten je GPU im HGX-System, 8 TB/s nennt NVIDIA für GB200 und GB300. Je B300 nennt NVIDIA gerundet 14 PFLOPS FP4 dense, für das System 108 PFLOPS (8 × 13,5). Abruf 05.10.2026.
GPU-Einordnung in drei Klicks
Einsatz, Speicherbedarf und Standort wählen. Den Speicherbedarf rechnen Sie vorher mit dem Modellrechner auf /llm-server-kaufen.
Einsatz
Speicherbedarf
Modell plus KV-Cache plus 15 % Reserve.
Standort
Angebot anfordern
Optional - die Angaben wandern in die E-Mail und ins PDF. Sie erhalten ein Angebot mit Nettopreis und Liefertermin.
Ihre Eingaben bleiben beim Ausfüllen vollständig in Ihrem Browser - übertragen wird erst beim aktiven Absenden der E-Mail. Datenschutzerklärung
H200 vs H100 und B200 vs B300: vier Zahlen, die Einordnung brauchen
Wer auf den Chip-Höchstwert statt auf den Systemwert plant, kauft zu knapp.
NVIDIA gibt für das 8-GPU-System 1.440 GB an, also 180 GB je GPU. „Up to 192 GB“ ist der Chip-Höchstwert aus dem Technical Brief.
Das NVIDIA-Datenblatt weist für das HGX B300 270 GB HBM3e je GPU und 2,1 TB je System aus. NVIDIAs Entwicklerblog nennt bis zu 288 GB HBM3e je Blackwell-Ultra-GPU und schreibt dazu, dass die verfügbare HBM-Kapazität je Ausführung variiert (GB300: 279 GB, HGX B300: 270 GB). Wir rechnen mit 2,1 TB.
B300 und B200 im DetailH100 SXM und H200 SXM haben beide 3.958 TFLOPS FP8 (sparse). NVIDIAs „1,9x bei Llama2 70B“ misst Batch 32 gegen Batch 8: Der Vorsprung kommt aus mehr und schnellerem Speicher: 141 statt 80 GB (größerer Batch) und 4,8 statt 3,35 TB/s.
Acht H200 SXM kommen rechnerisch auf 272 TFLOPS FP64 und 536 über die Tensor-Cores. Für das HGX B200 nennt NVIDIA 296 TFLOPS für beide Pfade. Bei reinem FP64 liegen die Systeme etwa gleichauf.
Quellen: NVIDIA DGX B200 User Guide, Technical Brief V2.1, Blackwell Ultra Datasheet, Entwicklerblog (22.08.2025), H200 und HGX Produktseite. Abruf 05.10.2026.
Ist die B300 schneller als die B200? Bei FP4 ohne Sparsity und bei Attention
Bei FP8, FP16 und FP4 sparse nennt NVIDIA für HGX B200 und HGX B300 dieselben Werte. Mehr bietet das B300-System bei FP4 dense (+50 %), bei der Attention-Leistung (laut NVIDIA doppelt so hoch), beim Speicher und im Netzwerk. Dafür fallen FP64 und INT8 fast weg. NVIDIAs Standardzahlen sind Sparse-Werte, ohne Sparsity gilt die Hälfte.
| Wert je 8-GPU-System | HGX H200 | HGX B200 | HGX B300 |
|---|---|---|---|
| GPU-Speicher | 1.128 GB | 1.440 GB | 2,1 TB |
| FP4 sparse / dense | nicht unterstützt | 144 / 72 PFLOPS | 144 / 108 PFLOPS |
| FP8 sparse / dense | 32 PFLOPS sparse, dense nicht ausgewiesen | 72 / 36 PFLOPS | 72 / 36 PFLOPS |
| FP16/BF16 sparse | 15,8 PFLOPS | 36 PFLOPS | 36 PFLOPS |
| FP64 | 272 TFLOPS, Tensor-Core-Pfad 536 | 296 TFLOPS | 10 TFLOPS |
| INT8 sparse | 32 POPS | 72 POPS | 3 POPS |
| Netzwerk | Steckkarten | 0,8 TB/s | 1,6 TB/s |
Quellen: NVIDIA HGX Produktseite (Fußnote „Dense is 1/2 sparse spec shown“), H200 Datasheet (11/2024). Die Spalte HGX H200 ist aus acht mal dem Wert je GPU gerechnet. Abruf 05.10.2026.
HGX H200, B200 und B300 als GIGABYTE-Server: Bauhöhe, Netzteile, Zuluft
GIGABYTE baut B200 und B300 auch luftgekühlt. Der Preis dafür sind 8 statt 5 Höheneinheiten, zwölf Netzteile und eine Zuluftgrenze von 30 °C statt 35 °C. Flüssiggekühlt brauchen beide 4 Höheneinheiten.
| System | GIGABYTE-Modell | Bauhöhe | Netzteile | Kühlung | Zuluft |
|---|---|---|---|---|---|
| HGX H200, Luft | G593-ZD1-AAX3 | 5 HE | 4+2 × 3.000 W | Luft | 10-35 °C |
| HGX H200, DLC | G593-SD1-LAX3 | 5 HE | 4+2 × 3.000 W | CPU und GPU direkt flüssig | 10-35 °C |
| HGX B200, Luft | G893-ZD1-AAX5 | 8 HE | 6+6 × 3.000 W | Luft | 10-30 °C |
| HGX B200, DLC | G4L3-ZD1-LAX5 | 4 HE | 4+4 × 3.000 W | direkt flüssig mit Leckerkennung | 10-35 °C |
| HGX B300, Luft | G894-SD3-AAX7 | 8 HE | 12 × 3.000 W | Luft | 10-30 °C |
| HGX B300, DLC | G4L4-SD3-LAX7 | 4 HE | 5+5 × 3.000 W | direkt flüssig, auch DIMMs | 10-35 °C |
Quelle: GIGABYTE Produktseiten (dort als Betriebstemperatur), Abruf 05.10.2026. NVIDIA nennt für das eigene System mit 8 × B200 maximal 14,3 kW. Je Rack nennt GIGABYTE im GIGAPOD luftgekühlt 54 oder 55 kW mit HGX B200 und 66 oder 70 kW mit HGX B300.
Wie viel schneller ist die B200 als die H200? MLPerf mit Kontext
In MLPerf Inference v5.0 (02.04.2025) lieferten 8 × B200 in NVIDIAs Einreichung bei Llama 2 70B Offline das 2,8-Fache von 8 × H200. Die B200 lief dabei in FP4, die H200 endet bei FP8: Verglichen wird also FP4 gegen FP8. Bei Stable Diffusion XL, das NVIDIA nicht unter den FP4-Läufen nennt, bleibt Faktor 1,6.
Quelle: NVIDIA Developer Blog zu MLPerf Inference v5.0 (Closed Division, mlcommons.org, Einträge 5.0-0056 und 5.0-0060). HGX B300: In MLPerf Inference v6.0 (01.04.2026, Closed Division) erreichten Systeme mit 8 × B300 bei Llama 2 70B Offline 108.669 bis 115.730 Token/s, darunter der GIGABYTE G894-SD3-AAX7 mit 109.343 Token/s. 8 × B200 kamen in derselben Runde auf 101.595 bis 103.954 Token/s (Supermicro, HPE). Andere Runde und Software als die Balken oben, daher nicht direkt vergleichbar. Abruf 05.10.2026 (v5.0) und 24.10.2026 (v6.0, Ergebnis-Repository von MLCommons).
Welche Modelle passen in einen 8-GPU-Server? Der Rechenweg
DeepSeek-R1 passt in FP8 in alle drei Generationen, in FP16 nur ins HGX B300. Wir rechnen: Parameter × Byte je Parameter (FP16 = 2, FP8 = 1), plus KV-Cache für alle gleichzeitigen Anfragen, plus 15 % Reserve. Beispiel DeepSeek-R1 in FP8: 671 GB Gewichte + rund 11 GB KV-Cache, mal 1,15 = rund 785 GB.
| Modell und Präzision | Bedarf | HGX H200 (1.128 GB) | HGX B200 (1.440 GB) | HGX B300 (2,1 TB) |
|---|---|---|---|---|
| Llama 3.3 70B, FP8 | 141 GB | passt | passt | passt |
| Qwen3 235B-A22B, FP16 | 576 GB | passt | passt | passt |
| DeepSeek-R1 (671 Mrd.), FP8 | 785 GB | passt | passt | passt |
| DeepSeek-R1 (671 Mrd.), FP16 | 1.556 GB | passt nicht | passt nicht | passt |
Formel und Modellwerte: Nelpx-Modellrechner auf /llm-server-kaufen, je 20 Anfragen mit 8.000 Token, KV-Cache in FP16. Eine Speichergrenze, keine Durchsatz-Zusage.
Welche GPU für welchen Einsatz? Entscheidungstabelle
Die Generation steht am Ende der Entscheidung. Zuerst kommt der Speicher, dann die Präzision (FP4 oder FP64), dann der Raum.
| Einsatz | Passendes System | Begründung aus den Daten |
|---|---|---|
| LLM-Inferenz klein (bis rund 32 Mrd. Parameter) | RTX PRO 6000 Blackwell Server Edition oder L40S | Bis rund 32 Mrd. Parameter passt das Modell in FP8 auf eine Karte mit 48 GB, in FP16 auf die Karte mit 96 GB. NVLink ist nicht nötig. |
| LLM-Inferenz groß (235 bis 671 Mrd. Parameter) | HGX B200 oder HGX B300 | 1.440 GB oder 2,1 TB in einer NVLink-Domäne, FP4 nativ. B300 bei langen Kontexten. |
| Fine-Tuning (LoRA) | H200 NVL bis 70 Mrd. Parameter, darüber HGX B200 oder B300 | 141 GB je Karte, Bridge über 2 oder 4 Karten. |
| Training über 8 GPUs und mehr | HGX B200 oder HGX B300, mehrere Knoten als KI-Cluster | FP8 72 statt 32 PFLOPS sparse je System, NVLink 1,8 TB/s statt 900 GB/s. B300 bringt hier vor allem Speicher, Netzwerk und laut NVIDIA doppelte Attention-Leistung. |
| HPC mit FP64 (CFD, FEM, Molekulardynamik) | HGX H200 oder HGX B200, nicht B300 | FP64 je System: 272, 296 und 10 TFLOPS. |
Abgeleitet aus den Herstellerwerten der Tabellen oben. Preisrahmen: Was kostet ein GPU-Server?
H200 vs RTX PRO 6000 und L40S: wann reicht eine PCIe-Karte?
Eine PCIe-Karte reicht, solange jedes Modell auf eine oder wenige Karten passt. Die RTX PRO 6000 Blackwell Server Edition hat 96 GB und FP4, aber 1.597 GB/s gegen 4,8 TB/s der H200 NVL und kein NVLink. Die H200 NVL koppelt zwei oder vier Karten per Bridge. Die L40S mit 48 GB ist die Karte für kleine Modelle.
B200 vs RTX PRO 6000: Acht RTX PRO 6000 im GIGABYTE XL44 addieren sich auf 768 GB, die Karten sprechen jedoch nur über PCIe miteinander. Das passt für viele Modelle nebeneinander, nicht als Ersatz für ein HGX-System.
Nelpx-Preise, Stand Oktober 2026, netto laut Produktseite: H200 NVL ab 44.000 €, RTX PRO 6000 Blackwell Server Edition 16.950 € („Auf Lager“), L40S ab 9.600 € je Karte („Lieferzeit 2-3 Wochen“). GIGABYTE XL44 Preis auf Anfrage („Lieferbar · 6-12 Wochen“), HGX B200 ab 370.000 €, HGX B300 ab 450.000 € je System, HGX H200 Preis auf Anfrage.
Quellen: NVIDIA Produktseiten und H200 Datasheet (11/2024), Nelpx-Produktseiten. Abruf 05.10.2026.
Jetzt kaufen oder auf Rubin warten?
Warten lohnt nur, wenn Flüssigkeitskühlung vorhanden ist und der Bedarf Zeit hat. NVIDIA meldete am 26.08.2026, dass die Vera-Rubin-Plattform in die volle Serienproduktion hochläuft und erste Racks bei Partnern laufen.
Jetzt kaufen: H200, B200 oder B300
- HGX B200 und HGX B300 sind laut NVIDIA in Auslieferung, auch als luftgekühlte Server.
- Software legt nach: In MLPerf Inference v6.0 (01.04.2026) erreichte das GB300 NVL72 bei DeepSeek-R1 (Server) das 2,77-Fache der Vorrunde auf gleicher Hardware.
- NVIDIA projiziert für HGX Rubin NVL8 den zehnfachen Token-Durchsatz gegen HGX B200, gerechnet sparse gegen dense.
Auf Rubin warten
- 288 GB HBM4 je Rubin-GPU laut NVIDIA; Speicherbandbreite 19,2 TB/s je GPU im Vera Rubin NVL72, 130 TB/s je HGX-Rubin-NVL8-System.
- FP64 kommt zurück: 265 TFLOPS je HGX Rubin NVL8 nach 10 beim HGX B300 (HGX B200: 296).
- HGX Rubin NVL8 ist bei GIGABYTE nur flüssiggekühlt gelistet, mit 210 bis 305 kW je Rack. Für luftgekühlte Räume gibt es damit bisher keinen Nachfolger.
- Kundenprojekte mit Vera Rubin NVL72 planen wir ab H1 2027. Das ist unsere Planung, keine Aussage von NVIDIA.
Lebenszyklus: was im Oktober 2026 noch lieferbar ist
Die H100 läuft aus, die H200 ist knapp, B200 und B300 werden ausgeliefert.
| GPU | Stand laut Hersteller und Presse | Bei Nelpx |
|---|---|---|
| H100 | Angekündigt am 22.03.2022. H100 NVL laut Distributor abgekündigt: letzte Auslieferung 15.06.2026, Ersatz H200 NVL. In NVIDIAs Line Card vom August 2025 fehlt die H100. | Restbestand je Anfrage |
| H200 | Angekündigt am 13.11.2023. Presse im März 2026: Fertigung gestoppt, kurz darauf Neustart für China-Aufträge. Eine Abkündigung haben wir nicht gefunden. | H200 NVL: „Verfügbarkeit auf Anfrage“, Lieferlage sehr angespannt. HGX H200: „Restverfügbarkeit im OEM-Kanal“ |
| B200 und B300 | Angekündigt am 18.03.2024 und 18.03.2025. NVIDIA: „HGX B300 and HGX B200 shipping now“. | HGX B300 und HGX B200: „Lieferbar - Slots nach Allokation“ |
Quellen: NVIDIA Pressemitteilungen, HGX Produktseite, Line Card (08/2025); Viperatech (17.06.2025); TrendForce (05.03.2026), Semafor (17.03.2026). In Anführungszeichen: Wortlaut der Nelpx-Produktseiten. Abruf 05.10.2026.
Für wen welche GPU nicht passt: vier typische Fehlkäufe
Mit 10 TFLOPS FP64 je System ist das HGX B300 für Codes mit doppelter Genauigkeit die falsche Wahl.
Wer 30 °C Zuluft nicht halten kann, braucht das HGX H200, Direktflüssigkühlung oder einen anderen Standort.
Colocation als StandortPasst das Modell in 96 GB, genügt ein PCIe-Server mit einer oder wenigen Karten.
Einordnung: RTX-5090-ServerSXM-Systeme kommen fest mit acht GPUs. Wer klein anfangen will, nimmt einen PCIe-Server mit H200 NVL.
Häufige Fragen zu H100, H200, B200 und B300
Kann ich eine B200 oder B300 als einzelne Karte kaufen?
Als einzelne PCIe-Karte nein. B200 und B300 gibt es als SXM-Module auf dem HGX-Board, also als fertigen Server mit acht GPUs und 1.440 GB oder 2,1 TB GPU-Speicher. Als PCIe-Karten liefert Nelpx H200 NVL (141 GB), RTX PRO 6000 Blackwell Server Edition (96 GB) und L40S (48 GB).
Brauchen B200 und B300 Flüssigkeitskühlung?
Nein. GIGABYTE baut HGX B200 und HGX B300 luftgekühlt mit 8 Höheneinheiten (G893, G894) und flüssiggekühlt mit 4 (G4L3, G4L4). Die luftgekühlten Modelle sind bis 30 °C spezifiziert, die flüssiggekühlten bis 35 °C. Nur flüssiggekühlt gibt es das Rack-System GB300 NVL72.
Was bringt FP4, und welche GPU kann es?
NVFP4 speichert Gewichte mit 4,5 Bit je Wert und braucht laut NVIDIA rund 1,8-mal weniger Speicher als FP8. Ohne Sparsity rechnet das HGX B200 in FP4 doppelt so schnell wie in FP8 (72 gegen 36 PFLOPS), das HGX B300 dreimal so schnell (108 gegen 36). Nativ können das B200, B300 und RTX PRO 6000 Blackwell.
Was ist der Unterschied zwischen H200 NVL und H200 SXM?
Beide haben 141 GB und 4,8 TB/s. Die H200 NVL ist eine luftgekühlte PCIe-Karte mit bis 600 W und 3.341 TFLOPS FP8 (sparse). Die H200 SXM sitzt zu acht auf dem HGX-Board, nimmt bis 700 W auf und erreicht 3.958 TFLOPS. NVIDIA AI Enterprise ist laut Datenblatt bei der NVL enthalten, beim SXM-System ein Add-on.
Lohnt sich der Aufpreis vom HGX B200 zum HGX B300?
Bei Nelpx beginnt das HGX B200 bei 370.000 € netto, das HGX B300 bei 450.000 € netto. Dafür gibt es 2,1 TB statt 1.440 GB GPU-Speicher, 108 statt 72 PFLOPS bei FP4 dense und 1,6 statt 0,8 TB/s Netzwerk. Der Aufpreis lohnt sich, wenn Speicher oder FP4-Inferenz der Engpass ist, nicht für FP8 oder FP16.
Unterstützt die B300 MIG?
Ja. Das Blackwell Ultra Datasheet nennt sieben MIG-Instanzen je GPU. Die H200 SXM teilt sich in bis zu sieben Instanzen mit je 18 GB, die H200 NVL in sieben mit je 16,5 GB, die RTX PRO 6000 Blackwell Server Edition in bis zu vier. Die L40S unterstützt kein MIG.
Weiterführende Seiten
Angebot für H200, B200 oder B300 anfordern
Nennen Sie uns Modell, Zahl der gleichzeitigen Nutzer und Aufstellort. Sie erhalten ein Angebot mit Nettopreis und Liefertermin für das passende GIGABYTE-System.