NVIDIA H200 kaufen - 141 GB HBM3e, sofort einsatzbereit

Bei Nelpx beginnt die NVIDIA H200 NVL (141 GB, PCIe) bei 26.500 € zzgl. MwSt. pro Karte - inklusive der 5-Jahres-Subscription NVIDIA AI Enterprise. Da die GPU-Preise aktuell volatil sind, kalkuliert Nelpx tagesaktuell - Anfrage über den Konfigurator auf dieser Seite. Hochschulen und Forschungseinrichtungen erhalten eigene Konditionen - siehe GPU-Server für Hochschulen und Forschung.

Die Lieferlage der H200 ist aktuell sehr angespannt: Verfügbarkeit und Liefertermine im Distributionskanal schwanken tagesaktuell, feste Lieferzeiten lassen sich derzeit nicht seriös zusagen. Anfragen und Bestellungen, die ein komplettes System (Karte + Server) umfassen, werden bei der Zuteilung bevorzugt behandelt. Nelpx prüft Bestände und Allokation tagesaktuell - je früher die Anfrage, desto besser der Termin.

Die H200 NVL ist die einzeln kaufbare PCIe-Karte: Dual-Slot, passiv gekühlt, bis 600 W, für Standard-PCIe-Gen5-Server mit 1 bis 8 Karten - ideal zum Nachrüsten und für flexible Stückzahlen. Die H200 SXM sitzt fest verlötet auf HGX-Baseboards (4 oder 8 GPUs), bietet bis 700 W und NVLink über alle 8 GPUs. Faustregel: Einzelkarten und Bestandsserver → NVL; neues 8-GPU-System mit maximaler GPU-zu-GPU-Bandbreite → SXM-System. Nelpx liefert beides.

Die H200 ist die speicherstärkere Hopper-GPU: Die H200 NVL hat 141 GB HBM3e und 4,8 TB/s Bandbreite. Die H100 NVL hat 94 GB und 3,9 TB/s, die H100 PCIe mit 80 GB (HBM2e) 2 TB/s; 3,35 TB/s gilt nur für die H100 SXM im HGX-System. Die Rechenwerte von H200 NVL und H100 NVL sind laut Datenblatt gleich. Bei speichergebundenen Workloads wie LLM-Inferenz bringt der Speicher den Schub: NVIDIA nennt bis zu 1,7× mehr LLM-Durchsatz für die H200 NVL gegenüber der H100 NVL (Herstellerangabe). Dazu kommt schnelleres NVLink (900 statt 600 GB/s per Bridge). Die H100 ist abgekündigt: Die 80-GB-PCIe-Karte wurde laut OEM-Mitteilung 2024 eingestellt, für die H100 NVL war die letzte Auslieferung laut Distribution der 15.06.2026. Mehr dazu: NVIDIA H100 kaufen und der Vergleich H100, H200, B200 und B300.

Ja - in FP8-Quantisierung belegt ein 70B-Modell wie Llama 3.3 rund 70-75 GB und läuft damit komfortabel auf einer H200 mit reichlich Reserve für den KV-Cache und lange Kontexte. Selbst FP16 (~141 GB) passt gerade noch auf die Karte. Auch Qwen2.5-72B (FP8 ~72 GB) und Mistral Large 123B (FP8 ~123 GB) laufen auf einer einzelnen Karte - erst Modelle jenseits der 141 GB brauchen den NVLink-Verbund oder ein 8-GPU-System. Alle Werte sind Richtwerte für Gewichte plus KV-Cache-Reserve.

Die H200 NVL ist auf bis zu 600 W konfigurierbar (die SXM-Variante bis 700 W). Die Karte ist passiv gekühlt - der Server muss den Luftstrom liefern, weshalb sie nur in dafür qualifizierte Chassis gehört. Als Planungsgröße: 4 Karten ≈ 2,4 kW, 8 Karten ≈ 4,8 kW allein für die GPUs, plus Server. Das bleibt klassische Luftkühlung im Bestands-Rack - einer der Hauptgründe, 2026 zur H200 statt zu flüssigkeitsgekühlten Systemen zu greifen.

Wenn der Server PCIe Gen5 x16, einen Dual-Slot-Platz, ausreichend Durchzugskühlung und Netzteil-Reserve für bis zu 600 W pro Karte bietet - sehr wahrscheinlich ja. GIGABYTE gibt die H200 NVL unter anderem in den Serien G294 (2 HE, bis 4 Karten) und G494 (4 HE, bis 8 Karten) frei (GIGABYTE-Angaben, Stand 25.08.2026). Nennen Sie uns das Zielsystem, dann berücksichtigen wir es im Angebot; auf Wunsch liefert Nelpx den passenden GPU-Server gleich mit. Welche GIGABYTE-Barebones welche Karte freigeben, zeigt unser GPU-Kompatibilitäts-Finder.

Über steckbare NVLink-Bridges verbinden Sie 2 oder 4 Karten mit 900 GB/s pro GPU - ein 4er-Verbund wirkt dann wie ein Beschleuniger mit 564 GB HBM3e. Karten ohne Bridge kommunizieren über PCIe Gen5 mit 128 GB/s. Für Modelle über 141 GB oder Tensor-Parallelismus ist die Bridge deshalb die wichtigste Zubehör-Entscheidung - im Konfigurator wählbar, Nelpx liefert die passenden Bridges mit.

Ja - die H200 NVL lässt sich in bis zu 7 vollständig isolierte MIG-Instanzen mit je 16,5 GB aufteilen. Damit bedient eine Karte mehrere Teams oder Services parallel: etwa mehrere 7B/14B-Modelle gleichzeitig oder getrennte Dev-/Test-/Prod-Instanzen. Zusammen mit der enthaltenen NVIDIA-AI-Enterprise-Software ist das der Baustein für Multi-Tenant-Inferenz on-premises.

Ja - jede H200 NVL enthält eine 5-Jahres-Subscription für NVIDIA AI Enterprise inklusive NIM-Microservices; aktiviert wird sie über die GPU-Seriennummer. Das ist ein realer Kostenvorteil gegenüber SXM-Systemen und anderen Karten, bei denen die Software separat lizenziert wird. Damit sind Produktions-Stack, Enterprise-Support für die Software und validierte Container ab Tag eins dabei.

Für Modelle bis 141 GB - also die gesamte 7B-bis-70B-Klasse in FP8 - ist die H200 NVL 2026 der Preis-Leistungs-Kauf: luftgekühlt im Standard-Server, reifster Software-Stack. Blackwell (HGX B200/B300) gewinnt bei größeren Modellen, FP4-Großserving und Cluster-Training. Faustregel: Passt der Workload auf 1-8 NVL-Karten, kaufen Sie H200; wächst er darüber hinaus, planen Sie direkt ein HGX-System - Nelpx rechnet beide Wege im Angebot vor.

Zwei Gründe: Planbarkeit und Datenhoheit. Eine gekaufte Karte verursacht keine Mietkosten je GPU-Stunde; ob sich der Kauf rechnet, hängt von Ihrer Auslastung ab - je höher die Dauerlast, desto eher. Und on-premises bleiben Prompts, Trainingsdaten und Modelle vollständig im eigenen Haus.