NVIDIA H200 kaufen - 141 GB HBM3e, sofort einsatzbereit
Die Datacenter-GPU für LLM-Inferenz im Standard-Server: 141 GB HBM3e mit 4,8 TB/s - Llama 70B läuft in FP8 auf einer einzigen Karte. Als PCIe-Karte passt die H200 NVL in vorhandene Gen5-Server, luftgekühlt, 1 bis 8 Karten. Nelpx liefert Karte, NVLink-Bridges und auf Wunsch den passenden Server - Angebot in 48 h.
IT-Systemhaus für HPC & AI-Infrastruktur · Lieferung EU-weit · Tagesaktuelle Preise & Verfügbarkeit
Was kostet eine NVIDIA H200 - und was ist sie?
Die NVIDIA H200 ist die Hopper-Datacenter-GPU mit 141 GB HBM3e und 4,8 TB/s Speicherbandbreite - als einzeln kaufbare PCIe-Karte heißt sie H200 NVL. Bei Nelpx kostet sie ab 26.500 € zzgl. MwSt. pro Karte; die Lieferlage ist aktuell sehr angespannt - Nelpx prüft Verfügbarkeit und Allokation tagesaktuell, Anfragen inklusive System werden bevorzugt. Im Preis enthalten ist eine 5-Jahres-Subscription NVIDIA AI Enterprise. Die Karte läuft luftgekühlt in Standard-PCIe-Gen5-Servern mit 1 bis 8 GPUs und hält ein 70B-Modell in FP8 komplett auf einer Karte - das macht sie 2026 zum Preis-Leistungs-Kauf für LLM-Inferenz, Fine-Tuning und RAG on-premises.
- Preis
- Ab 26.500 € netto pro Karte - GPU-Preise sind aktuell volatil, Nelpx kalkuliert tagesaktuell; Angebot in der Regel in 48 h.
- Verfügbarkeit
- Lieferlage aktuell sehr angespannt - Nelpx prüft Bestände und Allokation tagesaktuell; Bestellungen inklusive System werden bevorzugt.
- Software inklusive
- 5 Jahre NVIDIA AI Enterprise (inkl. NIM) pro Karte - Aktivierung über die GPU-Seriennummer.
Stand: 27. Juli 2026 · Quellen: NVIDIA-H200-Produktseite & -Datasheet, deutsche Distributionspreise - Herstellerclaims sind gekennzeichnet. Details: H200-Datenblatt.
H200 NVL: Datacenter-Power für den Standard-Server
Kein Baseboard, keine Flüssigkühlung, kein Facility-Projekt: Die NVL-Karte bringt die H200 in jeden qualifizierten PCIe-Gen5-Server - und skaliert per NVLink-Bridge.
141 GB HBM3e, 4,8 TB/s, PCIe Gen5 x16, Dual-Slot, passiv gekühlt, bis 600 W (konfigurierbar). MIG-fähig (7× 16,5 GB), Confidential Computing, 7 NVDEC + 7 JPEG-Decoder für Video- und Multimodal-Pipelines.
2- oder 4-Wege-Bridges verbinden Karten mit 900 GB/s pro GPU - ein 4er-Verbund wirkt wie ein Beschleuniger mit 564 GB HBM3e. Bis zu 8 Karten pro Server (2× 4-Wege-Domänen) nach NVIDIA-Referenzarchitektur.
Jede H200 NVL enthält eine 5-Jahres-Subscription NVIDIA AI Enterprise inkl. NIM-Microservices - Produktions-Stack, validierte Container und Software-Support ab Tag eins, aktiviert per GPU-Seriennummer.
Werte: aktuelle NVIDIA-H200-Produktseite (NVL-Spalte) und H200-NVL-Datasheet, Stand 27.07.2026. Achtung bei Fremdquellen: Vergleichsportale listen für die NVL teils fälschlich SXM-Werte (3.958 TFLOPS / 700 W).
Passt mein Modell in 141 GB?
Die wichtigste Frage vor dem Kauf - hier die gängigen Modelle mit Speicherbedarf (Richtwerte: Gewichte + Reserve für KV-Cache; lange Kontexte brauchen mehr):
Richtwerte aus gängigen VRAM-Kalkulatoren (apxml.com, gigagpu.com), Stand 27.07.2026 - Faustregel: FP16 ≈ 2 Byte, FP8 ≈ 1 Byte, INT4 ≈ 0,5 Byte pro Parameter, plus 10-20 % Overhead. Per MIG laufen alternativ bis zu 7 kleinere Modelle (7B/14B) parallel auf einer Karte.
Ihre H200-Konfiguration.
In 2 Minuten angefragt.
Stückzahl, NVLink, Server und Services wählen - als PDF herunterladen oder direkt an Nelpx senden. Angebot mit tagesaktuellem Preis in der Regel innerhalb von 48 Stunden.
= 141 GB HBM3e · ~0,6 kW GPU-Last
NVLink-Bridges sind ab 2 Karten wählbar - eine Einzelkarte kommuniziert über PCIe Gen5.
H200 NVL im Vergleich: H100 NVL & RTX PRO 6000
Der H200-Vorsprung liegt beim Speicher - genau dort, wo LLM-Inferenz limitiert ist. Die Rechenwerke sind gegenüber der H100 praktisch identisch.
GPU-Speicher pro Karte
GB - HBM3e vs. HBM3 vs. GDDR7
Speicherbandbreite
TB/s - entscheidend für Token-Durchsatz
GPU-zu-GPU-Verbindung
GB/s - NVLink-Bridge vs. nur PCIe
Ein 70B-Modell (FP8, ~75 GB)
Wie viele Karten braucht es? - weniger ist besser
Werte: NVIDIA-Produktseiten H200/H100 (NVL-Spalten) und RTX-PRO-6000-Blackwell-Server-Edition-Daten, Stand 27.07.2026. NVIDIA-Claim „bis 1,7× LLM-Inferenz vs. H100 NVL“ ist eine Herstellerangabe. Die RTX PRO 6000 SE ist die deutlich günstigere PCIe-Alternative ohne HBM/NVLink - zur Produktseite. Einordnung gegenüber den RTX-PRO-Blackwell-Karten: NVIDIA RTX PRO Blackwell GPUs im Vergleich.
Alle technischen Daten anzeigen (NVIDIA H200 NVL)
| Spezifikation | NVIDIA H200 NVL |
|---|---|
| Architektur | NVIDIA Hopper · Tensor-Cores 4. Gen · Transformer Engine |
| GPU-Speicher | 141 GB HBM3e · 4,8 TB/s Bandbreite |
| Tensor-Leistung | FP8/INT8: 3.341 TFLOPS/TOPS sparse (~1.671 dense) · FP16/BF16: 1.671 sparse · TF32: 835 sparse |
| HPC-Leistung | FP64: 30 TFLOPS · FP64 Tensor: 60 TFLOPS · FP32: 60 TFLOPS |
| NVLink | 2-/4-Wege-Bridge: 900 GB/s pro GPU (4er-Verbund: 564 GB gemeinsam) · PCIe Gen5: 128 GB/s |
| MIG | bis 7 Instanzen à 16,5 GB |
| Decoder | 7× NVDEC · 7× JPEG |
| Confidential Computing | unterstützt |
| Formfaktor | PCIe Gen5 x16 · Dual-Slot · passiv gekühlt (Server-Airflow erforderlich) |
| TDP | bis 600 W (konfigurierbar) · Stromversorgung über 16-Pin-Anschluss |
| Software | NVIDIA AI Enterprise: 5-Jahres-Subscription inklusive (inkl. NIM) · CUDA · vGPU-Support (AI Enterprise Infra ab 6.1) |
| Server | NVIDIA-Certified/MGX: 1-8 Karten (2× 4-Wege-NVLink-Domänen) - Supermicro, GIGABYTE G293/G493, Dell, HPE, Lenovo |
| Abgrenzung SXM | H200 SXM: bis 700 W, MIG à 18 GB, FP8 3.958 TFLOPS sparse - nur in HGX-/DGX-Systemen |
| Launch / Status | NVL vorgestellt 11/2024 (SC24), lieferbar seit 12/2024 · 2026 regulär im Portfolio - Lieferlage aktuell angespannt |
| Garantie | Herstellergarantie über den Distributionskanal (typ. 3 Jahre) - Nelpx weist die Garantiebedingungen im Angebot aus |
Von einer Karte zum 8-GPU-Server
Die H200 NVL wächst mit dem Projekt - vom PoC auf einer Karte bis zum vollen PCIe-GPU-Server nach NVIDIA-Referenzarchitektur.
Einzelkarten mit Kompatibilitätsprüfung für Ihren Bestandsserver, fertig konfigurierte PCIe-GPU-Server oder gleich das HGX-System: Nelpx kalkuliert die Varianten transparent gegeneinander - mit tagesaktuellen Preisen und Angebot in der Regel innerhalb von 48 Stunden.
Wofür lohnt sich die H200?
Der Kern-Use-Case: 70B-Modelle in FP8 auf einer Karte, mit 4,8 TB/s Bandbreite für hohen Token-Durchsatz und Platz für lange Kontexte - internes RAG, Chatbots, Copilots.
Der unterschätzte Weg zu KI-Kapazität: vorhandene PCIe-Gen5-Server um 1-8 Karten erweitern statt neues System kaufen - luftgekühlt, ohne Facility-Umbau.
141 GB halten Modell, Gradienten und Batches der 7B-70B-Klasse - Fine-Tuning-Läufe, die auf 80-GB-Karten scheitern, laufen hier durch.
Bis 7 isolierte Instanzen à 16,5 GB: mehrere Teams, Modelle oder Umgebungen auf einer Karte - mit der enthaltenen AI-Enterprise-Software sauber orchestriert.
Prompts, Dokumente und Modelle bleiben im Haus - die Alternative zur US-Cloud-API, mit Break-even gegenüber typischen Cloud-Mieten als Richtwert nach 10-12 Monaten Dauerlast.
60 TFLOPS FP64-Tensor-Leistung und die schnellste Speicheranbindung ihrer Klasse - für CFD, Molekulardynamik und wissenschaftliches Rechnen neben den KI-Workloads.
H200 kaufen - oder etwas anderes?
Die ehrliche Entscheidungshilfe - denn nicht jedes Projekt braucht dieselbe GPU:
Darum die H200 NVL
- 141 GB auf einer Karte: die ganze 70B-Klasse in FP8 ohne Sharding - mit 4,8 TB/s Bandbreite.
- Verfügbarkeit: Lieferlage aktuell angespannt - Nelpx prüft tagesaktuell; Anfragen inklusive System werden bevorzugt zugeteilt.
- Standard-Server statt Facility-Projekt: PCIe Gen5, luftgekühlt, 1-8 Karten - auch als Nachrüstung.
- Software inklusive: 5 Jahre NVIDIA AI Enterprise pro Karte - bei anderen SKUs ein teures Add-on.
- Reifster Stack: Hopper hat 2026 die größte installierte Basis - jedes Framework läuft ab Tag eins.
Die Alternativen ehrlich betrachtet
- RTX PRO 6000 Blackwell SE: 96 GB GDDR7 zum deutlich niedrigeren Preis - gut für kleinere Modelle und Grafik-/KI-Mischbetrieb, aber ohne HBM und NVLink (zur Produktseite).
- HGX B200: ab der Cluster-Klasse mit NVLink über 8 GPUs und 1,4 TB HBM3e pro System (zum B200-Konfigurator).
- HGX H200 (SXM): dieselbe GPU als 8-GPU-System mit NVSwitch - DeepSeek-R1 671B läuft auf einem Node (zur HGX-H200-Seite).
- HGX B300 / DGX B300: für Modelle jenseits der NVL-Verbünde, FP4-Großserving und maximale Dichte (HGX B300).
- Erst prototypisieren: für Entwicklung unterhalb der Datacenter-Klasse gibt es den DGX Spark.
- Kompletter GPU-Server: Karte plus passende Plattform in einem Projekt - über den GPU-Server-Konfigurator oder direkt den 8-GPU-Server GIGABYTE G493.
Häufige Fragen zur NVIDIA H200
Was kostet eine NVIDIA H200?
Bei Nelpx beginnt die NVIDIA H200 NVL (141 GB, PCIe) bei 26.500 € zzgl. MwSt. pro Karte - inklusive der 5-Jahres-Subscription NVIDIA AI Enterprise. Der deutsche Marktpreis liegt Mitte 2026 je nach Händler und Tagesverfügbarkeit bei etwa 26.000 bis 27.500 € netto; H200-SXM-Systeme (HGX/DGX) liegen deutlich darüber. Da die GPU-Preise aktuell volatil sind, kalkuliert Nelpx tagesaktuell - Angebot in der Regel innerhalb von 48 Stunden über den Konfigurator auf dieser Seite. Hochschulen und Forschungseinrichtungen erhalten eigene Konditionen - siehe H200 EDU-Preise.
Ist die NVIDIA H200 lieferbar und wie lange dauert die Lieferung?
Die Lieferlage der H200 ist aktuell sehr angespannt: Verfügbarkeit und Liefertermine im Distributionskanal schwanken tagesaktuell, feste Lieferzeiten lassen sich derzeit nicht seriös zusagen. Anfragen und Bestellungen, die ein komplettes System (Karte + Server) umfassen, werden bei der Zuteilung bevorzugt behandelt. Nelpx prüft Bestände und Allokation tagesaktuell - je früher die Anfrage, desto besser der Termin.
H200 NVL oder H200 SXM - welche Variante brauche ich?
Die H200 NVL ist die einzeln kaufbare PCIe-Karte: Dual-Slot, passiv gekühlt, bis 600 W, für Standard-PCIe-Gen5-Server mit 1 bis 8 Karten - ideal zum Nachrüsten und für flexible Stückzahlen. Die H200 SXM sitzt fest verlötet auf HGX-Baseboards (4 oder 8 GPUs) bzw. im DGX H200, bietet bis 700 W und NVLink über alle 8 GPUs. Faustregel: Einzelkarten und Bestandsserver → NVL; neues 8-GPU-System mit maximaler GPU-zu-GPU-Bandbreite → SXM-System. Nelpx liefert beides.
Was ist der Unterschied zwischen H100 und H200?
Die H200 ist die speicherstärkere Hopper-GPU: 141 GB HBM3e statt 80/94 GB und 4,8 TB/s statt 3,35/3,9 TB/s Bandbreite - die Rechenwerke sind praktisch identisch. Bei speichergebundenen Workloads wie LLM-Inferenz bringt genau das den Schub: NVIDIA nennt bis zu 1,7× mehr LLM-Durchsatz für die H200 NVL gegenüber der H100 NVL (Herstellerangabe). Dazu kommt schnelleres NVLink (900 statt 600 GB/s per Bridge). Neue H100-Karten sind im deutschen Handel kaum noch verfügbar.
Läuft Llama 70B auf einer einzigen H200?
Ja - in FP8-Quantisierung belegt ein 70B-Modell wie Llama 3.3 rund 70-75 GB und läuft damit komfortabel auf einer H200 mit reichlich Reserve für den KV-Cache und lange Kontexte. Selbst FP16 (~141 GB) passt gerade noch auf die Karte. Auch Qwen2.5-72B (FP8 ~72 GB) und Mistral Large 123B (FP8 ~123 GB) laufen auf einer einzelnen Karte - erst Modelle jenseits der 141 GB brauchen den NVLink-Verbund oder ein 8-GPU-System. Alle Werte sind Richtwerte für Gewichte plus KV-Cache-Reserve.
Wie viel Strom verbraucht die NVIDIA H200?
Die H200 NVL ist auf bis zu 600 W konfigurierbar (die SXM-Variante bis 700 W). Die Karte ist passiv gekühlt - der Server muss den Luftstrom liefern, weshalb sie nur in dafür qualifizierte Chassis gehört. Als Planungsgröße: 4 Karten ≈ 2,4 kW, 8 Karten ≈ 4,8 kW allein für die GPUs, plus Server. Das bleibt klassische Luftkühlung im Bestands-Rack - einer der Hauptgründe, 2026 zur H200 statt zu flüssigkeitsgekühlten Systemen zu greifen.
Passt die H200 NVL in meinen vorhandenen Server?
Wenn der Server PCIe Gen5 x16, einen Dual-Slot-Platz, ausreichend Durchzugskühlung und Netzteil-Reserve für bis zu 600 W pro Karte bietet - sehr wahrscheinlich ja. NVIDIA führt dafür qualifizierte Systeme (NVIDIA-Certified/MGX) von Supermicro, GIGABYTE (G293/G493), Dell, HPE und Lenovo mit bis zu 8 Karten. Nelpx prüft Ihre Server-Konfiguration vor der Bestellung kostenlos - und liefert auf Wunsch den passenden GPU-Server gleich mit. Welche GIGABYTE-Barebones welche Karte freigeben, zeigt unser GPU-Kompatibilitäts-Finder.
Wie funktioniert NVLink bei der H200 NVL?
Über steckbare NVLink-Bridges verbinden Sie 2 oder 4 Karten mit 900 GB/s pro GPU - ein 4er-Verbund wirkt dann wie ein Beschleuniger mit 564 GB HBM3e. Karten ohne Bridge kommunizieren über PCIe Gen5 mit 128 GB/s. Für Modelle über 141 GB oder Tensor-Parallelismus ist die Bridge deshalb die wichtigste Zubehör-Entscheidung - im Konfigurator wählbar, Nelpx liefert die passenden Bridges mit.
Unterstützt die H200 MIG (Multi-Instance GPU)?
Ja - die H200 NVL lässt sich in bis zu 7 vollständig isolierte MIG-Instanzen mit je 16,5 GB aufteilen. Damit bedient eine Karte mehrere Teams oder Services parallel: etwa mehrere 7B/14B-Modelle gleichzeitig oder getrennte Dev-/Test-/Prod-Instanzen. Zusammen mit der enthaltenen NVIDIA-AI-Enterprise-Software ist das der Baustein für Multi-Tenant-Inferenz on-premises.
Ist NVIDIA AI Enterprise beim Kauf der H200 enthalten?
Ja - jede H200 NVL enthält eine 5-Jahres-Subscription für NVIDIA AI Enterprise inklusive NIM-Microservices; aktiviert wird sie über die GPU-Seriennummer. Das ist ein realer Kostenvorteil gegenüber SXM-Systemen und anderen Karten, bei denen die Software separat lizenziert wird. Damit sind Produktions-Stack, Enterprise-Support für die Software und validierte Container ab Tag eins dabei.
Lohnt sich die H200 2026 noch - oder gleich Blackwell?
Für Modelle bis 141 GB - also die gesamte 7B-bis-70B-Klasse in FP8 - ist die H200 NVL 2026 der Preis-Leistungs-Kauf: luftgekühlt im Standard-Server, reifster Software-Stack und rund die Hälfte eines vergleichbaren Blackwell-Systemplatzes. Blackwell (HGX B200/B300) gewinnt bei größeren Modellen, FP4-Großserving und Cluster-Training. Ehrliche Faustregel: Passt der Workload auf 1-8 NVL-Karten, kaufen Sie H200; wächst er darüber hinaus, planen Sie direkt ein HGX-System - Nelpx rechnet beide Wege im Angebot vor.
Warum eine H200 kaufen statt GPU-Cloud mieten?
Zwei Gründe: Wirtschaftlichkeit und Datenhoheit. H200-Cloud-Instanzen kosten bei etablierten Anbietern typischerweise 3 bis 4,50 US-Dollar pro GPU-Stunde (Discount-Anbieter teils darunter) - bei Dauerlast auf diesem Preisniveau amortisiert sich die gekaufte Karte als Richtwert in 10 bis 12 Monaten, danach rechnet sie Jahre für Sie. Und on-premises bleiben Prompts, Trainingsdaten und Modelle vollständig im Haus - das vereinfacht DSGVO-Bewertung und EU-AI-Act-Einordnung erheblich. Nelpx unterstützt auch Finanzierung und Leasing.
Ihre H200 - angefragt in 2 Minuten
Ab 26.500 € zzgl. MwSt. pro Karte, inklusive 5 Jahren NVIDIA AI Enterprise. GPU-Preise sind volatil und Lagerbestände wechseln täglich: Wer jetzt anfragt, sichert Preis und Karte. Nelpx liefert einzeln, im Verbund oder mit passendem Server.
Jetzt konfigurieren & Angebot einholenTagesaktueller Preis · Angebot in der Regel innerhalb von 48 h · EU-weite Lieferung & Integration
NVIDIA H200 kaufen - 141 GB HBM3e, sofort einsatzbereit
Die Datacenter-GPU für LLM-Inferenz im Standard-Server: 141 GB HBM3e mit 4,8 TB/s - Llama 70B läuft in FP8 auf einer einzigen Karte. Als PCIe-Karte passt die H200 NVL in vorhandene Gen5-Server, luftgekühlt, 1 bis 8 Karten. Nelpx liefert Karte, NVLink-Bridges und auf Wunsch den passenden Server - Angebot in 48 h.
IT-Systemhaus für HPC & AI-Infrastruktur · Lieferung EU-weit · Tagesaktuelle Preise & Verfügbarkeit
Was kostet eine NVIDIA H200 - und was ist sie?
Die NVIDIA H200 ist die Hopper-Datacenter-GPU mit 141 GB HBM3e und 4,8 TB/s Speicherbandbreite - als einzeln kaufbare PCIe-Karte heißt sie H200 NVL. Bei Nelpx kostet sie ab 26.500 € zzgl. MwSt. pro Karte; die Lieferlage ist aktuell sehr angespannt - Nelpx prüft Verfügbarkeit und Allokation tagesaktuell, Anfragen inklusive System werden bevorzugt. Im Preis enthalten ist eine 5-Jahres-Subscription NVIDIA AI Enterprise. Die Karte läuft luftgekühlt in Standard-PCIe-Gen5-Servern mit 1 bis 8 GPUs und hält ein 70B-Modell in FP8 komplett auf einer Karte - das macht sie 2026 zum Preis-Leistungs-Kauf für LLM-Inferenz, Fine-Tuning und RAG on-premises.
- Preis
- Ab 26.500 € netto pro Karte - GPU-Preise sind aktuell volatil, Nelpx kalkuliert tagesaktuell; Angebot in der Regel in 48 h.
- Verfügbarkeit
- Lieferlage aktuell sehr angespannt - Nelpx prüft Bestände und Allokation tagesaktuell; Bestellungen inklusive System werden bevorzugt.
- Software inklusive
- 5 Jahre NVIDIA AI Enterprise (inkl. NIM) pro Karte - Aktivierung über die GPU-Seriennummer.
Stand: 27. Juli 2026 · Quellen: NVIDIA-H200-Produktseite & -Datasheet, deutsche Distributionspreise - Herstellerclaims sind gekennzeichnet. Details: H200-Datenblatt.
H200 NVL: Datacenter-Power für den Standard-Server
Kein Baseboard, keine Flüssigkühlung, kein Facility-Projekt: Die NVL-Karte bringt die H200 in jeden qualifizierten PCIe-Gen5-Server - und skaliert per NVLink-Bridge.
141 GB HBM3e, 4,8 TB/s, PCIe Gen5 x16, Dual-Slot, passiv gekühlt, bis 600 W (konfigurierbar). MIG-fähig (7× 16,5 GB), Confidential Computing, 7 NVDEC + 7 JPEG-Decoder für Video- und Multimodal-Pipelines.
2- oder 4-Wege-Bridges verbinden Karten mit 900 GB/s pro GPU - ein 4er-Verbund wirkt wie ein Beschleuniger mit 564 GB HBM3e. Bis zu 8 Karten pro Server (2× 4-Wege-Domänen) nach NVIDIA-Referenzarchitektur.
Jede H200 NVL enthält eine 5-Jahres-Subscription NVIDIA AI Enterprise inkl. NIM-Microservices - Produktions-Stack, validierte Container und Software-Support ab Tag eins, aktiviert per GPU-Seriennummer.
Werte: aktuelle NVIDIA-H200-Produktseite (NVL-Spalte) und H200-NVL-Datasheet, Stand 27.07.2026. Achtung bei Fremdquellen: Vergleichsportale listen für die NVL teils fälschlich SXM-Werte (3.958 TFLOPS / 700 W).
Passt mein Modell in 141 GB?
Die wichtigste Frage vor dem Kauf - hier die gängigen Modelle mit Speicherbedarf (Richtwerte: Gewichte + Reserve für KV-Cache; lange Kontexte brauchen mehr):
Richtwerte aus gängigen VRAM-Kalkulatoren (apxml.com, gigagpu.com), Stand 27.07.2026 - Faustregel: FP16 ≈ 2 Byte, FP8 ≈ 1 Byte, INT4 ≈ 0,5 Byte pro Parameter, plus 10-20 % Overhead. Per MIG laufen alternativ bis zu 7 kleinere Modelle (7B/14B) parallel auf einer Karte.
Ihre H200-Konfiguration.
In 2 Minuten angefragt.
Stückzahl, NVLink, Server und Services wählen - als PDF herunterladen oder direkt an Nelpx senden. Angebot mit tagesaktuellem Preis in der Regel innerhalb von 48 Stunden.
= 141 GB HBM3e · ~0,6 kW GPU-Last
NVLink-Bridges sind ab 2 Karten wählbar - eine Einzelkarte kommuniziert über PCIe Gen5.
H200 NVL im Vergleich: H100 NVL & RTX PRO 6000
Der H200-Vorsprung liegt beim Speicher - genau dort, wo LLM-Inferenz limitiert ist. Die Rechenwerke sind gegenüber der H100 praktisch identisch.
GPU-Speicher pro Karte
GB - HBM3e vs. HBM3 vs. GDDR7
Speicherbandbreite
TB/s - entscheidend für Token-Durchsatz
GPU-zu-GPU-Verbindung
GB/s - NVLink-Bridge vs. nur PCIe
Ein 70B-Modell (FP8, ~75 GB)
Wie viele Karten braucht es? - weniger ist besser
Werte: NVIDIA-Produktseiten H200/H100 (NVL-Spalten) und RTX-PRO-6000-Blackwell-Server-Edition-Daten, Stand 27.07.2026. NVIDIA-Claim „bis 1,7× LLM-Inferenz vs. H100 NVL“ ist eine Herstellerangabe. Die RTX PRO 6000 SE ist die deutlich günstigere PCIe-Alternative ohne HBM/NVLink - zur Produktseite. Einordnung gegenüber den RTX-PRO-Blackwell-Karten: NVIDIA RTX PRO Blackwell GPUs im Vergleich.
Alle technischen Daten anzeigen (NVIDIA H200 NVL)
| Spezifikation | NVIDIA H200 NVL |
|---|---|
| Architektur | NVIDIA Hopper · Tensor-Cores 4. Gen · Transformer Engine |
| GPU-Speicher | 141 GB HBM3e · 4,8 TB/s Bandbreite |
| Tensor-Leistung | FP8/INT8: 3.341 TFLOPS/TOPS sparse (~1.671 dense) · FP16/BF16: 1.671 sparse · TF32: 835 sparse |
| HPC-Leistung | FP64: 30 TFLOPS · FP64 Tensor: 60 TFLOPS · FP32: 60 TFLOPS |
| NVLink | 2-/4-Wege-Bridge: 900 GB/s pro GPU (4er-Verbund: 564 GB gemeinsam) · PCIe Gen5: 128 GB/s |
| MIG | bis 7 Instanzen à 16,5 GB |
| Decoder | 7× NVDEC · 7× JPEG |
| Confidential Computing | unterstützt |
| Formfaktor | PCIe Gen5 x16 · Dual-Slot · passiv gekühlt (Server-Airflow erforderlich) |
| TDP | bis 600 W (konfigurierbar) · Stromversorgung über 16-Pin-Anschluss |
| Software | NVIDIA AI Enterprise: 5-Jahres-Subscription inklusive (inkl. NIM) · CUDA · vGPU-Support (AI Enterprise Infra ab 6.1) |
| Server | NVIDIA-Certified/MGX: 1-8 Karten (2× 4-Wege-NVLink-Domänen) - Supermicro, GIGABYTE G293/G493, Dell, HPE, Lenovo |
| Abgrenzung SXM | H200 SXM: bis 700 W, MIG à 18 GB, FP8 3.958 TFLOPS sparse - nur in HGX-/DGX-Systemen |
| Launch / Status | NVL vorgestellt 11/2024 (SC24), lieferbar seit 12/2024 · 2026 regulär im Portfolio - Lieferlage aktuell angespannt |
| Garantie | Herstellergarantie über den Distributionskanal (typ. 3 Jahre) - Nelpx weist die Garantiebedingungen im Angebot aus |
Von einer Karte zum 8-GPU-Server
Die H200 NVL wächst mit dem Projekt - vom PoC auf einer Karte bis zum vollen PCIe-GPU-Server nach NVIDIA-Referenzarchitektur.
Einzelkarten mit Kompatibilitätsprüfung für Ihren Bestandsserver, fertig konfigurierte PCIe-GPU-Server oder gleich das HGX-System: Nelpx kalkuliert die Varianten transparent gegeneinander - mit tagesaktuellen Preisen und Angebot in der Regel innerhalb von 48 Stunden.
Wofür lohnt sich die H200?
Der Kern-Use-Case: 70B-Modelle in FP8 auf einer Karte, mit 4,8 TB/s Bandbreite für hohen Token-Durchsatz und Platz für lange Kontexte - internes RAG, Chatbots, Copilots.
Der unterschätzte Weg zu KI-Kapazität: vorhandene PCIe-Gen5-Server um 1-8 Karten erweitern statt neues System kaufen - luftgekühlt, ohne Facility-Umbau.
141 GB halten Modell, Gradienten und Batches der 7B-70B-Klasse - Fine-Tuning-Läufe, die auf 80-GB-Karten scheitern, laufen hier durch.
Bis 7 isolierte Instanzen à 16,5 GB: mehrere Teams, Modelle oder Umgebungen auf einer Karte - mit der enthaltenen AI-Enterprise-Software sauber orchestriert.
Prompts, Dokumente und Modelle bleiben im Haus - die Alternative zur US-Cloud-API, mit Break-even gegenüber typischen Cloud-Mieten als Richtwert nach 10-12 Monaten Dauerlast.
60 TFLOPS FP64-Tensor-Leistung und die schnellste Speicheranbindung ihrer Klasse - für CFD, Molekulardynamik und wissenschaftliches Rechnen neben den KI-Workloads.
H200 kaufen - oder etwas anderes?
Die ehrliche Entscheidungshilfe - denn nicht jedes Projekt braucht dieselbe GPU:
Darum die H200 NVL
- 141 GB auf einer Karte: die ganze 70B-Klasse in FP8 ohne Sharding - mit 4,8 TB/s Bandbreite.
- Verfügbarkeit: Lieferlage aktuell angespannt - Nelpx prüft tagesaktuell; Anfragen inklusive System werden bevorzugt zugeteilt.
- Standard-Server statt Facility-Projekt: PCIe Gen5, luftgekühlt, 1-8 Karten - auch als Nachrüstung.
- Software inklusive: 5 Jahre NVIDIA AI Enterprise pro Karte - bei anderen SKUs ein teures Add-on.
- Reifster Stack: Hopper hat 2026 die größte installierte Basis - jedes Framework läuft ab Tag eins.
Die Alternativen ehrlich betrachtet
- RTX PRO 6000 Blackwell SE: 96 GB GDDR7 zum deutlich niedrigeren Preis - gut für kleinere Modelle und Grafik-/KI-Mischbetrieb, aber ohne HBM und NVLink (zur Produktseite).
- HGX B200: ab der Cluster-Klasse mit NVLink über 8 GPUs und 1,4 TB HBM3e pro System (zum B200-Konfigurator).
- HGX H200 (SXM): dieselbe GPU als 8-GPU-System mit NVSwitch - DeepSeek-R1 671B läuft auf einem Node (zur HGX-H200-Seite).
- HGX B300 / DGX B300: für Modelle jenseits der NVL-Verbünde, FP4-Großserving und maximale Dichte (HGX B300).
- Erst prototypisieren: für Entwicklung unterhalb der Datacenter-Klasse gibt es den DGX Spark.
- Kompletter GPU-Server: Karte plus passende Plattform in einem Projekt - über den GPU-Server-Konfigurator oder direkt den 8-GPU-Server GIGABYTE G493.
Häufige Fragen zur NVIDIA H200
Was kostet eine NVIDIA H200?
Bei Nelpx beginnt die NVIDIA H200 NVL (141 GB, PCIe) bei 26.500 € zzgl. MwSt. pro Karte - inklusive der 5-Jahres-Subscription NVIDIA AI Enterprise. Der deutsche Marktpreis liegt Mitte 2026 je nach Händler und Tagesverfügbarkeit bei etwa 26.000 bis 27.500 € netto; H200-SXM-Systeme (HGX/DGX) liegen deutlich darüber. Da die GPU-Preise aktuell volatil sind, kalkuliert Nelpx tagesaktuell - Angebot in der Regel innerhalb von 48 Stunden über den Konfigurator auf dieser Seite. Hochschulen und Forschungseinrichtungen erhalten eigene Konditionen - siehe H200 EDU-Preise.
Ist die NVIDIA H200 lieferbar und wie lange dauert die Lieferung?
Die Lieferlage der H200 ist aktuell sehr angespannt: Verfügbarkeit und Liefertermine im Distributionskanal schwanken tagesaktuell, feste Lieferzeiten lassen sich derzeit nicht seriös zusagen. Anfragen und Bestellungen, die ein komplettes System (Karte + Server) umfassen, werden bei der Zuteilung bevorzugt behandelt. Nelpx prüft Bestände und Allokation tagesaktuell - je früher die Anfrage, desto besser der Termin.
H200 NVL oder H200 SXM - welche Variante brauche ich?
Die H200 NVL ist die einzeln kaufbare PCIe-Karte: Dual-Slot, passiv gekühlt, bis 600 W, für Standard-PCIe-Gen5-Server mit 1 bis 8 Karten - ideal zum Nachrüsten und für flexible Stückzahlen. Die H200 SXM sitzt fest verlötet auf HGX-Baseboards (4 oder 8 GPUs) bzw. im DGX H200, bietet bis 700 W und NVLink über alle 8 GPUs. Faustregel: Einzelkarten und Bestandsserver → NVL; neues 8-GPU-System mit maximaler GPU-zu-GPU-Bandbreite → SXM-System. Nelpx liefert beides.
Was ist der Unterschied zwischen H100 und H200?
Die H200 ist die speicherstärkere Hopper-GPU: 141 GB HBM3e statt 80/94 GB und 4,8 TB/s statt 3,35/3,9 TB/s Bandbreite - die Rechenwerke sind praktisch identisch. Bei speichergebundenen Workloads wie LLM-Inferenz bringt genau das den Schub: NVIDIA nennt bis zu 1,7× mehr LLM-Durchsatz für die H200 NVL gegenüber der H100 NVL (Herstellerangabe). Dazu kommt schnelleres NVLink (900 statt 600 GB/s per Bridge). Neue H100-Karten sind im deutschen Handel kaum noch verfügbar.
Läuft Llama 70B auf einer einzigen H200?
Ja - in FP8-Quantisierung belegt ein 70B-Modell wie Llama 3.3 rund 70-75 GB und läuft damit komfortabel auf einer H200 mit reichlich Reserve für den KV-Cache und lange Kontexte. Selbst FP16 (~141 GB) passt gerade noch auf die Karte. Auch Qwen2.5-72B (FP8 ~72 GB) und Mistral Large 123B (FP8 ~123 GB) laufen auf einer einzelnen Karte - erst Modelle jenseits der 141 GB brauchen den NVLink-Verbund oder ein 8-GPU-System. Alle Werte sind Richtwerte für Gewichte plus KV-Cache-Reserve.
Wie viel Strom verbraucht die NVIDIA H200?
Die H200 NVL ist auf bis zu 600 W konfigurierbar (die SXM-Variante bis 700 W). Die Karte ist passiv gekühlt - der Server muss den Luftstrom liefern, weshalb sie nur in dafür qualifizierte Chassis gehört. Als Planungsgröße: 4 Karten ≈ 2,4 kW, 8 Karten ≈ 4,8 kW allein für die GPUs, plus Server. Das bleibt klassische Luftkühlung im Bestands-Rack - einer der Hauptgründe, 2026 zur H200 statt zu flüssigkeitsgekühlten Systemen zu greifen.
Passt die H200 NVL in meinen vorhandenen Server?
Wenn der Server PCIe Gen5 x16, einen Dual-Slot-Platz, ausreichend Durchzugskühlung und Netzteil-Reserve für bis zu 600 W pro Karte bietet - sehr wahrscheinlich ja. NVIDIA führt dafür qualifizierte Systeme (NVIDIA-Certified/MGX) von Supermicro, GIGABYTE (G293/G493), Dell, HPE und Lenovo mit bis zu 8 Karten. Nelpx prüft Ihre Server-Konfiguration vor der Bestellung kostenlos - und liefert auf Wunsch den passenden GPU-Server gleich mit. Welche GIGABYTE-Barebones welche Karte freigeben, zeigt unser GPU-Kompatibilitäts-Finder.
Wie funktioniert NVLink bei der H200 NVL?
Über steckbare NVLink-Bridges verbinden Sie 2 oder 4 Karten mit 900 GB/s pro GPU - ein 4er-Verbund wirkt dann wie ein Beschleuniger mit 564 GB HBM3e. Karten ohne Bridge kommunizieren über PCIe Gen5 mit 128 GB/s. Für Modelle über 141 GB oder Tensor-Parallelismus ist die Bridge deshalb die wichtigste Zubehör-Entscheidung - im Konfigurator wählbar, Nelpx liefert die passenden Bridges mit.
Unterstützt die H200 MIG (Multi-Instance GPU)?
Ja - die H200 NVL lässt sich in bis zu 7 vollständig isolierte MIG-Instanzen mit je 16,5 GB aufteilen. Damit bedient eine Karte mehrere Teams oder Services parallel: etwa mehrere 7B/14B-Modelle gleichzeitig oder getrennte Dev-/Test-/Prod-Instanzen. Zusammen mit der enthaltenen NVIDIA-AI-Enterprise-Software ist das der Baustein für Multi-Tenant-Inferenz on-premises.
Ist NVIDIA AI Enterprise beim Kauf der H200 enthalten?
Ja - jede H200 NVL enthält eine 5-Jahres-Subscription für NVIDIA AI Enterprise inklusive NIM-Microservices; aktiviert wird sie über die GPU-Seriennummer. Das ist ein realer Kostenvorteil gegenüber SXM-Systemen und anderen Karten, bei denen die Software separat lizenziert wird. Damit sind Produktions-Stack, Enterprise-Support für die Software und validierte Container ab Tag eins dabei.
Lohnt sich die H200 2026 noch - oder gleich Blackwell?
Für Modelle bis 141 GB - also die gesamte 7B-bis-70B-Klasse in FP8 - ist die H200 NVL 2026 der Preis-Leistungs-Kauf: luftgekühlt im Standard-Server, reifster Software-Stack und rund die Hälfte eines vergleichbaren Blackwell-Systemplatzes. Blackwell (HGX B200/B300) gewinnt bei größeren Modellen, FP4-Großserving und Cluster-Training. Ehrliche Faustregel: Passt der Workload auf 1-8 NVL-Karten, kaufen Sie H200; wächst er darüber hinaus, planen Sie direkt ein HGX-System - Nelpx rechnet beide Wege im Angebot vor.
Warum eine H200 kaufen statt GPU-Cloud mieten?
Zwei Gründe: Wirtschaftlichkeit und Datenhoheit. H200-Cloud-Instanzen kosten bei etablierten Anbietern typischerweise 3 bis 4,50 US-Dollar pro GPU-Stunde (Discount-Anbieter teils darunter) - bei Dauerlast auf diesem Preisniveau amortisiert sich die gekaufte Karte als Richtwert in 10 bis 12 Monaten, danach rechnet sie Jahre für Sie. Und on-premises bleiben Prompts, Trainingsdaten und Modelle vollständig im Haus - das vereinfacht DSGVO-Bewertung und EU-AI-Act-Einordnung erheblich. Nelpx unterstützt auch Finanzierung und Leasing.
Ihre H200 - angefragt in 2 Minuten
Ab 26.500 € zzgl. MwSt. pro Karte, inklusive 5 Jahren NVIDIA AI Enterprise. GPU-Preise sind volatil und Lagerbestände wechseln täglich: Wer jetzt anfragt, sichert Preis und Karte. Nelpx liefert einzeln, im Verbund oder mit passendem Server.
Jetzt konfigurieren & Angebot einholenTagesaktueller Preis · Angebot in der Regel innerhalb von 48 h · EU-weite Lieferung & Integration