NVIDIA H200 kaufen — 141 GB HBM3e, sofort einsatzbereit
Die Datacenter-GPU für LLM-Inferenz im Standard-Server: 141 GB HBM3e mit 4,8 TB/s — Llama 70B läuft in FP8 auf einer einzigen Karte. Als PCIe-Karte passt die H200 NVL in vorhandene Gen5-Server, luftgekühlt, 1 bis 8 Karten. Nelpx liefert Karte, NVLink-Bridges und auf Wunsch den passenden Server — Angebot in 48 h.
IT-Systemhaus für HPC & AI-Infrastruktur · DACH-Region · Tagesaktuelle Preise & Verfügbarkeit
Was kostet eine NVIDIA H200 — und was ist sie?
Die NVIDIA H200 ist die Hopper-Datacenter-GPU mit 141 GB HBM3e und 4,8 TB/s Speicherbandbreite — als einzeln kaufbare PCIe-Karte heißt sie H200 NVL. Bei Nelpx kostet sie ab 26.200 € zzgl. MwSt. pro Karte; die Lieferlage ist aktuell sehr angespannt — Nelpx prüft Verfügbarkeit und Allokation tagesaktuell, Anfragen inklusive System werden bevorzugt. Im Preis enthalten ist eine 5-Jahres-Subscription NVIDIA AI Enterprise. Die Karte läuft luftgekühlt in Standard-PCIe-Gen5-Servern mit 1 bis 8 GPUs und hält ein 70B-Modell in FP8 komplett auf einer Karte — das macht sie 2026 zum Preis-Leistungs-Kauf für LLM-Inferenz, Fine-Tuning und RAG on-premises.
- Preis
- Ab 26.200 € netto pro Karte — GPU-Preise sind aktuell volatil, Nelpx kalkuliert tagesaktuell; Angebot in der Regel in 48 h.
- Verfügbarkeit
- Lieferlage aktuell sehr angespannt — Nelpx prüft Bestände und Allokation tagesaktuell; Bestellungen inklusive System werden bevorzugt.
- Software inklusive
- 5 Jahre NVIDIA AI Enterprise (inkl. NIM) pro Karte — Aktivierung über die GPU-Seriennummer.
Stand: 27. Juli 2026 · Quellen: NVIDIA-H200-Produktseite & -Datasheet, deutsche Distributionspreise — Herstellerclaims sind gekennzeichnet. Details: H200-Datenblatt.
H200 NVL: Datacenter-Power für den Standard-Server
Kein Baseboard, keine Flüssigkühlung, kein Facility-Projekt: Die NVL-Karte bringt die H200 in jeden qualifizierten PCIe-Gen5-Server — und skaliert per NVLink-Bridge.
141 GB HBM3e, 4,8 TB/s, PCIe Gen5 x16, Dual-Slot, passiv gekühlt, bis 600 W (konfigurierbar). MIG-fähig (7× 16,5 GB), Confidential Computing, 7 NVDEC + 7 JPEG-Decoder für Video- und Multimodal-Pipelines.
2- oder 4-Wege-Bridges verbinden Karten mit 900 GB/s pro GPU — ein 4er-Verbund wirkt wie ein Beschleuniger mit 564 GB HBM3e. Bis zu 8 Karten pro Server (2× 4-Wege-Domänen) nach NVIDIA-Referenzarchitektur.
Jede H200 NVL enthält eine 5-Jahres-Subscription NVIDIA AI Enterprise inkl. NIM-Microservices — Produktions-Stack, validierte Container und Software-Support ab Tag eins, aktiviert per GPU-Seriennummer.
Werte: aktuelle NVIDIA-H200-Produktseite (NVL-Spalte) und H200-NVL-Datasheet, Stand 27.07.2026. Achtung bei Fremdquellen: Vergleichsportale listen für die NVL teils fälschlich SXM-Werte (3.958 TFLOPS / 700 W).
Passt mein Modell in 141 GB?
Die wichtigste Frage vor dem Kauf — hier die gängigen Modelle mit Speicherbedarf (Richtwerte: Gewichte + Reserve für KV-Cache; lange Kontexte brauchen mehr):
Richtwerte aus gängigen VRAM-Kalkulatoren (apxml.com, gigagpu.com), Stand 27.07.2026 — Faustregel: FP16 ≈ 2 Byte, FP8 ≈ 1 Byte, INT4 ≈ 0,5 Byte pro Parameter, plus 10–20 % Overhead. Per MIG laufen alternativ bis zu 7 kleinere Modelle (7B/14B) parallel auf einer Karte.
Ihre H200-Konfiguration.
In 2 Minuten angefragt.
Stückzahl, NVLink, Server und Services wählen — als PDF herunterladen oder direkt an Nelpx senden. Angebot mit tagesaktuellem Preis in der Regel innerhalb von 48 Stunden.
= 141 GB HBM3e · ~0,6 kW GPU-Last
NVLink-Bridges sind ab 2 Karten wählbar — eine Einzelkarte kommuniziert über PCIe Gen5.
H200 NVL im Vergleich: H100 NVL & RTX PRO 6000
Der H200-Vorsprung liegt beim Speicher — genau dort, wo LLM-Inferenz limitiert ist. Die Rechenwerke sind gegenüber der H100 praktisch identisch.
GPU-Speicher pro Karte
GB — HBM3e vs. HBM3 vs. GDDR7
Speicherbandbreite
TB/s — entscheidend für Token-Durchsatz
GPU-zu-GPU-Verbindung
GB/s — NVLink-Bridge vs. nur PCIe
Ein 70B-Modell (FP8, ~75 GB)
Wie viele Karten braucht es? — weniger ist besser
Werte: NVIDIA-Produktseiten H200/H100 (NVL-Spalten) und RTX-PRO-6000-Blackwell-Server-Edition-Daten, Stand 27.07.2026. NVIDIA-Claim „bis 1,7× LLM-Inferenz vs. H100 NVL“ ist eine Herstellerangabe. Die RTX PRO 6000 SE ist die deutlich günstigere PCIe-Alternative ohne HBM/NVLink — zur Produktseite.
Alle technischen Daten anzeigen (NVIDIA H200 NVL)
| Spezifikation | NVIDIA H200 NVL |
|---|---|
| Architektur | NVIDIA Hopper · Tensor-Cores 4. Gen · Transformer Engine |
| GPU-Speicher | 141 GB HBM3e · 4,8 TB/s Bandbreite |
| Tensor-Leistung | FP8/INT8: 3.341 TFLOPS/TOPS sparse (~1.671 dense) · FP16/BF16: 1.671 sparse · TF32: 835 sparse |
| HPC-Leistung | FP64: 30 TFLOPS · FP64 Tensor: 60 TFLOPS · FP32: 60 TFLOPS |
| NVLink | 2-/4-Wege-Bridge: 900 GB/s pro GPU (4er-Verbund: 564 GB gemeinsam) · PCIe Gen5: 128 GB/s |
| MIG | bis 7 Instanzen à 16,5 GB |
| Decoder | 7× NVDEC · 7× JPEG |
| Confidential Computing | unterstützt |
| Formfaktor | PCIe Gen5 x16 · Dual-Slot · passiv gekühlt (Server-Airflow erforderlich) |
| TDP | bis 600 W (konfigurierbar) · Stromversorgung über 16-Pin-Anschluss |
| Software | NVIDIA AI Enterprise: 5-Jahres-Subscription inklusive (inkl. NIM) · CUDA · vGPU-Support (AI Enterprise Infra ab 6.1) |
| Server | NVIDIA-Certified/MGX: 1–8 Karten (2× 4-Wege-NVLink-Domänen) — Supermicro, GIGABYTE G293/G493, Dell, HPE, Lenovo |
| Abgrenzung SXM | H200 SXM: bis 700 W, MIG à 18 GB, FP8 3.958 TFLOPS sparse — nur in HGX-/DGX-Systemen |
| Launch / Status | NVL vorgestellt 11/2024 (SC24), lieferbar seit 12/2024 · 2026 regulär im Portfolio — Lieferlage aktuell angespannt |
| Garantie | Herstellergarantie über den Distributionskanal (typ. 3 Jahre) — Nelpx weist die Garantiebedingungen im Angebot aus |
Von einer Karte zum 8-GPU-Server
Die H200 NVL wächst mit dem Projekt — vom PoC auf einer Karte bis zum vollen PCIe-GPU-Server nach NVIDIA-Referenzarchitektur.
Einzelkarten mit Kompatibilitätsprüfung für Ihren Bestandsserver, fertig konfigurierte PCIe-GPU-Server oder gleich das HGX-System: Nelpx kalkuliert die Varianten transparent gegeneinander — mit tagesaktuellen Preisen und Angebot in der Regel innerhalb von 48 Stunden.
Wofür lohnt sich die H200?
Der Kern-Use-Case: 70B-Modelle in FP8 auf einer Karte, mit 4,8 TB/s Bandbreite für hohen Token-Durchsatz und Platz für lange Kontexte — internes RAG, Chatbots, Copilots.
Der unterschätzte Weg zu KI-Kapazität: vorhandene PCIe-Gen5-Server um 1–8 Karten erweitern statt neues System kaufen — luftgekühlt, ohne Facility-Umbau.
141 GB halten Modell, Gradienten und Batches der 7B–70B-Klasse — Fine-Tuning-Läufe, die auf 80-GB-Karten scheitern, laufen hier durch.
Bis 7 isolierte Instanzen à 16,5 GB: mehrere Teams, Modelle oder Umgebungen auf einer Karte — mit der enthaltenen AI-Enterprise-Software sauber orchestriert.
Prompts, Dokumente und Modelle bleiben im Haus — die Alternative zur US-Cloud-API, mit Break-even gegenüber typischen Cloud-Mieten als Richtwert nach 10–12 Monaten Dauerlast.
60 TFLOPS FP64-Tensor-Leistung und die schnellste Speicheranbindung ihrer Klasse — für CFD, Molekulardynamik und wissenschaftliches Rechnen neben den KI-Workloads.
H200 kaufen — oder etwas anderes?
Die ehrliche Entscheidungshilfe — denn nicht jedes Projekt braucht dieselbe GPU:
Darum die H200 NVL
- 141 GB auf einer Karte: die ganze 70B-Klasse in FP8 ohne Sharding — mit 4,8 TB/s Bandbreite.
- Verfügbarkeit: Lieferlage aktuell angespannt — Nelpx prüft tagesaktuell; Anfragen inklusive System werden bevorzugt zugeteilt.
- Standard-Server statt Facility-Projekt: PCIe Gen5, luftgekühlt, 1–8 Karten — auch als Nachrüstung.
- Software inklusive: 5 Jahre NVIDIA AI Enterprise pro Karte — bei anderen SKUs ein teures Add-on.
- Reifster Stack: Hopper hat 2026 die größte installierte Basis — jedes Framework läuft ab Tag eins.
Die Alternativen ehrlich betrachtet
- RTX PRO 6000 Blackwell SE: 96 GB GDDR7 zum deutlich niedrigeren Preis — gut für kleinere Modelle und Grafik-/KI-Mischbetrieb, aber ohne HBM und NVLink (zur Produktseite).
- HGX B200: ab der Cluster-Klasse mit NVLink über 8 GPUs und 1,4 TB HBM3e pro System (zum B200-Konfigurator).
- HGX B300 / DGX B300: für Modelle jenseits der NVL-Verbünde, FP4-Großserving und maximale Dichte (HGX B300 · DGX B300).
- Erst prototypisieren: für Entwicklung unterhalb der Datacenter-Klasse gibt es den DGX Spark.
- Kompletter GPU-Server: Karte plus passende Plattform in einem Projekt — über den GPU-Server-Konfigurator oder direkt den 8-GPU-Server GIGABYTE G493.
Häufige Fragen zur NVIDIA H200
Was kostet eine NVIDIA H200?
Bei Nelpx beginnt die NVIDIA H200 NVL (141 GB, PCIe) bei 26.200 € zzgl. MwSt. pro Karte — inklusive der 5-Jahres-Subscription NVIDIA AI Enterprise. Der deutsche Marktpreis liegt Mitte 2026 je nach Händler und Tagesverfügbarkeit bei etwa 26.000 bis 27.500 € netto; H200-SXM-Systeme (HGX/DGX) liegen deutlich darüber. Da die GPU-Preise aktuell volatil sind, kalkuliert Nelpx tagesaktuell — Angebot in der Regel innerhalb von 48 Stunden über den Konfigurator auf dieser Seite.
Ist die NVIDIA H200 lieferbar und wie lange dauert die Lieferung?
Die Lieferlage der H200 ist aktuell sehr angespannt: Verfügbarkeit und Liefertermine im Distributionskanal schwanken tagesaktuell, feste Lieferzeiten lassen sich derzeit nicht seriös zusagen. Anfragen und Bestellungen, die ein komplettes System (Karte + Server) umfassen, werden bei der Zuteilung bevorzugt behandelt. Nelpx prüft Bestände und Allokation tagesaktuell — je früher die Anfrage, desto besser der Termin.
H200 NVL oder H200 SXM — welche Variante brauche ich?
Die H200 NVL ist die einzeln kaufbare PCIe-Karte: Dual-Slot, passiv gekühlt, bis 600 W, für Standard-PCIe-Gen5-Server mit 1 bis 8 Karten — ideal zum Nachrüsten und für flexible Stückzahlen. Die H200 SXM sitzt fest verlötet auf HGX-Baseboards (4 oder 8 GPUs) bzw. im DGX H200, bietet bis 700 W und NVLink über alle 8 GPUs. Faustregel: Einzelkarten und Bestandsserver → NVL; neues 8-GPU-System mit maximaler GPU-zu-GPU-Bandbreite → SXM-System. Nelpx liefert beides.
Was ist der Unterschied zwischen H100 und H200?
Die H200 ist die speicherstärkere Hopper-GPU: 141 GB HBM3e statt 80/94 GB und 4,8 TB/s statt 3,35/3,9 TB/s Bandbreite — die Rechenwerke sind praktisch identisch. Bei speichergebundenen Workloads wie LLM-Inferenz bringt genau das den Schub: NVIDIA nennt bis zu 1,7× mehr LLM-Durchsatz für die H200 NVL gegenüber der H100 NVL (Herstellerangabe). Dazu kommt schnelleres NVLink (900 statt 600 GB/s per Bridge). Neue H100-Karten sind im deutschen Handel kaum noch verfügbar.
Läuft Llama 70B auf einer einzigen H200?
Ja — in FP8-Quantisierung belegt ein 70B-Modell wie Llama 3.3 rund 70–75 GB und läuft damit komfortabel auf einer H200 mit reichlich Reserve für den KV-Cache und lange Kontexte. Selbst FP16 (~141 GB) passt gerade noch auf die Karte. Auch Qwen2.5-72B (FP8 ~72 GB) und Mistral Large 123B (FP8 ~123 GB) laufen auf einer einzelnen Karte — erst Modelle jenseits der 141 GB brauchen den NVLink-Verbund oder ein 8-GPU-System. Alle Werte sind Richtwerte für Gewichte plus KV-Cache-Reserve.
Wie viel Strom verbraucht die NVIDIA H200?
Die H200 NVL ist auf bis zu 600 W konfigurierbar (die SXM-Variante bis 700 W). Die Karte ist passiv gekühlt — der Server muss den Luftstrom liefern, weshalb sie nur in dafür qualifizierte Chassis gehört. Als Planungsgröße: 4 Karten ≈ 2,4 kW, 8 Karten ≈ 4,8 kW allein für die GPUs, plus Server. Das bleibt klassische Luftkühlung im Bestands-Rack — einer der Hauptgründe, 2026 zur H200 statt zu flüssigkeitsgekühlten Systemen zu greifen.
Passt die H200 NVL in meinen vorhandenen Server?
Wenn der Server PCIe Gen5 x16, einen Dual-Slot-Platz, ausreichend Durchzugskühlung und Netzteil-Reserve für bis zu 600 W pro Karte bietet — sehr wahrscheinlich ja. NVIDIA führt dafür qualifizierte Systeme (NVIDIA-Certified/MGX) von Supermicro, GIGABYTE (G293/G493), Dell, HPE und Lenovo mit bis zu 8 Karten. Nelpx prüft Ihre Server-Konfiguration vor der Bestellung kostenlos — und liefert auf Wunsch den passenden GPU-Server gleich mit.
Wie funktioniert NVLink bei der H200 NVL?
Über steckbare NVLink-Bridges verbinden Sie 2 oder 4 Karten mit 900 GB/s pro GPU — ein 4er-Verbund wirkt dann wie ein Beschleuniger mit 564 GB HBM3e. Karten ohne Bridge kommunizieren über PCIe Gen5 mit 128 GB/s. Für Modelle über 141 GB oder Tensor-Parallelismus ist die Bridge deshalb die wichtigste Zubehör-Entscheidung — im Konfigurator wählbar, Nelpx liefert die passenden Bridges mit.
Unterstützt die H200 MIG (Multi-Instance GPU)?
Ja — die H200 NVL lässt sich in bis zu 7 vollständig isolierte MIG-Instanzen mit je 16,5 GB aufteilen. Damit bedient eine Karte mehrere Teams oder Services parallel: etwa mehrere 7B/14B-Modelle gleichzeitig oder getrennte Dev-/Test-/Prod-Instanzen. Zusammen mit der enthaltenen NVIDIA-AI-Enterprise-Software ist das der Baustein für Multi-Tenant-Inferenz on-premises.
Ist NVIDIA AI Enterprise beim Kauf der H200 enthalten?
Ja — jede H200 NVL enthält eine 5-Jahres-Subscription für NVIDIA AI Enterprise inklusive NIM-Microservices; aktiviert wird sie über die GPU-Seriennummer. Das ist ein realer Kostenvorteil gegenüber SXM-Systemen und anderen Karten, bei denen die Software separat lizenziert wird. Damit sind Produktions-Stack, Enterprise-Support für die Software und validierte Container ab Tag eins dabei.
Lohnt sich die H200 2026 noch — oder gleich Blackwell?
Für Modelle bis 141 GB — also die gesamte 7B-bis-70B-Klasse in FP8 — ist die H200 NVL 2026 der Preis-Leistungs-Kauf: luftgekühlt im Standard-Server, reifster Software-Stack und rund die Hälfte eines vergleichbaren Blackwell-Systemplatzes. Blackwell (HGX B200/B300) gewinnt bei größeren Modellen, FP4-Großserving und Cluster-Training. Ehrliche Faustregel: Passt der Workload auf 1–8 NVL-Karten, kaufen Sie H200; wächst er darüber hinaus, planen Sie direkt ein HGX-System — Nelpx rechnet beide Wege im Angebot vor.
Warum eine H200 kaufen statt GPU-Cloud mieten?
Zwei Gründe: Wirtschaftlichkeit und Datenhoheit. H200-Cloud-Instanzen kosten bei etablierten Anbietern typischerweise 3 bis 4,50 US-Dollar pro GPU-Stunde (Discount-Anbieter teils darunter) — bei Dauerlast auf diesem Preisniveau amortisiert sich die gekaufte Karte als Richtwert in 10 bis 12 Monaten, danach rechnet sie Jahre für Sie. Und on-premises bleiben Prompts, Trainingsdaten und Modelle vollständig im Haus — das vereinfacht DSGVO-Bewertung und EU-AI-Act-Einordnung erheblich. Nelpx unterstützt auch Finanzierung und Leasing.
Ihre H200 — angefragt in 2 Minuten
Ab 26.200 € zzgl. MwSt. pro Karte, inklusive 5 Jahren NVIDIA AI Enterprise. GPU-Preise sind volatil und Lagerbestände wechseln täglich: Wer jetzt anfragt, sichert Preis und Karte. Nelpx liefert einzeln, im Verbund oder mit passendem Server.
Jetzt konfigurieren & Angebot einholenTagesaktueller Preis · Angebot in der Regel innerhalb von 48 h · DACH-weite Lieferung & Integration
NVIDIA H200 kaufen — 141 GB HBM3e, sofort einsatzbereit
Die Datacenter-GPU für LLM-Inferenz im Standard-Server: 141 GB HBM3e mit 4,8 TB/s — Llama 70B läuft in FP8 auf einer einzigen Karte. Als PCIe-Karte passt die H200 NVL in vorhandene Gen5-Server, luftgekühlt, 1 bis 8 Karten. Nelpx liefert Karte, NVLink-Bridges und auf Wunsch den passenden Server — Angebot in 48 h.
IT-Systemhaus für HPC & AI-Infrastruktur · DACH-Region · Tagesaktuelle Preise & Verfügbarkeit
Was kostet eine NVIDIA H200 — und was ist sie?
Die NVIDIA H200 ist die Hopper-Datacenter-GPU mit 141 GB HBM3e und 4,8 TB/s Speicherbandbreite — als einzeln kaufbare PCIe-Karte heißt sie H200 NVL. Bei Nelpx kostet sie ab 26.200 € zzgl. MwSt. pro Karte; die Lieferlage ist aktuell sehr angespannt — Nelpx prüft Verfügbarkeit und Allokation tagesaktuell, Anfragen inklusive System werden bevorzugt. Im Preis enthalten ist eine 5-Jahres-Subscription NVIDIA AI Enterprise. Die Karte läuft luftgekühlt in Standard-PCIe-Gen5-Servern mit 1 bis 8 GPUs und hält ein 70B-Modell in FP8 komplett auf einer Karte — das macht sie 2026 zum Preis-Leistungs-Kauf für LLM-Inferenz, Fine-Tuning und RAG on-premises.
- Preis
- Ab 26.200 € netto pro Karte — GPU-Preise sind aktuell volatil, Nelpx kalkuliert tagesaktuell; Angebot in der Regel in 48 h.
- Verfügbarkeit
- Lieferlage aktuell sehr angespannt — Nelpx prüft Bestände und Allokation tagesaktuell; Bestellungen inklusive System werden bevorzugt.
- Software inklusive
- 5 Jahre NVIDIA AI Enterprise (inkl. NIM) pro Karte — Aktivierung über die GPU-Seriennummer.
Stand: 27. Juli 2026 · Quellen: NVIDIA-H200-Produktseite & -Datasheet, deutsche Distributionspreise — Herstellerclaims sind gekennzeichnet. Details: H200-Datenblatt.
H200 NVL: Datacenter-Power für den Standard-Server
Kein Baseboard, keine Flüssigkühlung, kein Facility-Projekt: Die NVL-Karte bringt die H200 in jeden qualifizierten PCIe-Gen5-Server — und skaliert per NVLink-Bridge.
141 GB HBM3e, 4,8 TB/s, PCIe Gen5 x16, Dual-Slot, passiv gekühlt, bis 600 W (konfigurierbar). MIG-fähig (7× 16,5 GB), Confidential Computing, 7 NVDEC + 7 JPEG-Decoder für Video- und Multimodal-Pipelines.
2- oder 4-Wege-Bridges verbinden Karten mit 900 GB/s pro GPU — ein 4er-Verbund wirkt wie ein Beschleuniger mit 564 GB HBM3e. Bis zu 8 Karten pro Server (2× 4-Wege-Domänen) nach NVIDIA-Referenzarchitektur.
Jede H200 NVL enthält eine 5-Jahres-Subscription NVIDIA AI Enterprise inkl. NIM-Microservices — Produktions-Stack, validierte Container und Software-Support ab Tag eins, aktiviert per GPU-Seriennummer.
Werte: aktuelle NVIDIA-H200-Produktseite (NVL-Spalte) und H200-NVL-Datasheet, Stand 27.07.2026. Achtung bei Fremdquellen: Vergleichsportale listen für die NVL teils fälschlich SXM-Werte (3.958 TFLOPS / 700 W).
Passt mein Modell in 141 GB?
Die wichtigste Frage vor dem Kauf — hier die gängigen Modelle mit Speicherbedarf (Richtwerte: Gewichte + Reserve für KV-Cache; lange Kontexte brauchen mehr):
Richtwerte aus gängigen VRAM-Kalkulatoren (apxml.com, gigagpu.com), Stand 27.07.2026 — Faustregel: FP16 ≈ 2 Byte, FP8 ≈ 1 Byte, INT4 ≈ 0,5 Byte pro Parameter, plus 10–20 % Overhead. Per MIG laufen alternativ bis zu 7 kleinere Modelle (7B/14B) parallel auf einer Karte.
Ihre H200-Konfiguration.
In 2 Minuten angefragt.
Stückzahl, NVLink, Server und Services wählen — als PDF herunterladen oder direkt an Nelpx senden. Angebot mit tagesaktuellem Preis in der Regel innerhalb von 48 Stunden.
= 141 GB HBM3e · ~0,6 kW GPU-Last
NVLink-Bridges sind ab 2 Karten wählbar — eine Einzelkarte kommuniziert über PCIe Gen5.
H200 NVL im Vergleich: H100 NVL & RTX PRO 6000
Der H200-Vorsprung liegt beim Speicher — genau dort, wo LLM-Inferenz limitiert ist. Die Rechenwerke sind gegenüber der H100 praktisch identisch.
GPU-Speicher pro Karte
GB — HBM3e vs. HBM3 vs. GDDR7
Speicherbandbreite
TB/s — entscheidend für Token-Durchsatz
GPU-zu-GPU-Verbindung
GB/s — NVLink-Bridge vs. nur PCIe
Ein 70B-Modell (FP8, ~75 GB)
Wie viele Karten braucht es? — weniger ist besser
Werte: NVIDIA-Produktseiten H200/H100 (NVL-Spalten) und RTX-PRO-6000-Blackwell-Server-Edition-Daten, Stand 27.07.2026. NVIDIA-Claim „bis 1,7× LLM-Inferenz vs. H100 NVL“ ist eine Herstellerangabe. Die RTX PRO 6000 SE ist die deutlich günstigere PCIe-Alternative ohne HBM/NVLink — zur Produktseite.
Alle technischen Daten anzeigen (NVIDIA H200 NVL)
| Spezifikation | NVIDIA H200 NVL |
|---|---|
| Architektur | NVIDIA Hopper · Tensor-Cores 4. Gen · Transformer Engine |
| GPU-Speicher | 141 GB HBM3e · 4,8 TB/s Bandbreite |
| Tensor-Leistung | FP8/INT8: 3.341 TFLOPS/TOPS sparse (~1.671 dense) · FP16/BF16: 1.671 sparse · TF32: 835 sparse |
| HPC-Leistung | FP64: 30 TFLOPS · FP64 Tensor: 60 TFLOPS · FP32: 60 TFLOPS |
| NVLink | 2-/4-Wege-Bridge: 900 GB/s pro GPU (4er-Verbund: 564 GB gemeinsam) · PCIe Gen5: 128 GB/s |
| MIG | bis 7 Instanzen à 16,5 GB |
| Decoder | 7× NVDEC · 7× JPEG |
| Confidential Computing | unterstützt |
| Formfaktor | PCIe Gen5 x16 · Dual-Slot · passiv gekühlt (Server-Airflow erforderlich) |
| TDP | bis 600 W (konfigurierbar) · Stromversorgung über 16-Pin-Anschluss |
| Software | NVIDIA AI Enterprise: 5-Jahres-Subscription inklusive (inkl. NIM) · CUDA · vGPU-Support (AI Enterprise Infra ab 6.1) |
| Server | NVIDIA-Certified/MGX: 1–8 Karten (2× 4-Wege-NVLink-Domänen) — Supermicro, GIGABYTE G293/G493, Dell, HPE, Lenovo |
| Abgrenzung SXM | H200 SXM: bis 700 W, MIG à 18 GB, FP8 3.958 TFLOPS sparse — nur in HGX-/DGX-Systemen |
| Launch / Status | NVL vorgestellt 11/2024 (SC24), lieferbar seit 12/2024 · 2026 regulär im Portfolio — Lieferlage aktuell angespannt |
| Garantie | Herstellergarantie über den Distributionskanal (typ. 3 Jahre) — Nelpx weist die Garantiebedingungen im Angebot aus |
Von einer Karte zum 8-GPU-Server
Die H200 NVL wächst mit dem Projekt — vom PoC auf einer Karte bis zum vollen PCIe-GPU-Server nach NVIDIA-Referenzarchitektur.
Einzelkarten mit Kompatibilitätsprüfung für Ihren Bestandsserver, fertig konfigurierte PCIe-GPU-Server oder gleich das HGX-System: Nelpx kalkuliert die Varianten transparent gegeneinander — mit tagesaktuellen Preisen und Angebot in der Regel innerhalb von 48 Stunden.
Wofür lohnt sich die H200?
Der Kern-Use-Case: 70B-Modelle in FP8 auf einer Karte, mit 4,8 TB/s Bandbreite für hohen Token-Durchsatz und Platz für lange Kontexte — internes RAG, Chatbots, Copilots.
Der unterschätzte Weg zu KI-Kapazität: vorhandene PCIe-Gen5-Server um 1–8 Karten erweitern statt neues System kaufen — luftgekühlt, ohne Facility-Umbau.
141 GB halten Modell, Gradienten und Batches der 7B–70B-Klasse — Fine-Tuning-Läufe, die auf 80-GB-Karten scheitern, laufen hier durch.
Bis 7 isolierte Instanzen à 16,5 GB: mehrere Teams, Modelle oder Umgebungen auf einer Karte — mit der enthaltenen AI-Enterprise-Software sauber orchestriert.
Prompts, Dokumente und Modelle bleiben im Haus — die Alternative zur US-Cloud-API, mit Break-even gegenüber typischen Cloud-Mieten als Richtwert nach 10–12 Monaten Dauerlast.
60 TFLOPS FP64-Tensor-Leistung und die schnellste Speicheranbindung ihrer Klasse — für CFD, Molekulardynamik und wissenschaftliches Rechnen neben den KI-Workloads.
H200 kaufen — oder etwas anderes?
Die ehrliche Entscheidungshilfe — denn nicht jedes Projekt braucht dieselbe GPU:
Darum die H200 NVL
- 141 GB auf einer Karte: die ganze 70B-Klasse in FP8 ohne Sharding — mit 4,8 TB/s Bandbreite.
- Verfügbarkeit: Lieferlage aktuell angespannt — Nelpx prüft tagesaktuell; Anfragen inklusive System werden bevorzugt zugeteilt.
- Standard-Server statt Facility-Projekt: PCIe Gen5, luftgekühlt, 1–8 Karten — auch als Nachrüstung.
- Software inklusive: 5 Jahre NVIDIA AI Enterprise pro Karte — bei anderen SKUs ein teures Add-on.
- Reifster Stack: Hopper hat 2026 die größte installierte Basis — jedes Framework läuft ab Tag eins.
Die Alternativen ehrlich betrachtet
- RTX PRO 6000 Blackwell SE: 96 GB GDDR7 zum deutlich niedrigeren Preis — gut für kleinere Modelle und Grafik-/KI-Mischbetrieb, aber ohne HBM und NVLink (zur Produktseite).
- HGX B200: ab der Cluster-Klasse mit NVLink über 8 GPUs und 1,4 TB HBM3e pro System (zum B200-Konfigurator).
- HGX B300 / DGX B300: für Modelle jenseits der NVL-Verbünde, FP4-Großserving und maximale Dichte (HGX B300 · DGX B300).
- Erst prototypisieren: für Entwicklung unterhalb der Datacenter-Klasse gibt es den DGX Spark.
- Kompletter GPU-Server: Karte plus passende Plattform in einem Projekt — über den GPU-Server-Konfigurator oder direkt den 8-GPU-Server GIGABYTE G493.
Häufige Fragen zur NVIDIA H200
Was kostet eine NVIDIA H200?
Bei Nelpx beginnt die NVIDIA H200 NVL (141 GB, PCIe) bei 26.200 € zzgl. MwSt. pro Karte — inklusive der 5-Jahres-Subscription NVIDIA AI Enterprise. Der deutsche Marktpreis liegt Mitte 2026 je nach Händler und Tagesverfügbarkeit bei etwa 26.000 bis 27.500 € netto; H200-SXM-Systeme (HGX/DGX) liegen deutlich darüber. Da die GPU-Preise aktuell volatil sind, kalkuliert Nelpx tagesaktuell — Angebot in der Regel innerhalb von 48 Stunden über den Konfigurator auf dieser Seite.
Ist die NVIDIA H200 lieferbar und wie lange dauert die Lieferung?
Die Lieferlage der H200 ist aktuell sehr angespannt: Verfügbarkeit und Liefertermine im Distributionskanal schwanken tagesaktuell, feste Lieferzeiten lassen sich derzeit nicht seriös zusagen. Anfragen und Bestellungen, die ein komplettes System (Karte + Server) umfassen, werden bei der Zuteilung bevorzugt behandelt. Nelpx prüft Bestände und Allokation tagesaktuell — je früher die Anfrage, desto besser der Termin.
H200 NVL oder H200 SXM — welche Variante brauche ich?
Die H200 NVL ist die einzeln kaufbare PCIe-Karte: Dual-Slot, passiv gekühlt, bis 600 W, für Standard-PCIe-Gen5-Server mit 1 bis 8 Karten — ideal zum Nachrüsten und für flexible Stückzahlen. Die H200 SXM sitzt fest verlötet auf HGX-Baseboards (4 oder 8 GPUs) bzw. im DGX H200, bietet bis 700 W und NVLink über alle 8 GPUs. Faustregel: Einzelkarten und Bestandsserver → NVL; neues 8-GPU-System mit maximaler GPU-zu-GPU-Bandbreite → SXM-System. Nelpx liefert beides.
Was ist der Unterschied zwischen H100 und H200?
Die H200 ist die speicherstärkere Hopper-GPU: 141 GB HBM3e statt 80/94 GB und 4,8 TB/s statt 3,35/3,9 TB/s Bandbreite — die Rechenwerke sind praktisch identisch. Bei speichergebundenen Workloads wie LLM-Inferenz bringt genau das den Schub: NVIDIA nennt bis zu 1,7× mehr LLM-Durchsatz für die H200 NVL gegenüber der H100 NVL (Herstellerangabe). Dazu kommt schnelleres NVLink (900 statt 600 GB/s per Bridge). Neue H100-Karten sind im deutschen Handel kaum noch verfügbar.
Läuft Llama 70B auf einer einzigen H200?
Ja — in FP8-Quantisierung belegt ein 70B-Modell wie Llama 3.3 rund 70–75 GB und läuft damit komfortabel auf einer H200 mit reichlich Reserve für den KV-Cache und lange Kontexte. Selbst FP16 (~141 GB) passt gerade noch auf die Karte. Auch Qwen2.5-72B (FP8 ~72 GB) und Mistral Large 123B (FP8 ~123 GB) laufen auf einer einzelnen Karte — erst Modelle jenseits der 141 GB brauchen den NVLink-Verbund oder ein 8-GPU-System. Alle Werte sind Richtwerte für Gewichte plus KV-Cache-Reserve.
Wie viel Strom verbraucht die NVIDIA H200?
Die H200 NVL ist auf bis zu 600 W konfigurierbar (die SXM-Variante bis 700 W). Die Karte ist passiv gekühlt — der Server muss den Luftstrom liefern, weshalb sie nur in dafür qualifizierte Chassis gehört. Als Planungsgröße: 4 Karten ≈ 2,4 kW, 8 Karten ≈ 4,8 kW allein für die GPUs, plus Server. Das bleibt klassische Luftkühlung im Bestands-Rack — einer der Hauptgründe, 2026 zur H200 statt zu flüssigkeitsgekühlten Systemen zu greifen.
Passt die H200 NVL in meinen vorhandenen Server?
Wenn der Server PCIe Gen5 x16, einen Dual-Slot-Platz, ausreichend Durchzugskühlung und Netzteil-Reserve für bis zu 600 W pro Karte bietet — sehr wahrscheinlich ja. NVIDIA führt dafür qualifizierte Systeme (NVIDIA-Certified/MGX) von Supermicro, GIGABYTE (G293/G493), Dell, HPE und Lenovo mit bis zu 8 Karten. Nelpx prüft Ihre Server-Konfiguration vor der Bestellung kostenlos — und liefert auf Wunsch den passenden GPU-Server gleich mit.
Wie funktioniert NVLink bei der H200 NVL?
Über steckbare NVLink-Bridges verbinden Sie 2 oder 4 Karten mit 900 GB/s pro GPU — ein 4er-Verbund wirkt dann wie ein Beschleuniger mit 564 GB HBM3e. Karten ohne Bridge kommunizieren über PCIe Gen5 mit 128 GB/s. Für Modelle über 141 GB oder Tensor-Parallelismus ist die Bridge deshalb die wichtigste Zubehör-Entscheidung — im Konfigurator wählbar, Nelpx liefert die passenden Bridges mit.
Unterstützt die H200 MIG (Multi-Instance GPU)?
Ja — die H200 NVL lässt sich in bis zu 7 vollständig isolierte MIG-Instanzen mit je 16,5 GB aufteilen. Damit bedient eine Karte mehrere Teams oder Services parallel: etwa mehrere 7B/14B-Modelle gleichzeitig oder getrennte Dev-/Test-/Prod-Instanzen. Zusammen mit der enthaltenen NVIDIA-AI-Enterprise-Software ist das der Baustein für Multi-Tenant-Inferenz on-premises.
Ist NVIDIA AI Enterprise beim Kauf der H200 enthalten?
Ja — jede H200 NVL enthält eine 5-Jahres-Subscription für NVIDIA AI Enterprise inklusive NIM-Microservices; aktiviert wird sie über die GPU-Seriennummer. Das ist ein realer Kostenvorteil gegenüber SXM-Systemen und anderen Karten, bei denen die Software separat lizenziert wird. Damit sind Produktions-Stack, Enterprise-Support für die Software und validierte Container ab Tag eins dabei.
Lohnt sich die H200 2026 noch — oder gleich Blackwell?
Für Modelle bis 141 GB — also die gesamte 7B-bis-70B-Klasse in FP8 — ist die H200 NVL 2026 der Preis-Leistungs-Kauf: luftgekühlt im Standard-Server, reifster Software-Stack und rund die Hälfte eines vergleichbaren Blackwell-Systemplatzes. Blackwell (HGX B200/B300) gewinnt bei größeren Modellen, FP4-Großserving und Cluster-Training. Ehrliche Faustregel: Passt der Workload auf 1–8 NVL-Karten, kaufen Sie H200; wächst er darüber hinaus, planen Sie direkt ein HGX-System — Nelpx rechnet beide Wege im Angebot vor.
Warum eine H200 kaufen statt GPU-Cloud mieten?
Zwei Gründe: Wirtschaftlichkeit und Datenhoheit. H200-Cloud-Instanzen kosten bei etablierten Anbietern typischerweise 3 bis 4,50 US-Dollar pro GPU-Stunde (Discount-Anbieter teils darunter) — bei Dauerlast auf diesem Preisniveau amortisiert sich die gekaufte Karte als Richtwert in 10 bis 12 Monaten, danach rechnet sie Jahre für Sie. Und on-premises bleiben Prompts, Trainingsdaten und Modelle vollständig im Haus — das vereinfacht DSGVO-Bewertung und EU-AI-Act-Einordnung erheblich. Nelpx unterstützt auch Finanzierung und Leasing.
Ihre H200 — angefragt in 2 Minuten
Ab 26.200 € zzgl. MwSt. pro Karte, inklusive 5 Jahren NVIDIA AI Enterprise. GPU-Preise sind volatil und Lagerbestände wechseln täglich: Wer jetzt anfragt, sichert Preis und Karte. Nelpx liefert einzeln, im Verbund oder mit passendem Server.
Jetzt konfigurieren & Angebot einholenTagesaktueller Preis · Angebot in der Regel innerhalb von 48 h · DACH-weite Lieferung & Integration