Zum Inhalt springen
Kostenübersicht · Stand August 2026

Was kostet ein GPU-Server?

Von 5.180 € für den ersten KI-Rechner bis über 450.000 € für eine HGX-Plattform mit acht Blackwell-GPUs. Wir zeigen die Preisklassen mit unseren eigenen Preisen, rechnen Strom, Kühlung und Lizenzen dazu und sagen offen, wann sich der Kauf nicht lohnt.

IT-Systemhaus für HPC & AI-Infrastruktur · Lieferung EU-weit · Konfiguration, Angebot und Lieferung aus einer Hand

ALLE PREISE NETTO RECHNER LÄUFT IM BROWSER STROM 19,22 CT/KWH REFERENZ
Rechenbeispiel: HGX-System, 5 Jahre netto, ohne Personal
Anschaffung450.000 €
Strom, IT-Last122.600 €
Kühlung, PUE 1,336.800 €
Rack, USV, Netzwerkstandortabhängig

Annahmen: 14 kW Dauerlast, 20 ct/kWh, PUE 1,3, 8.760 Betriebsstunden im Jahr. Der letzte Posten hat bewusst keinen Balken - Rack, USV und Netzwerk hängen am Standort und stehen erst im Angebot fest.

5.180€ netto Einstieg, Desktop-KI
26.200€ netto je H200 NVL
370.000€ netto ab HGX B200, 8 GPUs
19,22ct/kWh Strom, Referenzwert
Die kurze Antwort

Was kostet ein GPU-Server?

Ein GPU-Server im Rack kostet bei Nelpx netto ab 149.000 € - so viel kostet ein System mit acht RTX-PRO-Karten. Eine HGX-Plattform mit acht Blackwell-GPUs liegt ab 370.000 € (B200) beziehungsweise ab 450.000 € (B300). Unterhalb der Serverklasse wird es deutlich günstiger: eine einzelne GPU zum Nachrüsten ab 9.600 €, eine NVIDIA H200 NVL ab 26.200 €, ein Desktop-KI-Rechner für den Einstieg 5.180 €. Dazu kommen die Betriebskosten: Ein System mit 14 kW Dauerlast verursacht bei 20 ct/kWh und PUE 1,3 rund 31.900 € Stromkosten im Jahr, über fünf Jahre etwa 159.000 €.

Einstieg
5.180 €Desktop-KI-Rechner, netto
Rack-Server
ab 149.000 €8 RTX-PRO-Karten; HGX ab 370.000 €
Strom, 5 Jahre
ca. 159.000 €bei 14 kW, 20 ct/kWh, PUE 1,3

Preise: eigene Angebotspreise, netto zzgl. USt., Stand 26.08.2026. Strompreis-Referenz: Statistisches Bundesamt, Durchschnitt aller Nicht-Haushaltskunden im 2. Halbjahr 2025, 19,22 ct/kWh ohne Mehrwertsteuer; der Rechner arbeitet mit 20 ct/kWh als frei änderbarem Vorgabewert.

Preisklassen

Fünf Klassen, fünf Größenordnungen

Die Frage „was kostet ein GPU-Server" hat keine einzelne Antwort, weil hinter dem Wort fünf sehr verschiedene Geräte stecken. Alle Beträge sind unsere eigenen Preise, netto zzgl. USt.

Klasse 1 · Schreibtisch

Desktop-KI-Rechner

5.180 €
netto, sofort lieferbar

Ein GB10-Superchip mit 128 GB gemeinsamem Speicher. Für erste Modelle, Feinabstimmung kleiner Netze und als Entwicklungsgerät neben dem Laptop.

  • ca. 0,22 kW unter Last, normale Steckdose
  • kein Serverraum, kein Rack
  • ein Nutzer, kein Dauerbetrieb nötig
NVIDIA DGX Spark ansehen
Klasse 3 · Arbeitsplatz

KI-Workstation

Preis auf Anfrage
Richtwert: Kartenpreis mal Anzahl plus Basissystem

Bis zu vier professionelle Karten in einem Turm, unter dem Schreibtisch oder im Nebenraum. Für Teams, die trainieren wollen, ohne ein Rechenzentrum zu betreiben.

  • ca. 0,9 bis 1,6 kW unter Last
  • Starkstrom meist nicht nötig
  • laut - Aufstellort mitplanen
KI-Workstation konfigurieren
Klasse 4 · Rack

GPU-Server im Rack

ab 149.000 €
netto, Beispiel: 8 RTX-PRO-Karten

Der klassische Rechenzentrums-Server: Redundanz, Fernwartung, Luftkühlung im Kaltgang. Je nach Kartenzahl und Klasse liegt die Spanne breit.

  • ca. 4 bis 6,5 kW je System
  • 19-Zoll-Rack, Kaltgang genügt
  • mehrere Nutzer parallel
GIGABYTE XL44 ansehen
Klasse 5 · Plattform

HGX-Plattform, 8 GPUs

ab 370.000 €
netto, HGX B200; HGX B300 ab 450.000 €

Acht Blackwell-GPUs auf einer Platine, über NVLink verbunden. Die Klasse, in der große Modelle in einem einzigen Knoten trainiert werden.

  • ca. 14 kW je System
  • Rack, Zuleitung und Kühlung planen
  • Lieferung über Herstellerallokation
HGX B200 konfigurieren
Nicht vergessen

Was noch dazukommt

+ Betrieb
über die Laufzeit oft im Bereich der Anschaffung

Strom und Kühlung sind der größte laufende Posten, dazu kommen Rack, USV, Netzwerk, optionale Lizenzen und Support. Der Rechner unten setzt die Posten zusammen.

  • Strom: 2.280 € je kW und Jahr bei PUE 1,3
  • NVIDIA AI Enterprise: Liste 4.500 USD je GPU und Jahr
  • Support über die Garantie hinaus
Zum Kostenrechner

Die Preise entsprechen den Beträgen auf unseren Produktseiten (Stand 26.08.2026, netto zzgl. USt.). „Ab"-Preise beziehen sich auf die jeweilige Basiskonfiguration; Speicher, Netzwerk und Support verändern den Betrag. Leistungsangaben sind Richtwerte unter Volllast inklusive CPU, Speicher und Lüftern, keine Herstellergarantie.

Kostenrechner

Was kostet Ihr GPU-Server über 3 oder 5 Jahre?

Systemklasse wählen, Anzahl und Betriebsannahmen setzen - wir rechnen Anschaffung, Strom, Kühlung und optionale Posten zusammen. Alle Vorgabewerte sind änderbar, weil kein Rechenzentrum wie das andere ist.

01

Systemklasse

Der Vorgabepreis ist unser veröffentlichter Ab-Preis der jeweiligen Klasse. Sie können ihn unten überschreiben, sobald Sie ein konkretes Angebot vorliegen haben.

Vorgabe: unser Preis für den NVIDIA DGX Spark.

Richtwert unter Volllast, inklusive CPU, Speicher und Lüftern.

Basis für Lizenzkosten und den Preis je GPU-Stunde.

1 bis 64 Systeme. Ab acht Systemen planen wir Rack und Zuleitung mit.

02

Betrieb

Diese vier Werte entscheiden über die laufenden Kosten. Wenn Sie Ihren Strompreis kennen, tragen Sie ihn ein - er ist der größte Hebel.

Referenz: 19,22 ct/kWh Durchschnitt aller Nicht-Haushaltskunden, 2. Halbjahr 2025 (Destatis).

1,0 = keine Zusatzverbraucher. 1,3 bedeutet 30 % Aufschlag auf den IT-Strom.

Trainingscluster laufen oft nahe 100 %, Entwicklungsgeräte oft unter 40 %.

Nur ausfüllen, wenn Sie Support über die Herstellergarantie hinaus einplanen.

03

Optionale Posten

Beide Felder stehen auf null, weil sie nicht für jedes Projekt anfallen. Tragen Sie eigene Beträge ein - wir setzen hier bewusst keine fremden Marktpreise als Vorgabe.

NVIDIA nennt für AI Enterprise 4.500 USD je GPU und Jahr als Liste (5 Jahre: 18.000 USD). Abgerechnet wird pro GPU, nicht pro Server. Bei einzelnen Karten liegt eine Lizenz bei - was für Ihre Karte gilt, klären wir im Angebot.

Nur relevant, wenn Sie extern einstellen. Achtung: Im Stellplatzpreis ist die Kühlung meist schon enthalten - setzen Sie den PUE dann auf 1,0, damit sie nicht zweimal zählt. Bei eigenem Serverraum bleibt das Feld auf null.

04

Vergleich mit Mieten, optional

Wir nennen keine fremden Mietpreise. Tragen Sie den Stundensatz ein, den Sie tatsächlich zahlen oder angeboten bekommen haben - der Rechner zeigt, wie sich beides über die Laufzeit verhält.

Bei null blenden wir den Vergleich aus.

05

Kontakt für das Angebot

Optional. Ohne Kontaktdaten können Sie das PDF trotzdem erzeugen.

Ihre Eingaben bleiben beim Ausfüllen vollständig in Ihrem Browser. Es werden keine Daten übertragen, solange Sie nicht aktiv die E-Mail absenden.

Rechenweg: Strom = Leistung × 8.760 h × Jahre × Auslastung × Strompreis. Kühlung und Infrastruktur = Stromkosten × (PUE - 1). Preis je GPU-Stunde = Gesamtkosten ÷ (GPUs × Systeme × 8.760 h × Jahre × Auslastung). Nicht enthalten: Personal, Netzwerk-Infrastruktur, Rack und USV, Datenspeicher, Ausfallkosten.

Kostenbausteine

Acht Posten, die im Budget stehen sollten

Der Kaufpreis der Hardware ist der sichtbarste Posten, aber nicht der einzige. Diese acht Punkte tauchen in fast jedem Projekt auf, das wir begleiten.

01GPUs

Der mit Abstand größte Anteil am Kaufpreis. Der Sprung von einer L40S in die Blackwell-Klasse vervielfacht ihn - und entscheidet damit über die Größenordnung des ganzen Projekts.

02Basissystem

Gehäuse, CPUs, Arbeitsspeicher, Netzteile, Datenträger. Bei dichten Systemen ein kleiner, bei Aufrüstungen ein entscheidender Posten.

03Netzwerk

Ab mehreren Knoten kommt schnelles Verbindungsnetz dazu. Bei einem einzelnen Server reicht meist, was vorhanden ist.

04Rack, Strom, USV

Zuleitung, Steckdosenleisten, unterbrechungsfreie Versorgung. Ein 14-kW-System sprengt die übliche Rack-Auslegung.

05Kühlung

Steckt im PUE-Faktor. Bei Luftkühlung im Kaltgang moderat, bei hoher Dichte wird Flüssigkühlung zum eigenen Projekt.

06Strom

Der größte laufende Posten. Faustregel bei PUE 1,3 und 20 ct/kWh: rund 2.280 € je kW und Jahr im Dauerbetrieb.

07Lizenzen

Optional, aber teuer: NVIDIA AI Enterprise steht mit 4.500 USD je GPU und Jahr in der Liste - abgerechnet pro GPU.

08Betrieb und Personal

Aufsetzen, Überwachen, Aktualisieren. Wir nennen dafür bewusst keinen Betrag - der hängt daran, wer es macht.

Lizenzpreise nach NVIDIA-Preistabelle für AI Enterprise, self-managed, Stand August 2026: 4.500 USD je GPU und Jahr, 13.500 USD für drei Jahre, 18.000 USD für fünf Jahre, unbefristet 22.500 USD inklusive fünf Jahren Support. Für Bildungs- und Forschungseinrichtungen sowie Inception-Mitglieder gelten 75 % des Listenpreises.

Strom und Kühlung

Was ein GPU-Server im Jahr an Strom kostet

Die Rechnung ist einfach: Leistung mal Stunden mal PUE mal Strompreis. Die Tabelle zeigt sie für unsere Systemklassen bei 20 ct/kWh, PUE 1,3 und Dauerbetrieb.

SystemklasseLeistungVerbrauch im Jahr, inkl. KühlungStromkosten im Jahrüber 5 Jahre
Desktop-KI
DGX Spark
0,22 kWca. 2.500 kWhca. 500 €ca. 2.500 €
KI-Workstation
4 Karten
1,4 kWca. 15.900 kWhca. 3.200 €ca. 15.900 €
Server, 8 L40S
Luftkühlung
4,0 kWca. 45.600 kWhca. 9.100 €ca. 45.600 €
Server, 8 H200 NVL
Luftkühlung
6,5 kWca. 74.000 kWhca. 14.800 €ca. 74.000 €
HGX-Plattform
8 Blackwell-GPUs
14,0 kWca. 159.400 kWhca. 31.900 €ca. 159.400 €

Annahmen: 8.760 Betriebsstunden im Jahr unter Volllast, PUE 1,3, 20 ct/kWh netto. Verbrauch und Kosten enthalten den Kühlungsaufschlag. Werte auf 100 kWh beziehungsweise 100 € gerundet. Zu den Leistungsangaben: Die GPU-Last stammt aus unseren Produktseiten (L40S 2,8 kW, H200 NVL 4,8 kW je acht Karten, HGX 14 kW, DGX Spark 217 W gemessen). Wo der Hersteller keinen Systemwert nennt, haben wir das Basissystem aufgeschlagen - das sind gerechnete Richtwerte unter Volllast, keine Herstellergarantie. Im Teillastbetrieb liegt der Verbrauch deutlich niedriger.

Geltendes Recht

PUE-Vorgaben nach dem Energieeffizienzgesetz

Die Pflichten greifen ab 300 kW nicht-redundanter Nennanschlussleistung - ein einzelner GPU-Server löst sie also nicht aus, ein wachsender Cluster durchaus.

Rechenzentren, die ab dem 1. Juli 2026 in Betrieb gehen, müssen einen PUE von höchstens 1,2 erreichen - spätestens zwei Jahre nach Inbetriebnahme, gemessen im Jahresmittel. Für Bestandsrechenzentren gilt ab dem 1. Juli 2027 ein PUE von höchstens 1,5 und ab dem 1. Juli 2030 von höchstens 1,3. Neubauten müssen ab Juli 2026 zudem mindestens 10 % der Abwärme wiederverwenden, ab 2027 15 % und ab 2028 20 %. Betreiber ab 300 kW melden jährlich bis zum 31. März an das Energieeffizienzregister.

Entwurf, noch nicht in Kraft

Was die Novelle 2026 ändern würde

Das Bundeskabinett hat am 24. Juni 2026 eine Novelle beschlossen, die die Vorgaben lockert. Bundestag und Bundesrat befassen sich im Herbst 2026 damit - bis dahin gelten die Werte links.

Vorgesehen sind: Anwendungsbereich erst ab 500 kW installierter IT-Leistung statt 300 kW Nennanschlussleistung, für Bestandsrechenzentren ein PUE von 1,6 statt 1,5 ab 2027 und 1,4 statt 1,3 ab 2030. Für Neubauten bleibt es bei 1,2 - sie bekämen aber vier statt zwei Jahre Zeit, den Wert im Jahresmittel zu erreichen. Die Abwärmequoten von 10, 15 und 20 % bleiben ebenfalls, werden aber durch zusätzliche Ausnahmen entschärft. Wer gerade plant, sollte beide Fassungen kennen und nicht auf die Lockerung bauen.

Ehrlich gerechnet

Wann sich der Kauf lohnt - und wann nicht

Wir verkaufen Hardware, deshalb hier die Gegenrede gleich mit: Es gibt Fälle, in denen ein eigener GPU-Server die falsche Entscheidung ist.

Für den Kauf spricht

  • Hohe, planbare Auslastung: Je näher der Dauerbetrieb, desto eher trägt gekaufte Hardware. Wo genau die Grenze liegt, hängt am Stundensatz, den Sie vergleichen - der Rechner oben zeigt sie für Ihren Fall.
  • Daten bleiben im Haus - bei personenbezogenen oder vertraulichen Daten oft das eigentliche Argument.
  • Kalkulierbare Kosten ohne Überraschungen am Monatsende.
  • Kein Warten auf freie Kapazität, keine Kündigungsfristen.
  • Die Finanzverwaltung lässt für Computerhardware eine Nutzungsdauer von einem Jahr zu - was das für Ihre Bilanz bedeutet, klärt Ihre Steuerberatung.

Gegen den Kauf spricht

  • Unklarer Bedarf: Wer noch nicht weiß, wie groß das Modell wird, kauft leicht am Ziel vorbei.
  • Kurze Spitzenlast: Ein Training über sechs Wochen im Jahr rechtfertigt selten ein eigenes System.
  • Kein Platz und kein Strom: Ein 14-kW-System braucht Rack, Zuleitung und Kühlung - fehlt das, kommt ein Bauprojekt obendrauf.
  • Kein Personal für den Betrieb: Hardware, die niemand pflegt, steht teuer herum.
  • Technikwechsel: In schnellen Generationszyklen ist eine kürzere Bindung manchmal die günstigere Entscheidung.
Unsere Empfehlung: Rechnen Sie zuerst mit ehrlicher Auslastung. Tragen Sie im Rechner oben Ihren tatsächlichen Mietpreis je GPU-Stunde ein - liegt der Kauf danach nicht klar vorn, sagen wir Ihnen das auch im Gespräch. Ein guter Zwischenweg ist häufig ein kleines eigenes System für Entwicklung und Datenschutz, kombiniert mit zugekaufter Kapazität für seltene große Trainings.
Häufige Fragen

Fragen zu den Kosten eines GPU-Servers

Was kostet ein GPU-Server?

Ein Rack-Server mit acht RTX-PRO-Karten kostet bei Nelpx ab 149.000 € netto, eine HGX-Plattform mit acht Blackwell-GPUs ab 370.000 € netto (HGX B200) beziehungsweise ab 450.000 € netto (HGX B300). Unterhalb der Serverklasse geht es deutlich günstiger: eine einzelne GPU zum Nachrüsten ab 9.600 € netto, eine NVIDIA H200 NVL ab 26.200 € netto, ein Desktop-KI-Rechner für den Einstieg 5.180 € netto (NVIDIA DGX Spark). Die Spanne hängt fast vollständig an der GPU-Klasse, nicht am Gehäuse.

Welche Betriebskosten kommen zum Kaufpreis dazu?

Strom und Kühlung sind der größte laufende Posten. Ein HGX-System mit rund 14 kW Dauerlast verbraucht bei 20 ct/kWh und einem PUE von 1,3 etwa 31.900 € Strom pro Jahr, über fünf Jahre rund 159.000 €. Dazu kommen je nach Aufbau Rack, USV und Netzwerk, optional NVIDIA-AI-Enterprise-Lizenzen, Hersteller-Support über die Garantie hinaus sowie Personal für den Betrieb.

Wie viel Strom verbraucht ein GPU-Server?

Als Richtwerte unter Volllast: ein Desktop-KI-Rechner der GB10-Klasse rund 0,22 kW, eine KI-Workstation mit vier Karten etwa 0,9 bis 1,6 kW, ein Server mit acht L40S rund 4 kW, ein Server mit acht H200 NVL rund 6,5 kW und eine HGX-Plattform mit acht Blackwell-GPUs rund 14 kW. Die Kühlung kommt über den PUE-Faktor obendrauf: PUE 1,3 bedeutet 30 Prozent Aufschlag auf den IT-Strom.

Was kostet der Strom für einen GPU-Server pro Jahr?

Die Rechnung lautet: Leistung in kW mal 8.760 Stunden mal PUE mal Strompreis. Nicht-Haushaltskunden in Deutschland zahlten im zweiten Halbjahr 2025 im Schnitt 19,22 ct/kWh ohne Mehrwertsteuer (Statistisches Bundesamt). Bei 20 ct/kWh und PUE 1,3 ergibt das rund 2.280 € pro Jahr je kW Dauerlast. Ein 6,5-kW-Server kostet damit etwa 14.800 € Strom im Jahr, ein 14-kW-System rund 31.900 €.

Was kostet eine NVIDIA-AI-Enterprise-Lizenz?

NVIDIA nennt als Listenpreis für die selbst betriebene Variante 4.500 US-Dollar pro GPU und Jahr, 13.500 US-Dollar für drei Jahre und 18.000 US-Dollar für fünf Jahre; eine unbefristete Lizenz mit fünf Jahren Support liegt bei 22.500 US-Dollar pro GPU. Abgerechnet wird pro GPU, nicht pro Server. Bei einzelnen Karten ist eine Lizenz bereits beigelegt - was für Ihre Karte gilt, klären wir im Angebot.

Lohnt sich der Kauf gegenüber Mieten?

Das entscheidet die Auslastung. Eigene Hardware kostet unabhängig davon, ob sie rechnet; gemietete Kapazität kostet pro Stunde. Faustregel: Je näher Sie an Dauerlast kommen und je länger das Projekt läuft, desto eher trägt der Kauf. Der Rechner auf dieser Seite hat dafür ein Feld, in das Sie Ihren eigenen Stundensatz eintragen - er zeigt, ab welcher Auslastung der Kauf günstiger wird. Nelpx nennt dort bewusst keine fremden Mietpreise.

Wie schnell ist ein GPU-Server lieferbar?

Das hängt an der GPU-Klasse. Karten und kleine Systeme aus dem Lager sind kurzfristig verfügbar, HGX-Plattformen laufen über Allokationen der Hersteller. Einen verbindlichen Liefertermin nennt Nelpx im Angebot, sobald die Allokation beim Hersteller geprüft ist.

Welche PUE-Vorgaben gelten für Rechenzentren in Deutschland?

Nach dem geltenden Energieeffizienzgesetz gelten die Pflichten ab 300 kW nicht-redundanter Nennanschlussleistung. Rechenzentren, die ab dem 1. Juli 2026 in Betrieb gehen, müssen einen PUE von höchstens 1,2 erreichen, Bestandsrechenzentren ab dem 1. Juli 2027 höchstens 1,5 und ab dem 1. Juli 2030 höchstens 1,3. Eine Novelle mit gelockerten Werten hat das Bundeskabinett am 24. Juni 2026 beschlossen, sie ist aber noch nicht in Kraft.

Kann ich einen GPU-Server sofort abschreiben?

Die Finanzverwaltung lässt für Computerhardware eine betriebsgewöhnliche Nutzungsdauer von einem Jahr zu (BMF-Schreiben vom 22. Februar 2022, präzisiert am 26. April 2022); die Regelung gilt 2026 fort. Ob und wie sie auf ein konkretes System anwendbar ist, klärt Ihre Steuerberatung - Nelpx erbringt keine Steuerberatung.

Rechnet sich ein gebrauchter oder älterer GPU-Server?

Nur, wenn der Speicher reicht. Der Kaufpreis fällt bei älteren Karten deutlich, der Stromverbrauch pro nutzbarer Rechenleistung steigt dagegen - und wenn ein Modell nicht in den GPU-Speicher passt, hilft der günstigere Preis nicht. Prüfen Sie zuerst den Speicherbedarf Ihres größten Modells, dann den Preis.

Wo kann ich einen GPU-Server kaufen?

Nelpx liefert GPU-Server, KI-Workstations und komplette HGX-Plattformen EU-weit, als offizieller GIGABYTE-Partner auch direkt über den Herstellerkanal. Sie erhalten Konfiguration, Angebot und Lieferung aus einer Hand; der Preisrahmen lässt sich auf dieser Seite vorab selbst rechnen.

Was kostet ein GPU-Server im Vergleich zu einer KI-Workstation?

Eine KI-Workstation steht unter dem Schreibtisch, braucht keinen Serverraum und liegt je nach Bestückung im niedrigen fünfstelligen Bereich - eine RTX PRO 6000 Server Edition kostet bei Nelpx 15.200 € netto. Ein Rackserver derselben GPU-Klasse kostet mehr, liefert dafür Redundanz, Fernwartung und Dichte. Für erste Modelle und einzelne Nutzer reicht die Workstation, für Dauerbetrieb und mehrere Nutzer der Server.

Nächster Schritt

Wir rechnen Ihren Fall konkret durch

Schicken Sie uns Ihre Rechnung aus dem Rechner oder einfach Ihren Einsatzzweck. Sie bekommen ein Angebot mit Preis, Liefertermin und einer ehrlichen Einschätzung, ob die Klasse zu Ihrem Vorhaben passt.