Mobile-Menu

KI lokal betreiben Hetzner bringt Multi-GPU-Server mit vier Blackwell-GPUs

Von Natalie Forell 2 min Lesedauer

Anbieter zum Thema

Hetzner Online GmbH
Enreach Deutschland
Soft & Cloud GmbH

Hetzner erweitert das Angebot um den GEX430 und hat damit erstmals einen Server mit vier GPUs im Portfolio. Mit 384 GB VRAM eignet er sich für große Sprachmodelle, die viele Nutzer gleichzeitig bedienen. Der Preis soll bei 4.282,81 Euro im Monat liegen.

Hetzner präsentiert den Multi-GPU-Server GEX430 für besonders speicherintensive KI-Modelle und den Parallelbetrieb. (Bild: Hetzner)
Hetzner präsentiert den Multi-GPU-Server GEX430 für besonders speicherintensive KI-Modelle und den Parallelbetrieb.
(Bild: Hetzner)

Der Hosting-Anbieter Hetzner bringt mit dem GEX430 seinen ersten Multi-GPU-Server auf den Markt. Das Modell ist mit vier Nvidia RTX PRO 6000 Blackwell Max-Q GPUs und mit insgesamt 384 GB GDDR7 ECC VRAM ausgestattet. Der Dedicated Server richtet sich vor allem an Unternehmen, die hohe Rechenleistung für KI-Training, die Inferenz großer Sprachmodelle (LLMs), Fine Tuning sowie anspruchsvolle Rendering- und Simulationsaufgaben benötigen.

Mehrere Modelle auf einem Server

Mit den vier GPUs sollen sich besonders speicherintensive KI-Modelle ausführen und mehrere Modelle parallel betreiben lassen. Unternehmen können so unterschiedliche KI-Anwendungen auf einem Server bündeln, beispielsweise einen Chatbot für den Kundensupport neben einem Assistenten für Entwickler.

Jede der vier GPUs bringt 96 GB GDDR7 ECC VRAM mit und unterstützt Technologien wie Tensor Cores der fünften Generation, RT Cores der vierten Generation und FP4. Dazu kommen ein Xeon Gold 5412U von Intel mit 24 Kernen und 48 Threads, 128 GB DDR5 Registered ECC RAM sowie zwei 1,92 TB große NVMe-SSDs der Datacenter Edition (Gen4).

„Gerade bei der KI-Inferenz ist neben der Rechenleistung auch der Grafikspeicher entscheidend“, betont Stefan Weiberg, Product Manager bei Hetzner. Bei vielen gleichzeitigen Anfragen wird der Grafikspeicher schnell knapp, denn dort liegen das Modell und die Daten aller laufenden Anfragen. Mit 384 GB VRAM soll der GEX430 daher umfangreiche Ressourcen liefern, um große Sprachmodelle bereitzustellen und viele Nutzer gleichzeitig zu bedienen.

KI ohne externe Plattformen

Open-Weight-Modelle, bei denen die fertig trainierten Parameter öffentlich verfügbar sind, lassen sich auf dedizierter Hardware in der EU betreiben, ohne dass Unternehmen auf externe KI-Plattformen zurückgreifen müssen. Dazu zählen zum Beispiel GLM, Mistral oder Qwen. Bei richtiger Konfiguration bleiben sensible Informationen wie interne Dokumente, Kundendaten oder Quellcode in der eigenen Serverumgebung. Das kann helfen, individuelle Datenschutz- und Compliance-Anforderungen zu erfüllen.

Der GEX430 kostet monatlich 4.282,81 Euro und enthält eine IPv4-Adresse. Die einmalige Setup-Gebühr beträgt ebenfalls 4.282,81 Euro. Beide Preise sind Angaben inklusive 19 Prozent Umsatzsteuer.

(ID:50994787)

Wissen, was läuft

Täglich die wichtigsten Infos aus dem ITK-Markt

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte