Dell Technologies Forum in München Neue Server für Dells AI Factory

Anbieter zum Thema

Dell GmbH

Open-E GmbH

Boston Server & Storage Solutions GmbH

Zadara Ltd.

Die AI Factory von Dell ist eine umfassende Sammlung von Produkten, Lösungen und Services, die Unternehmen den Einsatz von KI-Lösungen ermöglichen sollen. Auf dem Technologies Forum in München präsentierte Dell etliche neue Server für KI-Workloads.

Als AI Factory bezeichnet Dell sein Portfolio an Produkten, Lösungen und Services, mit denen Unternehmen KI-Anwendungen umsetzen können. Dabei geht es nicht nur um Lösungen für die Industrie, die gibt es natürlich auch, sondern Dell will damit deutlich machen, dass die AI Factory für KI-Lösungen einen ähnlichen Fortschritt bedeutet, wie die Fabrik während der industriellen Revolution für die Produktion physischer Güter. Dabei soll die KI-Fabrik alle Bereiche eines Unternehmens oder einer Institution abdecken. Wie Christian Winterfeldt, Senior Director Global Speciality Sales für die DACH-Region bei Dell, bei seiner Keynote beim Technologies Forum in München hervorhob, reicht die KI-Hardware des Herstellers von Notebooks mit NPU über Compute-Lösungen für Edge und Datacenter bis hin zu Storage- und Netzwerkprodukten. Dazu gehören weiter Kooperationen mit Herstellern wie Meta, Broadcom und Nvidia sowie der Dell Enterprise Hub auf Hugging Face als Quelle für optimierte Open-Source-KI-Modelle. Ein offenes KI-Ökosystem, Nachhaltigkeit und Sicherheit sind dabei für Winterfeldt zentrale Kennzeichen einer sinnvollen KI-Lösung. Die würden Unternehmen zunehmend nicht mehr in der Cloud laufen lassen, sondern im eigenen Datacenter. So wollen 83 Prozent der CIOs von Enterprise-Unternehmen Anwendungen aus der Cloud zurückholen, da etwa das Inferencing im eigenen Rechenzentrum deutlich kosteneffizienter sei. Wie Volker Seidel, Senior Director Presales DACH bei Dell, betont, ist das Datenmanagement zentral für ein erfolgreiches KI-Projekt, mit dem Unternehmen eine höhere Produktivität erreichen können. Ein Teil der AI Factory sind daher verschiedene Professional Services, die Beratungsleistungen für alle Schritte bei KI-Projekten abdecken.

Bildergalerie

Bildergalerie mit 8 Bildern

AI Factory mit Nvidia

Der wichtigste Partner für Dell bei der AI Factory ist Nvidia. Zwar bietet Dell auch Server mit Beschleunigern von AMD und Intel an, aber Nvidia ist derzeit führend bei Hardware und Software-Ökosystem für KI. Ein neuer Server, den Peter Dümig, Senior Product Manager Server bei Dell, bei seiner Session auf dem Event vorstellte, ist der Poweredge XE9685L, ein flüssigkeitsgekühlter 4U-Server mit zwei AMD-Epyc-Prozessoren der 5. Generation in Kombination mit einer HGX-H200- oder B200-Plattform von Nvidia mit acht Hopper- oder Blackwell-GPUs im SXM-Formfaktor. Zudem bietet der Server 12 PCIe-Gen5-Slots für Erweiterungskarten. Er ist damit für anspruchsvollere KI-Workloads und High Performace Computing konzipiert.

Vom Poweredge XE7745 mit AMD-Epyc-Turin-Prozessoren und vom Intel-Schwestermodell XE7740 mit Granite-Rapids-Xeon-Prozessoren erwartet sich Dümig eine sehr hohe Resonanz bei den Kunden, da die beiden Server durch ihre Flexibilität bei der Konfiguration ideal für den Start von KI-Projekten seien. Die luftgekühlten Systeme können mit bis zu acht PCI-Express-Beschleunigerkarten mit doppelter Breite oder 16 Single-Slot-GPUs bestückt werden. Zur Wahl stehen dabei beispielsweise Nvidias H200 NVL oder Intels Gaudi 3. Der Poweredge XE9685L soll im ersten Quartal 2025 verfügbar sein und der XE7745 sogar bereits im Januar. Der Poweredge XE7740 folgt im zweiten Quartal 2025.

Die Powerscale-Plattform für unstrukturierte Daten wird um die Unterstützung von 200GbE and 200Gb Infiniband erweitert, um so schneller Daten an die GPU-Systeme liefern zu können. Das All-Flash-Storage-System Powerscale F710 bietet jetzt 61-TB-SSDs, die HDD-Nodes unterstützen nun Laufwerke mit bis zu 24 TB Kapazität, um so größere Data Lakes ohne zusätzliche Systeme realisieren zu können.

Für die einfachere Einführung von RAG-Workflows bietet Dell ab sofort die Funktion Agentic RAG with Nvidia an, die Poweredge-Server, Powerscale-Storage-Systeme und Nvidias AI-Enterprise-Software nutzt. Dabei kommen verschiedene NIM-Services (Nvidia Inference Microservices) auf Kubernetes sowie die Elasticsearch Vektor-Datenbank zum Einsatz.

Eine High-End-Lösung für das LLM-Training ist der Poweredge XE9712 auf Basis der GB200-NVL72-Plattform von Nvidia. In einem 21.Zoll-Rack sitzen hier insgesamt 36 flüssigkeitsgekühlte GB200 Grace Blackwell Superchips, also Platinen mit jeweils einer Grace-ARM-CPU und zwei Blackwell-GPUs. Die 72 GPUs sind via NVLink verbunden und agieren gegenüber der Software als ein superschneller Beschleuniger. Dell liefert das System nur in Form eines komplett vorkonfigurierten Racks als Integrated Rack Scalable System. Ein Poweredge XE9712 benötigt bis zu 140 kW, soll aber durch seine Leistung trotzdem effizienter arbeiten, als ein luftgekühltes H100-System.

Neue Rack-Systeme für stärkere CPUs und GPUs

Die für Poweredge XE9712 verwendeten 21-Zoll-Racks der Serie Integrated Rack 7000 (IR7000) folgen den neuen Standards des Open Compute Projects (OCP). Ab dem ersten Quartal 2025 kann die IR7000-Serie auch für andere Projekte genutzt werden, die eine sehr hohe CPU- oder GPU-Kapazität auf wenig Raum erfordern. Der Flächenbedarf soll nicht über dem herkömmlicher 19-Zoll-Racks liegen. Die Serie 7000 ist mit integrierten Leitungen und Anschlüssen für eine direkte Flüssigkeitskühlung ausgelegt. Deren Stromversorgung kann zentral über ein Power Shelf und eine Busbar erfolgen. Ein passender Node ist der kompakte Poweredge M7725 mit AMD-Epyc-Turin-Prozessoren und hybrider Wasser-Luft-Kühlung. Bis zu 72 Nodes mit insgesamt 27.000 CPU-Cores können in einem Rack eingesetzt werden, verspricht Dell.

Sierra-Forest-Server für Cloud und Hosting

Neue Server von Dell gibt es nicht nur für KI-Workloads, sondern auch für andere Aufgaben. Die neuen Poweredge-Systeme der Serien R670 und R770 sind für Cloud-Provider und Hoster bestimmt, die energieeffiziente Systeme mit vielen Cores benötigen. Die Dual-CPU-Server im 1U- oder 2U-Format nutzen Intel Xeon-6-Prozessoren mit E-Cores (Sierra Forest), die mit bis zu 144 Cores pro CPU lieferbar sind. Zunächst kommen die Systeme als CSP-Versionen mit I/O-Konfigurationen an der Vorderseite.

Neue Poweredge-Server von Dell

Booster für die KI-Implementierung

Computex 2024

Xeon 6: Intels ungleiche Zwillinge

(ID:50270265)