Grace und Bluefield sorgen für einen enormen Performace-Boost Die erste Nvidia-CPU – gedacht für KI und High Performance Computing

Die Computerpionierin Grace Brewster Murray Hopper ist die Namensgeberin der angekündigten Nividia-CPU „Grace“. Laut Jensen Huang bedeutet diese auf ARM-Kernen basierende Recheneinheit einen zehnfachen Leistungssprung für Systeme, die Modelle der KI trainieren.

Firmen zum Thema

NVIDIA GmbH

TaunHaus GmbH

Boston Server & Storage Solutions GmbH

Noch gehört ARM nicht zum Nvidia-Konzern. Dennoch hat das Unternehmen nun seine erste Rechenzentrums-CPU vorgestellt.

Der Hauptprozessor sei das Ergebnis von mehr als 10.000 Entwicklungsjahren, so Nvidia-CEO Jensen Huang. Er soll in Anwendungen zum Einsatz kommen, in denen Modelle zur Verarbeitung natürlicher Sprache, für Empfehlungssysteme und im KI-Supercomputing trainiert werden müssen. Dafür sind enorme Datensätze und aus heutiger Sicht ultaschnelle Berechnungen sowie massive Speicher vonnöten.

In Grace werden die ARM-CPU-Kerne, die als Energie-effizient gelten, mit Low-Power-Speicher-Subsystemen kombiniert. Die Verfügbarkeit ist für Anfang 2023 geplant.

Die Voraussetzungen

2023 sollen auch die ersten Supercomputer, der mit Grace ausgestattet sein sollen, an den Start gehen. Kunden sind das CSCS Swiss National Supercomputing Centre und das Los Alamos National Laboratory. Die Cluster baut Hewlett Packard Enterprise (HPE).

Laut Huang ist eine CPU für dieses Segment notwendig, da das Datenvolumen und die Größe der KI-Modelle exponentiell wachsen. Die größten KI-Modelle von heute umfassen Milliarden von Parametern und deren Anzahl verdoppelt sich alle zweieinhalb Monate. Ihr Training erfordert laut Huang eine CPU, die eng mit einer GPU gekoppelt werden kann, um Systemengpässe zu beseitigen, bisher existente x86er Prozessoren könnten das nicht.

„Führende KI und Data Science bringen die Computerarchitektur schon heute an ihre Grenzen,“ so Huang, etwa weil „unvorstellbare Datenmengen“ in immer kürzerer Zeit verarbeitet werden müssten. „Unter Verwendung lizenzierter Arm-IP hat Nvidia mit Grace eine CPU speziell für KI und HPC im Riesenformat entwickelt. Zusammen mit der GPU und der DPU gibt uns Grace die dritte grundlegende Technologie für das Computing und die Möglichkeit, das Rechenzentrum neu zu gestalten, um KI voranzutreiben. Nvidia ist jetzt ein Drei-Chip-Unternehmen.“

Grace zielt auf Workloads wie das Training von NLP-Modellen (NLP = Natural Language Processing), die in der kommenden Generation mehr als 1 Billion Parameter haben werden. Die Grundlage für die Leistung von Grace ist einmal die weltweit am häufigsten lizenzierte Prozessorarchitektur ARM. Arm-CEO Simon Segars, sagt: „Die Einführung der Grace Rechenzentrums-CPU zeigt deutlich, wie das Lizenzierungsmodell von Arm eine wichtige Erfindung ermöglicht, die die unglaubliche Arbeit von KI-Forschern und Wissenschaftlern überall unterstützen wird.“

Ergänzendes zum Thema

Roadmap für Rechenzentrumsinfrastrukturen mit Bluefield-3

Im Rahmen der GTC21 hat Nvidia auch seine Roadmap für seine DPU Bluefield vorgestellt – mitsamt 400 Gigabit pro Sekunde Line-Rate-Verarbeitung von Software-Defined Networking, Speicher und Cybersecurity. Die Hardware-Komponente, die für KI und Accelerated Computing entwickelt wurde, ist für den Einsatz in jedem Unternehmen gedacht.

Die Data Processing Unit ist für mandantenfähige, Cloud-native Umgebungen optimiert und bietet softwaredefinierte, Hardware-beschleunigte Netzwerk-, Speicher-, Sicherheits- und Management-Services im Rechenzentrum. So soll eine Bluefield-3-DPU entsprechenden Diensten von rund 300 CPU-Kernen entsprechen Damit setzt ihre Verwendung entsprechende CPU-Ressourcen frei.

Jensen Huang, Gründer und CEO von Nvidia, sagt:. „Ein neuer Prozessortyp, der für die Rechenzentrumsinfrastruktur-Software ausgelegt ist, wird benötigt, um die enorme Rechenlast Virtualisierung, Netzwerken, Storage, Sicherheit und anderen Cloud-nativen KI-Diensten zu entlasten und zu beschleunigen. Die Zeit für Bluefield DPU ist gekommen.“

Bluefield-3 und Morpheus

Bluefield-3 DPUs sollen herkömmliche Infrastrukturen in `Zero-Trust´-Umgebungen verwandeln, und zwar von Cloud- über Core- bis Edge-Implementierungen. Gleichzeitig lasse sich die Effizienz und Leistung steigern, so Nvidia.

Bluefield-3 unterstützt 400 Gigabit-Ethernet und bietet laut Hersteller die 10-fache beschleunigte Rechenleistung gegenüber der Vorgängergeneration. Sie ist mit 16x „ARM A78“-Kernen ausgestattet und mit 4-facher Beschleunigung für Kryptografie. Bluefield-3 ist laut Nvidia auch die erste DPU, die PCIe der fünften Generation unterstützt und zeitsynchrone Rechenzentrumsbeschleunigung bietet.

So fungiert Bluefield-3 unter anderem als Überwachungs- oder Telemetrie-Agent für „Nvidia Morpheus“, eine, KI-fähige, Cloud-native Cyber-Sicherheitsplattform, die ebenfalls heute angekündigt wurde.

Das SDK Doca 1.0

Bluefield-3 nutzt die Vorteile einer „Data-Center-on-a-Chip“-Architektur „Doca“, die Entwicklern eine , laut Nvidia offene Software-Plattform für die Entwicklung von Software-definierten Systemen. Nvidia hat auch diese Im Rahmen der GTC21 veröffentlicht, so dass sie zum Download bereitsteht.

Doca umfasst eine Laufzeitumgebung zum Erstellen, Kompilieren und Optimieren von Anwendungen für die Bluefield-DPU, Orchestrierungs-Tools zum Bereitstellen, Aktualisieren und Überwachen von Tausenden von DPUs im gesamten Rechenzentrum sowie Bibliotheken, APIs und eine wachsende Anzahl von Anwendungen, wie Deep Packet Inspection und Load Balancing.

Adaption von Nvidia-DPUs

Entscheidend für den Erfolg der neuen DPU-Generation ist, dass führende Serverhersteller wie Dell Technologies, Inspur, Lenovo und Supermicro Bluefield in ihre Systeme integrieren, aber auch Cloud-Service-Anbieter. Darunter befindet sich Baidu, JD.com und UCloud.

Doch auch die Akzeptanz durch Hybrid-Cloud-Spezialisten wie Canonical, Red Hat und VMware sowie Cybersecurity-Anbieter wie Fortinet und Guardicore ebenso die Speicheranbieter DDN, Netapp und Weka IO sowie die Edge-Plattform-Anbieter wie Cloudflare, F5 und Juniper hat sich Nvidia gesichert. Lee Caswell, Vice President, Marketing, Cloud Platform Business Unit bei VMware, erläutert, worin der Vorteil für die gemeinsamen Kunden liegt: „Unsere gemeinsamen Kunden sind dabei, die Leistungsfähigkeit von KI für Unternehmensanwendungen zu nutzen. Die Vision einer Unternehmensinfrastruktur, die auf der `VMware Cloud Foundation´ basiert und mit der neu angekündigten Nvidia BlueField-3 DPU zertifiziert ist, zeigt Kunden einen Weg zu einer verbesserten Anwendungsleistung, einem konsistenten Betriebsmodell über virtualisierte und Bare-Metal-Umgebungen hinweg sowie einem neuen Modell für die Bereitstellung von Zero-Trust-Sicherheit ohne Leistungseinbußen."

Bluefield-3 ist abwärtskompatibel mit „Bluefield-2“, die Nvidia-DPU, die jetzt zur Verfügung steht.

DIe Nvidia-CPU-Bestandteile

Außerdem steckt in Grace die Interconnect-Technologie von Nvidia NVLink, die mittlerweile in der der vierten Generation vorliegt. Sie ermöglicht nach jetzigen Stand eine Rekordverbindung von 900 Gigabit pro Sekunde zwischen Grace und den Nvidia-Grafikprozessoren. Damit kommt die Technik auf eine 30-fach höhere Gesamtbandbreite im Vergleich zu heutigen Servern führender Hersteller.

Grace wird außerdem ein „LPDDR5x- Speichersubsystem verwenden, das im Vergleich zu DDR4-Speicher eine doppelt so hohe Bandbreite und eine 10-fach bessere Energie-Effizienz erlaubt. Darüber hinaus bietet die neue Architektur eine einheitliche Cache-Kohärenz mit einem einzigen Speicheradressraum und kombiniert System- und HBM-GPU-Speicher, um die Programmierbarkeit zu vereinfachen.

Grace wird durch das HPC Software Development Kit von Nvidia und die komplette Suite „CUDA“ und durch „CUDA-X“-Bibliotheken unterstützt. Schon jetzt beschleunigen sie laut Hersteller mehr als 2.000 GPU-Anwendungen und damit die Entdeckungen von Wissenschaftlern und Forschern, die an den wichtigsten Herausforderungen der Welt arbeiten, beschleunigen.

Tatsächlich sind es Forschungseinrichtungen, die sich bereits als künftige Grace-Anwender zitieren lassen. So sagt CSCS-Direktor Professor Thomas Schulthess: „Die neuartige Grace-CPU ermöglicht es uns, KI-Technologien und klassisches Supercomputing zu konvergieren, um einige der schwierigsten Probleme in der Computational Science zu lösen. Wir freuen uns, die Nvidia-CPU unseren Nutzern in der Schweiz und weltweit für die Verarbeitung und Analyse massiver und komplexer wissenschaftlicher Datensätze zur Verfügung zu stellen."

(ID:47351603)