Neue Anforderungen an Storage-Systeme Flash-Speicher fürs KI-Zeitalter

Anbieter zum Thema

KIOXIA Europe GmbH

Open-E GmbH

DataCore Software GmbH

Zadara Ltd.

KI erobert derzeit fast alle Wirtschaftsbereiche, doch die verschiedenen Use-Cases stellen ganz unterschiedliche Anforderungen an die verwendeten Speicher. Nicht alle lassen sich mit bestehenden Produkten bedienen, weshalb Speicherhersteller bereits an neuen Lösungen arbeiten.

Viele Unternehmen versprechen sich von KI enorme Wettbewerbsvorteile, mancherorts kennt die Erwartungshaltung kaum noch Grenzen. Doch auch dort, wo die Euphorie nicht ganz so groß ist, beschäftigt man sich inzwischen verstärkt mit dem Thema, um möglichst keine Chancen zu verpassen. Die Unternehmen erkunden Einsatzmöglichkeiten, erproben Anwendungen und haben durchaus schon den einen oder anderen Use-Case umgesetzt. Sie lassen sich in der Regel einem der drei folgenden Bereiche zuordnen:

• Big-Data-Anwendungen, die in Rechenzentren oder Clouds laufen und große Mengen unstrukturierter Daten nach Mustern und Anomalien durchforsten,

• KI-Anwendungen auf Endgeräten wie Set-Top-Boxen, Smartphones und Wearables, die lokale Nutzungsdaten auswerten, Optimierungen vornehmen oder die Interaktion mit Anwendern verbessern

• KI-Anwendungen in der Industrie, die Sensordaten analysieren, um Abläufe zu überwachen und zu steuern. Typische Beispiele sind hier Predictive Maintenance bei Maschinen und Anlagen, die digitale Steuerung von Fertigungsstraßen und fortschrittliche Fahrassistenzsysteme in Fahrzeugen.

Während Unternehmen auf die Server- und Storage-Systeme in Rechenzentren und Cloud nur wenig oder keinen Einfluss haben, entwickeln sie die Systeme in den beiden anderen Bereichen oft selbst oder in enger Zusammenarbeit mit Systemintegratoren und OEMs. Dabei fällt meist schnell auf, dass es gar nicht so schwierig ist, ausreichend Rechenleistung für KI-Anwendungen bereitzustellen – die Herausforderung ist eher der Speicher, da die verschiedenen Use-Cases ganz unterschiedliche Anforderungen an dessen Performance, Kapazität, Skalierung, Robustheit, Leistungsaufnahme und Kosten haben.

Geht es beispielsweise um die schnelle Abarbeitung von Code, sind vor allem Zugriffe mit sehr geringer Latenz gefragt. Bei der Bereitstellung von Daten steht hingegen eher der Speicherplatz im Fokus, und häufig ist auch Kosteneffizienz wichtig, also eine gesunde Mischung aus Kosten und Kapazität beziehungsweise Kosten und Performance. Dazu kommen dann beispielsweise in der Industrie noch besondere Anforderungen wie eine lange Lebensdauer und große Zuverlässigkeit auch unter fordernden Bedingungen wie hohen oder niedrigen Temperaturen.

Ein NAND-Flash-Speicher für alle Fälle

Nicht immer lassen sich die spezifischen Anforderungen mit bestehenden SSDs und Embedded-Flash-Speichern (UFS, eMMC) bedienen. Deshalb entwickeln die Hersteller kontinuierlich neue Lösungen, die auf den am besten zum Use-Case passenden NAND-Flash-Speicher und optimierte Controller und Firmware setzen. Der NAND-Flash-Speicher vermag je nach NAND-Typ ein oder mehrere Bits zu speichern, wobei gilt: Die Anzahl der Ladungslevel, die die Elektronik des Speichers unterscheiden muss, wächst mit jedem Bit exponentiell.

Bei SLC-NAND (Single-Level-Cell) mit einem Bit pro Zelle sind es zwei Ladungslevel, bei MLC-NAND (Multi-Level-Cell) mit zwei Bit pro Zelle vier, bei TLC-NAND (Triple-Level-Cell) mit drei Bits pro Zelle acht und bei QLC-NAND (Quad-Level-Cell) mit vier Bits pro Zelle bereits 16.

Mehr Bits pro Zelle bedeuten zwar eine höhere Speicherdichte und damit höhere Speicherkapazitäten bei gleichem Platzbedarf, allerdings erfordern die geringen Unterschiede zwischen den Ladungslevels eine empfindlichere Elektronik und eine leistungsstärkere Fehlerkorrektur. Schließlich können mit der Zeit auftretende Ladungsverluste oder Störungen durch Schreib- und Lesevorgänge in benachbarten Zellen leichter zu Bitfehlern führen. Zudem altern die Zellen schneller, weil sie mehrere Bits abspeichern und dadurch größeren Schreiblasten ausgesetzt sind.

Ein Stück weit lässt sich das durch Wear-Leveling – die gleichmäßige Verteilung der Schreiblasten über alle Zellen – ausgleichen, dennoch ist QLC-NAND weniger robust als TLC-NAND, TLC-NAND weniger robust als MLC-NAND und MLC-NAND weniger robust als SLC-NAND.

Bei Use-Cases mit hohen Schreiblasten oder hohen Anforderungen an Lebensdauer und Zuverlässigkeit der Speicher kommt daher tendenziell eher SLC-NAND zum Einsatz. Solche NAND-Flash-Speicher sind allerdings vergleichsweise teuer. Bei großen Datenmengen, auf die vor allem lesend zugegriffen wird, reicht hingegen häufig QLC-NAND. Mit einer für sequentielle Leseoperationen optimierten Firmware sind solche Speicher beispielsweise gut für die kostengünstige Bereitstellung umfangreicher Datenbestände für das Training von KI-Algorithmen geeignet. TLC-NAND wiederum stellt einen guten Kompromiss aus Performance, Kapazität, Robustheit und Kosten dar.

Es muss nicht immer DRAM sein

Sind KI-Anwendungen auf Speicher mit sehr geringer Latenz angewiesen, denken Unternehmen oft an DRAM. Das ist naheliegend, weil die Technologie bei zufälligen Zugriffen eine hohe Performance garantiert und Code oder Daten schnell einer CPU oder GPU zur Verfügung stellen kann. Allerdings ist DRAM kostenintensiv und wird bei großen Datenmengen, wie sie für KI-Anwendungen nicht untypisch sind, sehr teuer. Zudem skaliert DRAM nur bis zu einem gewissen Grad, sodass Storage Class Memory (SCM) eine Alternative sein kann. Dabei handelt es sich um eine Flash-Speichertechnologie, die mit ihrer geringen Latenz leistungsmäßig zwischen DRAM und NAND-Flash steht.

SCM wie das von KIOXIA entwickelte XL-Flash ist im zweistelligen Prozentbereich günstiger als DRAM und reicht von der Leseperformance her nah an DRAM heran – lediglich die Schreibperformance ist niedriger, liegt aber immer noch signifikant über der von traditionellen NAND-Flash-Speichern. Zudem skaliert die Technologie gut, benötigt wenig Energie und speichert Daten wie jeder Flash-Speicher auch dann noch, wenn der Speicher nicht mehr mit Strom versorgt wird.

SCM steckt bereits in einigen Speicherprodukten wie SSDs und kann CPUs und GPUs künftig über das CXL-Protokoll (Compute Express Link) noch schnellere Zugriffe ermöglichen. Darüber hinaus gibt es Konzepte für neue Speicherprodukte, die noch stärker auf die Anforderungen von KI-Anwendungen zugeschnitten sind. So hat KIOXIA beispielsweise einen PoC (Proof of Concept) für einen Speicher auf Basis von XL-Flash entwickelt, der durch Optimierungen an der Seitenstruktur – also der Verwaltung und Adressierung von Speicherbereichen – und dem Interleaving – also dem wechselseitigen Zugriff auf voneinander unabhängige Speicherbereiche – eine besonders hohe Performance erreicht. Ebenso gibt es aber auch einen PoC für einen Speicher auf Basis von TLC- und QLC-NAND, der für sequentielle Lesezugriffe optimiert ist und Daten schnell und kostengünstig bereitstellt.

Letztlich sind die Uses-Cases für KI sehr vielfältig und die Anforderungen an die Speicher höchst unterschiedlich – ja, vielfach nicht einmal vollständig geklärt, da KI noch immer eine relativ neue Technologie ist und sich rasant weiterentwickelt. Daher geht es für die Hersteller von Flash-Speichern und die Hersteller von Komponenten und Systemen derzeit vor allem darum, typische Anforderungen zu identifizieren und darauf basierend Standard- und Speziallösungen für KI-Systeme zu entwickeln. Sicher ist: Je weiter der KI-Einsatz voranschreitet, desto mehr wird neben Leistung, Speicherdichte und anderen Anforderungen die Frage nach der Effizienz der Speicher in den Vordergrund rücken.

* Der Autor: Axel Störmann, Vice President for Memory Marketing & Engineering bei Kioxia Europe

Kioxia CD8P-Serie

PCIe-Gen5-SSDs für das Datacenter

(ID:49690375)