Mobile-Menu

QNAP Edge KI Speicherserver All-in-One-Lösung für KI an Edge-Standorten

Von Klaus Länger 2 min Lesedauer

Anbieter zum Thema

QNAP Inc. Munich
bb-net media GmbH
Impossible Cloud GmbH
Zadara Ltd.

Mit dem Edge KI Speicherserver kündigt QNAP eine All-in-One-Computing-Plattform an, die Storage, Virtualisierung und KI-Inferenz in einem Gerät vereint. So können Unternehmen einfach lokale KI-Infrastrukturen an Edge-Standorten aufbauen.

Als Basis für den Edge KI Speicherserver soll das Modell QAI-h1290FX dienen, ein TS-h1290FX-7302P-256G mit zusätzlicher Nvidia RTX 6000 Ada. Als CPU ist ein AMD Epyc 7302P mit 16 Cores eingebaut, der auf 256 GB RAM zugreifen kann.(Bild: QNAP)
Als Basis für den Edge KI Speicherserver soll das Modell QAI-h1290FX dienen, ein TS-h1290FX-7302P-256G mit zusätzlicher Nvidia RTX 6000 Ada. Als CPU ist ein AMD Epyc 7302P mit 16 Cores eingebaut, der auf 256 GB RAM zugreifen kann.
(Bild: QNAP)

Der Edge KI Speicherserver QNAP geht über den inzwischen schon weiten Funktionsumfang der bisherigen NAS-Systeme des Speicherspezialisten ein gutes Stück hinaus. Er vereint Storage, Virtualisierung und Rechenleistung für das KI-Inferencing in einer Plattform und soll so Unternehmen die Bereitstellung von KI-Anwendungen vor Ort ermöglichen. Gegenüber einer Cloud-Lösung soll die QNAP-Plattform eine höhere Datensicherheit und Leistung bei gleichzeitig niedrigeren Kosten bieten. Als Einsatzszenarien nennt der Hersteller die Inferenz mit kleinen oder großen Sprachmodellen, GenAI, das Feintuning von KI-Modellen sowie die Nutzung in Industrie, Einzelhandel und Videoüberwachung. Für die verschiedenen Einsatzbereich können Anwender die Hypervisor-App Virtualization Station oder die Container Station für die Verwaltung von Containern installieren. Letztere lässt die Wahl aus Ubuntus LXD, Docker sowie Kata Containers für die Hardware-basierte Workload-Isolation. Die Lösungen können auch kombiniert werden.

Für das lokale Ausführen von LLMs bietet Edge KI Speicherserver die Möglichkeit, über die QNAP Container Station containerisierte KI-Anwendungen zu betreiben, die direkt auf die im NAS-Gerät integrierte Nvidia-GPU zugreifen können. Mittels der KI-Plattform Ollama können verschiedene Sprachmodelle lokal ausgeführt werden. Applikationen wie Anything LLM oder Open WebUI ermögliche schließlich die einfache Erstellung von KI-Anwendungen. (Bild: QNAP)
Für das lokale Ausführen von LLMs bietet Edge KI Speicherserver die Möglichkeit, über die QNAP Container Station containerisierte KI-Anwendungen zu betreiben, die direkt auf die im NAS-Gerät integrierte Nvidia-GPU zugreifen können. Mittels der KI-Plattform Ollama können verschiedene Sprachmodelle lokal ausgeführt werden. Applikationen wie Anything LLM oder Open WebUI ermögliche schließlich die einfache Erstellung von KI-Anwendungen.
(Bild: QNAP)

QAI-h1290FX als Hardware-Basis

Als passende QNAP-Hardware für den neuen Speicherserver empfiehlt der Hersteller das Modell QAI-h1290FX mit AMD-Epyc-Prozessor und vorinstallierter Nvidia-GPU. Es dient als All-in-One-Gerät für Compute und Storage. Als Prozessor wird der Epyc 7302P aus der Rome-Generation mit 16 Zen-2-Cores und 32 Threads verwendet. Auf dem Mainboard sitzen zudem 256 GB 256GB DDR4-SDRAM mit ECC und in einem der vier PCIe-Gen4-Slots eine Nvidia RTX 6000 Ada mit 18,176 Cuda- und 568 Tensor-Cores sowie 46 GB GDDR6 als Speicher.

Für die Netzwerkanbindung ist das NAS-Gerät mit zwei 25GbE-SFP28-Ports sowie zwei 2,5GbE-Ports ausgerüstet. Für Speichermedien bietet das Gerät 12-2,5-Zoll-Einschübe. die sowohl PCIe-Gen4-SSDs mit U.2- als auch SATA-SSDs unterstützen. Insgesamt sind mehr als 700 TB Rohkapazität möglich.

„Der Fokus auf KI hat sich von der reinen Modellentwicklung hin zur Schaffung der richtigen Infrastruktur verschoben“, sagt CT Cheng, Produktmanager bei QNAP, zu der Lösung. „Für Unternehmen, die LLMs, generative KI oder Virtualisierung einsetzen, ist es entscheidend, eine Plattform zu haben, die große Datensätze verarbeiten, die Datensicherheit gewährleisten und eine zuverlässige Leistung bieten kann. Unser Edge KI Speicherserver ist mehr als nur Speicher. Er vereint KI Inferenz, Virtualisierung und Sicherungsfunktionen, um Unternehmen zu helfen, KI sicher und flexibel am Edge bereitzustellen.“

Angaben zu Preis und Verfügbarkeit macht QNAP noch nicht.

(ID:50457640)

Wissen, was läuft

Täglich die wichtigsten Infos aus dem ITK-Markt

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte

Jobs