Definiton Was ist eine NPU?

Von MiR 2 min Lesedauer

Anbieter zum Thema

Eine NPU (Neural Processing Unit) ist ein spezieller Chip für Künstliche Intelligenz (KI) und maschinelles Lernen. Berechnungen lassen sich schneller und effizienter durchführen. Besonders geeignet sind NPU für Features wie die Sprachassistenz oder Gesichtserkennung.

Grundlagenwissen zum IT-Business(Bild:  © adiruch na chiangmai - Fotolia.com)
Grundlagenwissen zum IT-Business
(Bild: © adiruch na chiangmai - Fotolia.com)

Unter einer NPU versteht man einen Prozessor, der für die Ausführung von KI-Aufgaben den Hauptprozessor mobiler Geräte entlasten soll.

Wichtige Merkmale einer NPU (Neural Processing Unit)

  • Bei einer NPU handelt es sich um einen Chip, der speziell für KI-Anwendungen und das maschinelle Lernen entwickelt wurde.
  • Im Gegensatz zu einer Grafikkarte (GPU) und einer CPU (herkömmlicher Prozessor) arbeiten Neural Processing Units bei KI-Aufgaben weitaus schneller und energieeffizienter.
  • Die smarten Chips führen pro Sekunde mehrere Billionen Operationen durch. So kommen laut Hersteller etwa die NPU des Apple-M4-Chips auf 38 Millionen Operationen und die NPU der AMD Ryzen-AI-300-Serie sogar auf 50 Billionen Operationen.
  • Zum Einsatz kommen NPU sowohl in Smartphones sowie Smartwatches als auch Notebooks.
  • Neural Processing Units beschleunigen Tools, Funktionen und Features wie die Bildverbesserung, die Gesichtserkennung oder auch Sprachassistenten.
  • Die speziellen Chips schützen die Privatsphäre, da die Daten nicht in der Cloud, sondern lokal verarbeitet werden.

Vorteile der NPU

NPU sind mittlerweile in vielen verschiedenen Geräten des täglichen Bedarfs zu finden. Das Spektrum an Anwendungsmöglichkeiten reicht von Smartphones über Smartwatches bis hin zu Laptops. Durch ihren Boost an Geschwindigkeit und Effizienz bieten NPU dabei gleich zwei prägnante Vorteile:

  • 1. Sie gewährleisten, dass KI-Funktionen respektive KI-Features mit schnellen Rechenleistungen aufwarten und stets flüssig laufen.
  • 2. Sie sorgen dafür, dass die Akkus in den meistens täglich verwendeten Geräten länger durchhalten. Das erhöht zum Beispiel bei einem Smartphone gleichzeitig den Nutzwert der smarten Extras und den damit zusammenhängenden Spaßfaktor.

Häufige Anwendungsszenarien von NPU

  • Smartphones: Huawei machte den Anfang und rüstete bereits 2017 das Smartphone-SoC Kirin 970 mit NPU aus. Ein Jahr später folgte das Snapdragon von Qualcomm. Heute sind die meisten Flaggschiff-Smartphones der etablierten Marken mit Neural Processing Unit ausgestattet. Dies bringt Vorteile vor allem in den Bereichen Sprachassistenz, Akku-Effizienz, automatische Bildverbesserung und Gesichtserkennung.
  • Laptops: Mittlerweile haben auch verschiedene Notebook-Modelle eine leistungsstarke NPU erhalten. Die AMD-Ryzen-8000-Serie kann als Beispiel angeführt werden. Zudem wurden auch die neuen ARM-Prozessoren für Laptops Snapdragon X Elite sowie Snapdragon X Plus mit mächtigen NPU ausgestattet. Microsoft nutzt diese NPU-basierten ARM-Prozessoren beispielsweise für die neuen Surface-Geräte. NPU beschert Laptops vor allem in den Bereichen Bildbearbeitung, Berechnung der generativen KI, Videokonferenzen und Übersetzungsdienste eine bessere Performance.

NPU für immer mehr anspruchsvolle Aufgaben

Durch die kontinuierliche Weiterentwicklung der NPU werden die entsprechenden Chips beziehungsweise Prozessoren auf Dauer immer leistungsfähiger. Das erweitert die Einsatzmöglichkeiten und Anwendungsszenarien. Zwar stellen aktuell – zum Beispiel im Bereich der Forschung oder auch bei anderen besonders anspruchsvollen KI-Aufgaben – die klassisch dedizierten Grafikkarten meistens noch die bessere Wahl dar, aber Neural Processing Unit wird auch hier immer interessanter als Lösungsvariante. Schreitet die Unterstützung durch Software weiter voran, kann eine qualitativ hochwertige NPU auch in diesem Fall immer mehr KI-Aufgaben von den Grafikprozessoren übernehmen.

(ID:50107122)

Wissen, was läuft

Täglich die wichtigsten Infos aus dem ITK-Markt

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung