Mobile-Menu

Definition Was ist das Open Source AI Model LLaMa?

Von Ulrich Beck 2 min Lesedauer

Anbieter zum Thema

Facebook Germany GmbH
Open-E GmbH
Zadara Ltd.
XOPERO SOFTWARE S.A.

Die Abkürzung LLaMa steht für Large Language Model Meta AI. Es handelt sich dabei um ein Sprachmodell auf Basis der Transformer-Architektur, das von Meta, dem Mutterkonzern von Facebook, entwickelt wurde, um in großem Umfang Textdaten zu verarbeiten.

Das Open Source AI Model LlaMa ist ein quelloffenes Open Source Projekt. (Bild: Man888 - stock.adobe.com / KI-generiert)
Das Open Source AI Model LlaMa ist ein quelloffenes Open Source Projekt.
(Bild: Man888 - stock.adobe.com / KI-generiert)

Entwicklungsgeschichte von LLaMa

  • Die Version LLaMa 1 wurde im Februar 2023 eingeführt und auf vier Modellgrößen mit 7, 13, 33 und 65 Milliarden Parametern trainiert.
  • Die Daten stammen aus öffentlich zugänglichen Quellen wie ausgelesenen Webseiten, Wikipedia, gemeinfreien Büchern des Project Gutenberg (nicht zu verwechseln mit dem deutschen "Projekt Gutenberg") und anderen.
  • Im Juli 2023 folgte die Version LLaMa 2, von Meta gemeinsam mit Microsoft vorgestellt. Laut Aussagen des Unternehmens wurden dabei für das Training zusätzlich 40 Prozent Daten eingesetzt und der einbezogene Kontext verdoppelt. Die Version 2 gibt es in drei Varianten mit 7, 13, 34 und 70 Milliarden Parametern.
  • Version 3.1 veröffentlichte Meta im Juli 2024 (8, 70 und 405 Milliarden Parameter), Version 3.2 im September 2024.

LLaMa ist ein Open Source Projekt

Im Gegensatz zu anderen Modellen dieser Art wie ChatGPT, Google Gemini oder Claude ist LLaMa nicht nur kostenlos nutzbar, sondern ein Open Source Projekt, also quelloffen. Das eröffnet die Chance, dass LLaMa von dem Wissen und den Erfahrungen zahlreicher Entwickler profitieren kann. Diese können das Modell eigenständig verbessern, an individuelle Bedürfnisse anpassen oder auch neue Anwendungsfälle erschließen.

Weil das Modell kein proprietäres ist, steht auch nicht zu befürchten, dass es unerlaubt sensible Informationen und Daten sammelt. Unternehmen wie Apple, Samsung und Amazon, aber auch Regierungsorganisationen, Anwaltskanzleien und Kliniken haben ihren Mitarbeiterinnen und Mitarbeitern in der jüngeren Vergangenheit die Nutzung von ChatGPT aus diesem Grund verboten.

Die Technologie von LLama:

Die Basis von LLaMa bildet die Transformer-Architektur, die auch bei anderen großen Sprachmodellen Anwendung findet. Das Training erfolgt mit sehr umfangreichen Datensätzen, um hochkomplexe Sprachaufgaben bewältigen zu können. Dazu gehören:

  • Textgenerierung (Artikel, Blogbeiträge, Berichte, Texte mit kreativen Inhalten)
  • Frage-Antwort-Systeme
  • Übersetzungen
  • Zusammenfassungen von Informationen zu einem Thema
  • Generierung von Vervollständigung von Codes

    • Anwendungsbereiche von LLaMa

    LLaMa ist vielfältig einsetzbar. Es kann in der Wissenschaft und Forschung etwa zur Entwicklung neuer NLP-Technologien genutzt werden, im Bereich Bildung Lehrende und Lernende mit interaktiven KI-Assistenten unterstützen, in der Softwareentwicklung Codes generieren und optimieren sowie in Unternehmen und anderen Organisationen in Chatbots oder Automatisierungssystemen seine Dienste leisten.

    LLaMa als Entwicklungsschritt

    Im Segment AI beziehungsweise KI ist LLaMa ein wichtiger Entwicklungsschritt. Besonders hervorstechend ist die Möglichkeit, das Modell quelloffen zu nutzen, was Entwicklern Chancen eröffnet, die bei anderen Sprachmodellen nicht gegeben sind.

    (ID:50333293)

    Wissen, was läuft

    Täglich die wichtigsten Infos aus dem ITK-Markt

    Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

    Aufklappen für Details zu Ihrer Einwilligung

    Weiterführende Inhalte

    Jobs