Mobile-Menu

LLMs & Knowledge-Graphen Mistral AI – LLM-Modelle, Open-Source-Integration und der Chatbot „Le Chat“

Von Michael Matzer 4 min Lesedauer

Anbieter zum Thema

Mistral AI
G DATA CyberDefense AG
bb-net media GmbH
Zadara Ltd.

Mistral AI ist ein 2023 gegründetes französisches Softwareunternehmen, das mit herausragenden LLMs von sich reden gemacht hat. Anfang Februar hat Mistral AI eine neue Version seines Chatbots „Le Chat“ vorgestellt und wurde Partner von Databricks.

Drei verschiedene Modelle haben Bilder einer Kaffee trinkenden Katze im verregneten Paris erzeugt, doch nur das Bild von Mistral AI weiß wirklich zu überzeugen.(Bild: Mistral AI)
Drei verschiedene Modelle haben Bilder einer Kaffee trinkenden Katze im verregneten Paris erzeugt, doch nur das Bild von Mistral AI weiß wirklich zu überzeugen.
(Bild: Mistral AI)

Zunächst sollte der Interessent darauf achten, nicht mehr die Legacy-Modelle Mistral 7B und Mistral 8x7B zu wählen. Sie wurden Ende 2023 unter einer Apache-2.0-Lizenz freigegeben, denn Mistral AI, das von Google-Ingenieuren gegründet wurde, unterstützt quelloffene Software in großem Umfang. Selbst noch im April 2024 war Mistral 8x7B in der Lage, GPT-3.5 von OpenAI und LLaMa 2 70B von Meta in der Leistung zu schlagen.

Beide LLMs sind immer noch über HuggingFace verfügbar und lassen sich nicht nur in der Cloud, sondern auch lokal nutzen. Mittlerweile ist die Entwicklung der LLMs wesentlich weiter, denn sie wird von erheblichen Investitionssummen vorangetrieben, so etwa von Microsoft. Mistral-LLMs lassen sich auf Azure nutzen, sind aber auch mit den Datenplattformen von Snowflake und (seit Februar 2025) auch mit Databricks integriert.

Bildergalerie
Bildergalerie mit 8 Bildern

Die Plattform

Mistral AI selbst hostet den EU-basierten Dienst „La Plateforme“, um darauf Open-Source-Modelle wie Small 3 unter der kostenlosen Apache-2.0-Lizenz anzubieten. „La Plateforme“ bietet neben Tools und Infrastruktur eine große Fülle von Modellen. Nicht weniger als zwölf Mistral-AI-Modelle sind mit Benchmarks hinsichtlich ihrer Leistungsfähigkeit gemessen worden. Darunter befinden sich auch kommerziell vermarktete nichtfreie Modelle, die über API-Schnittstellen ansteuerbar sind. Dabei handelt es sich um die Modelle „Mistral Medium“ und „Mistral Large“ sowie „Mistral Embed“ als Embeddings API.

Mistral Large

Von Mistral Large sagt das Unternehmen selbst, dass es sich um das Anfang 2024 nach GPT-4 zweitbeste Sprachmodell der Welt handle, welches über eine API verfügbar sei. Mistral Large hat in der Zwischenzeit weitere Fähigkeiten erhalten. Es versteht Englisch, Französisch, Spanisch, Deutsch und Italienisch, wobei Grammatik und kultureller Kontext einbezogen werden.

Sein Kontextfenster von 32.000 Tokens soll die präzise Informationsabfrage aus umfangreichen Dokumenten erlauben. Seine genaue Befehlsausführung soll Entwickler in die Lage versetzen, ihre eigenen Richtlinien für die Moderation zu entwerfen. Mistral AI habe diese Fähigkeit genutzt, um beim Tool „Le Chat“ die Moderation auf Systemebene zu realisieren.

Mistral AI ist in der Lage, selbst Funktionen aufzurufen. Zusammen mit einem begrenzten Ausgabemodus, der auf La Plateforme implementiert sei, erlaube dies die Anwendungsentwicklung und die Modernisierung eines Technologiestapels in großem Maßstab. Diese Fähigkeit ist vergleichbar mit der Funktion des AWS-Assistenten „Q for Developer“, Java-Legacy-Code zu modernisieren.

Zu den später veröffentlichten Mistral-AI-Modellen gehören auch Modelle für spezialisierte Einsatzzwecke, beispielsweise das Modell Codestral 22B mit 22 Milliarden Parametern für die Generierung von Programmcode. Mistral AI entwickelt auch neuere Versionen in den Produktlinien Large und Small (so etwa Large 2 mit 123 Milliarden Parametern; Stand: September 2024). In Kooperation mit Nvidia wurde das 12-Milliarden-Parameter-Modell „Mistral NeMo“ entwickelt. Mit Pixtral Large wurde zudem ein multimodales Sprachmodell veröffentlicht, das ähnlich wie GPT-4o auch Bilder verarbeiten kann.

Update des Chatbot Le Chat

Der Chatbot-Service „Le Chat“ ist ein Werkzeug, welches an ChatGPT angelehnt ist. Im Hintergrund werden dafür die Modelle Mistral Small, Mistral Large und ein sich in Entwicklung befindendes neues Modell Mistral Next genutzt. „Le Chat“ bietet zeitgemäße Funktionen wie Web-Browsing, Zugang zu aktuellen Nachrichten, Uploads von Dokumenten und Bildern sowie Datenanalyse. Vor allem bei aktuellen Informationen verspricht Mistral AI einen Zugang zu seriösen Quellen. Ebenso lässt sich Code innerhalb des Assistenten ausführen. In der Umgebung „Canvas“ kann der Nutzer sein Ergebnis gezielt ändern oder ersetzen, was etwa bei einem umfangreichen Text stets empfehlenswert ist.

Mit der Funktion „Memories“ sind Nutzer in der Lage, ihren Chatbot an ihre persönlichen Bedürfnisse anzupassen. „Le Chat“ lernt von den bisherigen Eingaben und Präferenzen des Nutzers. Da dies keine Standardfunktion ist, muss der Nutzer die Funktion extra einschalten. Der Chatbot bietet zudem ein Planer-Tool.

Wissen, was läuft

Täglich die wichtigsten Infos aus dem ITK-Markt

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Eine Besonderheit ist die Funktion „Flash-Answers“, mit der über 1.000 Wörter in der Sekunde generiert werden können – laut Hersteller zehnmal schneller als KI-Chatbots wie ChatGPT. Technologisch funktioniert es so, dass häufig vorkommende Fragen und Antworten zwischengespeichert werden, um die Antwortzeiten zu verkürzen. Außerdem sei laut Mistral die IT-Infrastruktur bewusst skalierbar gebaut, das heißt, nicht jede Anfrage wird mit hundertprozentiger Leistung beantwortet, sondern nur nach Bedarf. Das spart nicht zuletzt auch Energie.

Hinsichtlich Ausdrucksvermögen, Kombinatorik und Umfang des Wissens sei Mistral AI Large den Benchmark-geprüften Modellen wie GPT-4o oder Gemini Pro ebenbürtig. Für alle Entwickler ist wichtig, dass „Le Chat“ Open Source ist, sich also leicht in eigene Anwendungen integrieren lässt.

Im jüngsten Update bietet „Le Chat“ einige Leistungsmerkmale, die über ChatGPT hinausgehen, so etwa im Bereich Agentic AI und Bildgenerierung. Von Haus aus bringt Mistral AI fünf KI-Agenten mit. Der User kann sich, auch in der Gratis-Version, diverse Agents konfigurieren, und diese in „Le Chat“ integrieren. Dazu muss man nur die @-Taste drücken.

Die Funktion zur Bildgenerierung wurde von der deutschen Firma „Flux“ hinzugekauft und kann gemäß den Testergebnissen mit dem führenden Tool von Midjourney mithalten. Der Bildgenerator soll schneller arbeiten als der von ChatGPT mit Dall-E 3.

Nicht unwichtig: Anders als etwa bei ChatGPT haben User sogar in der kostenlosen Version Zugriff auf das beste Modell von Mistral – wenn auch nur in limitiertem Maße. Wer das Tool garantiert unlimitiert nutzen möchte, zahlt für die „Pro“-Version 15 Euro pro Monat. Team-Lizenzen kosten 25 Euro.

Was noch fehlt

Es mag merkwürdig anmuten, aber ein Sprachassistent fehlt „Le Chat“ sowohl für die Sprachein- wie für die -ausgabe. Seit dem Update Anfang Februar verfügt der Chatbot immerhin über Apps mit einfachen Interfaces für Android und iOS. Eine weitere Baustelle, die heute schon „de rigueur“ ist, sind Reasoning-Fähigkeiten, wie sie etwa DeepSeek mitbringt. In puncto Schlussfolgerungen hat wohl OpenAI mit GPT-o1 oder -o3 die Nase vorn.

(ID:50364169)

Weiterführende Inhalte

Jobs