Das Pariser Unternehmen veröffentlicht die Gewichte seines Modells mit rund einer Billion Parametern. Firmen können es damit auf eigener Hardware betreiben und an eigene Daten anpassen.
Das Pariser KI-Unternehmen Mistral hat die Gewichte seines Sprachmodells Mistral Large 4 veröffentlicht, das den Spitznamen Le Chonk trägt. Im Oktober gab es zunächst nur eine Vorabversion, die man über die Schnittstelle von Mistral nutzen konnte. Jetzt lässt sich das Modell bei Hugging Face herunterladen und auf eigenen Servern betreiben.
Large 4 hat rund eine Billion Parameter und verarbeitet neben Text auch Bilder. Nach Angaben von Mistral wurde es von Grund auf in Europa trainiert. Die Lizenz ist eine abgewandelte MIT-Lizenz. Nutzen, verändern und kommerziell einsetzen ist frei, nur wer das Modell selbst als Dienst für andere anbietet, braucht eine eigene Lizenz von Mistral.
Nachtrainiert für Programmierarbeit
Seit der Vorabversion hat Mistral das Modell drei Wochen lang mit Reinforcement Learning nachtrainiert. Im Test Terminal-Bench 4.0 stieg der Wert nach Angaben des Herstellers um 13 Prozentpunkte auf 41 Prozent, und das Modell gibt dabei 30 Prozent weniger Token aus. Einen zweiten Schwerpunkt legt Mistral auf die Abwehr von Cyberangriffen. Die europäische Cybersicherheitsagentur ENISA testet Large 4 nach eigenen Angaben, um damit Sicherheitslücken zu finden und Programmcode zu prüfen.
Über die Schnittstelle von Mistral kostet die Nutzung 0,70 Dollar je Million Token für die Eingabe und 2,10 Dollar für die Ausgabe. Angeboten wird Large 4 außerdem bei Microsoft Foundry und über Rechenangebote von NVIDIA.
Interessant ist das für Firmen, die ihre Daten nicht an einen Cloud-Anbieter geben wollen. Für ein Modell dieser Größe braucht es allerdings einen Server mit vielen leistungsstarken Grafikprozessoren.