Mistral Large 4: Gewichte des Billionen-Modells veröffentlicht
Mistral hat am 29. Oktober die Gewichte von Mistral Large 4 auf Hugging Face veröffentlicht. Das MoE-Modell mit rund einer Billion Parametern und 52 Milliarden aktiven Parametern läuft mit vLLM, SGLang und llama.cpp, braucht aber Rechenzentrumshardware.
Mistral hat am 29. Oktober die Gewichte von Mistral Large 4 veröffentlicht, Spitzname „Le Chonk“. Das multimodale Mixture-of-Experts-Modell hat rund eine Billion Parameter, davon etwa 52 Milliarden pro Token aktiv, und steht auf Hugging Face unter einer angepassten MIT-Lizenz bereit. Gegenüber der Vorschau vom Oktober hat Mistral das Modell drei Wochen lang per Reinforcement Learning nachtrainiert, vor allem für Programmierung und Cyberabwehr.
Relevant ist die Freigabe für Unternehmen, die ein großes offenes Modell im eigenen Rechenzentrum betreiben wollen und die nötige GPU-Ausstattung besitzen. Für typische Homelabs und kleine Server ist das Modell in voller Größe keine Option. Akuten Handlungsbedarf gibt es nicht, wer Mistral Large 4 bereits über die API testet, kann den Umstieg auf Self-Hosting aber jetzt planen.
Was ist passiert?
Laut Model Card hat Mistral Large 4 128 geroutete Experten, von denen vier pro Token aktiv sind, plus einen geteilten Experten. Das Kontextfenster umfasst eine Million Token. Das Modell nimmt Text und Bilder entgegen und gibt Text aus, unterstützt Function Calling, strikte JSON-Schemata und drei Reasoning-Stufen (low, medium, high als Standard). Trainiert wurde es nach Angaben von Mistral auf 3.800 Nvidia-Grace-Blackwell-GPUs in eigenen Rechenzentren in Europa.
Neben dem Hauptcheckpoint gibt es eine NVFP4-quantisierte Variante für Blackwell-GPUs. Die Lizenz „Mistral Ecosystem Open-Weight License“ erlaubt Nutzung, Anpassung, Fine-Tuning und kommerziellen Einsatz. Einzige Bedingung: Wer das Modell als Model-as-a-Service anbietet, braucht eine separate kommerzielle Lizenz. Über die API kostet es 0,70 US-Dollar pro Million Eingabe-Token und 2,10 US-Dollar pro Million Ausgabe-Token.
Für wen ist das relevant?
Mistral empfiehlt vLLM für den Produktivbetrieb und zeigt dafür ein Docker-Beispiel mit Tensor-Parallelität über acht GPUs. Laut The Decoder nennt die SGLang-Dokumentation acht Nvidia B300 für die Standardversion und vier GB300 für eine stärker komprimierte Fassung. Die Model Card verweist außerdem auf Unterstützung in Transformers und llama.cpp mit GGUF-Dateien von ggml-org und Unsloth. Die passende Modellarchitektur kam am 29. Oktober mit dem Commit „model: mistral le chonk“ in llama.cpp, der im Build b11998 steckt. Das Repository mit den originalen Gewichten belegt rund 1,06 TB, die ggml-org-GGUFs zusammen etwa 4,5 TB.
Ollama listet das Modell aktuell als Cloud-Variante mistral-large-4:cloud. Eine lokale Ollama-Variante ist dort derzeit nicht belegt.
Wie stark ist das Modell?
Mistral meldet 41 Prozent auf Terminal-Bench 4.0 (Vorschau: 28 Prozent), 48 Prozent im Coding Agent Index von Artificial Analysis bei 47 Prozent weniger Token als GLM-5.3 und 51 Prozent im Cyber Index. Schädliche Cyber-Anfragen lehnt es laut Hersteller in 96,6 Prozent der Fälle ab. The Decoder ordnet ein: Im Intelligence Index von Artificial Analysis liegt das Modell mit 26 Punkten hinter chinesischen offenen Modellen, im Cyber Index liegen zwei offene Modelle davor, und gegen Claude Opus 5.5 gewann Large 4 in Blindvergleichen nur 22 Prozent der Duelle.
Was sollten Admins jetzt tun?
- Inventar und Version prüfen: Welche GPU-Kapazität steht real zur Verfügung, und reicht sie für vLLM mit acht GPUs oder die NVFP4-Variante?
- Bei Self-Hosting den offiziellen vLLM-Container mit den Parsern für Tool Calls und Reasoning verwenden, wie in der Model Card beschrieben.
- Für llama.cpp mindestens einen Build ab b11998 einsetzen, ältere Builds kennen die Architektur nicht.
- Lizenzbedingungen prüfen, vor allem wenn das Modell Kunden als Dienst bereitgestellt werden soll.
- Eigene Evaluierungen mit realen Aufgaben fahren, statt sich allein auf Herstellerbenchmarks zu verlassen.
Einordnung für Unternehmen
Mit der Freigabe löst Mistral die bei der Vorschau angekündigte Veröffentlichung ein. Interessant ist das vor allem für europäische Organisationen, die ein großes Modell mit nachvollziehbarer Herkunft auf eigener Infrastruktur betreiben wollen. Die Hardwareschwelle bleibt allerdings hoch, und die Benchmarks zeigen ein starkes Coding-Modell, aber keinen Spitzenreiter. Für kleinere Teams bleibt die API oder ein kleineres lokales Modell der pragmatischere Weg.
