Nemotron 3.5 Transcribe: NVIDIAs offene Spracherkennung
NVIDIA hat am 28. Oktober 2026 Nemotron 3.5 Transcribe veröffentlicht. Das offene Modell transkribiert 40 Sprachen inklusive Deutsch, übersetzt 31 und ordnet in 13 Sprachen bis zu acht Sprecher zu. Lizenz ist OpenMDW-1.1, als Referenzhardware nennt NVIDIA eine H100 mit 80 GB.
NVIDIA hat am 28. Oktober 2026 Nemotron 3.5 Transcribe veröffentlicht, ein offenes Sprachmodell für aufgezeichnetes Audio. Es vereint Transkription in 40 Sprachen, Übersetzung von und nach Englisch für 31 Sprachen und Sprecherzuordnung in 13 Sprachen in einem Modell. Aufnahmen bis zu einer Stunde mit bis zu acht Sprechern sind möglich. Parallel erscheint der Datensatz Granary v2 samt Werkzeugen zum Nachtrainieren.
Interessant ist das vor allem für Unternehmen, die Besprechungen, Diktate oder Interviews lokal und ohne Cloud-Dienst transkribieren wollen. Deutsch wird laut Modellkarte voll unterstützt. Wer keine passende NVIDIA-GPU besitzt oder Echtzeit-Transkription braucht, profitiert vorerst nicht. Dringender Handlungsbedarf besteht nicht, eine Bewertung lässt sich regulär einplanen.
Was ist passiert?
Laut Hugging-Face-Blog von NVIDIA lässt sich das Modell per Textanweisung steuern: Aus derselben Aufnahme entsteht je nach Prompt ein Transkript mit Sprecherlabels, eine Übersetzung oder eine Antwort auf Fragen zum Inhalt. Fachbegriffe können als Kontext mitgegeben werden, Zeitstempel auf Wortebene werden unterstützt. Fragen zum Audioinhalt sind nur auf Englisch trainiert.
Technisch kombiniert NVIDIA einen Sprach-Encoder mit einem hybriden Mamba-Transformer-Sprachmodell mit Mixture of Experts. Die Modellkarte nennt 34 Milliarden Parameter inklusive Audio-Encoder, davon rund 4,3 Milliarden aktiv, und ein Kontextfenster von 65.536 Token. Im Open ASR Leaderboard von Hugging Face liegt das Modell mit 5,33 Prozent durchschnittlicher Wortfehlerrate auf Platz 1 der Modelle mit offenen Gewichten. The Decoder bestätigt die Kernangaben und verweist auf vordere Plätze bei der Sprechererkennung.
Granary v2 umfasst laut Blog im öffentlichen Manifest 463.062 Stunden in 48 Sprachen und entspricht nicht vollständig den Trainingsdaten des Modells. Die Quellaudios müssen separat unter den jeweiligen Lizenzen bezogen werden.
Für wen ist das relevant?
Für Admins, die Transkription mit Datenschutzanforderungen betreiben, etwa in Verwaltung, Gesundheitswesen oder Rechtsabteilungen. Das Modell läuft lokal, Audio verlässt das eigene Netz nicht. Die Hardwarehürde ist allerdings hoch: Die Modellkarte nennt als Referenz eine H100 mit 80 GB. Unterstützt werden GPU-Generationen ab Ampere, darunter A100, L40S, H100, RTX PRO 6000 Blackwell, DGX Spark und RTX 5090, letztere nur in NVFP4-Präzision. Als Laufzeit dienen vLLM 0.32.0 mit NeMo Speech, Hugging Face Transformers und teils GGML oder SGLang-Omni, offiziell unter Linux oder Windows über WSL2.
Zu kleineren Varianten schreibt NVIDIA im Blog: "Quantized versions are coming soon", also quantisierte Versionen folgen in Kürze. Die Modellkarte verweist bereits auf FP8- und NVFP4-Varianten, diese waren bei unserer Prüfung jedoch noch nicht öffentlich abrufbar.
Wie ist das einzuordnen?
Die Lizenz OpenMDW-1.1 ist freizügig: Nutzung, Änderung und Weitergabe sind erlaubt, laut Modellkarte auch kommerziell. Bei Weitergabe müssen Lizenztext und Urheberhinweise erhalten bleiben, und wer wegen Patent- oder Urheberrechtsverletzung durch das Modell klagt, verliert die Rechte. Für Ausgaben gelten keine Einschränkungen. Zur Abgrenzung von Whisper: Bestehende Whisper-Setups decken reine Transkription ab, Nemotron 3.5 Transcribe bringt zusätzlich Sprecherzuordnung, Übersetzung und Audiofragen in einem Modell mit, verlangt dafür aber deutlich mehr GPU-Speicher. Echtzeit-Streaming unterstützt es laut NVIDIA nicht, anders als etwa Microsofts MAI-Transcribe-2 als Cloud-Dienst.
Was sollten Admins jetzt tun?
- Inventar prüfen: Welche GPUs stehen zur Verfügung, und reicht der Speicher für BF16 oder ist auf quantisierte Varianten zu warten?
- Lizenz OpenMDW-1.1 durch die Rechtsabteilung prüfen lassen, ebenso die Lizenzen der Granary-Quellkorpora bei eigenem Nachtraining.
- Mit eigenen deutschen Testaufnahmen gegen das bestehende Whisper-Setup vergleichen, inklusive Fachbegriffen und Sprecherwechseln.
- Namen, Sprecherwechsel und Antworten stichprobenartig gegen die Aufnahme prüfen, wie NVIDIA selbst empfiehlt.
- Den vLLM-Server nur lokal oder hinter Authentifizierung betreiben, er lauscht standardmäßig auf 127.0.0.1:8000.
Einordnung für Unternehmen
Mit Nemotron 3.5 Transcribe steht ein offenes Modell bereit, das Protokollierung mit Sprecherzuordnung lokal ermöglicht, bisher oft eine Domäne von Cloud-Diensten. Für viele Mittelständler ist die Hardware aber der begrenzende Faktor. Sinnvoll ist ein Pilot auf vorhandener GPU-Infrastruktur, während kleinere Umgebungen bei Whisper bleiben und die angekündigten quantisierten Versionen abwarten.
Passende Anleitungen auf S-EDV
- Audio und Video mit Whisper in Docker transkribieren
- Whisper lokal mit GUI: Offline-Spracherkennung auf Deutsch
