Bundesregierung plant deutsches KI-Sicherheitsinstitut nach britischem Vorbild

Die Bundesregierung hat am 9. Juni 2026 die Gründung eines deutschen AI Safety Institute beschlossen. Der Nationale Sicherheitsrat billigte den Aufbau des unter dem Arbeitstitel DE-AISI geführten Instituts, das künftig Fähigkeiten und Risiken moderner KI-Modelle systematisch analysieren soll. Deutschland folgt damit den USA, dem Vereinigten Königreich, Südkorea und Japan, die vergleichbare Einrichtungen bereits betreiben.

Was ist neu – Die Details

Das DE-AISI wird zunächst als virtuelles Institut konzipiert: Statt einer neuen Behörde greift es auf bestehende Kapazitäten des Bundesamts für Sicherheit in der Informationstechnik (BSI) und der Bundesnetzagentur zurück. Die Federführung liegt beim Bundesministerium für Inneres und Digitales.

Zu den definierten Aufgaben gehören:

• Analyse der Fähigkeiten und Risiken moderner KI-Modelle (AI Safety)
• Bewertung klassischer Cybersicherheitsbedrohungen durch KI-Systeme
• Sicherstellung, dass Modelle keine gefährlichen Handlungen auslösen können
• Internationale Standardisierung und Koordination mit vergleichbaren Instituten weltweit

Digital-Bundesminister Karsten Wildberger kündigte die Einbeziehung von „Weltklasse-Experten" an. Konkrete Angaben zu Personal und Budget blieben jedoch vage. Der Branchenverband Bitkom empfiehlt eine Finanzierung auf dem Niveau des britischen AI Safety Institute, um im internationalen Wettbewerb um Fachkräfte bestehen zu können.

Einordnung

Als ein Auslöser für die Initiative gilt unter anderem der eingeschränkte Zugang zu Anthropics Modell Claude Opus, das überlegene Fähigkeiten bei der Entdeckung von Zero-Day-Sicherheitslücken aufweist. Anthropic hat den Zugang zu diesen Fähigkeiten beschränkt – ein Umstand, der in Sicherheitskreisen die Diskussion über nationale Bewertungskapazitäten befeuert hat.

Die Entscheidung für ein zunächst virtuelles Institut spiegelt einen pragmatischen Ansatz wider: Vorhandene Expertise bei BSI und Bundesnetzagentur wird gebündelt, ohne sofort den bürokratischen Aufwand einer eigenständigen Behörde zu erzeugen. Ob dieses Modell mittelfristig ausreicht, um mit dem britischen AISI – das über ein deutlich größeres Budget und festes Personal verfügt – gleichzuziehen, bleibt abzuwarten.

International positioniert sich Deutschland damit in einer wachsenden Gemeinschaft nationaler KI-Sicherheitsbehörden, die zunehmend auch untereinander kooperieren. Das Ziel einer gemeinsamen Standardisierung ist ausdrücklich Teil des Mandats.

Für wen ist das relevant

Die Gründung des DE-AISI betrifft mittel- und langfristig eine breite Gruppe von Akteuren:

• KI-Anbieter in Deutschland: Künftige Risikoanalysen des Instituts können Grundlage für Zulassungsbedingungen oder Compliance-Anforderungen werden.
• KRITIS-Betreiber: Unternehmen in kritischer Infrastruktur müssen damit rechnen, dass KI-Systeme künftig gesondert bewertet werden.
• Behörden und öffentliche Einrichtungen: Beschaffungsentscheidungen für KI könnten an Bewertungen des DE-AISI geknüpft werden.
• Forschungseinrichtungen: Das Institut könnte als Partner für sicherheitsrelevante KI-Forschung auftreten.

Unmittelbarer Handlungsbedarf besteht für DACH-Unternehmen derzeit nicht. Es empfiehlt sich jedoch, die Entwicklung des DE-AISI zu verfolgen, da künftig Bewertungsrahmen und möglicherweise Auflagen für den KI-Einsatz entstehen können. Wer intern bereits eine strukturierte KI-Governance aufbaut, ist gut beraten, deren Prozesse auf Anschlussfähigkeit an regulatorische Anforderungen zu prüfen. Eine praxisnahe Grundlage dafür bietet die Anleitung zur KI-Nutzungsrichtlinie für Unternehmen auf s-edv.com.

Quellen

heise online: Bundesregierung will KI-Sicherheitsinstitut gründen | nord24.de: Bundesregierung gründet KI-Sicherheitsinstitut | Berliner Zeitung: Neues KI-Sicherheitsinstitut – Welche Risiken will die Bundesregierung erkennen?