Der EU AI Act (Verordnung (EU) 2024/1689) tritt am 2. August 2026 vollständig in Kraft – und er gilt nicht nur für KI-Hersteller, sondern für jeden, der KI-Systeme betreibt. Als KMU bist du in der Rolle des „Deployers" (Betreibers), sobald du Tools wie Microsoft 365 Copilot, ChatGPT, HubSpot AI oder ein Bewerber-Screening-System einsetzt. Dieser Leitfaden zeigt dir Schritt für Schritt, wie du ein prüfungsfähiges KI-Inventar aufbaust, deine Systeme korrekt in die vier Risikoklassen einstufst, Schulungen dokumentierst, Chatbot-Transparenzpflichten umsetzt und die DSGVO-Schnittstellen nicht übersiehst – damit du am Stichtag compliant bist und weißt, worauf du dich konzentrieren musst.

Voraussetzungen

Überblick über alle im Unternehmen genutzten Software-Tools, SaaS-Abonnements und Prozesse (auch solche, bei denen KI im Hintergrund läuft)
Zugang zu einem Tabellenkalkulationsprogramm (Excel oder LibreOffice Calc) für KI-Inventar und Schulungsregister
Auftragsverarbeitungsverträge (AVV) mit KI-SaaS-Anbietern, die personenbezogene Daten verarbeiten
Ggf. bestehende DSGVO-Dokumentation (Verarbeitungsverzeichnis, TOMs, Datenschutzerklärung) als Ausgangsbasis
Ca. 480 Minuten Gesamtaufwand für Erstimplementierung; danach laufende Pflege als Prozess

Schritt 1: Fristen und Rollen verstehen – wer bin ich im AI Act?

Bevor du anfängst, Dokumente zu erstellen, musst du verstehen, welche Rolle dein Unternehmen im AI Act einnimmt. Als KMU, das fertige KI-Systeme einsetzt, bist du in der Regel ein Betreiber (Deployer) – nicht der Anbieter (Provider). Das ist wichtig, weil viele Compliance-Leitfäden primär Anbieter adressieren. Deine Betreiber-Pflichten sind spezifisch und überschaubarer:

Zweckbindung der KI-Nutzung sicherstellen
Menschliche Aufsicht gewährleisten
Schulungen dokumentieren
Logging für Hochrisiko-Systeme betreiben
Vorfälle melden

Die aufwendigen Anbieter-Pflichten wie CE-Kennzeichnung, Konformitätsbewertungsverfahren oder technische Dokumentation nach Anhang IV fallen für dich nicht an – es sei denn, du entwickelst eigene KI-Systeme.

Die Fristenstruktur ist gestaffelt:

Datum	Was gilt?
1. August 2024	AI Act in Kraft getreten
2. Februar 2025	Verbote (Art. 5) + Schulungspflicht (Art. 4) – bereits bußgeldbewehrt
2. August 2025	GPAI-Pflichten für Anbieter allgemeiner KI-Modelle (z. B. GPT-4, Claude)
2. August 2026	Vollständige Anwendbarkeit: Inventar, Transparenz, Logging, Governance
2. Dezember 2026	Übergangsfrist für KI-generierte Inhalts-Kennzeichnung (Art. 50 Abs. 2)
2. Dezember 2027	Hochrisiko-Systeme aus Anhang III (Digital Omnibus: z. B. Bewerbermanagement)

Wichtig: Die Verschiebung auf Dezember 2027 (Digital Omnibus, 7. Mai 2026) gilt nur für Hochrisiko-Systeme aus Anhang III. Chatbot-Transparenzpflichten und GPAI-Regeln wurden nicht verschoben.

Schritt 2: KI-Inventar aufbauen – auch SaaS erfassen

Der häufigste Fehler: KMU erfassen nur explizit als „KI-Produkt" vermarktete Tools und vergessen eingebettete KI-Funktionen in Standardsoftware. Alle folgenden Systeme sind KI-Systeme im Sinne des AI Act und müssen ins Inventar:

Microsoft 365 Copilot, Bing Chat Enterprise
Google Workspace AI (Gemini in Gmail, Docs, Meet)
Salesforce Einstein, HubSpot AI, Freshdesk AI
ChatGPT (auch via API oder Plugin), Claude, Gemini
KI-gestützte Bewerbermanagement-, Kreditscoring- oder Biometrie-Tools
KI-Funktionen in Buchhaltungs- oder ERP-Software (z. B. automatische Belegzuordnung)

Erstelle eine CSV- oder Excel-Tabelle mit diesen Pflichtfeldern:

System_Name;Anbieter;Version;Einsatzbereich;Abteilung;Risikoklasse;Personenbezogene_Daten;Autonomiegrad;Lieferanten_Compliance;Letzte_Pruefung
"MS 365 Copilot";"Microsoft";"Copilot for M365";"Texterstellung, E-Mail";"Alle";"Minimal/Begrenzt";"Ja (interne Mails)";"Assistierend";"DPA vorhanden";"2026-07-01"
"Bewerber-Screening-Tool";"Anbieter XY";"v2.3";"HR - Vorauswahl";"Personal";"Hochrisiko";"Ja (Bewerberdaten)";"Semi-autonom";"CE-Kennzeichnung pruefen";"2026-06-15"

Das Inventar ist kein einmaliges Projekt, sondern ein laufender Prozess. SaaS-Anbieter schalten oft per Update neue KI-Funktionen ein, ohne dies explizit zu kommunizieren. Lege daher einen Quartals-Review-Termin fest.

Schritt 3: Risikoklassifizierung – 4 Klassen, ein Entscheidungsbaum

Für jedes System im Inventar führst du eine Risikoklassifizierung durch. Gehe diesen Entscheidungsbaum der Reihe nach durch:

1. Ist das System in Art. 5 (verbotene Praktiken) gelistet?
   JA  => VERBOTEN – sofort einstellen
         Beispiele: biometrische Echtzeit-ID im öffentlichen Raum, Social Scoring,
         Emotionserkennung am Arbeitsplatz
   NEIN => weiter

2. Ist das System in Anhang III (Hochrisiko) gelistet?
   JA  => HOCHRISIKO: Risikomanagement, 6-Monate-Logging, menschliche Aufsicht,
         Konformitätsbewertung (durch Anbieter)
         Kategorien: Biometrie, kritische Infrastruktur, Bildung, Beschäftigung
         (Bewerbung!), Kreditvergabe, Strafverfolgung, Migration, Justiz
   NEIN => weiter

3. Ist es ein Chatbot / interagiert es direkt mit Menschen ODER erzeugt es Inhalte?
   JA  => BEGRENZT: Transparenzkennzeichnung, KI-Hinweis bei erster Interaktion
         (ab August 2026)
   NEIN => MINIMAL: Inventarisierung empfohlen, keine spezifischen Pflichten

Die vier Klassen in der Übersicht:

Klasse	Beispiele	Pflichten für Betreiber
Inakzeptables Risiko (verboten)	Social Scoring, Emotionserkennung Arbeitsplatz, biometrische Echtzeit-ID	Nutzung sofort einstellen
Hochrisiko	Bewerber-Screening, Kreditscoring, Biometrie-Zugang	Logging (6 Monate), menschliche Aufsicht, Risikomanagement, Schulung, Vorfallmeldung
Begrenztes Risiko	Chatbots, KI-Kundenservice, generative KI-Tools	Transparenzkennzeichnung, KI-Hinweis bei erster Interaktion
Minimales Risiko	KI-Spam-Filter, Empfehlungsalgorithmen, Rechtschreibkorrektur	Inventarisierung empfohlen, keine gesetzlichen Spezifika

Schritt 4: Schulungsregister anlegen und Rückstand aufholen

Die Schulungspflicht aus Art. 4 (KI-Literacy) gilt bereits seit dem 2. Februar 2025. Wenn du noch keine Schulungen dokumentiert hast, bist du bereits im Rückstand – nicht erst ab August 2026. Handle jetzt.

Art. 4 schreibt kein Format vor, aber die Beweislast liegt beim Unternehmen. Mündliche Absprachen ohne Dokumentation gelten im Prüfungsfall als nicht vorhanden. Ein Excel-Schulungsregister mit diesen Pflichtfeldern reicht aus:

Mitarbeiter_Name;Abteilung;Schulungs_Datum;Thema;KI_System;Schulungs_Typ;Referent;Nachweis_Dokument
"Muster, Max";"Vertrieb";"2026-07-10";"KI-Grundlagen und EU AI Act";"HubSpot AI, Copilot";"E-Learning";"Extern: BITKOM-Kurs";"Zertifikat_MaxMuster_20260710.pdf"

Mindestinhalt einer Schulung nach Art. 4: Risikoklassen des AI Act, verbotene Praktiken, verantwortungsvoller Umgang mit KI-Ausgaben, Meldewege bei Problemen. Kostenlose Online-Kurse (z. B. BITKOM KI-Kompass, LinkedIn Learning) mit Zertifikat sind ausreichend – sofern dokumentiert. Ergänze bestehende DSGVO-Schulungen um ein KI-Modul und dokumentiere beides im selben Register.

Empfehle jährliche Auffrischungsschulungen, insbesondere wenn neue KI-Tools eingeführt werden. Eine interne KI-Nutzungsrichtlinie hilft dabei, Schulungsinhalte und erlaubte Anwendungsfälle verbindlich zu verankern.

Schritt 5: Chatbot-Transparenzpflicht umsetzen (Art. 50)

Setzt du auf deiner Website, in deiner App oder im Kundenservice einen Chatbot ein, musst du Nutzer bei der ersten Interaktion klar darauf hinweisen, dass sie mit einem KI-System kommunizieren. Nicht in den AGB versteckt, nicht als Mouseover, nicht im Impressum – sondern sichtbar und unmittelbar. Ein HTML-Baustein für dein CMS oder deine Website:

<div class="ai-disclosure" role="alert" aria-live="polite">
  <strong>Hinweis:</strong> Sie kommunizieren mit einem KI-gesteuerten Assistenten.
  Ihre Eingaben können verarbeitet werden. Mehr unter
  <a href="/datenschutz">Datenschutzerklärung</a>.
</div>
<!-- Pflicht ab: 2. August 2026 | Rechtsgrundlage: Art. 50 Abs. 1 EU AI Act -->

Für KI-generierte Inhalte (Audio, Bild, Video, Text) gilt ab Art. 50 Abs. 2 zusätzlich eine maschinenlesbare Kennzeichnungspflicht – hier läuft eine Übergangsfrist bis zum 2. Dezember 2026 für bereits bestehende Systeme.

Schritt 6: Logging für Hochrisiko-Systeme einrichten (Art. 26)

Betreibst du ein Hochrisiko-System (z. B. ein Bewerber-Screening-Tool), musst du Protokolle mindestens 6 Monate aufbewahren. Das Logging muss folgende Mindestfelder enthalten:

{
  "timestamp": "2026-08-02T10:15:00Z",
  "system_id": "Bewerber-Screening-v2.3",
  "input_hash": "sha256:abc123...",
  "output_recommendation": "Weiterleitung_Ja",
  "human_review": true,
  "reviewer_id": "HR-Mueller",
  "retention_until": "2027-02-02"
}

Zu protokollieren: Zeitstempel, pseudonymisierte Nutzer-ID oder Reviewer-ID, Eingabedaten-Hash (nicht die Rohdaten), Systemversion, Output-Zusammenfassung und ob eine menschliche Prüfung stattgefunden hat.

Achtung DSGVO-Schnittstelle: Wenn die DSGVO kürzere Löschfristen vorschreibt, gilt die AI-Act-Mindestfrist von 6 Monaten als Untergrenze. Wenn DSGVO längere Aufbewahrung erfordert, gilt der längere Zeitraum. Harmonisiere beide Fristen im Verarbeitungsverzeichnis.

Für Systeme mit begrenztem Risiko (z. B. Chatbots) gibt es keine gesetzliche Logging-Pflicht nach Art. 26 – aus DSGVO-Rechenschaftsgründen ist eine interne Protokollierung jedoch trotzdem empfehlenswert.

Schritt 7: DSGVO-Schnittstelle prüfen – Checkliste für KI-Systeme mit Personenbezug

Bei jedem KI-System, das personenbezogene Daten verarbeitet, gelten AI Act und DSGVO gleichzeitig. Ein AVV mit dem Anbieter allein reicht nicht. Prüfe für jedes betroffene System:

[ ] DPIA nach Art. 35 DSGVO erstellt? (bei hohem Risiko Pflicht)
[ ] Art. 22 DSGVO beachtet? (automatisierte Einzelentscheidungen – Widerspruchsrecht)
[ ] Auftragsverarbeitungsvertrag (AVV) mit KI-Anbieter abgeschlossen?
[ ] TOM (technisch-organisatorische Maßnahmen) dokumentiert?
[ ] AI Act Fundamental-Rights-Assessment bei Hochrisiko durchgeführt?
[ ] Datenschutzerklärung um KI-Nutzung ergänzt?
[ ] Löschfristen: DSGVO-Löschpflicht vs. AI-Act-Aufbewahrungspflicht harmonisiert?

Art. 22 DSGVO (Recht auf Nichtunterwerfung unter automatisierte Einzelentscheidungen) wird durch den AI Act für Hochrisiko-Systeme verschärft. Wenn ein KI-System vollautomatisch Entscheidungen trifft, die Personen erheblich betreffen, muss zwingend menschliche Aufsicht eingebaut werden. Weitere Hinweise zur DSGVO-Praxis findest du in der Anleitung zu DSGVO, TOMs und Auftragsverarbeitung in der Praxis.

Schritt 8: Bußgeld-Risiken einschätzen und proportional priorisieren

Die Bußgelder sind dreistufig gestaffelt – es gilt jeweils der niedrigere der beiden Beträge:

Stufe	Verstoß	Maximum	Beispiel KMU (2 Mio. EUR Umsatz)
1	Verbotene Praktiken (Art. 5)	35 Mio. EUR oder 7 % Jahresumsatz	max. 140.000 EUR
2	Betriebs-/Betreiberpflichten (inkl. Inventar, Schulung, Logging)	15 Mio. EUR oder 3 % Umsatz	max. 60.000 EUR
3	Falschangaben gegenüber Behörden	7,5 Mio. EUR oder 1 % Umsatz	max. 20.000 EUR

KMU-Proportionalität (Art. 99 Abs. 6): Der Prozentsatz ist identisch mit dem für Großunternehmen, aber der Absolutbetrag fällt bei kleinen Umsätzen deutlich geringer aus. Zuständige Marktaufsichtsbehörde in Deutschland ist das BSI (Bundesamt für Sicherheit in der Informationstechnik). Zusätzlich können Behörden schwerwiegende Verstöße veröffentlichen – der Reputationsschaden kann den Bußgeldbetrag übertreffen.

Priorität für KMU: Schulungspflicht (läuft schon seit Feb. 2025) und Chatbot-Transparenz vor Hochrisiko-Logging priorisieren, da letzteres erst dann relevant wird, wenn Hochrisiko-Systeme betrieben werden.

Troubleshooting / Typische Fehler

SaaS-Blindspot: Microsoft Copilot, Google Workspace AI, HubSpot und Salesforce Einstein sind KI-Systeme im Sinne des AI Act. Viele KMU erfassen nur explizit als „KI" vermarktete Tools – eingebettete Funktionen in Standard-SaaS sind genauso erfassungspflichtig.
Schulungspflicht läuft bereits: Art. 4 (KI-Literacy) gilt seit dem 2. Februar 2025. Wer erst jetzt beginnt, ist bereits im Rückstand. Schulungen nachholen und rückwirkend dokumentieren, sofern Nachweise vorliegen.
Chatbot-Hinweis zu versteckt: Der KI-Hinweis muss bei der ersten Interaktion sichtbar erscheinen – nicht in AGB, Impressum oder als Tooltip. Wer AGB-Logik auf Transparenzrecht überträgt, riskiert einen Verstoß.
Digital Omnibus falsch ausgelegt: Die Verschiebung auf Dezember 2027 gilt nur für Hochrisiko-Systeme aus Anhang III. Transparenzpflichten (Art. 50, Chatbots) und GPAI-Pflichten wurden nicht verschoben.
Kein Schulungsregister = kein Nachweis: Die Beweislast liegt beim Unternehmen. Mündliche Schulungen ohne Teilnehmerliste, Datum und Thema gelten im Prüfungsfall als nicht vorhanden.
DSGVO und AI Act als Entweder-oder: Bei KI-Systemen mit Personenbezug gelten beide Regelwerke gleichzeitig. Ein AVV allein reicht nicht; DPIA, TOMs, Art.-22-Prüfung und AI-Act-Pflichten müssen parallel erfüllt werden.
KI-Inventar als einmaliges Projekt: SaaS-Anbieter schalten oft per Update neue KI-Funktionen ein. Das Inventar muss laufend gepflegt werden – Quartals-Review einplanen.
Logging-Pflicht verallgemeinert: Das 6-Monate-Logging (Art. 26) gilt explizit nur für Hochrisiko-Betreiber. Für begrenzte Risiko-Systeme gibt es keine gesetzliche Pflicht – aus DSGVO-Sicht aber trotzdem empfehlenswert.
Anbieterpflichten auf Betreiber projiziert: Als KMU, das KI nutzt (Deployer), gelten andere und weniger strenge Pflichten als für Anbieter/Hersteller. Betreiber-Pflichten: Zweckbindung, menschliche Aufsicht, Logging, Schulung, Vorfallmeldung.

Häufige Fragen

Gilt der EU AI Act auch für uns, wenn wir nur ChatGPT oder Copilot nutzen?

Ja. Als „Betreiber" (Deployer) von KI-Systemen sind KMU verpflichtet. Nutzung von ChatGPT, Copilot, Claude & Co. zählt als Betrieb eines KI-Systems. Deine Pflichten umfassen Schulung, Inventar, Zweckbindung und ggf. Transparenz – aber nicht die aufwendigen Anbieter-Pflichten wie CE-Kennzeichnung oder Konformitätsbewertung.

Müssen wir Microsoft 365 Copilot als Hochrisiko-System einstufen?

In der Regel nein. Copilot als allgemeines Produktivitätstool fällt typischerweise in „Begrenztes" oder „Minimales Risiko". Hochrisiko entstünde, wenn Copilot für Personalentscheidungen, Kreditbewertungen oder ähnliche sensible Anwendungsfälle aus Anhang III eingesetzt wird. Entscheidend ist immer der konkrete Zweck und Einsatzbereich – nicht das Tool allein.

Was ist der Unterschied zwischen AI-Act-Schulungspflicht (Art. 4) und einer DSGVO-Datenschutzschulung?

Art. 4 EU AI Act verlangt „KI-Kompetenz": Mitarbeiter müssen verstehen, wie KI funktioniert, welche Risiken bestehen und wie sie verantwortungsvoll genutzt wird. Das geht über klassische DSGVO-Datenschutzschulungen hinaus. Empfehlung: DSGVO-Schulung um ein KI-Modul ergänzen und beides im selben Register dokumentieren.

Wie lange müssen wir Protokolle von KI-Systemen aufbewahren?

Für Hochrisiko-Systeme mindestens 6 Monate (Art. 26 AI Act). Wenn DSGVO-Löschpflichten kürzer sind, gilt die AI-Act-Frist als Untergrenze. Wenn DSGVO längere Aufbewahrung erfordert, gilt der längere Zeitraum. Beide Fristen im Verarbeitungsverzeichnis erfassen und die jeweils längere anwenden.

Was droht bei fehlendem KI-Inventar oder fehlenden Schulungsnachweisen konkret?

Diese Verstöße fallen unter Stufe 2 (Art. 99 Abs. 4): bis 15 Mio. EUR oder 3 % des globalen Jahresumsatzes – bei KMU gilt der jeweils niedrigere Betrag. Beispiel: KMU mit 2 Mio. EUR Umsatz = max. 60.000 EUR. Hinzu kann eine Veröffentlichung schwerwiegender Verstöße durch das BSI kommen.

Reicht ein kostenloser Online-Kurs als Schulungsnachweis für Art. 4?

Ja, sofern er dokumentiert wird. Es gibt kein vorgeschriebenes Format. Ein BITKOM-, LinkedIn-Learning- oder anderer Online-Kurs mit Zertifikat reicht aus, wenn im Schulungsregister Name, Datum, Kurstitel, abgedeckte KI-Systeme und der Abschlussnachweis (z. B. Screenshot oder PDF des Zertifikats) vermerkt sind. Kostenlos und trotzdem prüfungsfähig ist also möglich.

Gibt es Erleichterungen für KMU?

Ja, aber keine generelle Ausnahme. Art. 62 AI Act sieht für KMU vor: reduzierte Bußgeldhöhe (über die Umsatzproportionalität), vereinfachte Dokumentationsanforderungen und bevorzugten Zugang zu regulatorischen Sandboxumgebungen, um neue KI-Systeme ohne Vollcompliance zu testen. In Deutschland ist die Sandbox beim BSI und der Bundesnetzagentur anzufragen.

Fazit

Der EU AI Act bedeutet für KMU als Betreiber einen überschaubaren, aber strukturierten Compliance-Aufwand. Die wichtigsten Schritte bis August 2026 sind: vollständiges KI-Inventar (inkl. SaaS), Risikoklassifizierung nach dem 4-Klassen-Modell, Schulungsregister führen (Achtung: läuft seit Februar 2025!), Chatbot-Transparenz-Banner implementieren und bei Hochrisiko-Systemen Logging und menschliche Aufsicht sicherstellen. Die DSGVO und der AI Act sind dabei kein Entweder-oder – bei jedem KI-System mit Personenbezug müssen beide Regelwerke gleichzeitig erfüllt werden. Wer die Grundstruktur einmal aufgebaut hat – Inventar, Schulungsregister, Risikoklassifizierungs-Checkliste, AVV – hat den Großteil der Betreiber-Pflichten im Griff. Lege das Inventar als lebenden Prozess an, nicht als einmalige Aufgabe.

Weiterführende Anleitungen und Quellen

KI-Nutzungsrichtlinie für Unternehmen erstellen – Vorlage und Pflichtinhalte für genehmigte Tools und Datenschutzgrenzen
DSGVO, TOMs und Auftragsverarbeitung in der Praxis – AVV, DPIA und technisch-organisatorische Maßnahmen
Zwei-Faktor-Authentifizierung und MFA einführen – Zugangssicherung für KI-Systeme und SaaS-Tools
Microsoft 365 DLP und Vertraulichkeitslabels – Datenschutzkontrolle beim M365-Copilot-Einsatz

Quellen: EU AI Act offizieller Text und Navigator – Europäische Kommission (digital-strategy.ec.europa.eu); EU AI Act Transparenzpflichten Art. 50 (artificialintelligenceact.eu); EU AI Act Fristen und Deadlines – Legiscope (legiscope.com); KI-Governance für KMU EU AI Act 2026 – Kopexa (kopexa.com); EU AI Act Bußgelder für KMU – KI-Compliance-Kit (ki-compliance-kit.de); EU AI Act August 2026 Checkliste – Skill-Sprinters (skill-sprinters.de).