KI-Nutzungsrichtlinie im Unternehmen erstellen (Copilot, ChatGPT & Co.)

Mitarbeitende nutzen ChatGPT, Microsoft 365 Copilot oder Claude oft mit privaten Konten, ohne Kontrolle darüber, welche Daten das Unternehmen verlassen. Eine KI-Nutzungsrichtlinie legt fest, welche Dienste erlaubt sind, welche Daten nicht in öffentliche KI gehören und wer verantwortlich ist. Diese Anleitung führt Geschäftsführung, IT und Datenschutz anbieterneutral bis zur fertigen Vorlage.

Voraussetzungen

• Auftrag der Geschäftsführung, die die Richtlinie verabschiedet.
• Datenschutz eingebunden (intern oder extern).
• Bestandsaufnahme der genutzten KI-Dienste, auch privater Konten (Schatten-KI).
• Vorhandene IT-Richtlinie und Dokumentation der technischen und organisatorischen Maßnahmen (TOM).

Schritt 1: Risiken benennen

Nennen Sie die Risiken in der Richtlinie als Begründung:

• Datenabfluss: Eingaben in private Konten können je nach Einstellung zum Training genutzt werden.
• Falsche Ergebnisse: KI erfindet plausible Fakten, Zahlen und Quellen.
• Urheberrecht: Ausgaben können geschützte Inhalte wiedergeben.
• Datenschutz: Personenbezogene Daten erfordern Rechtsgrundlage, Auftragsverarbeitungsvertrag (AVV) und gegebenenfalls eine Datenschutz-Folgenabschätzung (DSFA).

Die Richtlinie dient zugleich als Nachweis nach Art. 5 Abs. 2 DSGVO (Rechenschaftspflicht).

Verifizieren: Die Bestandsaufnahme listet jeden genutzten KI-Dienst mit Kontoart (privat, Business, selbst betrieben) und den Abteilungen, die ihn nutzen.

Schritt 2: Rechtsrahmen verstehen

KI-Verordnung: Fristen und Pflichten

Als Nutzer von KI-Diensten sind Sie in der Regel Betreiber. Relevant sind vor allem Art. 4 (KI-Kompetenz) und Art. 50 (Transparenz). Hochrisiko-Pflichten betreffen Standarddienste für E-Mails oder Recherche meist nicht.

Art. 4 (KI-Kompetenz): Anbieter und Betreiber ergreifen Maßnahmen, um die KI-Kompetenz ihres Personals und der Personen, die KI in ihrem Auftrag nutzen, zu fördern. Maßstab sind Vorkenntnisse, Ausbildung und Einsatzkontext. Seit der Änderung durch die Verordnung (EU) 2026/1744 stellt der Text klar, dass kein bestimmtes Kompetenzniveau garantiert werden muss. Entscheidend ist der Nachweis der Maßnahmen.

Art. 50 (Transparenz), seit 2.8.2026: Für Betreiber sind vor allem zwei Pflichten relevant. Wer Deepfakes (Bild, Ton, Video) erzeugt oder verändert, muss dies offenlegen, für erkennbar künstlerische oder satirische Werke gelten Erleichterungen. Wer KI-generierten Text veröffentlicht, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, muss dies offenlegen, es sei denn, der Text wurde von Menschen geprüft und eine Person trägt die redaktionelle Verantwortung. Die maschinenlesbare Kennzeichnung von KI-Ausgaben ist eine Pflicht der Anbieter. Bei Chatbots für Kunden klären Sie mit dem Anbieter die Kennzeichnung.

Bußgelder: Verstöße gegen Art. 50 können nach Art. 99 Abs. 4 mit bis zu 15 Mio. Euro oder 3 % des weltweiten Jahresumsatzes geahndet werden, verbotene Praktiken nach Art. 99 Abs. 3 mit bis zu 35 Mio. Euro oder 7 %. Für KMU gilt nach Art. 99 Abs. 6 jeweils der niedrigere Betrag. Art. 4 steht nicht im Bußgeldkatalog des Art. 99.

DSGVO: AVV, DSFA und TOM

Verarbeitet ein KI-Dienst personenbezogene Daten in Ihrem Auftrag, brauchen Sie einen AVV nach Art. 28 DSGVO. Ihn bieten in der Regel nur die Business- und Enterprise-Varianten an. Prüfen Sie außerdem, ob eine DSFA nach Art. 35 DSGVO nötig ist, und dokumentieren Sie die Schutzmaßnahmen in Ihren TOM (Art. 32 DSGVO), siehe DSGVO-TOM und Auftragsverarbeitung in der Praxis.

Betriebsrat: KI-Dienste, die Eingaben oder Nutzung protokollieren, sind in der Regel technische Einrichtungen, die zur Überwachung von Verhalten oder Leistung geeignet sind. Dann hat der Betriebsrat nach § 87 Abs. 1 Nr. 6 BetrVG ein Mitbestimmungsrecht, üblich ist eine Betriebsvereinbarung. Nach § 90 Abs. 1 Nr. 3 BetrVG ist er über geplante KI-Einsätze rechtzeitig zu unterrichten.

Verifizieren: Für jeden freigegebenen Dienst liegen AVV, Ergebnis der DSFA-Prüfung und, falls ein Betriebsrat besteht, dessen Zustimmung oder eine Betriebsvereinbarung vor.

Schritt 3: Geltungsbereich und Begriffe festlegen

• Wer: alle Beschäftigten und externen Dienstleister, die in Ihrem Auftrag KI nutzen.
• Welche Dienste: alle generativen KI-Dienste für Text, Bild, Audio und Code, auch als App, Plug-in oder Schnittstelle.
• Welche Daten: alle geschäftlichen Ein- und Ausgaben.

Definieren Sie die Begriffe öffentliche KI (kostenlose oder private Konten), freigegebene Business-KI (mit AVV), selbst betriebene KI, personenbezogene Daten, Geschäftsgeheimnis und Schatten-KI.

Verifizieren: Geltungsbereich und Begriffe sind mit Datenschutz und Personalabteilung abgestimmt.

Schritt 4: Datenklassen-Regel definieren

Grundregel: Keine personenbezogenen Daten, keine vertraulichen Daten, keine Geschäftsgeheimnisse und keine besonderen Kategorien nach Art. 9 DSGVO in öffentliche KI. Die Freigabematrix ordnet jede Datenklasse einer Dienstart zu:

Ergänzen Sie zwei Pflichten: Daten vor jeder Eingabe anonymisieren oder pseudonymisieren, und versehentliche Eingaben sensibler Daten sofort melden. Eine solche Eingabe kann eine Datenschutzverletzung nach Art. 33 DSGVO sein, die binnen 72 Stunden an die Aufsichtsbehörde zu melden ist.

Verifizieren: Drei Alltagsfälle (Kundenmail zusammenfassen, Stellenanzeige formulieren, Angebot kalkulieren) lassen sich eindeutig einer Zelle zuordnen.

Schritt 5: Freigegebene und verbotene Dienste festlegen

Bieten Sie mindestens einen komfortablen freigegebenen Dienst an, sonst weichen Mitarbeitende auf private Konten aus.

• Microsoft 365 Copilot: Mit Enterprise Data Protection werden Eingaben, Antworten und über Microsoft Graph abgerufene Daten nicht zum Training der Basismodelle verwendet, bestehende Berechtigungen und Vertraulichkeitsbezeichnungen gelten weiter. Prüfen Sie vorab die Freigaben, denn Copilot findet alles, worauf der Benutzer Zugriff hat.
• ChatGPT und Claude: Business- und Enterprise-Varianten bieten einen AVV und schließen Training mit Kundendaten standardmäßig aus. Bei privaten Konten hängt das von den Einstellungen des Benutzers ab.

Verifizieren: Freigegebene Dienste nutzen die Anmeldung über das Firmenkonto (SSO), verbotene Dienste sind, soweit möglich, im Proxy oder Webfilter gesperrt.

Schritt 6: Selbst betriebene KI prüfen

Für vertrauliche Daten eignet sich eine selbst betriebene Oberfläche wie LibreChat (MIT-Lizenz) mit Anmeldung über OpenID Connect, SAML oder LDAP. Die Installation beschreibt LibreChat als selbst gehostete ChatGPT- und Claude-Alternative mit Docker.

Wichtig: Binden Sie in LibreChat ein Cloud-Modell an (etwa über die OpenAI- oder Anthropic-API), fließen die Eingaben weiterhin zum Anbieter, und es gelten dieselben Pflichten wie bei jedem Cloud-Dienst. Nur mit einem lokalen Modell, zum Beispiel über Ollama, bleiben die Daten im Haus.

Verifizieren: In der Konfiguration der selbst betriebenen Lösung sind nur die Modelle aktiviert, die zur freigegebenen Datenklasse passen.

Schritt 7: Freigabeprozess für neue KI-Dienste

Ein schlanker Prozess hält die Liste aktuell. Übernehmen Sie diese Checkliste als Anlage:

Freigabe-Checkliste neuer KI-Dienst
[ ] Antrag liegt vor (Fachbereich, Zweck, Datenklassen)
[ ] Anbieter, Verarbeitungsorte und Unterauftragsverarbeiter geprüft
[ ] AVV nach Art. 28 DSGVO abgeschlossen
[ ] Bestätigt: Eingaben werden nicht zum Modelltraining genutzt
[ ] Erlaubte Datenklassen festgelegt
[ ] DSFA-Bedarf mit Datenschutz geprüft
[ ] Betriebsrat beteiligt (falls vorhanden)
[ ] Anmeldung über SSO, Protokollierung geklärt
[ ] In Liste freigegebener Dienste aufgenommen
[ ] Nächste Überprüfung terminiert (mindestens jährlich)

Verifizieren: Ein Probedurchlauf mit einem genutzten Dienst liefert zu jedem Punkt Zuständigkeit und Ergebnis.

Schritt 8: Prüfpflicht, Rollen und Schulung

Prüfpflicht und Kennzeichnung

Jedes KI-Ergebnis prüft ein Mensch vor Nutzung oder Versand, besonders Zahlen, Quellen und rechtliche Aussagen. Für Veröffentlichungen gilt Art. 50: Deepfakes kennzeichnen, KI-Texte zu Themen von öffentlichem Interesse redaktionell verantworten oder kennzeichnen.

Rollen und Verantwortlichkeiten

Schulung (Art. 4)

Schulen Sie passend zum Einsatz: Grenzen generativer KI, Datenklassen-Regel, Umgang mit falschen Ergebnissen, Meldeweg. Dokumentieren Sie Inhalte, Teilnehmende und Datum. Zugangsschutz gehört dazu, siehe Microsoft 365 mit MFA und Conditional Access absichern.

Verifizieren: Für jede Person mit Zugang zu einem freigegebenen KI-Dienst liegt ein Schulungsnachweis vor.

Schritt 9: Meldewege, Verstöße und Aktualisierung

• Meldeweg: Benennen Sie eine Stelle für versehentliche Eingaben sensibler Daten. Nur eine schnelle interne Meldung ermöglicht die Frist von 72 Stunden nach Art. 33 DSGVO.
• Verstöße: Weisen Sie darauf hin, dass Verstöße arbeitsrechtliche Folgen haben können. Stimmen Sie die Formulierung mit dem Betriebsrat und gegebenenfalls arbeitsrechtlicher Beratung ab.
• Aktualisierung: Prüfen Sie die Richtlinie mindestens jährlich und bei neuen Diensten oder Rechtsänderungen, passend zur regelmäßigen Überprüfung der TOM nach Art. 32 Abs. 1 Buchst. d DSGVO.

Verifizieren: Meldestelle und Überprüfungstermin stehen in der Richtlinie, der Termin ist im Kalender der zuständigen Person eingetragen.

Schritt 10: Vorlage anpassen

Passen Sie die Vorlage an und lassen Sie sie von Datenschutz und Rechtsberatung prüfen:

KI-Nutzungsrichtlinie der [Firma]
Version 1.0, Stand [Datum], verabschiedet von der Geschäftsführung

1. Zweck und Geltungsbereich
   Gilt für alle Beschäftigten und beauftragten Dienstleister bei der
   Nutzung generativer KI (Text, Bild, Audio, Code) für geschäftliche Zwecke.
2. Begriffe und Datenklassen
   Öffentlich / Intern / Vertraulich / Streng vertraulich (Anlage A).
3. Freigegebene und verbotene Dienste
   Freigegeben: Anlage B. Verboten: private oder kostenlose Konten für
   geschäftliche Inhalte, nicht freigegebene Dienste.
4. Datenklassen-Regel
   Keine personenbezogenen, vertraulichen oder geheimen Daten in öffentliche KI.
   Vor jeder Eingabe anonymisieren oder pseudonymisieren.
5. Freigabeprozess für neue Dienste (Anlage C).
6. Prüfpflicht und Kennzeichnung
   KI-Ergebnisse vor Nutzung prüfen. Offenlegung nach Art. 50 KI-Verordnung
   bei Deepfakes und veröffentlichten KI-Texten ohne redaktionelle Prüfung.
7. Rollen und Verantwortlichkeiten
8. Schulung (Art. 4 KI-Verordnung), dokumentiert
9. Meldewege und Vorfälle
   Versehentliche Eingabe sensibler Daten sofort an [Stelle] melden.
10. Verstöße
    Arbeitsrechtliche Folgen möglich (mit Betriebsrat abgestimmt).
11. Überprüfung mindestens jährlich und anlassbezogen.
12. Verweise: DSGVO Art. 5, 9, 28, 32, 33, 35; KI-Verordnung Art. 4, 50.

Anlagen: A Datenklassen-Matrix | B Freigabeliste | C Freigabe-Checkliste

Verifizieren: Die Richtlinie ist unterschrieben, nachweisbar bekannt gemacht und mit Versionsstand abgelegt.

Typische Fehler und Lösungen

• „Enterprise-Vertrag genügt“: Ohne AVV, DSFA-Prüfung und Schulung nicht abgesichert. Checkliste aus Schritt 7 abarbeiten.
• Art. 4 übersehen: Gilt seit 2.2.2025 für jeden Betreiber. Schulungen nachholen und dokumentieren.
• Veraltete Fristen: Ältere Vorlagen nennen für Hochrisiko-Pflichten den 2.8.2026. Nach der Änderungsverordnung (EU) 2026/1744 gelten sie ab 2.12.2027.
• Betriebsrat nicht beteiligt: Mitbestimmungspflichtige Dienste dürfen ohne seine Zustimmung nicht eingeführt werden. Frühzeitig einbinden.
• Schatten-KI durch zu strenge Regeln: Mindestens einen komfortablen freigegebenen Dienst bereitstellen.

Häufige Fragen

Brauchen auch kleine Unternehmen eine KI-Nutzungsrichtlinie?

Ja. Sobald Beschäftigte KI nutzen, greifen DSGVO-Rechenschaftspflicht und Art. 4 KI-Verordnung.

Darf ich personenbezogene Daten in ChatGPT oder Copilot eingeben?

Nur in einer freigegebenen Variante mit AVV und nach DSFA-Prüfung, nie in privaten Konten.

Muss ich einen KI-Beauftragten benennen?

Nein, eine zuständige Person für Richtlinie und Freigabeliste genügt.

Wie setze ich die KI-Kompetenz nach Art. 4 praktisch um?

Mit Schulungen passend zum Einsatz (siehe Schritt 8) und einem Nachweis über Inhalte, Teilnehmende und Datum.

Drohen Bußgelder, wenn ich Art. 4 nicht umsetze?

Art. 4 steht nicht im Bußgeldkatalog des Art. 99. Verstöße gegen Art. 50 und verbotene Praktiken sind dagegen bußgeldbewehrt. Fehlende Schulungen können zudem bei Haftungsfragen gegen Sie sprechen.

Ist selbst betriebene KI wie LibreChat immer datenschutzkonform?

Nur mit lokalem Modell. Mit einer Cloud-API als Backend gelten dieselben Pflichten wie bei jedem Cloud-Dienst.

Fazit

Datenklassen-Regel, Freigabeliste, Freigabeprozess, Prüfpflicht und dokumentierte Schulungen erfüllen die Rechenschaftspflicht der DSGVO und die Betreiberpflichten der KI-Verordnung.

Weiterführende Anleitungen und Quellen

1. DSGVO-TOM und Auftragsverarbeitung in der Praxis
2. LibreChat als selbst gehostete ChatGPT- und Claude-Alternative mit Docker
3. Microsoft 365 mit MFA und Conditional Access absichern
4. Weitere Anleitungen zu Künstlicher Intelligenz

Quellen: Verordnung (EU) 2024/1689 (KI-Verordnung) in der Fassung der Verordnung (EU) 2026/1744 · DSGVO · § 87 BetrVG · Microsoft Learn: Enterprise Data Protection in Microsoft 365 Copilot. Keine Rechtsberatung.