Richtlinie zur Nutzung von KI-Tools (ChatGPT, Copilot) im Unternehmen

TL;DR

Ohne KI-Richtlinie fließen vertrauliche Unternehmensdaten unkontrolliert in Cloud-Dienste von Drittanbietern. Das ist ein Datenschutz- und Informationssicherheitsproblem.
Die Richtlinie muss klar definieren, welche KI-Tools für welche Zwecke zugelassen sind und welche Daten niemals eingegeben werden dürfen.
Personenbezogene Daten, Geschäftsgeheimnisse, Quellcode, Zugangsdaten und vertrauliche Kundeninformationen gehören nicht in KI-Prompts.
KI-generierte Inhalte müssen vor der Verwendung auf Richtigkeit geprüft werden. Die Verantwortung für das Ergebnis liegt beim Menschen, nicht beim Tool.
Die EU AI Act Anforderungen an Transparenz und menschliche Aufsicht müssen berücksichtigt werden, insbesondere wenn KI-Ergebnisse in Entscheidungsprozesse einfließen.

KI im Unternehmen: Zwischen Produktivität und Kontrollverlust

ChatGPT, Microsoft Copilot, Google Gemini, GitHub Copilot, Midjourney, Claude, Perplexity: Die Liste der KI-Tools, die Mitarbeitende im Arbeitsalltag nutzen, wächst monatlich. Und die Nutzung ist nicht theoretisch. Studien zeigen, dass ein erheblicher Anteil der Beschäftigten KI-Tools bereits für berufliche Zwecke einsetzt, ob das Unternehmen davon weiß oder nicht.

Das Problem ist nicht die Nutzung an sich. KI-Tools können Texte schneller erstellen, Code effizienter schreiben, Recherchen beschleunigen und Routineaufgaben automatisieren. Das Problem entsteht, wenn die Nutzung unkontrolliert erfolgt.

Ein Mitarbeitender füttert ChatGPT mit einem vertraulichen Vertragsentwurf, um ihn zusammenfassen zu lassen. Eine Entwicklerin gibt proprietären Quellcode in GitHub Copilot ein, um einen Bug zu finden. Der Personaler lässt Bewerbungsunterlagen von einem KI-Tool bewerten. Die Marketingabteilung nutzt einen KI-Bildgenerator, ohne die Lizenzfragen der generierten Bilder zu klären.

In jedem dieser Fälle fließen Unternehmensdaten an einen externen Dienstleister, ohne dass das Unternehmen Kontrolle darüber hat, was mit diesen Daten geschieht. Werden sie zum Training verwendet? Werden sie gespeichert? Können andere Nutzer sie sehen? Die Antworten hängen vom jeweiligen Anbieter, dem gewählten Tarif und den gerade geltenden Nutzungsbedingungen ab. Und sie ändern sich regelmäßig.

Eine KI-Nutzungsrichtlinie bringt Ordnung in dieses Chaos. Sie definiert klare Spielregeln, die den Mitarbeitenden Orientierung geben und gleichzeitig die Informationssicherheit und den Datenschutz wahren.

Warum die Richtlinie jetzt nötig ist

Informationssicherheit

Jede Eingabe in ein KI-Tool ist eine Datenübertragung an einen Dritten. Wenn das Tool als Cloud-Dienst betrieben wird (und die meisten werden das), verlassen die Daten das Unternehmensnetzwerk. Das berührt direkt die Vertraulichkeit von Informationen, ein Kernaspekt deines ISMS. Welche Daten welcher Schutzstufe unterliegen, regelt deine Klassifizierungsrichtlinie.

ISO 27001 fordert in A.5.10 (Acceptable use of information and other associated assets), dass die Nutzung von Informationen und zugehörigen Assets geregelt ist. KI-Tools sind solche Assets, und die Nutzungsregeln gehören in eine Richtlinie.

Datenschutz (DSGVO)

Wenn personenbezogene Daten in KI-Prompts eingegeben werden, liegt eine Datenverarbeitung vor. Dafür brauchst du eine Rechtsgrundlage (Art. 6 DSGVO), möglicherweise einen Auftragsverarbeitungsvertrag (Art. 28 DSGVO) und eine Prüfung, ob die Daten in ein Drittland übertragen werden (Art. 44 ff. DSGVO). Ohne Richtlinie passiert all das unkontrolliert und undokumentiert.

EU AI Act

Der EU AI Act, der stufenweise in Kraft tritt, stellt Anforderungen an die Nutzung von KI-Systemen: Transparenzpflichten, menschliche Aufsicht, Risikoklassifizierung. Unternehmen, die KI-Tools einsetzen, müssen sicherstellen, dass die Nutzung den Anforderungen des AI Act entspricht. Eine dokumentierte Richtlinie ist der erste Schritt.

NIS2

NIS2 fordert in Artikel 21 angemessene technische und organisatorische Maßnahmen. Die unkontrollierte Nutzung von KI-Tools ist eine organisatorische Lücke, die ein Auditor monieren wird. Eine KI-Richtlinie als Teil des ISMS zeigt, dass du das Thema systematisch steuerst.

Geschäftsgeheimnisschutz

Seit dem Geschäftsgeheimnisgesetz (GeschGehG) sind Geschäftsgeheimnisse nur dann geschützt, wenn das Unternehmen angemessene Geheimhaltungsmaßnahmen trifft. Wer vertrauliche Informationen unkontrolliert in KI-Tools eingibt, gefährdet den Geheimnisschutz und damit auch den rechtlichen Schutz.

Welche KI-Tools die Richtlinie adressiert

Die Richtlinie sollte nicht ein einzelnes Tool regeln, sondern Kategorien definieren:

Generative Text-KI: ChatGPT, Claude, Google Gemini, Microsoft Copilot (Chat), Perplexity. Nutzen: Textenerstellung, Zusammenfassungen, Recherche, Übersetzungen, Brainstorming.

Code-Assistenten: GitHub Copilot, Amazon CodeWhisperer, Cursor, Tabnine. Nutzen: Code-Vervollständigung, Bug-Analyse, Refactoring, Dokumentation.

Bild- und Mediengeneratoren: Midjourney, DALL-E, Adobe Firefly, Stable Diffusion. Nutzen: Bildgenerierung, Designentwürfe, Präsentationsgrafiken.

Integrierte KI-Funktionen: Microsoft Copilot in Office 365, Google Duet AI in Workspace, KI-Features in CRM- und ERP-Systemen. Nutzen: E-Mail-Zusammenfassungen, Meeting-Transkripte, Datenanalysen.

Spezialisierte KI-Tools: Branchenspezifische KI-Lösungen für Buchhaltung, Vertragsanalyse, Kundenservice-Chatbots, HR-Screening. Nutzen: Automatisierung fachspezifischer Aufgaben.

Für jede Kategorie muss die Richtlinie festlegen, welche konkreten Tools zugelassen sind, unter welchen Bedingungen sie genutzt werden dürfen und welche ausdrücklich verboten sind.

Zugelassene und verbotene Tools

Die Richtlinie braucht eine klare Einteilung in drei Kategorien:

Kategorie 1: Freigegebene Tools

Diese Tools wurden vom Unternehmen geprüft und sind für die definierte Nutzung freigegeben. Die Prüfung umfasst:

Datenschutzrechtliche Bewertung (AVV vorhanden? Serverstandort? Datennutzung?)
Informationssicherheitsbewertung (Verschlüsselung? Zugangskontrolle? Datenaufbewahrung?)
Vertragliche Regelungen (Enterprise-Lizenz mit Opt-Out aus Training?)
Lizenzrechtliche Bewertung (Nutzungsrechte an generierten Inhalten?)

Enterprise-Versionen von Microsoft Copilot, GitHub Copilot Business/Enterprise oder ChatGPT Enterprise bieten in der Regel bessere Datenschutzgarantien als die kostenlosen Versionen. Die Richtlinie sollte explizit zwischen Enterprise- und Consumer-Versionen unterscheiden.

Kategorie 2: Eingeschränkt zugelassene Tools

Diese Tools dürfen für bestimmte Zwecke genutzt werden, aber nicht mit sensiblen Daten. Typischerweise fallen hierunter kostenlose Versionen von KI-Tools, die für allgemeine Recherche oder das Erstellen von nicht-sensiblen Texten verwendet werden dürfen, aber nicht mit Unternehmensdaten gefüttert werden.

Kategorie 3: Verbotene Tools

Diese Tools dürfen nicht für berufliche Zwecke genutzt werden. Gründe können sein: fehlender AVV, Datenverarbeitung in unsicheren Drittländern, bekannte Datenschutzverletzungen, unklare Nutzungsbedingungen bezüglich Trainingsdaten.

Die Liste freigegebener Tools wird vom ISB in Abstimmung mit der IT und dem Datenschutzbeauftragten gepflegt und regelmäßig aktualisiert. Neue Tools müssen vor der Nutzung den Freigabeprozess durchlaufen. In ISMS Lite lässt sich die Tool-Liste als versionierter Anhang zur KI-Richtlinie führen, sodass Änderungen nachvollziehbar bleiben und die Kenntnisnahme durch alle Mitarbeitenden dokumentiert wird.

Was niemals in KI-Prompts eingegeben werden darf

Das Herzstück der Richtlinie: eine klare Definition verbotener Eingaben. Diese Liste muss unmissverständlich sein.

Personenbezogene Daten: Namen, E-Mail-Adressen, Telefonnummern, Adressen, Geburtsdaten, Personalausweisdaten, Gesundheitsdaten, Gehaltsinformationen. Keine personenbezogenen Daten in KI-Prompts, auch nicht in freigegebenen Tools, es sei denn, eine spezifische Freigabe durch den Datenschutzbeauftragten liegt vor.

Zugangsdaten und Schlüssel: Passwörter, API-Keys, Zertifikate, SSH-Schlüssel, Tokens. Unter keinen Umständen. Auch nicht, um Hilfe bei der Fehlersuche zu bekommen.

Geschäftsgeheimnisse: Unveröffentlichte Produktstrategien, Preiskalkulationen, M&A-Informationen, Patentanmeldungen, Forschungsergebnisse vor Veröffentlichung.

Vertrauliche Kundendaten: Vertragsinhalte, Projektdetails, Anforderungsdokumente, technische Spezifikationen von Kunden, Finanzinformationen von Kunden.

Proprietärer Quellcode: Insbesondere sicherheitskritischer Code, Code mit eingebetteten Secrets, Code, der Geschäftslogik enthält. Bei freigegebenen Code-Assistenten (z.B. GitHub Copilot Enterprise) können Ausnahmen gelten, die die Richtlinie explizit benennt.

Interne Sicherheitsinformationen: Netzwerkdiagramme, Firewall-Regeln, Schwachstellenberichte, Penetrationstest-Ergebnisse, Incident-Details.

Juristische Dokumente: Laufende Rechtsstreitigkeiten, anwaltliche Korrespondenz, unveröffentlichte Compliance-Berichte.

Die Richtlinie sollte als Faustregel formulieren: Wenn du unsicher bist, ob eine Information eingegeben werden darf, dann gib sie nicht ein und frag den ISB.

Prompt-Richtlinien

Neben den verbotenen Eingaben definiert die Richtlinie positive Regeln für den Umgang mit KI-Prompts:

Anonymisierung: Wenn du ein KI-Tool für eine Aufgabe nutzen willst, die auf realen Daten basiert, anonymisiere die Daten vorher. Ersetze Namen durch Platzhalter, konkrete Zahlen durch Beispielwerte, Firmennamen durch generische Bezeichnungen.

Kontextminimierung: Gib nur die Informationen ein, die für die Aufgabe tatsächlich benötigt werden. Kopiere nicht einen ganzen Vertrag in den Prompt, wenn du nur eine Klausel umformulieren willst.

Keine Verkettung sensibler Informationen: Einzelne Datenpunkte mögen harmlos erscheinen, in Kombination können sie aber ein vollständiges Bild ergeben. Vermeide es, in aufeinanderfolgenden Prompts verschiedene sensible Aspekte desselben Themas zu behandeln.

Konversationshistorie beachten: Viele KI-Tools speichern die Konversation. Was du in Prompt 1 eingibst, ist auch in Prompt 10 noch im Kontext. Beginne bei sensiblen Themen eine neue Konversation, und lösche alte Konversationen regelmäßig.

Prüfpflicht für KI-generierte Inhalte

KI-Tools liefern plausibel klingende, aber nicht immer korrekte Ergebnisse. Halluzinationen (erfundene Fakten, nicht existierende Quellen, falsche Rechtsauslegungen) sind kein Randphänomen, sondern ein systemimmanentes Problem generativer KI.

Die Richtlinie muss daher eine Prüfpflicht definieren:

Grundsatz: Jeder KI-generierte Inhalt muss vor der Verwendung von einem qualifizierten Menschen auf Richtigkeit, Vollständigkeit und Angemessenheit geprüft werden. Die Verantwortung für das Ergebnis liegt bei der Person, die es verwendet, nicht beim KI-Tool.

Fachliche Prüfung: Juristische Texte werden von Juristen geprüft, technische Inhalte von Fachleuten, Finanzzahlen von der Buchhaltung. KI-generierte Inhalte dürfen nicht ungeprüft als fachliche Aussage des Unternehmens veröffentlicht oder in Entscheidungen einbezogen werden.

Quellenprüfung: Wenn das KI-Tool Quellen angibt, müssen diese verifiziert werden. KI-Tools erfinden regelmäßig Quellenangaben, die seriös klingen, aber nicht existieren.

Kennzeichnungspflicht: Die Richtlinie legt fest, in welchen Kontexten KI-generierte Inhalte als solche gekennzeichnet werden müssen. Insbesondere bei externen Veröffentlichungen, Kundenangeboten und rechtlich relevanten Dokumenten kann eine Kennzeichnung erforderlich sein. Der EU AI Act fordert in bestimmten Fällen Transparenz über den KI-Einsatz.

Besondere Szenarien

KI in der Softwareentwicklung

GitHub Copilot und vergleichbare Tools sind für Entwickler hochproduktiv, werfen aber spezifische Fragen auf:

Lizenzen: KI-generierter Code kann aus Open-Source-Projekten stammen, deren Lizenzbedingungen möglicherweise nicht mit der kommerziellen Nutzung vereinbar sind.
Sicherheit: KI-generierter Code kann Schwachstellen enthalten. Die Secure-Development-Richtlinie (Code Reviews, SAST) gilt uneingeschränkt auch für KI-generierten Code.
IP-Schutz: Proprietärer Code, der als Kontext in Copilot fließt, wird möglicherweise für das Training verwendet (abhängig von Tarif und Einstellungen).

Die Richtlinie empfiehlt Enterprise-Versionen mit Opt-Out aus dem Training und verlangt, dass KI-generierter Code den gleichen Review-Prozessen unterliegt wie menschlich geschriebener Code.

KI im Personalwesen

Der Einsatz von KI bei Personalentscheidungen (Bewerbungssichtung, Leistungsbewertung, Kündigungsvorbereitung) ist aus DSGVO- und AI-Act-Sicht besonders sensibel. Die Richtlinie sollte festlegen, dass KI-Tools im HR-Bereich nur nach Freigabe durch den Datenschutzbeauftragten und mit einer dokumentierten Datenschutz-Folgenabschätzung eingesetzt werden dürfen.

KI für Kundeninteraktion

Chatbots und KI-gestützte Kundenberatung müssen transparent machen, dass der Kunde mit einer KI interagiert (AI Act Transparenzpflicht). Die Richtlinie legt fest, dass KI-basierte Kundenkommunikation nur mit Freigabe der Geschäftsführung eingesetzt wird und eine menschliche Eskalationsmöglichkeit bestehen muss.

KI für Managemententscheidungen

Wenn KI-generierte Analysen oder Empfehlungen in strategische Entscheidungen einfließen, muss die menschliche Aufsicht gewährleistet sein. Die Richtlinie stellt klar, dass KI ein Werkzeug zur Entscheidungsunterstützung ist, nicht zur Entscheidungsfindung.

Schulung und Awareness

Die KI-Richtlinie wirkt nur, wenn die Mitarbeitenden sie kennen und verstehen. Angesichts der Dynamik des Themas reicht eine einmalige Schulung nicht aus.

Einführungsschulung: Bei Inkrafttreten der Richtlinie erhalten alle Mitarbeitenden eine Schulung zu den Grundsätzen, den erlaubten und verbotenen Nutzungen und den Prüfpflichten.

Regelmäßige Updates: Mindestens halbjährlich informiert der ISB über neue zugelassene Tools, geänderte Risikobewertungen und aktuelle Entwicklungen im Bereich KI-Sicherheit und -Regulierung.

Abteilungsspezifische Schulungen: Entwickler brauchen andere Informationen als die Marketingabteilung. Die Schulungen werden an die jeweiligen Nutzungsszenarien angepasst.

Ansprechpartner: Der ISB oder eine benannte Person fungiert als Ansprechpartner für Fragen zur KI-Nutzung. Die Hemmschwelle für Nachfragen muss niedrig sein.

Beispielgliederung für eine KI-Nutzungsrichtlinie

Zweck und Geltungsbereich
Begriffe und Definitionen - KI-Tool, Prompt, Generative KI, LLM, Halluzination
Regulatorischer Rahmen - DSGVO, AI Act, GeschGehG, NIS2
Grundsätze - Eigenverantwortung, Prüfpflicht, Datenminimierung, Transparenz
Kategorisierung von KI-Tools - Freigegeben, eingeschränkt, verboten
Freigegebene Tools und Nutzungsbedingungen - Liste mit Zweck und Einschränkungen
Verbotene Eingaben - Klare Auflistung der Dateninhalte, die nicht eingegeben werden dürfen
Prompt-Richtlinien - Anonymisierung, Kontextminimierung, Konversationshygiene
Prüfpflicht für KI-generierte Inhalte - Richtigkeit, Quellen, Kennzeichnung
Besondere Szenarien - Softwareentwicklung, HR, Kundeninteraktion, Managemententscheidungen
Datenschutzanforderungen - AVV, Drittlandtransfer, Rechtsgrundlage
Urheberrecht und Lizenzen - Rechte an KI-generierten Inhalten
Schulung und Awareness
Verstöße und Konsequenzen
Verantwortlichkeiten - ISB, DSB, IT, Fachabteilungen
Freigabeprozess für neue KI-Tools
Überprüfung und Aktualisierung - Mindestens halbjährlich aufgrund der dynamischen Entwicklung
Inkrafttreten und Freigabe

Eine Richtlinie, die mit der Technologie Schritt hält

Das Besondere an der KI-Richtlinie ist die Geschwindigkeit, mit der sich das Thema entwickelt. Neue Tools erscheinen wöchentlich, die Fähigkeiten wachsen exponentiell, und die regulatorischen Anforderungen werden mit dem AI Act konkreter. Eine KI-Richtlinie, die du heute schreibst, muss in sechs Monaten überprüft und angepasst werden.

Deshalb empfiehlt es sich, die Richtlinie schlank zu halten und die Liste der freigegebenen Tools als separaten, schneller aktualisierbaren Anhang zu führen. Die Grundsätze (keine sensiblen Daten in KI-Tools, Prüfpflicht, Eigenverantwortung) bleiben stabil. Die konkreten Tool-Freigaben ändern sich mit dem Markt.

ISMS Lite bildet genau diesen dynamischen Richtlinien-Lifecycle ab: Du erstellst die KI-Nutzungsrichtlinie mit KI-Unterstützung, versionierst jede Änderung automatisch, holst die digitale Kenntnisnahme aller Mitarbeitenden ein und lässt die Geschäftsführung per Unterschrift freigeben. Wenn sich die Tool-Landschaft ändert, aktualisierst du die Richtlinie, und ISMS Lite sorgt dafür, dass alle Betroffenen die neue Version zur Kenntnis nehmen. So bleibt die Richtlinie aktuell und nachweisbar wirksam.

Weiterführende Artikel

KI-Richtlinie ChatGPT Copilot Künstliche Intelligenz Richtlinien ISMS Datenschutz NIS2