Kurz erklärt
KI-Tools wie ChatGPT, Claude oder Microsoft Copilot sind leistungsstark – aber kein sicherer Ort für vertrauliche Unternehmensdaten. Wer personenbezogene Daten, Geschäftsgeheimnisse oder interne Vertragsinformationen in Prompts eingibt, riskiert Datenschutzverstöße, den Verlust von Betriebsgeheimnissen und regulatorische Konsequenzen. Dieser Artikel zeigt, welche Datenkategorien tabu sind, warum die Grenze oft verschwimmt – und wie Unternehmen eine tragfähige KI-Richtlinie für Mitarbeitende aufbauen.
Stellen Sie sich vor, eine qualifizierte Fachkraft Ihres Unternehmens fragt ChatGPT nach der optimalen Formulierung eines Vertragsabsatzes – und fügt dabei den vollständigen Entwurf eines noch nicht unterzeichneten Liefervertrags ein. Die KI liefert eine hilfreiche Antwort. Was dabei niemand sieht: Der Vertragsinhalt wurde auf Servern außerhalb der EU verarbeitet, entzieht sich vollständig der Kontrolle Ihres Unternehmens und könnte unter bestimmten Anbieterbedingungen in zukünftige Modelltrainings einfließen.
Dieses Szenario ist kein Randfall. Es ereignet sich täglich in Unternehmen jeder Größe – und es ist symptomatisch für eine grundlegende Spannung, die viele Organisationen bislang unterschätzen: KI-Tools sind produktiv und intuitiv nutzbar, aber die wenigsten Mitarbeitenden haben ein belastbares Bild davon, was datenschutzrechtlich, informationssicherheitlich und regulatorisch auf dem Spiel steht, wenn sie einen Prompt absenden.
Der Unterschied zwischen einem riskanten und einem regelkonformen Prompt liegt selten in der Absicht – er liegt im Wissen. Und dieses Wissen systematisch zu vermitteln, ist eine der dringlichsten Aufgaben moderner Unternehmensführung.
Die unsichtbare Datenschleuse
Generative KI-Systeme funktionieren anders als eine Suchmaschine. Wer eine Anfrage bei Google stellt, übermittelt einen Suchbegriff. Wer einen Prompt in ein Large Language Model eingibt, stellt dem System unter Umständen einen vollständigen Kontext zur Verfügung – Dokumente, Namen, Zahlen, Sachverhalte. Genau dieser Kontext ist das Problem.
Die Datenschutz-Grundverordnung (DSGVO) macht keine Ausnahme für KI-Anwendungen. Personenbezogene Daten – also Informationen, die eine natürliche Person direkt oder indirekt identifizierbar machen – dürfen nur auf Basis einer gültigen Rechtsgrundlage und unter Einhaltung der Grundsätze der Datenminimierung und Zweckbindung verarbeitet werden. Das gilt auch dann, wenn Mitarbeitende einen Prompt mit dem Namen einer Kundin oder dem Geburtsdatum eines Patienten befüllen.
Hinzu kommt: Viele Anbieter generativer KI unterhalten Rechenzentren außerhalb des Europäischen Wirtschaftsraums. Eine Datenübermittlung in Drittstaaten ohne angemessenes Schutzniveau ist nach Art. 44 ff. DSGVO grundsätzlich unzulässig, sofern keine geeigneten Garantien bestehen. Ob und in welchem Umfang diese Garantien bei den großen KI-Anbietern tatsächlich greifen, ist juristisch nicht abschließend geklärt – und für Datenschutzbeauftragte eine Daueraufgabe.
Welche Datenkategorien niemals in Prompts gehören
Die folgende Übersicht ist keine erschöpfende Checkliste, sondern ein Orientierungsrahmen, der sich in der Beratungspraxis bewährt hat:
Personenbezogene Daten im Sinne der DSGVO
Namen, Adressen, E-Mail-Adressen, Telefonnummern, IP-Adressen, Kundennummern – jede Information, die eine identifizierbare Person betrifft. Besonders kritisch sind besondere Kategorien personenbezogener Daten nach Art. 9 DSGVO: Gesundheitsdaten, biometrische Merkmale, Informationen zu politischen Überzeugungen oder zur sexuellen Orientierung. Für diese gelten erhöhte Schutzanforderungen, die mit einem Prompt in einem kommerziellen KI-Tool faktisch nicht eingehalten werden können.
Interne Geschäftsdaten und Betriebsgeheimnisse
Unveröffentlichte Quartalszahlen, Strategiepapiere, M&A-Überlegungen, Produktentwicklungspläne oder interne Kalkulationen fallen unter den Schutz des Geschäftsgeheimnisgesetzes (GeschGehG). Wer solche Informationen in einen externen KI-Dienst eingibt, ohne dass ein Auftragsverarbeitungsvertrag mit entsprechenden Vertraulichkeitsgarantien vorliegt, handelt möglicherweise fahrlässig und gefährdet aktiv den Schutzstatus dieser Geheimnisse.
Vertragsdaten und Rechtsdokumente
Entwürfe, Konditionen, Klauselwerke und Verhandlungspositionen in laufenden Vertragsverhandlungen – das eingangs beschriebene Szenario ist hier besonders brisant. Sobald solche Inhalte einen KI-Dienst passieren, verliert das Unternehmen die Kontrolle über potenziell wettbewerbsrelevante Informationen, deren Vertraulichkeit oft vertraglich oder gesetzlich vorausgesetzt wird.
Zugangsdaten und Authentifizierungsinformationen
Passwörter, API-Keys, Zertifikate oder sonstige Authentifizierungsmerkmale haben in einem Prompt nichts zu suchen. Das klingt selbstverständlich – in der Praxis begegnet uns aber immer wieder die Situation, dass Entwicklerinnen und Entwickler KI-Tools zur Fehleranalyse nutzen und dabei Codeabschnitte mit eingebetteten Zugangsdaten einfügen.
Personaldaten und interne Beurteilungen
Gehaltsstrukturen, Leistungsbeurteilungen, Krankmeldungen oder Informationen aus Disziplinarverfahren unterliegen besonderem Schutz – sowohl nach DSGVO als auch nach Betriebsverfassungsrecht. Die Nutzung eines generativen KI-Tools für die Formulierung von Personalentscheidungen ist datenschutzrechtlich hoch riskant und kann Mitbestimmungsrechte des Betriebsrats berühren.
Warum die Grenze so schwer zu ziehen ist
Die eigentliche Komplexität liegt nicht in den offensichtlichen Fällen. Sie liegt in der Grauzone: dem Antwort-Entwurf auf eine Kundenanfrage, in dem versehentlich eine Kontonummer auftaucht. Dem Protokoll einer internen Besprechung, das zur KI-gestützten Zusammenfassung eingefügt wird. Dem Supportticket mit medizinischen Details.
Mitarbeitende treffen in Sekundenbruchteilen Entscheidungen über die Eingabe in ein KI-Tool – oft ohne ausreichende Schulung, ohne klare Orientierungspunkte und unter Zeitdruck. Das ist kein Versagen des Einzelnen; es ist ein systemisches Problem, das strukturell adressiert werden muss.
Erschwerend kommt hinzu, dass die Anbieter großer KI-Plattformen ihre Nutzungsbedingungen und Datenverarbeitungsrichtlinien regelmäßig anpassen. Was heute über einen Auftragsverarbeitungsvertrag absicherbar erscheint, kann morgen durch ein Update der AGB anders bewertet werden. Rechts- und Datenschutzabteilungen stehen vor der Aufgabe, ein bewegliches Ziel dauerhaft im Blick zu behalten.
Von der Verbotsliste zur Governance-Struktur
Eine reine Verbotsliste löst das Problem nicht. Sie schafft Compliance-Wissen, aber keine Compliance-Kultur. Wer Mitarbeitende dauerhaft zu sicherem KI-Einsatz befähigen möchte, braucht mehr als einen Aushang am schwarzen Brett.
In der Beratungspraxis hat sich ein dreistufiger Ansatz bewährt: Erstens die technische Ebene – durch Unternehmensrichtlinien gestützte Zugangskontrollen, die regeln, welche KI-Tools überhaupt im Unternehmen eingesetzt werden dürfen und unter welchen Bedingungen. Zweitens die prozessuale Ebene – klare Prozesse für den KI-Einsatz in sensiblen Bereichen wie HR, Recht oder Finanzen. Und drittens die kulturelle Ebene – regelmäßige Schulungen, die nicht mit Verboten drohen, sondern Handlungskompetenz aufbauen.
Für Unternehmen, die auf qualifizierte Vertrauensdienste setzen, ergibt sich an dieser Stelle eine strategische Chance: Wer bereits mit digitalen Identitäten, elektronischen Signaturen und vertrauenswürdigen Authentifizierungsinfrastrukturen arbeitet, verfügt über die technologische Basis, um auch den KI-Einsatz regelkonform zu steuern. Die Kontrolle darüber, wer welche Daten in welche Systeme eingibt, ist eine Frage der Identitäts- und Zugriffsarchitektur – ein Feld, in dem qualifizierte Vertrauensdiensteanbieter erheblichen Mehrwert leisten können.
KI-Richtlinie für Mitarbeitende: Was sie enthalten muss
Eine belastbare KI-Richtlinie ist kein Regelwerk, das KI verhindern soll. Es ist ein Werkzeug, das KI verantwortungsvoll ermöglicht. Folgende Kernelemente sollten nicht fehlen: eine klare Kategorisierung zugelassener und nicht zugelassener KI-Tools, differenziert nach Verwendungszweck und Datenkategorie; eine Beschreibung der Datenkategorien, die nicht in Prompts eingegeben werden dürfen, mit konkreten Beispielen; Regelungen zur Nutzung von Unternehmens-KI-Instanzen mit abgeschlossenem Datenraum gegenüber öffentlich zugänglichen Diensten; eine Eskalations- und Meldepflicht bei Unklarheiten oder Vorfällen; und schließlich eine klare Aussage zur Verantwortung: KI ist ein Werkzeug – die inhaltliche und rechtliche Verantwortung für Ergebnisse bleibt beim Menschen.
Das eigentliche Risiko ist nicht die KI
Wer die Diskussion um Prompting-Sicherheit auf eine technische Compliance-Übung reduziert, verpasst den entscheidenden Punkt. Das eigentliche Risiko ist nicht die KI – es sind die organisatorischen Lücken, die entstehen, wenn Technologieadoption schneller voranschreitet als das Bewusstsein für ihre Implikationen.
Generative KI ist kein vorübergehender Trend, den man aussitzen kann. Sie verändert, wie Wissen erzeugt, bearbeitet und kommuniziert wird – in Unternehmen jeder Branche und Größe. Wer heute die Governance-Strukturen aufbaut, die einen regelkonformen und produktiven KI-Einsatz ermöglichen, schafft sich einen dauerhaften Wettbewerbsvorteil: nicht trotz, sondern wegen der regulatorischen Anforderungen.
Die Unternehmen, die dabei am besten aufgestellt sind, sind jene, die Vertrauen nicht nur als Compliance-Anforderung begreifen, sondern als strategische Ressource. Und genau an diesem Punkt treffen digitale Vertrauensdienste und KI-Governance zusammen – als zwei Seiten derselben Medaille.
Fazit
Prompting-Sicherheit ist keine Randnotiz im Datenschutzhandbuch – sie ist eine Kernkompetenz, die Unternehmen heute aktiv aufbauen müssen. Die Frage ist nicht, ob Mitarbeitende KI-Tools nutzen werden; die Frage ist, ob sie es mit dem nötigen Wissen tun. Wer hier investiert – in Richtlinien, Schulungen und die passende technische Infrastruktur – schützt nicht nur sensible Daten, sondern stärkt das Vertrauen von Kundinnen und Kunden, Partnern und Partnerin und Behörden gleichermaßen. Denn im digitalen Zeitalter ist Vertrauen kein Soft Skill. Es ist ein Wettbewerbsfaktor.
