Autor
Dr. Christian Schüller
Co-Founder & Product Tech Lead, TRENPEX
Abonnieren Sie unseren Newsletter
Teilen
Die entscheidende Grenze verläuft nicht zwischen guter und schlechter KI
Private KI-Tools sind schnell, leistungsfähig und oft bereits auf dem eigenen Smartphone oder Laptop verfügbar. Genau deshalb werden sie im Arbeitsalltag so leicht zur Abkürzung: E-Mail zusammenfassen, Vertrag prüfen, Kundenfrage strukturieren, Fehlerprotokoll erklären oder Code überarbeiten.
Die entscheidende Frage ist dabei nicht, ob ein Modell gut oder schlecht ist. Sie lautet: Darf diese Information für diesen Zweck durch genau diesen Dienst verarbeitet werden?
Die folgenden Überlegungen bauen auf einer einfachen Beobachtung auf: Entscheidend ist nicht, ob ein KI-Konto privat oder geschäftlich heißt, sondern ob die konkrete Datenverarbeitung freigegeben ist. Ein privater Dienst ist in der Regel keine freigegebene Unternehmensumgebung; die Bezeichnung des Kontos allein entscheidet aber nicht über die Zulässigkeit. Wer berufliche Inhalte in einen nicht freigegebenen Dienst eingibt, kann diese Grenze unbeabsichtigt überschreiten.[2] Dies ist kein Aufruf, KI im Unternehmen zu verbieten, sondern die Aufforderung, Freigabe, Daten und Zweck bewusst zusammen zu prüfen.
Freigabe entscheidet, nicht der Kontotyp
Ein privater Account kann für private oder öffentlich verfügbare Inhalte sinnvoll sein. Er ist jedoch nicht automatisch von Ihrem Unternehmen ausgewählt, vertraglich geprüft, administriert oder in dessen Sicherheits- und Datenschutzprozesse eingebunden. Umgekehrt ist auch ein geschäftliches Konto nur dann geeignet, wenn es für den konkreten Zweck und die Datenklasse freigegeben ist.
Unternehmensangebote unterscheiden sich von privaten Angeboten nicht nur beim Preis. Je nach Anbieter und Produkt können sie eigene Geschäftsbedingungen, Zugriffsverwaltung, Vertragsunterlagen, Datenkontrollen und andere Standardvorgaben umfassen. OpenAI und Anthropic beschreiben für ihre Geschäftskunden beispielsweise andere Standardregelungen zur Verwendung von Eingaben für das Modelltraining als für ihre Verbraucherprodukte.[3][4]
Das macht nicht jedes Unternehmenswerkzeug automatisch geeignet für jede Information. Es schafft aber eine Umgebung, in der das Unternehmen Freigaben, Berechtigungen, Aufbewahrung, Anbietervereinbarungen und Datenklassen steuern kann. Entscheidend bleibt die dokumentierte Freigabe des konkreten Dienstes für den konkreten Anwendungsfall.
Eine NDA wird nicht erst beim Versenden eines Dokuments relevant
Eine Vertraulichkeitsvereinbarung schützt nicht nur Dateien mit dem Etikett „vertraulich“. Sie kann Kundeninformationen, Preise, technische Details, Verhandlungen, Quellcode, Betriebsdaten und Informationen aus Gesprächen umfassen. Ein Prompt kann genau solche Informationen enthalten, auch wenn kein Anhang hochgeladen wird.
Ob die Eingabe in einen externen Dienst zulässig ist, hängt von der konkreten NDA, der Datenklassifizierung, Kundenverträgen, internen Richtlinien sowie der Vereinbarung mit dem Anbieter ab. Das ist eine rechtliche und organisatorische Prüfung, keine Eigenschaft des Modells. Bei Unsicherheit sollten Fachbereich, IT-Sicherheit, Datenschutz oder Rechtsabteilung entscheiden.
Dabei sind vier Fragen getrennt zu beantworten: Darf die Information nach NDA oder Vertrag weitergegeben werden? Sind personenbezogene Daten für diesen Zweck rechtmäßig verarbeitet? Erlauben Vertrag, Konfiguration und Aufbewahrung des Anbieters diesen Datenfluss? Und sind die Sicherheitsrisiken des gewählten Werkzeugs beherrscht? Eine positive Antwort auf eine dieser Fragen ersetzt keine der anderen.
Vier Situationen, die vor dem Prompt geprüft werden sollten
Erstens: eine E-Mail oder ein Gesprächsprotokoll. Schon Namen, Projektnummern, Liefertermine und konkrete Probleme können vertrauliche oder personenbezogene Informationen sein.
Zweitens: Verträge, Angebote und Kundenunterlagen. Ein PDF-Upload ist nicht nur ein praktischer Arbeitsschritt, sondern eine Weitergabe seines Inhalts an den gewählten Dienst.
Drittens: Quellcode, Logs und Architekturdiagramme. Selbst ohne Kundendaten können sie Geschäftsgeheimnisse, Zugangsdaten oder Schwachstellen offenlegen.
Viertens: verknüpfte Dienste und geteilte Chats. Connectoren, freigegebene Links oder Feedback-Funktionen können den Umfang der betroffenen Daten und Personen erweitern.
„Training deaktivieren“ löst nicht das Freigabeproblem
Datenschutzoptionen sind wichtig, aber sie beantworten nur einen Teil der Frage. Eine Einstellung kann etwa die Nutzung künftiger Unterhaltungen für das Modelltraining einschränken. Sie sagt noch nicht, ob Ihr Unternehmen die Übermittlung dieser Daten an diesen Dienst erlaubt hat oder ob die benötigten Vertrags- und Aufbewahrungsregeln gelten.
Auch ein temporärer Chat ist keine pauschale Freigabe. OpenAI weist für temporäre Chats in ChatGPT zum Beispiel darauf hin, dass sie nicht für das Training verwendet und nach 30 Tagen aus den Systemen gelöscht werden können. Das ist eine konkrete Produktfunktion, aber kein Ersatz für eine NDA-Prüfung oder eine unternehmensweite Freigabe.[3]
Anonymisierung kann Risiken verringern, ist jedoch keine pauschale Freigabe. Namen durch Platzhalter zu ersetzen reicht häufig nicht aus, wenn Kombinationen aus Rollen, Orten, Terminen, Projekt- oder Kundendetails eine Person weiterhin erkennbar machen. Pseudonymisierte Daten bleiben personenbezogene Daten, solange eine Re-Identifizierung mit Zusatzinformationen möglich ist. Deshalb sollten Daten vor der Übermittlung lokal minimiert oder anonymisiert und auf verbleibende Identifizierbarkeit geprüft werden. Auch vollständig anonymisierte Inhalte können vertrauliche Informationen oder Geschäftsgeheimnisse enthalten.[8][9]
Ein praktisches Entscheidungsraster
- Private oder öffentliche Inhalte: Ein persönliches KI-Tool kann passend sein, sofern die eigene Unternehmensrichtlinie dies erlaubt.
- Arbeitsinhalte: Prüfen Sie zuerst Zweck, Datenklasse und Dienst. Nutzen Sie nur ein vom Unternehmen für diesen Anwendungsfall freigegebenes Werkzeug.
- Vertrauliche, personenbezogene oder besonders schützenswerte Inhalte: Prüfen Sie NDA oder Vertrag, Datenschutzvoraussetzungen, Anbietervereinbarung und Sicherheitskontrollen. Fehlt eine ausdrückliche Freigabe für den Datenfluss, geben Sie die Inhalte nicht ein.
- Unklare Fälle: Stoppen Sie vor dem Prompt und klären Sie die Freigabe mit Führungskraft, IT-Sicherheit, Datenschutz oder Rechtsabteilung.
Dieses Raster ist bewusst einfach. Es ersetzt keine Vertragsprüfung, verhindert aber zwei häufige Fehlannahmen: dass ein privater, vertrauter Account automatisch ein zulässiger Arbeitskanal sei und dass ein geschäftliches Konto diese Prüfung automatisch erledige.
Governance muss sichere Nutzung zur einfachsten Nutzung machen
Eine Studie von KPMG und der University of Melbourne berichtet, dass Mitarbeitende KI am Arbeitsplatz teils auf nicht genehmigte Weise verwenden.[1] Wo Leitplanken unklar oder schwer nutzbar sind, wird solche Nutzung schwerer zu erkennen und zu steuern. Gute KI-Governance ist deshalb mehr als eine Richtlinie im Intranet. Sie verbindet Rollen, Daten, Systeme und Arbeitsabläufe so, dass Mitarbeitende eine sichere und produktive Option vorfinden.[12][13][14]
Dazu gehören klar benannte, einfach zugängliche Unternehmenswerkzeuge, eine verständliche Datenklassifizierung und konkrete Beispiele dafür, was eingegeben werden darf und was nicht. Teams brauchen außerdem einen schnellen Weg für Rückfragen. Wenn die Freigabe erst nach mehreren E-Mails, Meetings und Wochen erfolgt, gewinnt die inoffizielle Abkürzung.
Ein Prozess für jede KI-Nutzung
Das NIST AI Risk Management Framework beschreibt einen hilfreichen Zyklus: Governance festlegen, den Kontext und die Risiken einer Nutzung abbilden, diese Risiken messen und anschließend behandeln sowie überwachen. Für generative KI ergänzt das NIST einen eigenen Risikoprofil-Ansatz.[5][6]
Als praktische Umsetzung dieses Rahmens sollte jede relevante KI-Nutzung einen benannten Eigentümer, einen klaren Zweck, eine erlaubte Datenklasse, eine geprüfte Anbieter- und Toolkonfiguration sowie Kriterien für menschliche Prüfung haben. Vor der breiten Einführung sollten Teams die Ergebnisse an realistischen, aber zulässigen Beispielen testen. Nach der Einführung gehören Monitoring, Feedback und ein Weg zur Meldung von Fehlern oder Datenvorfällen dazu.
Daten-Governance beginnt vor dem ersten Prompt
Für Unternehmens-KI ist nicht nur wichtig, welches Modell verwendet wird. Ebenso wichtig ist, welche Daten es erreichen kann, aus welchen verbundenen Systemen sie stammen, wer den Zugriff genehmigt und wie lange sie aufbewahrt werden. ISO/IEC 42001 beschreibt dafür ein Managementsystem mit Richtlinien, Verantwortlichkeiten, Risikobehandlung und kontinuierlicher Verbesserung.[7]
Sobald personenbezogene Daten betroffen sind, sollten Organisationen zusätzlich Zweck, Rechtsgrundlage, Rollen von Verantwortlichen und Auftragsverarbeitern sowie die Folgen für die betroffenen Personen prüfen und dokumentieren. Die EDPB und die britische ICO betonen, dass diese Bewertung vom konkreten Anwendungsfall und der Datenverarbeitung abhängt.[8][9]
Training und menschliche Prüfung sind betriebliche Kontrollen
Eine Freigabe ist nur wirksam, wenn die Menschen wissen, wie sie damit arbeiten. Mitarbeitende müssen erkennen können, welche Tools erlaubt sind, welche Daten nicht eingegeben werden dürfen, wann Ergebnisse geprüft werden müssen und wohin sie Unsicherheiten oder Vorfälle melden. Für Anbieter und Betreiber im Anwendungsbereich des AI Act verlangt Artikel 4 ein angemessenes Maß an KI-Kompetenz; die EU-Kommission betont dabei den kontextbezogenen Wissensaufbau.[10]
Menschliche Prüfung bedeutet dabei nicht, jede Antwort Wort für Wort neu zu schreiben. Sie bedeutet, dass eine fachlich verantwortliche Person die Tatsachen, Schlussfolgerungen und Folgen einer KI-Ausgabe prüft, bevor sie eine Kundenentscheidung, eine Veröffentlichung, eine Vertragsposition oder eine Änderung in einem System beeinflusst.
Sicherheit endet nicht beim Schutz des Prompts
Die Freigabe des Datenflusses ist nur die erste Prüfung. Sobald ein zugelassenes KI-Werkzeug mit Unternehmenssystemen verbunden oder agentisch eingesetzt wird, kommen weitere Risiken hinzu: Prompt Injection, Offenlegung sensibler Informationen, unsichere Integrationen und manipulierte Datenquellen. Die OWASP Top 10 für LLMs empfiehlt, diese Risiken über Entwicklung, Bereitstellung und Betrieb hinweg zu behandeln.[11]
Daher sollten KI-Tools nur die Berechtigungen erhalten, die sie für ihre Aufgabe benötigen. Schnittstellen, Connectoren, Freigaben und Änderungen an Daten oder Systemen brauchen nachvollziehbare Protokolle und bei folgenreichen Aktionen eine menschliche Freigabe.
Abschließender Gedanke
Im Arbeitskontext geht es nicht nur um einen hilfreichen Text oder eine gute Zusammenfassung. Es geht darum, ob ein bestimmter Dienst bestimmte Daten für einen bestimmten Zweck unter den geltenden Verträgen, Datenschutzvorgaben und Sicherheitskontrollen verarbeiten darf.
Die beste Gewohnheit ist daher kurz und wirkungsvoll: Bevor Sie etwas einfügen oder hochladen, prüfen Sie Inhalt, Zweck, Tool und Freigabe. Minimieren oder anonymisieren Sie Daten lokal, wenn dies zulässig und sinnvoll ist. Bleibt der Datenfluss unklar, stoppen Sie vor dem Prompt.
Quellen und Hinweise
[1] KPMG and the University of Melbourne, Trust, attitudes and use of artificial intelligence: A global study 2025.
[2] Ruben Hassid, „How to Use Your Personal AI at Work“, Substack, abgerufen am 11. Juli 2026. Link
[3] OpenAI, „How your data is used to improve model performance“ und „Data Controls FAQ“. Die Dokumentation beschreibt unterschiedliche Vorgaben für persönliche und geschäftliche Angebote sowie die Datenkontrollen für temporäre Chats. Link
[4] Anthropic, „Is my data used for model training?“ Die Dokumentation unterscheidet Verbraucherprodukte von kommerziellen Angeboten wie Claude for Work und der API. Link
[5] NIST, Artificial Intelligence Risk Management Framework (AI RMF 1.0), 2023.
[6] NIST, Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, 2024.
[7] ISO/IEC, ISO/IEC 42001:2023 - Artificial intelligence management systems.
[8] European Data Protection Board, Opinion 28/2024 on certain data protection aspects related to the processing of personal data in the context of AI models.
[9] Information Commissioner's Office, What are the accountability and governance implications of AI?
[10] European Commission, AI Literacy - Questions & Answers.
[11] OWASP Foundation, Top 10 for LLMs and GenAI Apps, 2025.
[12] Batool, Zowghi and Bano, AI governance: a systematic literature review, AI and Ethics, 2025.
[13] Birkstedt et al., AI governance: themes, knowledge gaps and future agendas, Internet Research, 2023.
[14] Schneider et al., Governance of Generative Artificial Intelligence for Companies, preprint, 2024.