Stand:
Daten bewusst verwenden
KI und Datenschutz: Was in Prompts gehört und was nicht
Bevor Kundendaten, Dokumente oder interne Informationen in ein KI-Werkzeug gelangen, müssen Zweck, erforderliche Daten, Anbieterrolle und technische Einstellungen geklärt sein. Ein bequemes Eingabefeld ist kein geschützter interner Arbeitsraum.
- Fachlich und rechtlich geprüft: 19. August 2026
- Prüfrhythmus: vierteljährlich
Personenbezug beginnt nicht erst beim vollständigen Namen
Personenbezogene Daten sind Informationen, die sich auf eine identifizierte oder identifizierbare Person beziehen. Auch eine Kombination aus Funktion, Ort, Datum, Vorgang und seltenem Merkmal kann eine Person bestimmbar machen. Das Entfernen eines Namens kann das Risiko senken, führt aber nicht automatisch zu anonymen Daten.
Besondere Vorsicht gilt bei Gesundheitsdaten, biometrischen Angaben, politischen Ansichten, religiösen Überzeugungen, Gewerkschaftszugehörigkeit, Sexualleben oder sexueller Orientierung. Diese besonderen Kategorien personenbezogener Daten unterliegen zusätzlichen Anforderungen nach Artikel 9 DSGVO.
Sieben Fragen vor der ersten Eingabe
- Welcher konkrete Zweck wird verfolgt? „KI nutzen“ ist kein Zweck. Beschreibe die tatsächliche Aufgabe, etwa eine Anfrage vorsortieren oder einen eigenen Text sprachlich prüfen.
- Welche Daten sind wirklich erforderlich? Entferne alles, was keinen nachweisbaren Beitrag zur Aufgabe leistet.
- Auf welcher Rechtsgrundlage erfolgt die Verarbeitung? Für jeden Verarbeitungsschritt mit personenbezogenen Daten wird eine tragfähige Grundlage benötigt.
- Wer verarbeitet die Daten wofür? Kläre Verantwortlichkeit, mögliche Auftragsverarbeitung und eigene Zwecke des Anbieters. Eine Produktbezeichnung beantwortet diese Rollenfrage nicht.
- Werden Eingaben oder Ausgaben gespeichert oder zum Training genutzt? Prüfe Tarif, Einstellungen, Vertragsunterlagen und aktuelle Datenschutzhinweise.
- Wohin fließen die Daten? Erfasse Empfänger, Unterauftragnehmer, Speicherorte und mögliche Übermittlungen in Drittländer.
- Können Betroffenenrechte erfüllt werden? Auskunft, Berichtigung, Löschung, Einschränkung und Widerspruch müssen technisch und organisatorisch umsetzbar bleiben.
Was du beim Anbieter und Tarif prüfen solltest
| Prüfbereich | Konkrete Frage | Nachweis |
|---|---|---|
| Training | Werden Eingaben, Anhänge oder Ausgaben zur Verbesserung von Modellen verwendet, und lässt sich das ausschalten? | Aktuelle Produkt- und Datenschutzdokumentation, Einstellung dokumentieren |
| Historie | Wie lange bleiben Gespräche, Dateien, Protokolle und Sicherungen gespeichert? | Aufbewahrungsangaben und eigener Löschtest |
| Vertrag | Ist eine Vereinbarung zur Auftragsverarbeitung erforderlich und verfügbar? | Unterzeichneter Vertrag und Anlagen |
| Drittland | Werden Daten außerhalb des Europäischen Wirtschaftsraums verarbeitet? | Vertragsunterlagen, Empfängerliste und Übermittlungsmechanismus |
| Zugriff | Gibt es getrennte betriebliche Konten, Rollen, Mehrfaktor-Anmeldung und Protokolle? | Kontokonfiguration und Berechtigungsliste |
| Löschung | Können Inhalte, Konto- und Nutzungsdaten nachweisbar gelöscht werden? | Verfahrensbeschreibung und dokumentierte Zuständigkeit |
Herstellerangaben können sich mit Tarif oder Produktversion ändern. Halte deshalb Quelle und Prüfdatum fest. Eine einmalige Anbieterprüfung bleibt nicht dauerhaft aktuell.
Betriebliche Schutzmaßnahmen
- betriebliche statt privater Konten verwenden
- Zugriffe auf die Personen begrenzen, die sie für ihre Aufgabe benötigen
- Trainingsnutzung und langfristige Historie ausschalten, soweit erforderlich und verfügbar
- keine Zugangsschlüssel, Passwörter oder vollständigen vertraulichen Akten eingeben
- zulässige Werkzeuge, Zwecke und Datenarten schriftlich festlegen
- Speicher- und Löschfristen bestimmen
- Ausgaben mit personenbezogenen Angaben auf Richtigkeit und diskriminierende Folgen prüfen
- Änderungen an Anbieter, Tarif, Funktion oder Datenfluss erneut bewerten
Die Datenschutzkonferenz empfiehlt klare interne Weisungen dazu, welche Systeme für welche Zwecke eingesetzt werden dürfen. Solche Regeln gehören zugleich zur KI-Kompetenz im Unternehmen.
Automatisierte Entscheidungen brauchen eine gesonderte Prüfung
Artikel 22 DSGVO schützt Menschen unter bestimmten Voraussetzungen davor, einer ausschließlich automatisierten Entscheidung mit rechtlicher oder ähnlich erheblicher Wirkung unterworfen zu werden. Ein Mensch im Ablauf genügt nicht, wenn er den KI-Vorschlag aus Zeitdruck oder ohne echte Entscheidungsmöglichkeit nur bestätigt.
Bewerberauswahl, Kreditwürdigkeit, Leistungszugang oder vergleichbar folgenreiche Bewertungen gehören deshalb nicht in einen allgemeinen „KI hilft ein bisschen“-Ablauf. Rechtsgrundlage, Informationspflichten, echte menschliche Entscheidung, mögliche Hochrisiko-Einstufung und Datenschutz-Folgenabschätzung müssen vorab fachlich geprüft werden.
Wann eine Datenschutz-Folgenabschätzung relevant wird
Führt eine geplante Verarbeitung voraussichtlich zu einem hohen Risiko für Rechte und Freiheiten natürlicher Personen, verlangt Artikel 35 DSGVO eine Datenschutz-Folgenabschätzung. Nicht jeder KI-Einsatz erfüllt diese Voraussetzung. Große Datenmengen, sensible Daten, systematische Bewertung, Überwachung oder erhebliche Entscheidungen können das Risiko jedoch erhöhen.
Was diese Seite nicht leisten kann
Sie enthält keine pauschale Liste erlaubter Daten und bewertet keinen bestimmten Anbieter oder Vertrag. Ob eine Verarbeitung zulässig ist, hängt vom tatsächlichen Zweck, den Daten, den Beteiligten, den Einstellungen und dem gesamten Datenfluss ab. Anbieterunterlagen ersetzen außerdem nicht die eigene Verantwortungsprüfung.
Quellen
- Datenschutzkonferenz: Künstliche Intelligenz und Datenschutz
- Datenschutzkonferenz: technische und organisatorische Maßnahmen bei KI-Systemen
- EUR-Lex: Datenschutz-Grundverordnung
- Datenschutzkonferenz: Übersicht aktueller Orientierungshilfen
Die Orientierungshilfen unterstützen die Praxis, sind jedoch kein abschließender Anforderungskatalog und keine individuelle Rechtsberatung.
