Stand:

Daten bewusst verwenden

KI und Datenschutz: Was in Prompts gehört und was nicht

Bevor Kundendaten, Dokumente oder interne Informationen in ein KI-Werkzeug gelangen, müssen Zweck, erforderliche Daten, Anbieterrolle und technische Einstellungen geklärt sein. Ein bequemes Eingabefeld ist kein geschützter interner Arbeitsraum.

  • Fachlich und rechtlich geprüft: 19. August 2026
  • Prüfrhythmus: vierteljährlich

Personenbezug beginnt nicht erst beim vollständigen Namen

Personenbezogene Daten sind Informationen, die sich auf eine identifizierte oder identifizierbare Person beziehen. Auch eine Kombination aus Funktion, Ort, Datum, Vorgang und seltenem Merkmal kann eine Person bestimmbar machen. Das Entfernen eines Namens kann das Risiko senken, führt aber nicht automatisch zu anonymen Daten.

Besondere Vorsicht gilt bei Gesundheitsdaten, biometrischen Angaben, politischen Ansichten, religiösen Überzeugungen, Gewerkschaftszugehörigkeit, Sexualleben oder sexueller Orientierung. Diese besonderen Kategorien personenbezogener Daten unterliegen zusätzlichen Anforderungen nach Artikel 9 DSGVO.

Der datensparsame AusgangspunktPrüfe zuerst, ob die Aufgabe vollständig ohne personenbezogene Daten gelöst werden kann. Nutze erfundene Beispieldaten, neutrale Kategorien oder eine lokale Vorlage, wenn echte Angaben für das Ergebnis nicht erforderlich sind.

Sieben Fragen vor der ersten Eingabe

  1. Welcher konkrete Zweck wird verfolgt? „KI nutzen“ ist kein Zweck. Beschreibe die tatsächliche Aufgabe, etwa eine Anfrage vorsortieren oder einen eigenen Text sprachlich prüfen.
  2. Welche Daten sind wirklich erforderlich? Entferne alles, was keinen nachweisbaren Beitrag zur Aufgabe leistet.
  3. Auf welcher Rechtsgrundlage erfolgt die Verarbeitung? Für jeden Verarbeitungsschritt mit personenbezogenen Daten wird eine tragfähige Grundlage benötigt.
  4. Wer verarbeitet die Daten wofür? Kläre Verantwortlichkeit, mögliche Auftragsverarbeitung und eigene Zwecke des Anbieters. Eine Produktbezeichnung beantwortet diese Rollenfrage nicht.
  5. Werden Eingaben oder Ausgaben gespeichert oder zum Training genutzt? Prüfe Tarif, Einstellungen, Vertragsunterlagen und aktuelle Datenschutzhinweise.
  6. Wohin fließen die Daten? Erfasse Empfänger, Unterauftragnehmer, Speicherorte und mögliche Übermittlungen in Drittländer.
  7. Können Betroffenenrechte erfüllt werden? Auskunft, Berichtigung, Löschung, Einschränkung und Widerspruch müssen technisch und organisatorisch umsetzbar bleiben.

Was du beim Anbieter und Tarif prüfen solltest

Prüfkriterien für KI-Anbieter und Tarife
PrüfbereichKonkrete FrageNachweis
TrainingWerden Eingaben, Anhänge oder Ausgaben zur Verbesserung von Modellen verwendet, und lässt sich das ausschalten?Aktuelle Produkt- und Datenschutzdokumentation, Einstellung dokumentieren
HistorieWie lange bleiben Gespräche, Dateien, Protokolle und Sicherungen gespeichert?Aufbewahrungsangaben und eigener Löschtest
VertragIst eine Vereinbarung zur Auftragsverarbeitung erforderlich und verfügbar?Unterzeichneter Vertrag und Anlagen
DrittlandWerden Daten außerhalb des Europäischen Wirtschaftsraums verarbeitet?Vertragsunterlagen, Empfängerliste und Übermittlungsmechanismus
ZugriffGibt es getrennte betriebliche Konten, Rollen, Mehrfaktor-Anmeldung und Protokolle?Kontokonfiguration und Berechtigungsliste
LöschungKönnen Inhalte, Konto- und Nutzungsdaten nachweisbar gelöscht werden?Verfahrensbeschreibung und dokumentierte Zuständigkeit

Herstellerangaben können sich mit Tarif oder Produktversion ändern. Halte deshalb Quelle und Prüfdatum fest. Eine einmalige Anbieterprüfung bleibt nicht dauerhaft aktuell.

Betriebliche Schutzmaßnahmen

  • betriebliche statt privater Konten verwenden
  • Zugriffe auf die Personen begrenzen, die sie für ihre Aufgabe benötigen
  • Trainingsnutzung und langfristige Historie ausschalten, soweit erforderlich und verfügbar
  • keine Zugangsschlüssel, Passwörter oder vollständigen vertraulichen Akten eingeben
  • zulässige Werkzeuge, Zwecke und Datenarten schriftlich festlegen
  • Speicher- und Löschfristen bestimmen
  • Ausgaben mit personenbezogenen Angaben auf Richtigkeit und diskriminierende Folgen prüfen
  • Änderungen an Anbieter, Tarif, Funktion oder Datenfluss erneut bewerten

Die Datenschutzkonferenz empfiehlt klare interne Weisungen dazu, welche Systeme für welche Zwecke eingesetzt werden dürfen. Solche Regeln gehören zugleich zur KI-Kompetenz im Unternehmen.

Automatisierte Entscheidungen brauchen eine gesonderte Prüfung

Artikel 22 DSGVO schützt Menschen unter bestimmten Voraussetzungen davor, einer ausschließlich automatisierten Entscheidung mit rechtlicher oder ähnlich erheblicher Wirkung unterworfen zu werden. Ein Mensch im Ablauf genügt nicht, wenn er den KI-Vorschlag aus Zeitdruck oder ohne echte Entscheidungsmöglichkeit nur bestätigt.

Bewerberauswahl, Kreditwürdigkeit, Leistungszugang oder vergleichbar folgenreiche Bewertungen gehören deshalb nicht in einen allgemeinen „KI hilft ein bisschen“-Ablauf. Rechtsgrundlage, Informationspflichten, echte menschliche Entscheidung, mögliche Hochrisiko-Einstufung und Datenschutz-Folgenabschätzung müssen vorab fachlich geprüft werden.

Wann eine Datenschutz-Folgenabschätzung relevant wird

Führt eine geplante Verarbeitung voraussichtlich zu einem hohen Risiko für Rechte und Freiheiten natürlicher Personen, verlangt Artikel 35 DSGVO eine Datenschutz-Folgenabschätzung. Nicht jeder KI-Einsatz erfüllt diese Voraussetzung. Große Datenmengen, sensible Daten, systematische Bewertung, Überwachung oder erhebliche Entscheidungen können das Risiko jedoch erhöhen.

Keine automatische FreigabeEine Checkliste kann die Vorprüfung strukturieren, entscheidet aber nicht verbindlich, ob eine Datenschutz-Folgenabschätzung nötig ist. Bei Unsicherheit müssen Datenschutzbeauftragte oder qualifizierte Beratung einbezogen werden.

Was diese Seite nicht leisten kann

Sie enthält keine pauschale Liste erlaubter Daten und bewertet keinen bestimmten Anbieter oder Vertrag. Ob eine Verarbeitung zulässig ist, hängt vom tatsächlichen Zweck, den Daten, den Beteiligten, den Einstellungen und dem gesamten Datenfluss ab. Anbieterunterlagen ersetzen außerdem nicht die eigene Verantwortungsprüfung.

Quellen

Die Orientierungshilfen unterstützen die Praxis, sind jedoch kein abschließender Anforderungskatalog und keine individuelle Rechtsberatung.