Ist es sicher, Kundendaten in ChatGPT einzugeben?

Nein: Das Einfügen von Kundendaten (Namen, E-Mails, Telefonnummern, Adressen, Kaufhistorien, Support-Tickets) in die Verbraucherversion von ChatGPT ist aus Compliance-Sicht nicht sicher. Diese Informationen sind personenbezogene Daten, und schon die bloße Eingabe löst die Haftung Ihres Unternehmens nach der DSGVO aus — Sie bleiben der Verantwortliche, auch wenn ein Drittanbieter die Daten anschließend verarbeitet. Der vorsichtige Reflex: Geben Sie niemals identifizierbare Kundendaten ein oder anonymisieren Sie sie vorab. Zwei Wege senken das Risiko, ohne auf das Werkzeug zu verzichten — anonymisieren Sie auf Nutzerseite oder wechseln Sie zu einem vertraglich geregelten Enterprise-Angebot.

Warum Kundendaten in ChatGPT ein DSGVO-Problem sind

Sobald ein Datum eine Person identifizieren kann — ein Name, eine E-Mail, eine Telefonnummer, ein Kontoverlauf — handelt es sich um personenbezogene Daten. Das Unternehmen, das entscheidet, sie in ein KI-Werkzeug einzugeben, bleibt der Verantwortliche: Es bleibt rechtlich für die Verwendung der Daten verantwortlich und trägt die rechtliche Haftung, wenn das Werkzeug die Informationen missbraucht. Diese Daten aber ohne Rechtsgrundlage an einen KI-Anbieter zu übermitteln, verstößt gegen die DSGVO. Eine Einwilligung liegt selten vor — Ihre Kunden haben dieser Übermittlung in der Regel nicht zugestimmt —, und die betroffenen Personen müssen gemäß den Artikeln 13 und 14 informiert werden. Die CNIL stellt in ihren Empfehlungen von Februar 2025 klar, dass Personen grundsätzlich informiert werden müssen, wenn ihre Daten ein KI-Modell speisen.

Verbraucher- vs. Enterprise-Version: der Unterschied, der alles verändert

Das Risiko ist je nach Angebot nicht dasselbe. Standardmäßig kann OpenAI Konversationen aus der Verbraucherversion von ChatGPT zum Training seiner Modelle wiederverwenden, sofern Sie sich nicht abmelden (Opt-out). Die Enterprise-/Business-Angebote und die API hingegen verwenden Eingaben und Ausgaben standardmäßig nicht zum Training und bewahren API-Daten etwa 30 Tage auf, bevor sie gelöscht werden (außer bei gesetzlichen Verpflichtungen). Das wird auf OpenAIs Seite „Enterprise privacy“ und im Hilfecenter-Artikel „How your data is used to improve model performance“ näher erläutert. Für eine konforme Nutzung mit personenbezogenen Daten werden zudem ein Auftragsverarbeitungsvertrag (DPA) und eine Absicherung der Übermittlungen erwartet — die bei einem einfachen, ohne Vertrag genutzten Verbraucherkonto fehlen.

Die konkreten Risiken: Bußgelder, Lecks, Vertrauensverlust

Das sind keine theoretischen Risiken. Am 20. Dezember 2024 verhängte die italienische Datenschutzbehörde (Garante) ein Bußgeld von 15 Millionen Euro gegen OpenAI und warf dem Unternehmen vor, personenbezogene Daten ohne ausreichende Rechtsgrundlage zum Training von ChatGPT verwendet, gegen den Transparenzgrundsatz und die Informationspflicht verstoßen zu haben, außerdem das Fehlen eines geeigneten Systems zur Altersüberprüfung und die unterlassene Meldung einer am 20. März 2023 aufgetretenen Datenschutzverletzung (OpenAI kündigte an, Berufung einzulegen). Auch der EDSA betont in seiner im Dezember 2024 verabschiedeten Stellungnahme 28/2024, dass es den Verantwortlichen obliegt, die mit generativer KI verbundenen Risiken über den gesamten Lebenszyklus hinweg ordnungsgemäß zu steuern, und stellt einen dreistufigen Test bereit, um zu beurteilen, ob das berechtigte Interesse als Rechtsgrundlage dienen kann.

• Finanzielle Sanktion: Ein DSGVO-Verstoß setzt Sie Bußgeldern aus — der Garante-Fall ist die bezifferte Veranschaulichung.
• Technisches Leck: Kein Online-Dienst ist gefeit. Am 20. März 2023 ermöglichte ein Fehler in der Open-Source-Bibliothek redis-py es Nutzern, die Konversationstitel anderer zu sehen, und legte für etwa 1,2 % der in einem bestimmten Zeitfenster aktiven ChatGPT-Plus-Abonnenten Zahlungsdaten offen (Name, E-Mail, Rechnungsadresse, letzte vier Ziffern und Ablaufdatum der Karte).
• Internes Leck: Im März 2023, kurz nachdem Samsung ChatGPT zugelassen hatte, stellte das Unternehmen mindestens drei Fälle fest, in denen interne Informationen über Mitarbeiter nach außen gelangten — Quellcode zum Debuggen eingefügt, vertrauliche Besprechungsnotizen, Optimierung einer Chip-Testsequenz —, was es dazu veranlasste, das Werkzeug einzuschränken.
• Vertrauensverlust: Über das Bußgeld hinaus schädigt die Offenlegung von Kundendaten die Beziehung und den Ruf dauerhaft.

Die zwei Lösungen, die das Risiko wirklich senken

Auf KI zu verzichten ist nicht die einzige Option. Zwei Wege erlauben es, sie für Kundenfälle zu nutzen und dabei das Risiko zu beherrschen, und sie lassen sich kombinieren:

1. 1Kundendaten vor dem Senden anonymisieren oder pseudonymisieren — Identifikatoren auf Nutzerseite durch reversible Tokens ersetzen, sodass die echten Werte die kontrollierte Umgebung nie verlassen. Die KI sieht nur Tokens.
2. 2Zu einem vertraglich geregelten Enterprise-Angebot wechseln — unterzeichneter DPA, Standardvertragsklauseln (SCCs), keine Wiederverwendung zum Training, begrenzte Aufbewahrung — statt eines Verbraucherkontos ohne Rahmen.
3. 3Sobald Sie ChatGPT systematisch in Prozesse mit personenbezogenen Daten einbinden, führen Sie eine Datenschutz-Folgenabschätzung (DSFA/DPIA) durch, die sehr wahrscheinlich erforderlich ist.

Bei Drittlandübermittlungen zählt auch diese Einordnung: In ChatGPT eingegebene Daten können in die Vereinigten Staaten übermittelt werden. OpenAI erklärt, diese Übermittlungen durch Standardvertragsklauseln (SCCs) abzusichern oder sich auf den Angemessenheitsbeschluss des Data Privacy Framework (Juli 2023) zu stützen — Elemente, die in seinem Data Processing Addendum beschrieben sind, aber einen Vertrag voraussetzen, nicht ein einfaches Verbraucherkonto.

Genau das leistet ONYRI Sanitize für die erste Lösung: Die Engine erkennt Namen, E-Mails, Telefonnummern und andere Identifikatoren und ersetzt sie vor dem Senden durch reversible Tokens. Die Erkennung und die Token↔Wert-Zuordnung bleiben in Ihrem Browser — nur anonymisierter Text erreicht das Werkzeug. Was ChatGPT empfängt, protokolliert oder wiederverwendet, enthält dann nur Tokens, niemals die echten Daten Ihrer Kunden.