Dürfen Kundendaten in ChatGPT und Co.? Die DSGVO-Regeln

Dürfen Sie Kundendaten in ChatGPT, Copilot oder Gemini eingeben? Die kurze Antwort: manchmal ja, oft nur unter Bedingungen, und manchmal klar nein. Entscheidend sind drei Dinge. Haben Sie eine Rechtsgrundlage nach Artikel 6 DSGVO? Geben Sie wirklich nur die nötigen Daten ein? Und besteht mit dem Anbieter ein Auftragsverarbeitungsvertrag (AVV)? Der sicherste Hebel bleibt immer der gleiche: so wenig personenbezogene Daten wie möglich eingeben, am besten vorher anonymisieren.

Erst die Rechtsgrundlage: Artikel 6 DSGVO

Personenbezogene Daten sind alle Angaben zu einer erkennbaren Person: Name, E-Mail, Telefonnummer, Kundennummer. Sobald Sie solche Daten verarbeiten, brauchen Sie einen Erlaubnisgrund. Artikel 6 DSGVO nennt sie. Für Unternehmen sind vor allem drei relevant. Ohne einen dieser Gründe ist die Eingabe in ein KI-Tool nicht zulässig.

• Vertrag (Art. 6 Abs. 1 b): Die Verarbeitung ist nötig, um einen Vertrag mit dem Kunden zu erfüllen.
• Berechtigtes Interesse (Art. 6 Abs. 1 f): Ihr Interesse überwiegt, und die Rechte des Kunden werden nicht verletzt. Eine Abwägung ist Pflicht.
• Einwilligung (Art. 6 Abs. 1 a): Der Kunde hat freiwillig und informiert zugestimmt. Sie muss widerrufbar sein.
• Wichtig: Die Rechtsgrundlage muss die konkrete Nutzung mit einem KI-Anbieter abdecken, nicht nur den ursprünglichen Zweck der Datenerhebung.

Zweckbindung und Datenminimierung: nur was nötig ist

Artikel 5 DSGVO verlangt zwei Dinge, die im KI-Alltag oft vergessen werden. Zweckbindung heißt: Daten dürfen nur für den Zweck genutzt werden, für den Sie sie erhoben haben. Datenminimierung heißt: nur so viele Daten wie wirklich nötig. Wenn Sie ein Angebot formulieren lassen, braucht die KI den Firmennamen selten und den vollen Kundennamen fast nie.

1. 1Fragen Sie vor jedem Prompt: Braucht die KI diese Person wirklich, um die Aufgabe zu lösen?
2. 2Ersetzen Sie echte Namen durch Platzhalter, wenn der Kontext auch mit Platzhalter funktioniert.
3. 3Löschen Sie Anhänge, Signaturen und Metadaten, die versteckte personenbezogene Daten enthalten.
4. 4Halten Sie fest, welche Datenarten für welche Aufgabe erlaubt sind, und schulen Sie das Team darauf.

Besondere Kategorien: Artikel 9 DSGVO

Manche Daten sind besonders geschützt. Artikel 9 DSGVO nennt sie besondere Kategorien. Dazu gehören Gesundheitsdaten, Herkunft, Religion, politische Meinung, Gewerkschaft, Sexualleben und biometrische Daten. Für sie gilt ein grundsätzliches Verbot mit engen Ausnahmen. Solche Daten gehören in aller Regel nicht in ein allgemeines KI-Tool.

• Grundregel: Verarbeitung verboten, außer eine enge Ausnahme greift (z. B. ausdrückliche Einwilligung).
• Beispiele: Krankmeldung eines Kunden, Diagnose, Angaben zur Herkunft oder zur Religionszugehörigkeit.
• Praxis: Diese Angaben vor jeder KI-Nutzung entfernen oder ersetzen, nicht abwägen wollen.
• Auch der Arbeitnehmerdatenschutz spielt hinein: Bei Mitarbeiterdaten kann der Betriebsrat mitbestimmen (BetrVG).

US-Anbieter und Drittlandtransfer

Viele KI-Anbieter sitzen in den USA oder verarbeiten dort. Das ist ein Drittlandtransfer und braucht eine Grundlage nach Kapitel V DSGVO. Für die USA gibt es seit 2023 den EU-US Data Privacy Framework: Übermittlungen an zertifizierte Unternehmen sind darüber möglich. Prüfen Sie immer, ob der konkrete Anbieter zertifiziert ist, und lesen Sie seine aktuelle Dokumentation.

• Prüfen Sie, ob der Anbieter unter dem EU-US Data Privacy Framework gelistet ist oder Standardvertragsklauseln nutzt.
• Prüfen Sie, wo Ihre Eingaben gespeichert und ob sie zum Training verwendet werden. Laut OpenAI werden Eingaben über die API und Business-Produkte standardmäßig nicht zum Training genutzt; bei kostenlosen Consumer-Versionen kann das anders geregelt sein. Prüfen Sie die aktuelle OpenAI-Dokumentation.
• Auch für Microsoft Copilot und Google Gemini gilt: Enterprise-Angebote haben oft andere Regeln als kostenlose Versionen. Nach Angaben der Anbieter unterscheiden sich Speicherung und Training je nach Produkt.
• Der sicherste Weg, das Transferrisiko zu senken: dem Anbieter gar keine Klardaten schicken.

Entscheidungstabelle: Welche Daten dürfen in die KI?

Die folgende Tabelle fasst typische Fälle zusammen. Sie ist eine Orientierung, kein Freibrief. Prüfen Sie jeden Fall im eigenen Kontext, denn schon ein zusätzliches Detail kann die Einschätzung ändern.

Der Hebel: AVV plus Anonymisieren vor dem Absenden

Zwei Maßnahmen senken das Risiko am stärksten. Erstens ein Auftragsverarbeitungsvertrag (AVV) nach Artikel 28 DSGVO: Damit legen Sie fest, wie der Anbieter mit den Daten umgehen darf. Zweitens die Datenminimierung an der Quelle. Wenn die KI nie echte Klardaten sieht, gibt es weniger zu schützen. Genau hier setzt ONYRI Sanitize an.

• Schließen Sie mit jedem KI-Anbieter einen AVV, bevor Sie personenbezogene Daten verarbeiten.
• Anonymisieren Sie Prompts vor dem Absenden: ONYRI erkennt sensible Daten im Browser und ersetzt sie durch umkehrbare Token.
• Der Token-zu-Wert-Zuordnung bleibt im Browser und verlässt ihn nie; an das Modell geht nur der bereits anonymisierte Text.
• Ehrlich bleiben: Tokenisierung ist Pseudonymisierung. Sie reduziert die Exposition und stützt die Datenminimierung, hebt aber keine Pflichten auf. Pseudonyme Daten bleiben personenbezogen (DSGVO Erwägungsgrund 26).