So erkennen Sie, ob ein KI-Tool sicher ist (Datenschutz-Checkliste)
Um zu beurteilen, ob ein KI-Tool sicher ist, prüfen Sie in dessen Datenschutzerklärung: Standard-Training, Opt-out-Umfang, Aufbewahrung, menschliche Prüfung, Rechtsraum, DPA und Zertifizierungen.
Zu beurteilen, ob ein KI-Tool sicher ist, bevor Sie Daten hineinkopieren, ist keine Frage des Markenrufs: Es ist ein Bewertungsraster. Konkret prüfen Sie in dessen Datenschutzerklärung und Nutzungsbedingungen eine Reihe von Kriterien — trainiert es standardmäßig auf Ihren Eingaben? Gibt es ein Opt-out, und gilt es auch für die Vergangenheit? Wie lange ist die Aufbewahrungsdauer? Gibt es eine menschliche Prüfung? Wo werden die Daten gehostet? Sind sie verschlüsselt? Bietet es einen DPA (und einen BAA für Gesundheitsdaten)? Was sagen die Nutzungsbedingungen zur Weitergabe an Dritte und zur „Teilen“-Funktion? Verfügt es über Zertifizierungen wie SOC 2 Type II oder ISO 27001? Dieser Artikel macht daraus eine Checkliste — mit, für jedes Kriterium, der Angabe, wo Sie die Information finden, und dem Warnsignal, das Sie stoppen sollte.
Der erste Reflex: lesen, nicht vertrauen
Die Sicherheit eines KI-Tools lässt sich nicht am Logo erraten. Eine Studie von Stanford HAI (Hauptautorin Jennifer King), veröffentlicht am 15. Oktober 2025 und gestützt auf die Analyse von 28 Richtliniendokumenten der sechs führenden US-amerikanischen Chatbot-Anbieter — Amazon (Nova), Anthropic (Claude), Google (Gemini), Meta (Meta AI), Microsoft (Copilot) und OpenAI (ChatGPT) —, kommt zu dem Schluss, dass alle sechs die Gespräche der Nutzer standardmäßig zum Training ihrer Modelle verwenden. Mit anderen Worten: Für Verbraucher-Chatbots lautet die Antwort auf „trainiert es auf meinen Eingaben?“ sehr häufig ja. Der einzige Weg, dies für ein bestimmtes Tool zu wissen, ist, seine Dokumentation zu lesen — nicht, es zu vermuten.
Ebenfalls laut dieser Studie (aufgegriffen vom Stanford Report) ist das Trainings-Opt-out nicht universell: Manche Anbieter bieten eine Möglichkeit zum Abmelden, andere nicht. Manche bewahren die Daten unbegrenzt auf, manche lassen Menschen Transkripte zu Trainingszwecken durchsehen, und nur manche erklären, die Daten vor der Nutzung zu de-identifizieren — was ein Risiko der Re-Identifizierung bestehen lässt. Daraus ergeben sich drei Fragen: Gibt es ein Opt-out, gilt es für die Vergangenheit, und ist die De-Identifizierung garantiert?
Die Checkliste: 9 Kriterien, wo Sie suchen, das Warnsignal
Hier ist das Raster, das Sie durchgehen sollten, bevor Sie Daten in ein KI-Tool einfügen. Für jede Zeile: die zu stellende Frage und das Warnsignal, das Sie zurückschrecken lassen sollte.
| Kriterium | Zu stellende Frage | Warnsignal |
|---|---|---|
| Standard-Training | Dienen meine Eingaben dem Training der Modelle, ohne dass ich etwas tue? | Training standardmäßig aktiviert, besonders auf einer Verbraucherstufe |
| Opt-out | Kann ich es ablehnen, und gilt die Ablehnung auch für die Vergangenheit? | Kein Opt-out oder Opt-out nur für die Zukunft ohne Löschung der Vergangenheit |
| Aufbewahrung | Wie lange werden Gespräche aufbewahrt, selbst „gelöschte“? | Vage Regelung zum Verbleib gelöschter Chats; unbegrenzte Aufbewahrung |
| Menschliche Prüfung | Können Personen meine Konversationen mitlesen? | Unbegrenzte menschliche Prüfung, außerhalb des Opt-out-Bereichs |
| Rechtsraum | Wo werden die Daten gehostet, unter welchem Recht, welche Übermittlungen außerhalb der EU? | Undurchsichtiges oder außereuropäisches Hosting ohne Übermittlungsgarantien |
| Verschlüsselung | Sind die Daten bei der Übertragung und im Ruhezustand verschlüsselt? | Keine Erwähnung von Verschlüsselung bei Übertragung/im Ruhezustand |
| DPA / BAA | Wird ein Auftragsverarbeitungsvertrag (und ein Gesundheits-BAA) angeboten? | Kein DPA für eine berufliche Nutzung, die personenbezogene Daten betrifft |
| Weitergabe / „Teilen“-Funktion | Was sagen die Nutzungsbedingungen zur Inhaltslizenz, zu Dritten und zur Indexierung? | Öffentliche/indexierbare Teilen-Links, weitreichende Lizenz an Ihren Inhalten |
| Zertifizierungen | SOC 2 Type II und/oder ISO 27001, mit angegebenem Geltungsbereich? | „SOC 2“ behauptet ohne Type II und ohne Geltungsbereich |
Drei Kriterien, die oft in die Irre führen
Einige Zeilen verdienen ein Wort, weil sie regelmäßig missverstanden werden — und genau dort verstecken sich die Lecks.
- Aufbewahrung vs. Opt-out: Das sind zwei verschiedene Dinge. Selbst nach der Abmeldung vom Training bewahren viele Anbieter die Daten auf (oft ~30 Tage zur Missbrauchsüberwachung), mit möglichem menschlichem Zugriff, und diese Prozesse sind häufig vom Opt-out ausgenommen. Nur ein Zero-Data-Retention-Regime entfernt diese Speicherung. Die Stufe zählt: Das Verbraucher-ChatGPT (Free, Plus, Pro) trainiert standardmäßig — Opt-out über Einstellungen → Data Controls → „Improve the model for everyone“ — während OpenAI erklärt, standardmäßig nicht auf ChatGPT Business/Enterprise oder der API zu trainieren (siehe das OpenAI Help Center, Data Controls FAQ).
- Zertifizierungen: SOC 2 und ISO 27001 belegen nicht dasselbe. ISO 27001 ist eine von einer akkreditierten Stelle ausgestellte Zertifizierung, die ein Informationssicherheits-Managementsystem (ISMS) bescheinigt. SOC 2 ist ein Prüfbericht eines Auditors über Kontrollen, die anhand der Trust Services Criteria der AICPA bewertet werden. Entscheidend: Ein SOC 2 Type II bewertet die Wirksamkeit der Kontrollen über einen Zeitraum (mehrere Monate), während Type I nur deren Konzeption zu einem Zeitpunkt beurteilt — verlangen Sie also Type II und dessen Geltungsbereich.
- Die „Teilen“-Funktion und die Nutzungsbedingungen: Eine missverstandene Einstellung kann alles offenlegen. Im Jahr 2025 wurden über die Schaltfläche „Share“ öffentlich gemachte ChatGPT-Gespräche (Option „Make this chat discoverable“) von Google indexiert und damit für jeden einsehbar — einige Tausend Seiten, manche mit Namen, Funktionen und persönlichen Details. OpenAI entfernte die Auffindbarkeit nach der Kontroverse (Search Engine Land, 31. Juli 2025). Lesen Sie, was die Nutzungsbedingungen und Einstellungen in Bezug auf Teilen, Inhaltslizenz und Indexierung erlauben.
Selbst ein „sicheres“ Tool macht das Einfügen nicht sicher
Sie können alle Kästchen ankreuzen und es mit einem seriösen Tool zu tun haben: Das macht das Einfügen sensibler Daten trotzdem nicht von sich aus sicher. Richtlinien und Einstellungen können sich ändern; ein Opt-out deckt nicht immer die Vergangenheit ab; die Missbrauchsüberwachung bringt menschlichen Zugriff mit sich; eine missverstandene Teilen-Funktion kann alles offenlegen; und eine gesetzliche Verpflichtung kann Daten einfrieren, die eigentlich verschwinden sollten. Die CNIL empfiehlt übrigens, dass Chatbots Warnhinweise anzeigen, die von der Eingabe sensibler Daten abraten, und irrelevante Gespräche regelmäßig löschen; „sensible“ Daten im Sinne von Artikel 9 der DSGVO (Gesundheit, Biometrie, Meinungen, sexuelle Orientierung …) unterliegen strengen Bedingungen.
- 1Gehen Sie die Checkliste durch: Das ist gute Hygiene und sortiert die offensichtlich riskanten Tools aus.
- 2Wählen Sie die richtige Stufe (Unternehmen statt Verbraucher, wenn Sie sensible Daten im großen Umfang verarbeiten) und melden Sie sich vom Training ab.
- 3Aber bei wirklich sensiblen Daten entfernen Sie sie, bevor sie das Gerät verlassen — das ist die einzige Garantie, die nicht vom Vertrauen in den Anbieter abhängt.
Dieser letzte Schritt knüpft an unsere beiden benachbarten Leitfäden an: „Welcher KI-Chatbot ist am datenschutzfreundlichsten?“, der zeigt, dass Datenschutz mehr von Stufe und Einstellungen als von der Marke abhängt, und „So anonymisieren Sie Ihre Daten vor der Nutzung von KI“, der den Handgriff selbst beschreibt. Die Checkliste filtert die Tools; die Anonymisierung schützt den Inhalt, welches Tool Sie auch wählen.
Genau dafür ist ONYRI Sanitize da: Die Engine ersetzt sensible Daten vor dem Senden durch reversible Token; Erkennung und die Zuordnung Token↔Wert bleiben in Ihrem Browser, und nur anonymisierter Text erreicht das Tool. Ob das Tool „sicher“ ist oder nicht, ob es trainiert, aufbewahrt oder mitlesen lässt — es findet dort nur Token, nicht Ihre echten Informationen.
Häufig gestellte Fragen
- Woran erkennt man, ob ein KI-Tool sicher ist?
- Indem Sie seine Datenschutzerklärung und Nutzungsbedingungen lesen, statt der Marke zu vertrauen. Prüfen Sie neun Kriterien: Trainiert es standardmäßig auf Ihren Eingaben, gibt es ein Opt-out (gilt es für die Vergangenheit?), wie lange ist die Aufbewahrung, gibt es eine menschliche Prüfung, wo werden die Daten gehostet, sind sie verschlüsselt, bietet es einen DPA, was sagen die Nutzungsbedingungen zur Weitergabe und zu Dritten, und verfügt es über Zertifizierungen wie SOC 2 Type II oder ISO 27001. Eine Studie von Stanford HAI zeigt, dass die großen Verbraucher-Chatbots standardmäßig auf Gesprächen trainieren.
- Reichen SOC 2 oder ISO 27001 aus, um ein KI-Tool als sicher zu bezeichnen?
- Nein, für sich genommen nicht. Sie sind nützliche, aber unvollständige Signale: ISO 27001 bescheinigt ein Sicherheits-Managementsystem, SOC 2 ist ein Auditbericht über Kontrollen. Verlangen Sie das Detail — ein SOC 2 Type II (Wirksamkeit der Kontrollen über einen Zeitraum) ist aussagekräftiger als ein Type I, und der Geltungsbereich muss angegeben sein. Eine Zertifizierung sagt nichts über Standard-Training, Aufbewahrung oder Weitergabe aus: Sie müssen dennoch die vollständige Checkliste durchgehen.
- Macht ein Trainings-Opt-out ein KI-Tool für sensible Daten sicher?
- Es verringert die Exposition, reicht aber nicht aus. Das Opt-out gilt oft nur für die Zukunft (es holt nicht zurück, was bereits trainiert wurde) und stoppt in der Regel weder die mit der Missbrauchsüberwachung verbundene Aufbewahrung noch die damit einhergehende menschliche Prüfung. Für wirklich sensible Daten ist die einzige anbieterunabhängige Garantie, sie vor dem Senden zu anonymisieren.
Quellen & Referenzen
- Étude Stanford HAI : les six grands chatbots américains entraînent par défaut sur les conversations, opt-out inégal, rétention parfois indéfinie et revue humaine — Stanford Institute for Human-Centered AI (HAI)
- Article 28 du RGPD : obligation d'un contrat écrit (DPA) entre responsable de traitement et sous-traitant, clauses obligatoires et encadrement des sous-traitants — GDPR-Info.eu (texte consolidé du RGPD)
- Des conversations ChatGPT partagées via la fonction « Share » indexées par Google en 2025, puis retrait de la découvrabilité par OpenAI — Search Engine Land
Behalten Sie Ihre sensiblen Daten in Ihrem Browser
ONYRI Sanitize erkennt und maskiert Ihre sensiblen Daten, bevor sie die KI erreichen, und stellt anschließend die Antwort wieder her — vom Namen bis zum API-Schlüssel.