Die größten KI-Datenlecks bisher: eine Chronologie

Die größten KI-Datenlecks lassen sich in zwei Familien einteilen: Plattformpannen, bei denen bereits auf dem Server gespeicherte Daten offengelegt werden (ChatGPTs Redis-Bug im März 2023, DeepSeeks im Januar 2025 offen gelassene Datenbank), und Nutzungs- oder Freigabelecks, bei denen Nutzer ihre eigenen Daten preisgeben (Samsung-Ingenieure, die 2023 proprietären Code einfügten, Grok- und dann ChatGPT-Konversationen, die 2025 öffentlich gemacht und von Google indexiert wurden). In jedem Fall sind die gefährdeten Daten diejenigen, die im Klartext in das Tool eingegeben wurden. Die Lehre bleibt unverändert: Was nie im Klartext in einen KI-Dienst gelangt ist, kann von dort auch nicht auslaufen.

Plattformpannen: ChatGPT (2023) und DeepSeek (2025)

Am 20. März 2023 legte ein Bug in der Open-Source-Bibliothek redis-py über ein Zeitfenster von etwa neun Stunden hinweg einigen ChatGPT-Nutzern Konversationstitel offen, die zu anderen Konten gehörten; für einen Teil der aktiven Plus-Abonnenten könnten auch Zahlungsinformationen sichtbar gewesen sein (Name, E-Mail, Rechnungsadresse, Kartentyp und die letzten vier Ziffern der Karte). OpenAI nahm ChatGPT vom Netz, behob den Bug noch am selben Tag und fügte redundante Kontrollen hinzu. Der entscheidende Punkt: Was ausgelaufen ist, waren bereits eingegebene und vom Dienst gespeicherte Daten — keine Daten, die nicht vorhanden waren.

Im Januar 2025 entdeckten Wiz-Forscher eine ClickHouse-Datenbank, die DeepSeek gehörte, öffentlich ohne Authentifizierung zugänglich war und beliebige SQL-Abfragen zuließ. Sie enthielt mehr als eine Million Log-Zeilen: Konversationsverläufe im Klartext, API-Schlüssel, geheime Zugriffstoken und Details zur Backend-Infrastruktur. Wiz legte den Vorfall verantwortungsvoll offen (Bericht vom 29. Januar 2025) und DeepSeek sicherte die Offenlegung rasch ab. Eine einfache Fehlkonfiguration reichte aus, um serverseitig gespeicherte Konversationen und Geheimnisse zugänglich zu machen.

Nutzungslecks: Samsung fügt seine Geheimnisse ein (2023)

Im April 2023 fügten laut Presseberichten Ingenieure der Halbleitersparte von Samsung proprietären Quellcode und interne Besprechungsnotizen in ChatGPT ein, um Hilfe zu erhalten — Debugging, Optimierung, Zusammenfassungen — bei drei separaten Vorfällen innerhalb von etwa 20 Tagen. Als Reaktion darauf schränkte Samsung die interne Nutzung generativer KI-Chatbots in seinen Netzwerken ein und verbot sie schließlich (Mai 2023) und beschleunigte die Arbeit an internen Tools. Die Lehre ist zentral: Ein Leck kann nicht durch einen Hack entstehen, sondern schlicht dadurch, dass man Geheimnisse im Klartext in ein Drittanbieter-Tool einfügt.

• Plattformpanne: Daten laufen aus, weil der Dienst schlecht abgesichert ist (ein Bug, eine offene Datenbank).
• Nutzungsleck: Daten laufen aus, weil ein Nutzer sie eingibt oder teilt, ohne das Risiko zu erfassen.
• In beiden Fällen werden dieselben Klartextdaten offengelegt — die dem Tool anvertrauten Daten.

Freigabelecks: Grok und ChatGPT von Google indexiert (2025)

2025 zeigten zwei Vorfälle, dass eine missverstandene „Teilen“-Schaltfläche ausreicht, um eine private Konversation in eine öffentliche Webseite zu verwandeln. Groks (xAI) Teilen-Funktion erzeugte öffentliche Links, die Suchmaschinen indexierten: Die Presse berichtete, dass Hunderttausende geteilter Konversationen (in der Größenordnung von mehr als 370.000) einsehbar geworden waren, einige mit sensiblen Informationen wie medizinischen Ratschlägen oder Passwörtern. Auf OpenAIs Seite führte eine Option „diese Konversation auffindbar machen“ dazu, dass rund 4.500 geteilte Konversationen auf Google indexiert wurden, teils mit persönlichen Angaben (Namen, E-Mails, Lebensläufe). OpenAIs Chief Information Security Officer, Dane Stuckey, kündigte die Entfernung der Funktion an und bezeichnete sie als kurzlebiges Experiment.

Die Chronologie auf einen Blick

Auf einer Zeitleiste angeordnet, offenbaren diese bemerkenswerten Vorfälle denselben roten Faden — die gefährdeten Daten sind stets diejenigen, die im Klartext eingegeben wurden:

Was uns diese Vorfälle lehren

Über den technischen Vorfall hinaus können die Folgen andauern. Nach dem Bug vom März 2023 ordnete der Garante per la protezione dei dati personali (Italiens Datenschutzbehörde) am 30. März eine vorübergehende Aussetzung der Verarbeitung der Daten italienischer Nutzer an und machte Italien damit zum ersten Land, das ChatGPT vorübergehend sperrte; der Zugang wurde Ende April nach Korrekturmaßnahmen wiederhergestellt. Im Dezember 2024 verhängte der Garante gegen OpenAI eine Geldbuße von 15 Millionen Euro und rügte unter anderem eine unterlassene Meldung der Datenschutzverletzung vom März 2023.

1. 1Prüfen Sie, bevor Sie teilen: Ein „Teilen“-Link oder eine „auffindbar“-Option kann eine Konversation für Google indexierbar machen.
2. 2Fügen Sie niemals ein Geheimnis im Klartext (Code, Schlüssel, Passwörter) in einen Drittanbieter-Chatbot ein — das ist das am leichtesten vermeidbare Leck.
3. 3Verlassen Sie sich nicht allein auf die Sicherheit des Anbieters: Ein Bug oder eine fehlkonfigurierte Datenbank entzieht sich Ihrer Kontrolle.
4. 4Anonymisieren Sie sensible Daten vor dem Senden: Was nie im Klartext eingegeben wird, kann in keinem Leck auftauchen.

Genau das ist die Logik hinter ONYRI Sanitize: Die Engine ersetzt sensible Daten vor dem Senden durch umkehrbare Token; die Erkennung und das Token↔Wert-Mapping bleiben in Ihrem Browser, und nur anonymisierter Text erreicht das Modell. Ob ein Bug eine Datenbank offenlegt, ein Prüfer hinschaut oder ein Link indexiert wird — dort finden sich nur Token, nicht Ihre echten Informationen.