Die größten Bußgelder und Urteile zu KI und Datenschutz

Aufsichtsbehörden und Gerichte sanktionieren bereits, wie KI mit personenbezogenen Daten umgeht: Im Dezember 2024 verhängte die italienische Behörde ein Bußgeld von 15 Millionen Euro gegen OpenAI wegen der Datenverarbeitung durch ChatGPT; die CNIL und mehrere europäische Behörden belegten Clearview AI mit Bußgeldern von bis zu 30,5 Millionen Euro für das Scraping von Gesichtern; und ein US-Bundesgericht wies OpenAI an, Konversationsprotokolle aufzubewahren, deren Löschung Nutzer verlangt hatten. Der rote Faden dieser Entscheidungen: die Sanktionierung der Nutzung personenbezogener Daten ohne Rechtsgrundlage oder Transparenz. Die unmittelbarste Verteidigung besteht darin, diese Daten zu minimieren und zu anonymisieren, bevor Sie sie einem externen KI-System anvertrauen.

Italien: 15 Mio. € gegen OpenAI und die erste ChatGPT-Sperre

Am 20. Dezember 2024 verhängte der Garante per la protezione dei dati personali (die italienische Datenschutzbehörde) nach einer Untersuchung der Verarbeitung personenbezogener Daten durch ChatGPT ein Bußgeld von 15 Millionen Euro gegen OpenAI — eine der ersten großen DSGVO-Sanktionen gegen einen bedeutenden Akteur der generativen KI in Europa. Die Behörde beanstandete das Fehlen einer geeigneten Rechtsgrundlage für das Training des Modells mit personenbezogenen Daten, einen Mangel an Transparenz und unzureichende Mechanismen zur Altersverifikation zum Schutz Minderjähriger; zudem hatte OpenAI eine am 20. März 2023 aufgetretene Datenschutzverletzung nicht gemeldet. Zusätzlich zum Bußgeld musste OpenAI eine sechsmonatige Informationskampagne in italienischen Medien durchführen. Das Unternehmen bezeichnete die Entscheidung als unverhältnismäßig und kündigte an, Berufung einzulegen.

Dieses Bußgeld war nicht Italiens erster Eingriff. Am 31. März 2023 hatte der Garante bereits eine vorübergehende Sperrung von ChatGPT in Italien angeordnet — die erste derartige Sperre durch ein westliches Land — und dabei das Fehlen einer Rechtsgrundlage für die massenhafte Erhebung von Trainingsdaten, eine unzureichende Aufklärung der Nutzer und die fehlende Altersverifikation angeführt. Der Dienst wurde Ende April 2023, etwa einen Monat später, wiederhergestellt, nachdem OpenAI eine aktualisierte Datenschutzerklärung veröffentlicht und europäischen Nutzern ein Formular zum Widerspruch gegen die Verarbeitung zur Verfügung gestellt hatte.

Clearview AI: europaweit sanktioniert für das Scraping von Gesichtern

Clearview AI, das durch das Scraping von Gesichtsbildern aus dem Internet eine biometrische Datenbank aufgebaut hat, wurde von europäischen Aufsichtsbehörden wiederholt sanktioniert. Am 20. Oktober 2022 verhängte die CNIL (Commission Nationale de l'Informatique et des Libertés) das höchstmögliche Bußgeld von 20 Millionen Euro für die Erhebung und Nutzung biometrischer Daten ohne Rechtsgrundlage und ordnete an, die Erhebung einzustellen und die Daten von Personen in Frankreich zu löschen, unter Androhung eines Zwangsgelds von 100.000 Euro pro Verzugstag. Vergleichbare Bußgelder (rund 20 Millionen Euro) folgten in Italien und Griechenland.

In den Niederlanden kündigte die Autoriteit Persoonsgegevens (die niederländische Datenschutzbehörde) am 3. September 2024 ein Bußgeld von 30,5 Millionen Euro an — das höchste, das gegen das Unternehmen verhängt wurde — für den illegalen Aufbau einer Datenbank mit mehr als 30 Milliarden in biometrische Codes umgewandelten Fotos, verbunden mit einem zusätzlichen Zwangsgeld von bis zu 5,1 Millionen Euro bei Nichteinhaltung. Im Vereinigten Königreich hatte das Information Commissioner's Office (ICO) Clearview AI 2022 sanktioniert (in der Größenordnung von 7,5 Millionen Pfund) für das Erheben und Speichern von Bildern britischer Bürger, verbunden mit der Anordnung, die Verarbeitung einzustellen.

Gerichte und regulatorischer Druck: von eingefrorenen Logs bis Meta AI

Nicht nur Aufsichtsbehörden haben Einfluss auf Daten. Im Mai 2025 ordnete im Verfahren The New York Times gegen OpenAI (ursprünglich ein Urheberrechtsstreit) eine US-Bundesrichterin an, dass OpenAI ChatGPT-Ausgabeprotokolle, die andernfalls gelöscht worden wären, aufbewahren und gesondert speichern muss — einschließlich solcher, deren Löschung Nutzer verlangt hatten. Im November 2025 bestätigte das Gericht eine Anordnung, wonach OpenAI den Klägern rund 20 Millionen (anonymisierte) Konversationsprotokolle vorlegen muss, und wies den auf den Schutz der Privatsphäre der Nutzer gestützten Einwand von OpenAI zurück.

Die Lehre ist konkret: Eine von einem Gericht auferlegte Aufbewahrungspflicht kann für die Dauer eines Rechtsstreits Ihre Löschrichtlinien und Löschanfragen aushebeln. Konversationen, die Sie für gelöscht halten, können im Rahmen eines Verfahrens zugänglich und verwertbar bleiben — ein Punkt, den wir in „Eine Konversation zu löschen bedeutet nicht, sie wirklich zu entfernen“ vertiefen. Löschen garantiert also keine tatsächliche Entfernung.

Meta AI: das Training mit Ihren Daten unter Beobachtung

Nicht jede Maßnahme endet mit einem Bußgeld: Manche nehmen die Form von regulatorischem Druck an, der die Praktiken im Vorfeld verändert. In den Jahren 2024-2025 wandte sich die Organisation noyb (None of Your Business) von Max Schrems gegen Metas Plan, seine KI ab dem 27. Mai 2025 mit den öffentlichen Daten europäischer Facebook- und Instagram-Nutzer zu trainieren. noyb übermittelte Meta eine Unterlassungsaufforderung und drohte mit einer Sammelklage, wobei sie die Berufung auf das „berechtigte Interesse“ statt auf eine ausdrückliche (Opt-in-)Einwilligung für das KI-Training beanstandete.

Nach einer Stellungnahme des EDPB vom Dezember 2024 und einer Prüfung durch die Data Protection Commission (DPC, die irische Behörde) überarbeitete Meta seinen Plan: aktualisierte Transparenzhinweise, längere Vorankündigungsfristen und funktionierende Widerspruchsformulare in der App über die europäischen Rechtsordnungen hinweg. Am 21. Mai 2025 erklärte die DPC, sie habe Empfehlungen ausgesprochen, auf die Meta reagiert habe — ein Beleg für den anhaltenden regulatorischen Druck auf das Training von KI mit personenbezogenen Daten, der sich in den Rahmen einfügt, den wir in „DSGVO und generative KI: konform werden“ ausführlich darstellen.

Die Chronik der Sanktionen und Entscheidungen

Hier sind die wichtigsten regulatorischen und gerichtlichen Maßnahmen in chronologischer Reihenfolge. Zu unterscheiden von technischen Datenpannen, die wir gesondert in „Die größten Datenpannen im Zusammenhang mit KI“ erfassen: Hier handelt es sich um Sanktionen von Behörden und um Gerichtsentscheidungen, nicht um Sicherheitsvorfälle.

Die Lehre: minimieren und anonymisieren, um das rechtliche Risiko zu senken

Ein gemeinsamer Nenner zieht sich durch diese Entscheidungen: Behörden und Gerichte nehmen die Nutzung personenbezogener Daten ohne Rechtsgrundlage, Transparenz oder Einwilligung ins Visier und können während eines Rechtsstreits eine Datenaufbewahrung anordnen. Weder die Rechtsordnung eines KI-Anbieters noch eine Gerichtsanordnung noch die von ihm herangezogene Rechtsgrundlage haben Sie in der Hand. Was Sie in der Hand haben, ist das, was Sie übermitteln.

• Minimieren: Übermitteln Sie nur die für die Aufgabe unbedingt erforderlichen Daten.
• Anonymisieren oder tokenisieren Sie Identitäten, Kennungen und Geheimnisse vor dem Senden.
• Behalten Sie im Hinterkopf, dass eine „Löschung“ durch eine rechtliche Verpflichtung eingefroren werden kann.

1. 1Erfassen Sie die personenbezogenen Daten in Ihren Prompts und Dateien.
2. 2Entfernen oder ersetzen Sie diese Daten durch Token, bevor Sie etwas an ein externes KI-System senden.
3. 3Stellen Sie die echten Werte bei Eingang der Antwort wieder her — ausschließlich im Browser.

Genau dafür ist ONYRI Sanitize da: Die Engine ersetzt sensible Daten vor dem Senden durch umkehrbare Token; die Erkennung und die Zuordnung Token↔Wert bleiben in Ihrem Browser, und nur anonymisierter Text erreicht das Modell. Weniger übermittelte personenbezogene Daten bedeuten zwangsläufig weniger Angriffsfläche — ob eine Aufsichtsbehörde ermittelt oder ein Gericht die Aufbewahrung von Logs verlangt, es finden sich nur Token, nicht Ihre echten Informationen.