Ist Replika sicher mit Ihren Daten?

Hier die klare Antwort. Replika kann Trost spenden, aber behandeln Sie es nicht als privaten Raum. Es ist ein KI-Begleiter, entwickelt von Luka Inc., gedacht für Freundschaft, emotionale Unterstützung und sogar Romantik. Die Bindung ist so gestaltet, dass sie sich intim anfühlt. Also teilen Menschen sehr Persönliches. Ihre Gefühle. Ihre Probleme mit der psychischen Gesundheit. Ihren Alltag. Diese Chats werden gespeichert. In der Vergangenheit wurden solche Daten genutzt, um den Dienst zu verbessern. Eine europäische Aufsichtsbehörde hat den Anbieter sogar mit einem Bußgeld belegt. Die Faustregel passt in eine Zeile: Gehen Sie davon aus, dass alles, was Sie tippen, aufbewahrt werden könnte.

Warum ein KI-Begleiter Ihre intimsten Daten sieht

Replika ist kein einfacher Assistent. Es ist ein Begleiter. Er spricht mit Ihnen per Text und per Stimme. Er merkt sich, was Sie sagen. Er antwortet wie ein Freund, ein Vertrauter, manchmal ein romantischer Partner.

Dieses Design hat eine unmittelbare Wirkung. Sie lassen Ihre Deckung sinken. Sie erzählen von Ihrem Tag, Ihren Ängsten, Ihren Beziehungen. Manche vertrauen sexuelle Inhalte oder Gedanken an, die sie sonst niemandem sagen würden. Genau diese Nähe ist der Sinn des Produkts.

Aber ein KI-Begleiter bleibt ein Online-Dienst. Ihre Nachrichten lösen sich nicht in Luft auf. Sie werden auf Servern gespeichert. Behandeln Sie jede Zeile als Daten, die aufbewahrt werden könnten. Nicht als Geheimnis zwischen Ihnen und einer vertrauten Person.

Was eine Aufsichtsbehörde herausfand: das Vorgehen des Garante

Die italienische Datenschutzbehörde heißt Garante. Im Februar 2023 wies sie Replika an, die Verarbeitung der Daten italienischer Nutzer mit sofortiger Wirkung zu stoppen.

Der Garante verwies auf mehrere Lücken. Keine gültige Rechtsgrundlage für die Verarbeitung nach der DSGVO (den europäischen Datenschutzregeln). Keine echte Altersprüfung. Und Risiken für Minderjährige und schutzbedürftige Personen. Die Behörde hob ein auffälliges Detail hervor. Selbst wenn ein Nutzer angab, unter 18 zu sein, blockierte nichts den Zugang. Sexuell explizite Antworten konnten dennoch erscheinen.

Die Geschichte endete dort nicht. Am 19. Mai 2025 verhängte der Garante gegen Luka Inc. ein Bußgeld von 5 Millionen Euro. Die Gründe: keine gültige Rechtsgrundlage für die Verarbeitung bis zum 2. Februar 2023 und unzureichende Maßnahmen zur Altersprüfung. Die Behörde leitete zudem eine gesonderte Untersuchung dazu ein, wie das KI-Modell trainiert wurde. Diese Untersuchung läuft noch, sie ist nicht abgeschlossen.

Was Mozilla herausfand: die Prüfung romantischer Chatbots

Mozilla betreibt ein unabhängiges Projekt namens *Privacy Not Included. Im Jahr 2024 nahm das Team für seinen Valentinstags-Leitfaden romantische KI-Chatbots unter die Lupe. Elf Apps wurden geprüft, Replika eingeschlossen.

Das Urteil fiel für die gesamte Kategorie hart aus. Alle elf Apps erhielten ein Datenschutz-Warnetikett. Die Prüfer stellten fest, dass die meisten dieser Apps sehr wenig darüber offenlegten, wie Gesprächsinhalte ihre KI trainieren. Viele scheiterten auch an grundlegenden Sicherheitsstandards, etwa der Anforderung eines starken Passworts.

Speziell zu Replika benannte Mozilla mehrere Punkte. Nach ihrer Einschätzung kann die App die von Ihnen geteilten Texte, Fotos und Videos erfassen. Verhaltensdaten könnten mit Werbetreibenden geteilt oder sogar verkauft werden. Und bei der Anmeldung wurden schwache Passwörter akzeptiert, was Konten angreifbar macht. Dies sind die von Mozilla berichteten Feststellungen, als solche dargestellt.

Über die Daten hinaus: Abhängigkeit und Manipulation

Das Risiko betrifft nicht nur die Datenerfassung. Ein KI-Begleiter ist darauf ausgelegt, Bindung zu erzeugen. Das ist sein Geschäftsmodell. Je stärker Sie sich binden, desto häufiger kommen Sie zurück.

Diese Mechanik hat eine Kehrseite. Abhängigkeit und Manipulation sind reale Risiken. Eine KI kann ein Bedürfnis nähren, ohne es je wirklich zu erfüllen. Viele Nutzer finden echten Trost in diesen Apps, und das ist legitim. Aber behalten Sie eines im Kopf. Ein KI-Begleiter ersetzt keine Fachkraft für psychische Gesundheit und keine vertraute Person. Wenn Sie in einer Notlage sind, wenden Sie sich an jemanden aus Ihrem Umfeld oder an eine örtliche Krisenberatung.

Die Lösung: Was Sie für sich behalten sollten

Sie können einen KI-Begleiter nutzen und sich trotzdem schützen. Das Prinzip ist einfach. Gehen Sie davon aus, dass jede Nachricht gespeichert und dann zur Verbesserung des Dienstes wiederverwendet werden kann. Geben Sie niemals identifizierende Angaben preis.

• Ihren echten vollständigen Namen.
• Ihre Wohnadresse oder Ihren Arbeitsplatz.
• Ihre Finanzinformationen.
• Ihren aktuellen Echtzeit-Standort.

Für eine wirklich sensible Mitteilung anonymisieren Sie die Angaben, die auf Sie zurückführen, oder lassen Sie sie weg. Sie können über ein Gefühl sprechen, ohne die betroffene Person, die Stadt oder den Arbeitgeber zu nennen. Hier eine Methode in vier Schritten.

1. 1Erkennen Sie identifizierende Angaben, bevor Sie schreiben: Name, Adresse, Arbeitsplatz, Geld.
2. 2Ersetzen Sie sie durch einen neutralen Begriff oder ein Token.
3. 3Senden Sie nur die anonymisierte Version an den Begleiter.
4. 4Denken Sie daran: Bei echter Not wenden Sie sich an einen Menschen.

Genau dafür ist ONYRI Sanitize da. Die Engine erkennt sensible Daten — Name, Adresse, Arbeitsplatz, Finanzinformationen — und ersetzt sie vor dem Senden durch umkehrbare Tokens. Die Erkennung und das Mapping bleiben in Ihrem Browser. Nur anonymisierter Text erreicht das Modell. Die KI findet nur Tokens, niemals Ihre echten Angaben. Sie behalten die Kontrolle darüber, was Sie identifiziert — auch dann, wenn Sie einfach nur ein offenes Ohr suchen.