Ist es sicher, ChatGPT medizinische Fragen zu stellen?

Nur mit Vorsicht: ChatGPT medizinische Fragen zu stellen, ist aus zwei unterschiedlichen Gründen nicht risikofrei. Erstens die Zuverlässigkeit — das Modell kann sich irren, ist kein Arzt und ersetzt niemals eine klinische Beratung. Zweitens die Vertraulichkeit — Ihre Gesundheitsdaten gehören zu den sensibelsten überhaupt, das Consumer-ChatGPT ist nicht durch die HIPAA abgedeckt, und Ihre Fragen (Symptome, Vorgeschichte, Behandlungen) werden gespeichert, möglicherweise überprüft und sind vorlagefähig. Die kluge Regel: Bleiben Sie bei allgemeinen Fragen, ohne re-identifizierende Details, und anonymisieren Sie alles Sensible vor dem Absenden.

Risiko Nr. 1: die Zuverlässigkeit (es ist kein Arzt)

Ein Arzt der Harvard Medical School (Dr. Adam Rodman) fasst die Zuverlässigkeit mit einer Ampellogik zusammen. Grün: allgemeine, kontextarme Fragen — die Nebenwirkungen eines Medikaments, Ernährungstipps — sind in der Regel sicher. Gelb: sich auf einen Besuch vorzubereiten oder Testergebnisse zu verstehen, erfordert genügend Kontext. Rot: eine Erkrankung zu behandeln, zu beurteilen, ob eine Verschreibung passend ist, oder Behandlungsentscheidungen zu treffen, sind hochgradig kontextabhängige Fragen, für die die Modelle nicht trainiert sind. Die empfohlene Nutzung ist, einen Besuch vorzubereiten oder besser zu verstehen, niemals die klinische Beratung zu ersetzen.

Der Ton verschlimmert es: Große Modelle sprechen mit extremer Autorität und Selbstsicherheit, unabhängig davon, ob sie richtig liegen — genug, um Gesundheitsängste zu verstärken. Von Harvard zitierte Forschung ergab, dass Modelle, die beim isolierten Erkennen von Erkrankungen gut abschnitten, in echten Gesprächen mit Menschen deutlich schlechter abschnitten. In Zahlen: Eine JAMA-Oncology-Studie von 2023 stellte fest, dass ChatGPT in über einem Drittel der Fälle Krebsbehandlungsempfehlungen gab, die nicht mit etablierten Leitlinien übereinstimmten, und in etwa 1 von 8 Fällen nicht existierende Behandlungen erfand; Übersichtsarbeiten berichten zudem, dass KI-generierte Quellenangaben häufig ungenau oder teilweise erfunden sind, wobei die Genauigkeit bei seltenen Krankheiten und regionsspezifischen Empfehlungen sinkt.

Risiko Nr. 2: die Vertraulichkeit (außerhalb der HIPAA)

Das Consumer-ChatGPT (Free, Plus, Team, Enterprise) ist nicht HIPAA-konform: OpenAI unterzeichnet für diese Consumer-Versionen keinen Auftragsverarbeitungsvertrag (Business Associate Agreement), sodass ihnen die von der HIPAA geforderten Schutzmaßnahmen fehlen. ChatGPT Health ist ebenfalls nicht abgedeckt: Es unterliegt Consumer-Bedingungen, nicht HIPAA-Standards, und es gibt keine Umstände, unter denen OpenAI eine solche Vereinbarung mit einem einzelnen ChatGPT-Health-Nutzer unterzeichnen würde — die Gesundheitsdaten, die eine Person dort eingibt, sind also nicht durch die HIPAA geschützt.

Die HIPAA schützt Ihre medizinischen Unterlagen, solange sie bei „covered entities“ wie Ihrem Krankenhaus oder Ihrer Versicherung liegen. Datenschützer warnen, dass das Teilen dieser Unterlagen mit einem Consumer-KI-Chatbot diesen HIPAA-Schutz aufhebt: OpenAI ist ein Technologieunternehmen, das einen Consumer-Dienst anbietet, kein Gesundheitsdienstleister, und keine Bundesbehörde regelt die einem KI-Chatbot anvertrauten Gesundheitsinformationen.

Hinzu kommt das Vorlagerisiko. Die Gesundheitsfragen, die Sie eintippen, werden gespeichert und sind nicht flüchtig. Experten (Electronic Privacy Information Center, Center for Democracy and Technology) verweisen auf offene Fragen dazu, wie OpenAI mit Anfragen von Strafverfolgungsbehörden umgeht und ob Nutzer benachrichtigt werden, und weisen darauf hin, dass das Unternehmen seine Nutzungsbedingungen jederzeit ändern kann — wodurch Verbraucher auf das Ermessen des Unternehmens angewiesen sind statt auf rechtlichen Schutz. Die Gerichte haben dies gezeigt: Im Rechtsstreit mit der New York Times ordnete ein US-Magistratsrichter im Mai 2025 an, dass OpenAI Ausgabeprotokolle aufbewahren muss, die andernfalls gelöscht worden wären, einschließlich Chats, die Nutzer zu löschen versuchten oder für die sie den temporären Chatmodus verwendeten (betroffen sind Nutzer von Free, Plus, Pro, Team und der Standard-API; Enterprise, Edu und API-Kunden ohne Datenspeicherung waren ausgenommen). Ein gelöschtes Gespräch kann also weiterhin existieren und in einem Rechtsstreit vorgelegt werden.

Sie glauben / Die Realität

Wie Sie sicher fragen

Die praktische Absicherung für eine Privatperson lässt sich auf eine Idee reduzieren: Halten Sie Fragen allgemein und frei von re-identifizierenden Details. Fragen Sie abstrakt nach einer Erkrankung, statt Ihren konkreten Fall mit identifizierenden Besonderheiten zu beschreiben, und nutzen Sie ChatGPT, um einen Besuch vorzubereiten oder zu verstehen, nicht um zu entscheiden.

• Geben Sie niemals Ihren vollständigen Namen, Ihr Geburtsdatum, Ihre Adresse, Ihre Versicherungsnummer oder Kennungen medizinischer Unterlagen ein.
• Stellen Sie die Frage abstrakt („Was sind die Nebenwirkungen dieses Medikaments?“), statt Ihren konkreten Fall zu beschreiben.
• Anonymisieren Sie jeden sensiblen Begriff vor dem Absenden.
• Die sichersten Entscheidungen werden nach wie vor mit einer vertrauenswürdigen medizinischen Fachkraft getroffen.

1. 1Formulieren Sie Ihre Frage allgemein um, ohne jedes Detail, das Sie identifiziert.
2. 2Entfernen Sie Identitäten, administrative Kennungen und Aktennummern.
3. 3Anonymisieren Sie verbleibende sensible Begriffe und senden Sie dann.
4. 4Validieren Sie jede Entscheidung mit einer medizinischen Fachkraft.

Daten mit einem KI-Unternehmen zu teilen, ist nicht zwangsläufig riskanter als mit einer Suchmaschine. Aber die Kombination aus ungewöhnlich sensiblen Inhalten (Symptome, Diagnosen, Behandlungen, reproduktive oder psychische Gesundheit), unbefristeter Speicherung und fehlender HIPAA-Abdeckung macht Zurückhaltung und Anonymisierung zum klugen Standard für jede persönliche Gesundheitsfrage.

Genau hier setzt ONYRI Sanitize an: Die Engine erkennt re-identifizierende Elemente (Name, Kennungen, Aktennummern) und ersetzt sie vor dem Absenden durch umkehrbare Token. Die Erkennung und das Token↔Wert-Mapping bleiben in Ihrem Browser; nur anonymisierter Text erreicht ChatGPT. Ob die Frage überprüft oder gespeichert wird — sie offenbart nur Token, niemals, wer Sie sind.