Ist es sicher, NHS-Patientendaten in eine KI einzugeben?

Nein. Das Einfügen identifizierbarer NHS-Patientendaten in ein öffentliches KI-Tool wie ChatGPT ist nicht genehmigt und setzt Sie einem Verstoß aus. Diese Gesundheitsdaten sind « special category data » (besondere Kategorien personenbezogener Daten) unter der UK-DSGVO: dem britischen Datenschutzrecht. Sie sind außerdem durch die Common Law Duty of Confidentiality und die Caldicott-Prinzipien geschützt. Ein öffentliches Tool wurde für diese Nutzung weder geprüft noch vertraglich vereinbart. Die einzige sichere Lösung: die Daten vor jeder KI-Nutzung zu de-identifizieren oder ein genehmigtes Tool zu verwenden.

Warum NHS-Patientendaten so stark geschützt sind

Gesundheitsdaten sind sensible personenbezogene Daten. Unter der UK-DSGVO gehören sie zu den « special category data ». Zu dieser Gruppe zählen auch die rassische Herkunft, genetische Daten und biometrische Daten zur Identifizierung. Die ICO, die britische Datenschutzaufsichtsbehörde, erklärt, warum dieser Schutz strenger ist. Solche Daten können Grundrechte verletzen oder zu Diskriminierung führen.

Der Schutz endet nicht dort. Auch die NHS number ist von Bedeutung. Sie ist eine eindeutige 10-stellige Kennung, die jedem Patienten in England, Wales und auf der Isle of Man zugewiesen wird. Sie ändert sich nie. Sie ist damit der zuverlässigste Weg, einen Patienten in elektronischen Systemen zu identifizieren. Wird sie in einem an eine KI gesendeten Text belassen, sind die Daten direkt identifizierbar.

Die Verarbeitung von Gesundheitsdaten erfordert zwei grüne Lichter, nicht nur eines. Sie benötigen eine Rechtsgrundlage nach Artikel 6 der UK-DSGVO. Sie benötigen zusätzlich eine gesonderte Bedingung nach Artikel 9. Die ICO führt zehn Bedingungen in Artikel 9(2) auf. Gesundheit und soziale Betreuung fallen unter Artikel 9(2)(h). Und Artikel 9(3) fügt eine Schutzvorkehrung hinzu: Die Verarbeitung muss durch eine Fachperson erfolgen, die einer Geheimhaltungspflicht unterliegt.

Common Law und Caldicott: das doppelte Schloss

Über die UK-DSGVO hinaus schützt eine zweite Regel den Patienten: die Common Law Duty of Confidentiality. Das Prinzip ist einfach. Wenn ein Patient einem Kliniker Informationen anvertraut, geschieht dies im Vertrauen. Sie dürfen sie ohne Rechtsgrundlage nicht offenlegen. Diese Grundlage kann die Einwilligung sein, eine gesetzliche Pflicht, ein überwiegendes öffentliches Interesse oder eine gesetzliche Befugnis wie die « section 251 support ». Diese Grundlage ist von der UK-DSGVO-Grundlage getrennt und ergänzt sie.

Dann kommen die Caldicott-Prinzipien. Es handelt sich um acht Prinzipien, die vom National Data Guardian auf gov.uk veröffentlicht wurden. Sie stellen sicher, dass die Informationen von Personen vertraulich bleiben und ordnungsgemäß verwendet werden. Sie gelten für alle Gesundheits- und Sozialdaten, bei denen der Patient identifizierbar ist. Drei davon sind hier von Bedeutung:

• Prinzip 3: nur das Minimum an notwendigen vertraulichen Informationen verwenden. Eine ganze Akte in eine KI einzufügen verstößt gegen diese Regel.
• Prinzip 6: das Gesetz einhalten. Ein nicht genehmigtes Tool bietet diese Garantie nicht.
• Für jede neue oder schwierige Beurteilung wird empfohlen, einen Caldicott Guardian einzubeziehen.

Ein öffentliches Tool hat die NHS-Prüfungen nicht bestanden

Um im NHS eingeführt zu werden, muss ein digitales Tool eine Bewertung bestehen. Sie heißt Digital Technology Assessment Criteria (DTAC) und wird vom NHS England Transformation Directorate durchgeführt. Es ist das 2021 eingeführte Assurance-Rahmenwerk. Es deckt sogar administrative KI ab, die nicht als Medizinprodukt eingestuft ist. Der DTAC bewertet fünf Bereiche:

1. 1Klinische Sicherheit.
2. 2Datenschutz.
3. 3Technische Sicherheit.
4. 4Interoperabilität.
5. 5Benutzerfreundlichkeit und Barrierefreiheit.

Ein öffentliches ChatGPT hat keine dieser fünf Hürden bestanden. Es ist für die Nutzung mit Patientendaten weder geprüft noch vertraglich vereinbart. Es erfüllt die Kriterien also nicht. Die Rahmenwerke, auf die der NHS verweist, sagen dasselbe. Siehe die NHS England Confidentiality policy. Siehe die Definition der Confidential Patient Information (CPI) von NHS England Digital. Und der NHS AI and Digital Regulations Service behandelt die common law duty of confidentiality.

Die Lösung: de-identifizieren oder ein genehmigtes Tool verwenden

Es gibt zwei sichere Wege. Der erste: niemals personenbezogene oder sensible Informationen in eine öffentliche KI eingeben. Der zweite: die Daten vor jeder Nutzung de-identifizieren. Das bedeutet, die NHS number, den Namen, die Adresse und das Geburtsdatum zu entfernen. Aber Vorsicht vor einer Falle. Die zitierte NHS-Richtlinie warnt, dass eine Kombination von Details einen Patienten re-identifizieren kann. Eine lokale geografische Region, dazu eine seltene Krankheit, dazu ein sehr junges Alter: Das genügt manchmal, selbst ohne die üblichen Kennungen. Die Daten müssen dann als personenbezogen behandelt werden.

Der Einsatz ist nicht theoretisch. Ein Verstoß gegen die Vertraulichkeit von Patientendaten kann teuer werden. Er kann zu behördlichen Maßnahmen führen, auch seitens der ICO. Er kann zu rechtlichen Schritten führen. Er kann auch interne Disziplinarverfahren auslösen. Die Geheimhaltungspflicht ist in den NHS-Arbeitsverträgen und in den beruflichen Verhaltenskodizes verankert.

Genau dafür ist ONYRI Sanitize da. Die Engine erkennt sensible Daten und ersetzt sie vor dem Senden durch umkehrbare Tokens. Die Erkennung und das Mapping bleiben in Ihrem Browser. Nur anonymisierter Text erreicht die KI. Die NHS number und der Name des Patienten verlassen Ihr Gerät nie — das externe Tool sieht nur Tokens.