Ist es sicher, KI für die Arbeit im öffentlichen Dienst zu nutzen?

Ja, KI hat einen Platz in der Arbeit des öffentlichen Dienstes — aber nur unter strengen Bedingungen. Drei Regeln tragen den größten Teil des Gewichts. Fügen Sie niemals identifizierbare Bürgerdaten in einen Verbraucher-Chatbot ein. Verschieben Sie niemals als Verschlusssache eingestuftes oder eingeschränktes Material außerhalb der von Ihrer Behörde genehmigten Werkzeuge. Halten Sie eine benannte Person für jede Entscheidung über einen Menschen verantwortlich. Der Grund ist einfach. Die Öffentlichkeit hat sich nicht dafür entschieden, mit Ihnen zu tun zu haben. Sie kann nicht einfach zu einem anderen Anbieter wechseln. Das hebt die Sorgfaltspflicht über den kommerziellen Standard, nicht darunter. Und die Leitlinien existieren bereits: Sie sind öffentlich, und sie binden Sie.

Warum Bürgerdaten nicht wie andere Daten sind

Ein unzufriedener Kunde wechselt den Anbieter. Ein Bürger kann das nicht. Er wählt weder sein Finanzamt noch seine Sozialbehörde oder seine Gemeinde. Er gibt seine Daten preis, weil er es muss. Dieses Fehlen eines Auswegs ändert alles. Es hebt die Messlatte an, statt sie zu senken.

Das Material, das durch eine öffentliche Einrichtung fließt, ist zudem ungewöhnlich dicht. Namentliche Fallakten. Nationale Identitätsnummern. Fallreferenzen. Unveröffentlichte interne Vermerke. Laufende Vergabeunterlagen. Politikentwürfe. Jedes einzelne davon hat einen Grund, aus einem Verbraucher-Chatbot herauszubleiben.

Der Fehlermodus ist nicht exotisch. Es ist kein ausgeklügelter Cyberangriff. Es ist ein überlasteter Sachbearbeiter um 17 Uhr, der die gesamte Akte eines namentlich genannten Bürgers in einen öffentlichen Assistenten einfügt, um „die Zusammenfassung zu beschleunigen“. Die Handlung dauert zwei Sekunden. Sie verschiebt die Daten außerhalb des Perimeters Ihrer Behörde.

Die Leitlinien existieren bereits — und sie sind öffentlich

Am 10. Februar 2025 veröffentlichte die britische Regierung ihr „Artificial Intelligence Playbook for the UK Government“ (Government Digital Service und DSIT). Es erweitert und ersetzt den früheren Rahmen zur generativen KI aus dem Jahr 2024. Es steht auf GOV.UK, für jeden zugänglich. Die Konsequenz ist eindeutig: „Ich wusste nicht, dass es Leitlinien gibt“ ist keine haltbare Position mehr.

Das Playbook ist um zehn Prinzipien für Bedienstete des öffentlichen Dienstes herum aufgebaut. Mehrere sprechen direkt die Handlung an, Text in einen Chatbot einzufügen.

• Wissen, was KI ist und wo sie versagt.
• KI rechtmäßig, ethisch und verantwortungsvoll nutzen.
• Wissen, wie man KI sicher nutzt.
• An den richtigen Stellen eine wirksame menschliche Kontrolle bewahren.
• Diese Prinzipien gemeinsam mit den Richtlinien Ihrer eigenen Behörde anwenden, mit den passenden Absicherungen.

Dieser letzte Punkt ist am wichtigsten und wird zuerst vergessen. Die zentralen Leitlinien ersetzen nicht Ihre internen Regeln: Sie fordern Sie auf, ihnen zu folgen. Das Verbot, sensibles oder als Verschlusssache gekennzeichnetes Material zu verschieben, steht nicht im Playbook. Es steht in der eigenen Richtlinie Ihrer Behörde zum Umgang mit Informationen. Und diese Richtlinie bindet Sie bereits, heute.

Das Playbook fügt eine Forderung hinzu, die direkt auf die Fallbearbeitung anwendbar ist. Menschen müssen von KI beeinflusste Entscheidungen mit hohem Risiko validieren. Wo eine Überprüfung in Echtzeit unmöglich ist — etwa bei einem Live-Chatbot —, muss die menschliche Kontrolle an anderer Stelle in der Konzeption und dem Einsatz des Systems ausgeübt werden. Übertragen auf eine Warteschlange von Sozialleistungen: Eine Entscheidung über einen Bürger sollte niemals die ungeprüfte Ausgabe eines Modells sein.

Was die Cybersicherheitsbehörde sagt

Das britische National Cyber Security Centre (NCSC) ist deutlich in Bezug auf große Sprachmodelle. Anfragen, die an ein gehostetes LLM gesendet werden, sind für den Anbieter sichtbar. Sie werden gespeichert. Sie können zur Entwicklung des Dienstes oder künftiger Modelle verwendet werden. Sein Rat passt in eine Zeile: Achten Sie sehr genau darauf, was Sie in einen Prompt eingeben. Sein konkretes Beispiel ist genau ein Angestellter, der keine sensiblen oder nicht öffentlichen Informationen an ein öffentliches Werkzeug weitergeben sollte.

Das NCSC behandelt Prompt Injection außerdem als strukturelle Schwäche, nicht als Fehler, der auf einen Patch wartet. Ein Sprachmodell kann eine Anweisung nicht zuverlässig von Daten unterscheiden, die geliefert werden, um ihm bei der Ausführung dieser Anweisung zu helfen. Sein Rat an Organisationen, die auf LLMs aufbauen: Gestalten Sie das System so, dass Sie mit dem schlimmsten Fall dessen leben können, was das Modell tun darf. Das ist wichtig für jede Behörde, die einen Assistenten in interne Systeme einbindet.

Datenschutz und Anwendungen mit hohem Risiko

Das Information Commissioner's Office (ICO), die britische Datenschutzbehörde, veröffentlicht eigene Leitlinien zu KI und der britischen DSGVO. Ihre Anforderungen lassen sich mühelos auf den öffentlichen Sektor übertragen. Eine Rechtsgrundlage bestimmen. Eine DSFA (Datenschutz-Folgenabschätzung) für Verarbeitungen mit hohem Risiko durchführen. In der Lage sein, Fairness, Transparenz und Rechenschaftspflicht bei der Nutzung personenbezogener Daten nachzuweisen.

Die Erkenntnis ist einfach. Das Einfügen von Bürgerdaten in ein Modell eines Drittanbieters ist ein Verarbeitungsvorgang wie jeder andere. Die Behörde bleibt der Verantwortliche. Die Behörde steht dafür gerade. Für Leserinnen und Leser in der Europäischen Union stehen diese Pflichten in der DSGVO selbst und bei einer nationalen Behörde wie der CNIL. In den Vereinigten Staaten gibt es kein einzelnes bundesweites Pendant: Ihr Rahmen hängt von Ihrer Behörde, Ihrem Bundesstaat und Ihrem Sektor ab.

Die EU-KI-Verordnung, die Verordnung (EU) 2024/1689, fügt für öffentliche Einrichtungen eine weitere Ebene hinzu. Ihr Anhang III stuft mehrere Anwendungen im öffentlichen Sektor als hochriskant ein. KI, die von einer Behörde eingesetzt wird, um zu beurteilen, ob Menschen Anspruch auf wesentliche öffentliche Unterstützungsleistungen und -dienste haben, einschließlich der Gesundheitsversorgung. KI, die eingesetzt wird, um diese zu gewähren, zu kürzen, zu widerrufen oder zurückzufordern. Die Triage von Notrufen und die Entsendung von Rettungskräften. Die Pflichten für Hochrisiko-Anwendungen gelten ab dem 2. August 2026. Ein Assistent, der bei der Sichtung von Anspruchsberechtigungen hilft, ist also nicht einfach ein Produktivitätswerkzeug.

Überinterpretieren Sie es jedoch nicht. Anhang III zielt auf Systeme ab, die diese spezifischen Feststellungen treffen oder unterstützen. Er besagt nicht, dass jede KI-Nutzung in einem Ministerium hochriskant ist.

Genehmigte Werkzeuge, Aufzeichnungen und Transparenz

Ein Wort zu ausländischen Anbietern. Mehrere Regierungen und Behörden haben bestimmte KI-Apps auf Dienstgeräten eingeschränkt. Es geht nicht darum, nachzuverfolgen, wer was verboten hat. Es geht darum, die Liste der genehmigten Werkzeuge Ihrer eigenen Behörde zu prüfen, statt anzunehmen, dass ein beliebtes Werkzeug erlaubt ist.

Der zweite blinde Fleck sind Aufzeichnungen. Ein mit KI-Hilfe erstelltes Dokument kann selbst eine herausgabepflichtige Aufzeichnung sein, die den Regeln der Schriftgutverwaltung und der Informationsfreiheit unterliegt. Die Regelungen unterscheiden sich je nach Land. Prüfen Sie Ihre Pflichten zur Aufbewahrung und zum Zugang, bevor Sie etwas verfassen, nicht danach.

Die Lösung: anonymisieren, bevor Sie senden

Die Kontrolle, die funktioniert, ist wenig spektakulär. Sie entfernt Bürgerkennungen, bevor der Text jemals ein Modell erreicht. Namen. Nationale Identitätsnummern. Fallreferenzen. Adressen. Kontaktdaten. Das Modell überlegt dann anhand der Struktur des Problems, ohne jemals zu sehen, wer dahintersteht.

1. 1Lesen Sie die KI-Richtlinie Ihrer Behörde — sie existiert, und sie hat Vorrang.
2. 2Senden Sie niemals als Verschlusssache eingestuftes oder gekennzeichnetes Material an ein Verbraucher-Werkzeug.
3. 3Anonymisieren Sie Bürgerkennungen vor jedem Prompt, unabhängig vom Werkzeug.
4. 4Nutzen Sie nur die Werkzeuge, die Ihre Behörde genehmigt oder abgesichert hat.
5. 5Halten Sie eine benannte Person für jede Entscheidung verantwortlich, die einen Menschen betrifft.

Genau dafür ist ONYRI Sanitize da. Die Engine erkennt sensible Daten — Namen, Identitätsnummern, Fallreferenzen, Adressen, Kontaktdaten — und ersetzt sie vor dem Senden durch umkehrbare Token. Die Erkennung und das Mapping bleiben in Ihrem Browser. Nur anonymisierter Text erreicht das Modell. Sie behalten die Hilfe der KI, ohne Daten außerhalb Ihres Perimeters zu verschieben, die der Bürger Ihnen nie anvertrauen wollte.