KI und Mitarbeiterüberwachung: Was das Gesetz wirklich erlaubt

Kurze Antwort: Ein Teil der KI-Überwachung ist verboten, der Rest ist streng geregelt. Seit dem 2. Februar 2025 verbietet der EU AI Act KI-Systeme, die die Emotionen einer Person am Arbeitsplatz ableiten. Die einzigen Ausnahmen sind medizinische oder Sicherheitsgründe. Aber auch der Rest der Überwachung ist kein Freibrief. KI, die im Beschäftigungskontext und in der Personalführung eingesetzt wird, gilt nach Anhang III derselben Verordnung als hochriskant. Und die DSGVO regelt weiterhin jede erhobene Information. Sie brauchen eine Rechtsgrundlage, Erforderlichkeit und Verhältnismäßigkeit. Die Einwilligung eines Mitarbeiters ist selten gültig: Das Machtungleichgewicht macht sie zunichte.

Verboten: KI, die vorgibt, die Emotionen Ihrer Mitarbeiter zu lesen

Artikel 5 des AI Act, der Verordnung (EU) 2024/1689, listet die verbotenen Praktiken auf. Eine davon betrifft KI-Systeme, die die Emotionen einer natürlichen Person am Arbeitsplatz ableiten. Bildungseinrichtungen sind auf dieselbe Weise erfasst. Artikel 3 Nummer 39 definiert diese Systeme: Sie erkennen oder leiten Emotionen oder Absichten aus biometrischen Daten ab. Das Gesicht. Die Stimme. Körpersignale.

Dieses Verbot gilt seit dem 2. Februar 2025. Es ist nicht theoretisch. Ein Verstoß gegen Artikel 5 fällt in die höchste Bußgeldstufe der Verordnung. Es kann 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes erreichen. Es gilt der höhere der beiden Beträge. Die Europäische Kommission hat Anfang Februar 2025 unverbindliche Leitlinien verabschiedet, um zu erläutern, wie die Verbote auszulegen sind.

Die Reichweite verdient Präzision. Das Verbot erfasst das Ableiten von Emotionen aus biometrischen Daten. Das Erkennen eines körperlichen Zustands wie Schmerz oder Müdigkeit unterliegt einer anderen Regelung. Es gibt Ausnahmen aus medizinischen und Sicherheitsgründen: etwa ein Müdigkeitserkennungssystem für einen Fahrer oder einen Maschinenführer. Aber ein Werkzeug, das damit beworben wird, die Stimmung, den Stress oder die Aufrichtigkeit eines Mitarbeiters aus seinem Gesicht abzulesen, fällt unter das Verbot. „Sicherheit“ ist eine enge Ausnahme, kein Freibrief, die Stimmung der Teams zu bewerten.

Ein geografischer Hinweis ist wichtig. Dieses Verbot ist europäisch. Es gilt nicht im Vereinigten Königreich. Britische Arbeitgeber unterliegen der UK-DSGVO und der Leitlinie der ICO. Die ICO verbietet die Emotionserkennung nicht rundweg. Aber sie macht sie sehr schwer zu rechtfertigen: Biometrische Daten sind Daten besonderer Kategorien, eine DSFA ist erforderlich, und die Einwilligung ist unzuverlässig. Umgekehrt ist ein EU-Konzern, der ein solches System bei seinen EU-Mitarbeitern einsetzt, erfasst, egal wo der Anbieter sitzt.

Hochriskant: HR-KI ist nicht verboten, sie ist reguliert

Anhang III Nummer 4 des AI Act stuft KI, die im Beschäftigungskontext und in der Personalführung eingesetzt wird, als hochriskant ein. Vier Anwendungsfälle werden genannt.

• Rekrutierung und Auswahl: gezielte Stellenanzeigen, Filterung von Bewerbungen, Bewertung von Kandidaten.
• Entscheidungen über die Bedingungen des Arbeitsverhältnisses, Beförderung oder Beendigung.
• Zuweisung von Aufgaben auf Grundlage des individuellen Verhaltens oder persönlicher Merkmale.
• Überwachung und Bewertung der Leistung und des Verhaltens von Arbeitnehmern.

Hochriskant bedeutet nicht verboten. Es bedeutet Pflichten. Risikomanagement. Daten-Governance. Protokollierung. Wirksame menschliche Aufsicht. Transparenz gegenüber den Organisationen, die das System einsetzen. Information für die betroffenen Arbeitnehmer.

Der Zeitplan hat sich 2026 verschoben. Diese Pflichten sollten ab dem 2. August 2026 gelten. Das „Digital Omnibus“-Paket der EU verschiebt sie für eigenständige Systeme des Anhangs III auf den 2. Dezember 2027. Die politische Einigung kam am 7. Mai 2026 zustande. Das Parlament billigte sie am 16. Juni 2026, und der Rat stimmte am 29. Juni 2026 zu. Die Transparenzpflichten des Artikels 50 beginnen weiterhin am 2. August 2026. Und noch einmal: Die Verbote des Artikels 5 wurden nicht verschoben.

Die DSGVO regelt die Daten, ganz gleich mit welchem Werkzeug

Überwachung bedeutet Verarbeitung personenbezogener Daten. Die DSGVO, Verordnung (EU) 2016/679, verlangt eine Rechtsgrundlage (Artikel 6). Die Verarbeitung muss erforderlich und verhältnismäßig bleiben. Biometrische und Gesundheitsdaten sind Daten besonderer Kategorien: Sie benötigen zusätzlich eine Bedingung nach Artikel 9. Und eine vollständig automatisierte Entscheidung, die den Arbeitsplatz einer Person betrifft, fällt unter Artikel 22.

Die Einwilligung eines Mitarbeiters ist eine Falle. Die ICO sagt es unmissverständlich. Sie ist im Beschäftigungskontext in der Regel nicht angemessen, wegen des Machtungleichgewichts. Ein Arbeitnehmer fühlt sich selten frei, Nein zu sagen. Die meisten Arbeitgeber greifen daher auf das berechtigte Interesse zurück. Diese Grundlage verlangt eine Abwägungsprüfung, schriftlich festgehalten und dokumentiert.

Die Folgenabschätzung kommt vor dem Einsatz, nicht nach der Beschwerde. Artikel 35 der DSGVO verlangt eine DSFA (Datenschutz-Folgenabschätzung), wenn das Risiko für die Personen hoch ist. Die systematische Überwachung ist der klassische Auslöser. Die ICO nennt aufschlussreiche Beispiele: biometrische Daten von Arbeitnehmern, Protokollierung von Tastenanschlägen und Überwachung, die einen finanziellen Verlust verursachen könnte. Das Verfahren schließt die Konsultation der Arbeitnehmer selbst ein.

Transparenz: Die verdeckte Überwachung ist die Ausnahme

Die ICO ist die Datenschutzbehörde des Vereinigten Königreichs. Ihre Leitlinie zur Überwachung von Arbeitnehmern setzt einen einfachen Grundsatz. Arbeitnehmer haben das Recht, informiert zu werden. Die Information muss zugänglich und leicht verständlich sein. Außer in sehr außergewöhnlichen Umständen muss der Arbeitgeber sagen, was er überwacht.

Eine verdeckte Überwachung ist weiterhin möglich, aber die ICO hält sie für kaum rechtfertigbar. Wo sie eingesetzt wird, ist sie streng begrenzt.

• Eine Genehmigung durch die Geschäftsleitung.
• Eine zuvor durchgeführte Datenschutz-Folgenabschätzung.
• Gründe für den Verdacht einer kriminellen Handlung oder eines gleichwertigen Verhaltens wie schweres Fehlverhalten.
• Die kürzestmögliche Dauer.
• Keine verdeckten Audio- oder Videoaufnahmen dort, wo Arbeitnehmer vernünftigerweise Privatsphäre erwarten: Toiletten, Umkleideräume.
• Keine Erfassung von Kommunikation, die Arbeitnehmer vernünftigerweise für privat halten dürfen.

„Wir können es protokollieren“ heißt nicht „wir dürfen es analysieren“

Das ist der Kern der Sache. Die technische Fähigkeit schafft kein Recht. Die ICO sagt es unmissverständlich: Nur weil eine Form der Überwachung existiert, ist sie noch nicht die richtige. Der Arbeitgeber muss den Zweck klar benennen. Anschließend muss er das am wenigsten eingreifende Mittel wählen, um ihn zu erreichen.

Das eigene Beispiel der ICO sagt alles. Einige remote arbeitende Mitarbeiter erfassen ihre Anfangszeiten falsch. Der Arbeitgeber führt daraufhin eine Webcam-Erfassung im gesamten Team ein. Für die ICO ist diese Reaktion wahrscheinlich übertrieben. Der Eingriff muss gegen den tatsächlichen Nutzen abgewogen werden. Und Arbeitnehmer können Zugang zu den personenbezogenen Daten verlangen, die die Überwachung erzeugt.

Die Schritte, die zu gehen sind

Für Arbeitgeber zählt die Reihenfolge der Schritte mehr als das gewählte Werkzeug.

1. 1Führen Sie die Folgenabschätzung vor dem Einsatz durch, niemals nach der Beschwerde.
2. 2Bestimmen Sie eine Rechtsgrundlage, die nicht die Einwilligung des Mitarbeiters ist.
3. 3Sagen Sie den Arbeitnehmern, was Sie überwachen, warum und wie lange.
4. 4Wählen Sie die am wenigsten eingreifende Option, die das Ziel tatsächlich erreicht.
5. 5Setzen Sie niemals Emotionserkennung bei Ihren Mitarbeitern ein.
6. 6Behalten Sie bei jeder Entscheidung, die einen Arbeitsplatz betrifft, einen kompetenten Menschen im Entscheidungsprozess.
7. 7Planen Sie voraus: HR-KI ist hochriskant, mit Pflichten, die am 2. Dezember 2027 greifen.

Für Arbeitnehmer sind die Rechte konkret. Sie haben das Recht, über die Überwachung informiert zu werden (Artikel 12 bis 14 der DSGVO). Sie können Zugang zu den personenbezogenen Daten verlangen, die sie erzeugt (Artikel 15). Und in der EU ist KI, die vorgibt, Ihre Emotionen am Arbeitsplatz zu lesen, heute verboten.

Ein blinder Fleck bleibt, und er ist häufig. Viele Arbeitgeber leiten heute Texte über ihre Mitarbeiter in ein externes LLM. Jährliche Beurteilungen. HR-Notizen. Interne Tickets. Der Arbeitgeber bleibt der Verantwortliche, mit jeder daran geknüpften DSGVO-Pflicht. Genau hier setzt ONYRI Sanitize an. Der Motor erkennt Namen, E-Mail-Adressen, Kennungen und sensible Daten und ersetzt sie vor dem Senden durch umkehrbare Token. Die Erkennung und das Mapping bleiben in Ihrem Browser. Das Modell sieht nur Token, niemals Ihre Mitarbeiter.