Emotionserkennung: Definition und rechtliche Bedeutung (AI Act / Data Act)

Art. 5 Abs. 1 lit. f AI Act verbietet das Inverkehrbringen, die Inbetriebnahme und die Verwendung von KI zur Schlussfolgerung von Emotionen natürlicher Personen am Arbeitsplatz und in Bildungseinrichtungen. Ausgenommen sind KI-Systeme, die aus Sicherheitsgründen oder für medizinische Zwecke eingesetzt werden (z. B. Erkennung von Erschöpfung bei Sicherheitspersonal, medizinische Diagnostik). Das Verbot gilt seit dem 2. Februar 2025 und ist mit bis zu 35 Mio. EUR / 7 % Umsatz (Art. 99) die höchste Sanktionsstufe.

Außerhalb der verbotenen Kontexte kann Emotionserkennung hochriskant sein: Anhang III Nr. 1 erfasst biometrische Systeme, darunter auch Emotionserkennung, sofern sie biometrische Daten verarbeitet und nicht unter Art. 5 fällt. Solche Systeme unterliegen dem Pflichtenbündel aus Art. 8–15 und fallen als biometrische Hochrisiko-KI unter Art. 43 Abs. 1 — notifizierte Stelle nur zwingend, wenn keine harmonisierten Standards angewendet werden.

Art. 50 Abs. 3 verpflichtet Anbieter/Betreiber, Personen über den Einsatz von Emotionserkennung zu informieren (ab 2. August 2026). Der Begriff ist in Art. 3 Nr. 39 legaldefiniert: Eine Technik, die Schlüsse aus biometrischen Daten über Emotionen oder Absichten zieht. Reine Auswertung explizit geäußerter Aussagen (z. B. Textanalyse ohne biometrische Merkmale) fällt nicht unter die Legaldefinition — eine Abgrenzung, die in der Praxis entscheidend ist.