Verbotene KI-Praktiken: Definition und rechtliche Bedeutung (AI Act / Data Act)

Art. 5 Abs. 1 AI Act unterscheidet acht Verbote: (a) subliminale oder gezielt manipulative Techniken, die erheblichen Schaden verursachen; (b) Ausnutzung von Schwächen aufgrund von Alter, Behinderung oder sozialer/ökonomischer Lage mit erheblichem Schaden; (c) Bewertung oder Klassifizierung von Personen über die Zeit (Social Scoring) mit nachteiliger Behandlung in unzusammenhängenden Kontexten oder unverhältnismäßig zum Verhalten; (d) Risikobewertung einer Person zur Vorhersage der Begehung von Straftaten allein auf Basis von Profiling oder Persönlichkeitsmerkmalen (ausgenommen: Aufdeckung objektivierbarer, eng mit Straftaten verknüpfter Tatsachen); (e) Aufbau oder Erweiterung von Gesichtserkennungsdatenbanken durch untargeted Scraping; (f) Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen (Ausnahmen: Sicherheit oder medizinische Gründe); (g) biometrische Kategorisierung, die auf Rasse, politische Meinungen, Gewerkschaftszugehörigkeit, Religion oder Sexualleben schließen lässt; (h) Echtzeit-RBI im öffentlichen Raum durch Strafverfolgungsbehörden.

Echtzeit-Fernidentifizierung biometrischer Daten durch Strafverfolgungsbehörden ist nicht absolut verboten, unterliegt aber den strengsten Voraussetzungen des AI Act: Sie darf nur zur gezielten Suche nach Opfern bestimmter Verbrechen, zur Verhinderung konkreter, erheblicher und unmittelbarer Lebensgefahr oder Terroranschläge, sowie zur Lokalisierung Verdächtiger bestimmter Katalog-Straftaten eingesetzt werden (Art. 5 Abs. 1 lit. h i.V.m. Abs. 2–5). Jede Maßnahme bedarf vorab einer behördlichen (in der Regel richterlichen) Autorisierung; der Einsatz ist eng begrenzt, zu dokumentieren und nachgelagert zu prüfen. In der Praxis bedeutet das: RBI ist die Ausnahme mit hoher Begründungslast, keine Standardtechnologie.

Verbotene Praktiken (Art. 5) und Hochrisiko-KI (Art. 6 i.V.m. Anhang III) werden oft verwechselt, sind aber unterschiedlich scharf. Verbotene Praktiken dürfen überhaupt nicht eingesetzt werden — es gibt keinen Konformitätsweg. Hochrisiko-KI darf eingesetzt werden, löst aber das volle Pflichtenbündel aus Art. 8–15 aus. Beispiel: Emotionserkennung in einer Schule ist verboten (Art. 5 Abs. 1 lit. f); ein KI-gestütztes Zulassungs- oder Bewertungssystem in Bildungseinrichtungen ist hingegen hochriskant (Anhang III Nr. 3) und damit erlaubt, aber auflagenbehaftet. Diese Unterscheidung ist für jede Praxisentscheidung zentral.

Das AI Omnibus-Paket 2026 fügt ab dem 2. Dezember 2026 ein neuntes Verbot in Art. 5 ein: KI-Systeme, die ohne Zustimmung der abgebildeten Person intime Darstellungen erzeugen (sogenannte „Nudifier-Apps" oder „Deepnude-KI"). Dieses Verbot fällt unter die höchste Sanktionsstufe (Art. 99 Abs. 3: bis 35 Mio. EUR oder 7 %) und ist eine Reaktion auf die massenhafte Verbreitung solcher Tools und den dringenden Persönlichkeitsschutzbedarf. Die Einführung erfolgt in einem eigenständigen Stufenplan (2.12.2026), unabhängig von den übrigen Hochrisiko-Verschiebungen.