Soziale Bewertung: Definition und rechtliche Bedeutung (AI Act / Data Act)
Die „soziale Bewertung" ist eine der vier klassischen Verbotskategorien des AI Act. Nach Art. 5 Abs. 1 lit. c AI Act ist das Inverkehrbringen, die Inbetriebnahme und die Verwendung von KI zur Bewertung oder Einordnung des Verhaltens natürlicher Personen oder Gruppen über einen Zeitraum hinweg verboten, wenn die soziale Bewertung zu einer oder beiden der folgenden Folgen führt: (i) nachteilige oder ungünstige Behandlung in sozialen Kontexten, die unbegründet oder unverhältnismäßig zu ihrem Verhalten ist, oder (ii) nachteilige Behandlung, die die Würde der betroffenen Personen erheblich beeinträchtigt. Unterschieden wird zwischen Scoring durch öffentliche Stellen (uneingeschränkt verboten) und großen privaten Systemen. Das Verbot gilt seit dem 2. Februar 2025.
Steve Baka
Der Verbotstatbestand (Art. 5 Abs. 1 lit. c)
Art. 5 Abs. 1 lit. c verbietet KI, die das Verhalten natürlicher Personen oder Gruppen über einen Zeitraum hinweg bewertet oder einordnet („soziale Bewertung"), soweit die Bewertung zu nachteiliger/ungünstiger Behandlung in sozialen Kontexten führt, die unbegründet oder unverhältnismäßig zum Verhalten ist, oder zu nachteiliger Behandlung, die die Menschenwürde erheblich beeinträchtigt. Tatbestandsmerkmale sind: Bewertung über die Zeit, sozialer Kontext, Unverhältnismäßigkeit/Unbegründetheit oder Würdeverletzung. Reine zulässige Risikobewertungen (z. B. Bonitätsprüfung nach Anhang III Nr. 5) fallen nicht darunter — die Abgrenzung zur Kreditwürdigkeit ist in der Praxis zentral.
Abgrenzung zu zulässigen Bewertungssystemen
Nicht jedes Scoring ist verboten. Hochriskant (nicht verboten) bleibt die Kreditwürdigkeitsprüfung natürlicher Personen nach Anhang III Nr. 5, die Bonitätsprüfung zu Betrugsbekämpfung, die versicherungstechnische Risikobewertung (jeweils mit Pflichten nach Art. 8–15). Verboten ist die generalisierende Verhaltensbewertung in sozialen Kontexten, die zu unverhältnismäßigen Nachteilen führt — etwa wenn „Punkte" für alltägliches Verhalten über Sozialleistungen, Wohnungszugang oder Beschäftigung entscheiden. Die Abgrenzung läuft über das Merkmal der Unverhältnismäßigkeit/Unbegründetheit und der Würdebeeinträchtigung.
Frist und Sanktionen
Das Verbot gilt seit dem 2. Februar 2025 (Art. 113) — eine der frühsten Anwendbarkeiten des AI Act. Verstöße ziehen die höchste Sanktionsstufe nach sich: bis zu 35 Mio. EUR oder 7 % des weltweiten Jahresumsatzes (Art. 99 Abs. 3). Neben Bußgeldern kommen Abhilfeanordnungen, Rücknahme und die Untersagung des Inverkehrbringens in Betracht. Für betroffene Personen bestehen Beschwerderechte (Art. 85) und ein Recht auf Erläuterung (Art. 86).
Quellen
Amtsblatt der Europäischen Union. Verbindlicher Primärtext des EU AI Act.
EU AI OfficeEuropäische Kommission. Zentrale EU-Behörde für AI-Act-Durchsetzung und GPAI-Aufsicht.
Verordnung (EU) 2023/2854 (Data Act) — EUR-LexAmtsblatt der Europäischen Union. Verbindlicher Primärtext des EU Data Act.
Datenschutz-Grundverordnung (DSGVO) — EUR-LexAmtsblatt der Europäischen Union. Verbindlicher Primärtext der DSGVO.
AI Act — konsolidierter Lesetext (ai-act-law.eu)Future of Life Institute / Konsortium. Artikelgenaue, inoffiziell-konsolidierte Darstellung des AI Act.
European Data Protection Supervisor (EDPS)EDPS. EU-Datenschutzaufsicht; Stellungnahmen zum AI Act.
European Data Protection Board (EDPB)EDPB. EU-Datenschutzgremium mit KI-Leitlinien.
EU AI PactEuropäische Kommission. Freiwillige Frühumsetzung des AI Act.
Council of Europe Framework Convention on AICouncil of Europe. Erstes völkerrechtliches Abkommen zu KI.
Häufige Fragen
Ist KI-Scoring immer verboten?
Nein. Verboten ist nur die soziale Bewertung in sozialen Kontexten mit unverhältnismäßigen/würdeverletzenden Nachteilen (Art. 5 Abs. 1 lit. c). Kreditwürdigkeitsprüfung ist hochriskant (Anhang III Nr. 5), nicht verboten.
Gilt das Verbot nur für Behörden?
Die Praxis trifft vor allem öffentliche Stellen und groß angelegte private Systeme. Der Wortlaut des Art. 5 erfasst KI, die zu den genannten nachteiligen Folgen führt, unabhängig vom Betreiber.
Seit wann gilt das Verbot?
Seit dem 2. Februar 2025 (Art. 113) — eine der frühesten Anwendbarkeiten des AI Act. Höchste Bußgeldstufe bis 35 Mio. EUR / 7 % Umsatz (Art. 99 Abs. 3).
Du willst EU AI Act und Data Act praktisch umsetzen?
Ich helfe dir, aus Konzepten, Pflichten, Use-Cases und Nachweisen ein Compliance-System zu bauen, das für Menschen verständlich und für Aufsichten nachvollziehbar ist.