KI-gestützte soziale Bewertung durch öffentliche Stellen: Risikoklasse und Pflichten im EU-KI-Recht
KI zur Bewertung oder Einordnung des Verhaltens von Personen über die Zeit, die durch öffentliche Stellen zu unverhältnismäßigen oder würdeverletzenden Nachteilen führt, ist nach Art. 5 Abs. 1 lit. c AI Act VERBOTEN. Der Tatbestand erfasst ein generalisierendes Verhaltens-Scoring im sozialen Kontext („Social Scoring"), das zu Nachteilen führt, die unbegründet/unverhältnismäßig zum Verhalten sind oder die Menschenwürde erheblich beeinträchtigen. Vorbild war die Kritik an staatlichem Scoring. Das Verbot gilt seit dem 2. Februar 2025. Höchste Sanktion: bis 35 Mio. EUR / 7 % Umsatz (Art. 99 Abs. 3). Nicht erfasst: zulässige Risikobewertungen wie Bonitätsprüfung (hochriskant nach Anhang III Nr. 5).
Steve Baka
Der Verbotstatbestand (Art. 5 Abs. 1 lit. c)
Art. 5 Abs. 1 lit. c verbietet KI zur Bewertung/Einordnung des Verhaltens natürlicher Personen oder Gruppen über die Zeit („soziale Bewertung"), wenn dies zu nachteiliger/ungünstiger Behandlung in sozialen Kontexten führt, die unbegründet oder unverhältnismäßig zu ihrem Verhalten ist, oder zu nachteiliger Behandlung, die die Menschenwürde erheblich beeinträchtigt. Tatbestandsmerkmale: Verhaltensbewertung über Zeit + sozialer Kontext + Unverhältnismäßigkeit/Unbegründetheit oder Würdeverletzung. Der Schwerpunkt liegt auf systemischem Scoring durch öffentliche Stellen und groß angelegten privaten Systemen.
Beispiele und Praxis
Verbotene Praxisbeispiele: staatliche „Punkte" für alltägliches Verhalten, die über Sozialleistungen, Wohnungszugang, Beschäftigung oder Reiseerlaubnis entscheiden; aggregierte Verhaltens-Scores, die Personen ohne nachvollziehbaren Grund benachteiligen; Koppelung unverwandter Lebensbereiche (Konsumverhalten bestimmt Visum). Nicht erfasst: Bonitätsprüfung (Anhang III Nr. 5), Versicherungsrisiko-Bewertung, Betrugs-Scores — diese sind hochriskant, nicht verboten. Die Abgrenzung läuft über das Merkmal der Unverhältnismäßigkeit/Unbegründetheit und der Würdebeeinträchtigung.
Durchsetzung und Sanktionen
Das Verbot gilt seit dem 2. Februar 2025 (Art. 113) — eine der frühesten Anwendbarkeiten. Höchste Sanktionsstufe: bis 35 Mio. EUR / 7 % Umsatz (Art. 99 Abs. 3). Beschwerderecht (Art. 85) und Recht auf Erläuterung (Art. 86) stehen Betroffenen zu. Aufsichtlich wirken nationale Marktüberwachungsbehörden und das AI Office. Da öffentliche Stellen betroffen sind, ist die Durchsetzung eine Frage staatlicher Selbstbindung und grundrechtlicher Kontrolle (Verfassungsgerichtsbarkeit).
Quellen
Amtsblatt der Europäischen Union. Verbindlicher Primärtext des EU AI Act (konsolidierte Fassung).
EU AI OfficeEuropäische Kommission. Zentrale EU-Behörde für AI-Act-Durchsetzung, GPAI-Aufsicht und Leitlinien.
Verordnung (EU) 2023/2854 (Data Act) — EUR-LexAmtsblatt der Europäischen Union. Verbindlicher Primärtext des EU Data Act zur Datenweitergabe an verbundenen Produkten.
Datenschutz-Grundverordnung (DSGVO) — EUR-LexAmtsblatt der Europäischen Union. Verbindlicher Primärtext der DSGVO; maßgeblich für KI-Verarbeitung personenbezogener Daten.
AI Act — konsolidierter Lesetext (ai-act-law.eu)Future of Life Institute / Konsortium. Breit genutzte inoffiziell-konsolidierte, artikelgenaue Darstellung des AI Act.
European Data Protection Supervisor (EDPS)EDPS. EU-Datenschutzaufsicht; Stellungnahmen zum AI Act und Schnittstelle KI/Datenschutz.
European Data Protection Board (EDPB)EDPB. Gremium der EU-Datenschutzbehörden mit Leitlinien zur KI-Verarbeitung.
EU AI PactEuropäische Kommission. Freiwillige Frühumsetzung des AI Act; Indikator für Markterwartungen.
Bundesamt für Sicherheit in der Informationstechnik (BSI)BSI. IT-Sicherheitsbehörde Deutschland; relevant für Cybersecurity-Pflichten des AI Act und CRA/NIS2.
Datenschutzkonferenz (DSK)DSK. Zusammenschluss der deutschen Aufsichtsbehörden; Orientierungshilfen auch zu KI.
Der Bundesbeauftragte für Datenschutz (BfDI)BfDI. Bundesweiter Datenschutzbeauftragter Deutschland.
Rat für Künstliche Intelligenz (Österreich)Bundesministerium AT. Beratendes Gremium und Ministerium für KI-Politik in Österreich.
Eidgenössischer Datenschutz- und Öffentlichkeitsbeauftragter (EDÖB)EDÖB / FDPIC. Schweizer Datenschutzbehörde; Bezug zu EU-KI-Recht für die Schweiz.
Cyber Resilience Act (VO (EU) 2024/2847) — EUR-LexAmtsblatt der Europäischen Union. Schnittstellen-Rechtsakt zur Cybersicherheit von Produkten mit digitalen Elementen (KI-relevant).
Richtlinie (EU) 2022/2555 (NIS2) — EUR-LexAmtsblatt der Europäischen Union. Schnittstellen-Rechtsakt zu IT-Sicherheitsanforderungen für kritische Sektoren.
Häufige Fragen
Ist Social Scoring verboten?
Ja. Art. 5 Abs. 1 lit. c AI Act verbietet KI zur sozialen Bewertung mit unverhältnismäßigen/würdeverletzenden Folgen (seit 2. Feb. 2025).
Ist Bonitätsprüfung auch verboten?
Nein. Kreditwürdigkeitsprüfung ist hochriskant nach Anhang III Nr. 5 (nicht verboten), unterliegt aber Art. 8–15 AI Act und Art. 22 DSGVO.
Was droht bei Verstoß?
Höchste Sanktion bis 35 Mio. EUR / 7 % Umsatz (Art. 99 Abs. 3) sowie Abhilfe und Untersagung. Für Betroffene: Beschwerde (Art. 85), Erläuterung (Art. 86).
Rechtskonforme Umsetzung für KI-gestützte soziale Bewertung durch öffentliche Stellen?
Wenn du KI-gestützte soziale Bewertung durch öffentliche Stellen rechtskonform einführen oder prüfen willst, entwickle ich mit dir die passende Compliance-Strategie — von der Risikoklassifizierung bis zum Nachweis.