Ausnutzung alters- oder behinderungsbedingter Schwächen: Risikoklasse und Pflichten im EU-KI-Recht
KI, die die Schwächen einer bestimmten Gruppe aufgrund von Alter, Behinderung oder einer bestimmten sozialen/wirtschaftlichen Lage gezielt ausnutzt, um das Verhalten einer Person dieser Gruppe erheblich zu verzerren und dadurch erheblichen Schaden zu verursachen, ist nach Art. 5 Abs. 1 lit. b AI Act VERBOTEN (seit 2. Februar 2025). Tatbestandsmerkmale: zielgerichtete Ausnutzung einer groupspezifischen Schwäche + erhebliche Verhaltensverzerrung + erheblicher Schaden. Geschützt sind Kinder, alte Menschen, Menschen mit Behinderungen, wirtschaftlich Abhängige. Typische Fallgruppen: suchtfördernde Spiele für Kinder, aggressive Kredit-/Scoringwerbung bei Überschuldeten, manipulative Gesundheitswerbung bei chronisch Kranken. Höchste Sanktion: bis 35 Mio. EUR / 7 % Umsatz (Art. 99 Abs. 3).
Steve Baka
Der Verbotstatbestand
Art. 5 Abs. 1 lit. b verbietet KI, die Schwächen einer bestimmten Gruppe aufgrund ihres Alters, einer Behinderung oder einer bestimmten sozialen/wirtschaftlichen Lage gezielt ausnutzt, um das Verhalten einer Person dieser Gruppe erheblich zu verzerren und diese oder Dritte erheblich zu schädigen. Kumulative Elemente: (1) zielgerichtete Ausnutzung einer groupspezifischen Schwäche (Alter, Behinderung, sozial/wirtschaftlich), (2) erhebliche Verhaltensverzerrung, (3) erheblicher Schaden. Vorsatz/Wirkungsbezug erforderlich — bloße Nutzersegmentierung ohne Schädigung erfüllt den Tatbestand nicht. Verbot seit dem 2. Februar 2025.
Schutzbereich und Praxisbeispiele
Geschützt: Kinder, alte Menschen, Menschen mit Behinderungen, Personen in besonderen wirtschaftlichen oder sozialen Abhängigkeitslagen (Überschuldete, Pflegebedürftige, Geflüchtete, Berufsanfänger). Beispiele erfasster Praktiken: KI-gestützte Spiele mit Suchtpotenzial für Kinder; aggressive Scoring-/Kreditwerbung bei wirtschaftlich Schwachen; manipulative Gesundheitswerbung bei chronisch Kranken; gezielte Nutzung von Einsamkeits-/Angehörigen-Gefühlen bei Senioren. Die Norm ist eine KI-spezifische Ausprägung des allgemeinen Schutzes vulnerabler Gruppen (Art. 38 GRCh Kinderrechte; AGG; Konsumentenrecht).
Schnittstellen und Durchsetzung
Eng verbunden mit der verbotenen Manipulation (lit. a) — beide regeln die „unfaire Beeinflussung". Schnittstellen: Konsumentenrecht (Richtlinie über unlautere Geschäftspraktiken 2005/29/EG), Jugendmedienschutz (JMStV), DSGVO (besondere Schutzbedürftigkeit bei Kinderdaten, Art. 8), DSA (Schutz Minderjähriger auf Plattformen). Aufsichtlich wirken Marktüberwachungsbehörden, Verbraucherschutzbehörden, AI Office. Höchste Sanktion (Art. 99 Abs. 3): bis 35 Mio. EUR / 7 % Umsatz. Die Durchsetzung profitiert von der Kombination AI Act + Konsumenten-/Jugendschutzrecht, die bei gezielter Ausbeutung vulnerabler Gruppen parallel greifen. Eine konservative Designausrichtung am Schutz vulnerabler Gruppen ist ratsam.
Quellen
Amtsblatt der Europäischen Union. Verbindlicher Primärtext des EU AI Act (konsolidierte Fassung).
EU AI OfficeEuropäische Kommission. Zentrale EU-Behörde für AI-Act-Durchsetzung, GPAI-Aufsicht und Leitlinien.
Verordnung (EU) 2023/2854 (Data Act) — EUR-LexAmtsblatt der Europäischen Union. Verbindlicher Primärtext des EU Data Act zur Datenweitergabe an verbundenen Produkten.
Datenschutz-Grundverordnung (DSGVO) — EUR-LexAmtsblatt der Europäischen Union. Verbindlicher Primärtext der DSGVO; maßgeblich für KI-Verarbeitung personenbezogener Daten.
AI Act — konsolidierter Lesetext (ai-act-law.eu)Future of Life Institute / Konsortium. Breit genutzte inoffiziell-konsolidierte, artikelgenaue Darstellung des AI Act.
European Data Protection Supervisor (EDPS)EDPS. EU-Datenschutzaufsicht; Stellungnahmen zum AI Act und Schnittstelle KI/Datenschutz.
European Data Protection Board (EDPB)EDPB. Gremium der EU-Datenschutzbehörden mit Leitlinien zur KI-Verarbeitung.
EU AI PactEuropäische Kommission. Freiwillige Frühumsetzung des AI Act; Indikator für Markterwartungen.
Bundesamt für Sicherheit in der Informationstechnik (BSI)BSI. IT-Sicherheitsbehörde Deutschland; relevant für Cybersecurity-Pflichten des AI Act und CRA/NIS2.
Datenschutzkonferenz (DSK)DSK. Zusammenschluss der deutschen Aufsichtsbehörden; Orientierungshilfen auch zu KI.
Der Bundesbeauftragte für Datenschutz (BfDI)BfDI. Bundesweiter Datenschutzbeauftragter Deutschland.
Rat für Künstliche Intelligenz (Österreich)Bundesministerium AT. Beratendes Gremium und Ministerium für KI-Politik in Österreich.
Eidgenössischer Datenschutz- und Öffentlichkeitsbeauftragter (EDÖB)EDÖB / FDPIC. Schweizer Datenschutzbehörde; Bezug zu EU-KI-Recht für die Schweiz.
Cyber Resilience Act (VO (EU) 2024/2847) — EUR-LexAmtsblatt der Europäischen Union. Schnittstellen-Rechtsakt zur Cybersicherheit von Produkten mit digitalen Elementen (KI-relevant).
Richtlinie (EU) 2022/2555 (NIS2) — EUR-LexAmtsblatt der Europäischen Union. Schnittstellen-Rechtsakt zu IT-Sicherheitsanforderungen für kritische Sektoren.
Häufige Fragen
Welche Gruppen sind geschützt?
Personen aufgrund Alters, Behinderung oder sozialer/wirtschaftlicher Lage (Art. 5 Abs. 1 lit. b) — Kinder, alte Menschen, Menschen mit Behinderungen, wirtschaftlich Abhängige.
Wann ist die Schwelle überschritten?
Bei gezielter Ausnutzung der Schwäche + erheblicher Verhaltensverzerrung + erheblichem Schaden. Bloße Nutzersegmentierung reicht nicht — Vorsatz/Wirkungsbezug nötig.
Welche Sanktionen drohen?
Höchste Stufe bis 35 Mio. EUR / 7 % Umsatz (Art. 99 Abs. 3). Ergänzend Konsumentenrecht, Jugendmedienschutz, DSGVO (Kinderdaten Art. 8), DSA.
Rechtskonforme Umsetzung für Ausnutzung alters- oder behinderungsbedingter Schwächen?
Wenn du Ausnutzung alters- oder behinderungsbedingter Schwächen rechtskonform einführen oder prüfen willst, entwickle ich mit dir die passende Compliance-Strategie — von der Risikoklassifizierung bis zum Nachweis.