Ausnutzung von Schwächen: Definition und rechtliche Bedeutung (AI Act / Data Act)

Art. 5 Abs. 1 lit. b verbietet KI, die Schwächen einer bestimmten Gruppe aufgrund ihres Alters, einer Behinderung oder einer bestimmten sozialen/wirtschaftlichen Lage gezielt ausnutzt, um das Verhalten einer Person dieser Gruppe erheblich zu verzerren, mit der Folge erheblicher Schädigung der Person oder Dritter. Tatbestandsmerkmale: (1) zielgerichtete Ausnutzung einer groupspezifischen Schwäche (Alter, Behinderung, sozial/wirtschaftlich), (2) erhebliche Verhaltensverzerrung, (3) erheblicher Schaden. Der Vorsatz/Wirkungsbezug muss gegeben sein — bloße Nutzersegmentierung ohne Schädigungsfolge erfüllt den Tatbestand nicht.

Der Schutzbereich umfasst explizit Kinder, alte Menschen, Menschen mit Behinderungen und Personen in besonderen wirtschaftlichen oder sozialen Abhängigkeitslagen (z. B. Überschuldete, Pflegebedürftige, Geflüchtete). Typische Fallgruppen: KI-gestützte Spiele mit Suchtpotenzial für Kinder, aggressive Scoring-/Kreditwerbung bei wirtschaftlich Schwachen, manipulative Gesundheitswerbung bei chronisch Kranken. Die Norm ist eine KI-spezifische Ausprägung des allgemeinen Schutzes vulnerabler Gruppen (vgl. Art. 38 GRCh: Kinderrechte; AGG; Konsumentenrecht).

Das Verbot gilt seit dem 2. Februar 2025 (Art. 113) und ist mit bis zu 35 Mio. EUR / 7 % Umsatz (Art. 99 Abs. 3) die höchste Sanktionsstufe. Eng verbunden ist es mit der verbotenen Manipulation (lit. a) — beide regeln die „unfaire Beeinflussung". Schnittstellen bestehen zum Konsumentenrecht (Richtlinie über unlautere Geschäftspraktiken), zum Jugendmedienschutz, zur DSGVO (besondere Schutzbedürftigkeit von Kinderdaten, Art. 8) und zum DSA (Schutz Minderjähriger auf Plattformen). Aufsichtlich wirken Marktüberwachungsbehörden, Verbraucherschutzbehörden und das AI Office zusammen.