Manipulative Beeinflussung: Definition und rechtliche Bedeutung (AI Act / Data Act)

Art. 5 Abs. 1 lit. a verbietet KI, die subliminale Techniken jenseits der Bewusstseinsschwelle oder gezielt manipulative Techniken einsetzt, um das Verhalten einer Person erheblich zu verzerren und dadurch eine erhebliche Schädigung der Person oder einer dritten Person zu verursachen. Drei Elemente müssen kumulativ vorliegen: (1) subliminale oder gezielt manipulative Technik, (2) erhebliche Verhaltensverzerrung, (3) erheblicher Schaden. Fehlt eines davon, ist die KI nicht nach lit. a verboten. Der Begriff der „subliminalen" Technik erfordert, dass die Beeinflussung der bewussten Wahrnehmung entzogen ist.

Normale Werbung, Empfehlungsalgorithmen und Personalisierung sind nicht per se verboten. Das Verbot greift erst bei der Schwelle der erheblichen, bewusstseinsfernen oder gezielten Manipulation mit Schadensfolge. Recommender-Systeme fallen in der Regel unter KI mit begrenztem Risiko (Art. 50, Transparenz) oder minimalem Risiko. Dunkle Pattern, die zum konkreten Schaden (z. B. ungewollte Vertragsabschlüsse, Suchtentwicklung) führen, können hingegen den Tatbestand erfüllen. Die Abgrenzung ist einzelfallbezogen und eine der schwierigsten questions der Praxis.

Das Verbot gilt seit dem 2. Februar 2025 (Art. 113). Verstöße sind mit der höchsten Sanktionsstufe von bis zu 35 Mio. EUR oder 7 % des weltweiten Jahresumsatzes (Art. 99 Abs. 3) belegt, außerdem mit Abhilfeanordnungen und Untersagung. Die Durchsetzung ist anspruchsvoll, weil Subliminalität und Schadenskausalität schwer nachzuweisen sind — in der Praxis liegt der Schwerpunkt auf konsumentenrechtlichen Aufsichten und Plattformregulierung (DSA), die bei manipulativen Mustern ergänzend eingreifen.