Manipulative/subliminale Beeinflussung: Risikoklasse und Pflichten im EU-KI-Recht
KI, die subliminale Techniken jenseits der menschlichen Bewusstseinsschwelle oder gezielt manipulative Techniken einsetzt, mit dem Ziel oder der Wirkung einer erheblichen Verzerrung des Verhaltens einer Person, die diese oder Dritte erheblich schädigt, ist nach Art. 5 Abs. 1 lit. a AI Act VERBOTEN (seit 2. Februar 2025). Der Tatbestand verlangt kumulativ: subliminale/gezielte manipulative Technik + erhebliche Verhaltensverzerrung + erheblicher Schaden. Reine Werbung, Empfehlungssysteme und Personalisierung ohne diese Schwelle sind nicht verboten (ggf. begrenzt riskant nach Art. 50). „Dunkle Pattern", die zu ungewollten Vertragsabschlüssen, Suchtentwicklung oder erheblichen finanziellen Verlusten führen, können den Tatbestand erfüllen. Höchste Sanktion: bis 35 Mio. EUR / 7 % Umsatz (Art. 99 Abs. 3).
Steve Baka
Der Verbotstatbestand
Art. 5 Abs. 1 lit. a verbietet KI, die subliminale Techniken über die Bewusstseinsschwelle hinaus oder gezielt manipulative Techniken einsetzt, um das Verhalten einer Person erheblich zu verzerren, mit der Folge einer erheblichen Schädigung der Person oder Dritter. Drei kumulative Elemente: (1) subliminale/gezielt manipulative Technik, (2) erhebliche Verhaltensverzerrung, (3) erheblicher Schaden. „Subliminal" erfordert, dass die Beeinflussung der bewussten Wahrnehmung entzogen ist. „Gezielt manipulativ" erfasst intentionale Designentscheidungen zur Verhaltenssteuerung. „Erheblicher Schaden" umfasst Gesundheit, Sicherheit, finanzielle Verluste, Grundrechte. Verbot seit dem 2. Februar 2025.
Beispiele und Abgrenzung
Erfasste Beispiele: Spiele mit subliminalen Reizen zur Suchtsteigerung; Design, das Nutzer unterhalb der Wahrnehmungsschwelle zu Kaufentscheidungen drängt; zielgerichtete Manipulation vulnerabler Nutzer (z. B. Spielsucht-gefährdete). Nicht erfasst: normale Werbung (auch wenn überzeugend), Recommender-Systeme ohne Bewusstseinsferne, transparente Personalisierung. „Dunkle Pattern" (manipulative UI-Muster) können den Tatbestand erfüllen, wenn sie subliminal sind und erheblichen Schaden verursachen — sonst greifen Konsumenten-/Plattformrecht (Richtlinie 2005/29/EG, DSA). Die Abgrenzung ist einzelfallbezogen und eine der schwierigsten Fragen der Praxis.
Durchsetzung und Schnittstellen
Die Durchsetzung ist anspruchsvoll, weil Subliminalität und Kausalität schwer nachzuweisbar sind. Aufsichtlich wirken Marktüberwachungsbehörden, Verbraucherschutzbehörden, das AI Office und — bei Plattformen — die DSA-Aufsicht. Schnittstellen: Konsumentenrecht (Richtlinie über unlautere Geschäftspraktiken 2005/29/EG), Jugendmedienschutz (JMStV), DSGVO (besondere Schutzbedürftigkeit bei Kinderdaten, Art. 8), DSA (Schutz Minderjähriger). Höchste Sanktion (Art. 99 Abs. 3): bis 35 Mio. EUR / 7 % Umsatz. In der Praxis wird die Norm ergänzt durch die Plattform-/Konsumentenregulierung, die bei manipulativen Mustern eingreift — der AI Act liefert die KI-spezifische Spitzennom.
Quellen
Amtsblatt der Europäischen Union. Verbindlicher Primärtext des EU AI Act (konsolidierte Fassung).
EU AI OfficeEuropäische Kommission. Zentrale EU-Behörde für AI-Act-Durchsetzung, GPAI-Aufsicht und Leitlinien.
Verordnung (EU) 2023/2854 (Data Act) — EUR-LexAmtsblatt der Europäischen Union. Verbindlicher Primärtext des EU Data Act zur Datenweitergabe an verbundenen Produkten.
Datenschutz-Grundverordnung (DSGVO) — EUR-LexAmtsblatt der Europäischen Union. Verbindlicher Primärtext der DSGVO; maßgeblich für KI-Verarbeitung personenbezogener Daten.
AI Act — konsolidierter Lesetext (ai-act-law.eu)Future of Life Institute / Konsortium. Breit genutzte inoffiziell-konsolidierte, artikelgenaue Darstellung des AI Act.
European Data Protection Supervisor (EDPS)EDPS. EU-Datenschutzaufsicht; Stellungnahmen zum AI Act und Schnittstelle KI/Datenschutz.
European Data Protection Board (EDPB)EDPB. Gremium der EU-Datenschutzbehörden mit Leitlinien zur KI-Verarbeitung.
EU AI PactEuropäische Kommission. Freiwillige Frühumsetzung des AI Act; Indikator für Markterwartungen.
Bundesamt für Sicherheit in der Informationstechnik (BSI)BSI. IT-Sicherheitsbehörde Deutschland; relevant für Cybersecurity-Pflichten des AI Act und CRA/NIS2.
Datenschutzkonferenz (DSK)DSK. Zusammenschluss der deutschen Aufsichtsbehörden; Orientierungshilfen auch zu KI.
Der Bundesbeauftragte für Datenschutz (BfDI)BfDI. Bundesweiter Datenschutzbeauftragter Deutschland.
Rat für Künstliche Intelligenz (Österreich)Bundesministerium AT. Beratendes Gremium und Ministerium für KI-Politik in Österreich.
Eidgenössischer Datenschutz- und Öffentlichkeitsbeauftragter (EDÖB)EDÖB / FDPIC. Schweizer Datenschutzbehörde; Bezug zu EU-KI-Recht für die Schweiz.
Cyber Resilience Act (VO (EU) 2024/2847) — EUR-LexAmtsblatt der Europäischen Union. Schnittstellen-Rechtsakt zur Cybersicherheit von Produkten mit digitalen Elementen (KI-relevant).
Richtlinie (EU) 2022/2555 (NIS2) — EUR-LexAmtsblatt der Europäischen Union. Schnittstellen-Rechtsakt zu IT-Sicherheitsanforderungen für kritische Sektoren.
Häufige Fragen
Sind Recommender-Systeme verboten?
Nein, nicht generell. Verboten ist nur subliminale/gezielte Manipulation mit erheblicher Verhaltensverzerrung und Schaden (Art. 5 Abs. 1 lit. a). Normale Werbung/Personalisierung bleibt erlaubt.
Was sind „dunkle Pattern"?
Manipulative UI-Muster, die Nutzer zu ungewollten Handlungen drängen. Sie können den Tatbestand erfüllen, wenn subliminal und mit erheblichem Schaden — sonst Konsumenten-/Plattformrecht.
Welche Sanktionen drohen?
Höchste Stufe bis 35 Mio. EUR / 7 % Umsatz (Art. 99 Abs. 3). Ergänzend greifen Konsumentenrecht, Jugendmedienschutz, DSA, DSGVO.
Rechtskonforme Umsetzung für Manipulative/subliminale Beeinflussung?
Wenn du Manipulative/subliminale Beeinflussung rechtskonform einführen oder prüfen willst, entwickle ich mit dir die passende Compliance-Strategie — von der Risikoklassifizierung bis zum Nachweis.