KI-Bildgenerierung: Risikoklasse und Pflichten im EU-KI-Recht

Art. 50 Abs. 4 verpflichtet Anbieter, dafür zu sorgen, dass veröffentlicht verbreitete KI-Inhalte, die die Realität abbilden (insbesondere Bilder und Videos), für Menschen erkennbar sind; plus maschinenlesbare Kennzeichnung (Abs. 2). Bei Bildgeneratoren bedeutet das: realitätsabbildende Outputs sind zu kennzeichnen; reine fiktive/kreative Bilder fallen nicht unter die Pflicht (offenkundig kreativ). Keine Konformitätsbewertung, keine CE, keine notifizierte Stelle. Die Pflicht ist informationell; Sanktion bei Verstoß bis 7,5 Mio. EUR / 1 % Umsatz (Art. 99 Abs. 5). Praktisch: der Anbieter stellt Metadaten-Watermarking bereit; Plattformen und Nutzer müssen die Kennzeichnung beim Veröffentlichen berücksichtigen. Gültig ab dem 2. August 2026.

Zwei Dimensionen: (1) Trainingsdaten — Bildgeneratoren werden oft auf großen, urheberrechtlich geschützten Bilddatensätzen (LAION, Web-Scraping) trainiert. Die DSM-Richtlinie (Art. 4) erlaubt Text-and-Data-Mining mit Opt-out (Machine-Readable Reservation); Künstler können also dem Mining widersprechen. Der AI Act verlangt von GPAI-Anbietern eine urheberrechtsbasierte Trainingsdaten-Zusammenfassung (Art. 53 Abs. 1 lit. d). (2) Outputs — KI-generierte Bilder sind nach vielen nationalen Rechten mangels menschlicher Schöpfung nicht urheberrechtlich geschützt; können aber urheberrechtsverletzend sein, wenn sie im Stil geschützter Werke/Personen erzeugt werden. Eine klare Dokumentation der Trainingsdatennachweise und der Opt-out-Berücksichtigung schützt im Streitfall.

Schädliche realitätsabbildende Bilder (z. B. Gesichter echter Personen in kompromittierenden Kontexten, „Deepfake-Pornografie") haben über die Kennzeichnung hinausgehende Rechtsfolgen: allgemeines Persönlichkeitsrecht, Recht am eigenen Bild (KUG), Unterlassungs- und Schadensersatzansprüche; Strafrecht (Verleumdung, Betrug, Erpressung, Verbreitung von Bildern in § 184 StGB); Urheberrecht bei Nachahmung geschützter Werke. Die revidierte Produkthaftungsrichtlinie (2024/2853) und die AI Liability Directive erweitern die zivilrechtliche Haftung für KI-Schäden. Anbieter kommerzieller Bildgeneratoren sollten: Opt-out-Respektierung, Inhaltsrichtlinien, Mechanismen gegen missbräuchliche Nutzung (z. B. Gesichterfilter, Minderjährigenschutz), und klare Kennzeichnung implementieren.