Deepfake: Definition und rechtliche Bedeutung (AI Act / Data Act)

Art. 3 Nr. 60 definiert „Deepfake" als ein von einem KI-System erzeugtes oder verändertes Bild, Audio- oder Videoinhalt, das ein bestehendes Gesicht einer Person, ein bestehendes Objekt, einen bestehenden Ort, ein bestehendes Ereignis oder eine bestehende Person abbildet und für eine andere Person echt oder wahr wirken würde. Entscheidend ist die authentisch erscheinende Abbildung einer bestehenden Realität — reine fiktive KI-Bilder ohne Realitätsbezug fallen in der Regel nicht unter die Kennzeichnungspflicht nach Art. 50 Abs. 4.

Art. 50 Abs. 4 verpflichtet Anbieter, dafür zu sorgen, dass veröffentlicht verbreitete KI-Inhalte, die die Realität abbilden (insbesondere Deepfakes), für Menschen erkennbar sind. Zudem müssen KI-generierte Inhalte maschinenlesbar gekennzeichnet sein (Art. 50 Abs. 2, mit den vom Anbieter bereitgestellten technischen Mitteln). Ausgenommen sind Inhalte, die Teil evident künstlerischer, kreativer, fiktiver, satirischer oder analoger Werke sind — sofern dies transparent gemacht wird. Für die Praxis heißt das: Politische oder täuschende Deepfakes sind kennzeichnungspflichtig; Satire bleibt möglich, muss aber gekennzeichnet werden.

Verstöße gegen die Art. 50-Kennzeichnungspflicht sind nach Art. 99 Abs. 5 mit bis zu 7,5 Mio. EUR / 1 % Umsatz sanktionierbar. Im politischen Raum und bei Wahlen berührt die Deepfake-Kennzeichnung zusätzlich den DSA (Art. 34/35 Risikobewertung großer Plattformen, Art. 24a Transparenz politischer Werbung) und den EU Code of Practice on Disinformation. Schädliche Deepfakes können auch zivilrechtliche (Persönlichkeitsrecht, Unterlassung) und strafrechtliche Folgen haben.