Deepfake

Ein Deepfake ist ein künstlich erzeugter oder manipulierter Bild-, Ton- oder Videoinhalt, der wirkliche Personen, Gegenstände, Orte oder Ereignisse so wiedergibt, dass er fälschlich als echt erscheinen kann. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) beschreibt Deepfakes als Verfahren zur Manipulation medialer Identitäten. Der Name verweist auf die tiefen neuronalen Netze, englisch „deep neural networks“, mit denen solche Inhalte hergestellt werden.

Für Gesichter nennt das BSI unter anderem das Face Swapping, bei dem ein Gesicht in eine Aufnahme eingesetzt wird, während Mimik und Blickrichtung der ursprünglichen Person erhalten bleiben, und das Face Reenactment, bei dem Kopf-, Mimik- oder Lippenbewegungen einer Person gesteuert werden. Bei Stimmen unterscheidet es die Sprachsynthese aus Text und die Stimmkonvertierung; auf diesen Verfahren beruht auch der Stimmklon.

Die KI-Verordnung der EU, Verordnung (EU) 2024/1689, bestimmt den Begriff in Art. 3 Nr. 60. Nach Art. 50 Abs. 4 müssen Betreiber eines KI-Systems, das Deepfakes erzeugt oder manipuliert, offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. Ist der Inhalt Teil eines offensichtlich künstlerischen, kreativen, satirischen oder fiktionalen Werks, beschränkt sich die Pflicht auf eine geeignete Offenlegung, die Darstellung und Genuss des Werks nicht beeinträchtigt. Die Vorschrift gilt nach Art. 113 seit dem 2. August 2026 (Stand: Oktober 2026).

Eine digitale Nachbildung ist dagegen das Abbild einer bestimmten Person als Arbeitsmittel einer Produktion, dessen Herstellung und Verwendung etwa in Tarifverträgen geregelt wird. Nicht jede Bearbeitung mit visuellen Effekten ist ein Deepfake; maßgeblich ist der täuschend echte Bezug auf Wirkliches. Die Offenlegungspflicht regelt die Transparenz, nicht die Erlaubnis: Ob eine Person abgebildet werden darf, richtet sich nach anderen Vorschriften, etwa dem Recht am eigenen Bild.