Deepfakes - Wie sie entstehen und wie wir sie erkennen.

2023 machte ein Bild des Papstes in weißer Daunenjacke weltweit Schlagzeilen. Viele hielten es zunächst für echt.¹  Tatsächlich wurde es von einer KI-Anwendung generiert.²  Doch nicht alle Deepfakes sind harmlos. Sie werden auch für politische Desinformation oder Cybermobbing genutzt. Durch technischen Fortschritt und einfachere Anwendungen geschieht das immer häufiger. Wie Deepfakes entstehen, wofür sie genutzt werden und welche Risiken sie bergen, erfahren Sie hier.
 

Deepfakes sind Bild-, Ton- oder Videoaufnahmen, die täuschend echt wirken, aber mit KI generiert wurden. Dafür benötigt die KI lediglich eine Stimmaufnahme, Bilder oder Videos einer Person.³ So kann diese Person in einen völlig neuen Zusammenhang gesetzt werden. Gibt es von der betreffenden Person genug Material im Internet, etwa bei Schauspielerinnen und Schauspielern, reicht sogar eine einfache Textanweisung.
 

Humor & Satire: Besonders für Medienunerfahrene besteht das Risiko, gefälschte Inhalte für echt zu halten.⁴ Immer wieder werden satirische Deepfakes als vermeintlich wahre Nachrichten verbreitet.

• Desinformation: Manipulierte Inhalte, die gezielt zur Täuschung erstellt werden. Sie verbreiten sich oft schneller als echte Nachrichten.⁵
• Liar’s Dividend: Wer Deepfake-Vorwürfe erhebt, kann selbst echte Inhalte infrage stellen.^5,6,7
• Dies alles kann das Vertrauen in etablierte Medien untergraben. Es gibt aber auch noch weitere Bereiche.
• Pornografie: 98 % aller Deepfakes sind pornografischer Natur – und in 99 % der Fälle sind Frauen betroffen.⁸
• Cybermobbing: Per Face Swap wird das Gesicht der Betroffenen in pornografische Inhalte montiert. Dies betrifft Lehrerende und Schülerinnen und Schüler. Durch den Sexting-Trend wirken solche Fakes auch bei nicht teilnehmenden Jugendlichen glaubwürdig.⁹
• Sextortion: Betroffene werden mit manipulierten Deepfakes erpresst.¹⁰

Das Erstellen von Deepfakes verletzt grundsätzlich die Persönlichkeitsrechte der Betroffenen. Allerdings befindet sich die rechtliche Lage noch in einer Grauzone. Aktuell befasst sich der Bundesrat mit einem Gesetz zu diesem Thema (Stand Februar 2025).¹¹

Achten Sie auf:¹²

• Licht:
  • Passt die Lichteinstrahlung zum Schattenwurf?
  • Ist das Licht bei Motiv und Hintergrund identisch?  
• Anatomie:
  • Unstimmigkeiten bei Händen, Armen, Zähnen oder Ohren?
  • Leerer oder unnatürlicher Blick?  
• Bewegungen:
  • Unnatürliche oder starre Gestik?
  • Rhythmisches oder fehlendes Blinzeln?
  • Mimik im gesamten Gesicht oder nur Mundbewegungen?
  • Ist das Gesagte lippensynchron?
• Auflösung & Übergänge:
  • Haben Person und Hintergrund dieselbe Qualität?
  • Gibt es verschwommene oder fragmentierte Bereiche an den Übergängen?  
• Inhalt & Faktencheck:
  • Ist der Inhalt realistisch?
  • Gibt es verlässliche Quellen zur Überprüfung?
• Hilfreiche Webseiten zur Überprüfung:
  • Deep-fake-o-meter (Bilder und Video)
  • Deepfake-total (Audio und Video)
  • Mimikama
  • Correctiv
  • dpa-Faktencheck
  • BAIT¹³

 
Deepfakes machen es immer schwerer, zwischen Wahrheit und Fälschung zu unterscheiden – umso wichtiger ist es, genau hinzusehen. Sprechen Sie mit Ihren Kindern über technische Möglichkeiten und helfen Sie ihnen, selbstbewusst und sicher mit Medien umzugehen.

¹Vgl. https://www.business-punk.com/2023/03/vatikan-x-balenciaga-10-memes-zum-paepstlichen-fake-outfit/ Stand 03.06.2025
²Vgl. https://www.golem.de/news/ki-bildsynthesedienst-midjourney-bringt-v5-mit-ueberragenden-ergebnissen-2303-172714.html  Stand 03.06.2025
³Vgl. https://www.bpb.de/lernen/digitale-bildung/werkstatt/542670/deepfakes-wenn-man-augen-und-ohren-nicht-mehr-trauen-kann/?utm_source=chatgpt.com  Stand 03.06.2025
⁴Vgl. https://uni-tuebingen.de/forschung/zentren-und-institute/internationales-zentrum-fuer-ethik-in-den-wissenschaften/publikationen/bedenkzeiten-bibliothek/weitere-blog-artikel/schaden-deepfakes-wirklich-der-demokratie/?utm_source=chatgpt.com  Stand 03.06.2025
⁵Vgl. https://www.lpb-bw.de/fake-news#c92311  Stand 03.06.2025
⁶Vgl. https://de.ejo-online.eu/digitales/ki-fotorealismus-und-krisenberichterstattung-liars-dividend  Stand 03.06.2025
⁷Vgl. https://www.polizei-beratung.de/aktuelles/detailansicht/video-und-bildmanipulation-wenn-deepfakes-zu-news-werden/  Stand 03.06.2025
⁸Vgl. https://www.saferinternet.at/fileadmin/categorized/Materialien/Factsheet_Deepfakes_und_sexualisierte_Gewalt.pdf  Stand 03.06.2025
⁹Vgl. https://cloud.juuuport.cloud/index.php/s/97Ff75XfKK4WfDs  Stand 03.06.2025
¹⁰Vgl. https://www.saferinternet.at/fileadmin/categorized/Materialien/Factsheet_Deepfakes_und_sexualisierte_Gewalt.pdf  Stand 03.06.2025
¹¹Vgl. https://www.elternguide.online/deep-fakes-tauschend-echte-falschungen/  Stand 03.06.2025
¹²Vgl. https://www.polizei-beratung.de/aktuelles/detailansicht/video-und-bildmanipulation-wenn-deepfakes-zu-news-werden/  Stand 03.06.2025
¹³Vgl. https://www.klicksafe.de/desinformation-und-meinung/deepfakes  Stand 03.06.2025