Täuschend echte Videos, KI-generierte Bilder und realistisch klingende Stimmen, die kaum noch von echten zu unterscheiden sind – Deepfakes gehören zu den spannendsten, aber zugleich auch umstrittensten Entwicklungen im Bereich Künstliche Intelligenz. Während die Technologie neue Möglichkeiten für Unterhaltung und Marketing schafft, stellen manipulierte Inhalte gleichzeitig eine zunehmende Bedrohung im digitalen und medialen Umfeld dar. Immer öfter kursieren gefälschte Medieninhalte im Internet und durch soziale Medien und sorgen für Verunsicherung bei den Nutzern.
Wir erklären, was genau Deepfakes sind, welche Arten es gibt, wie man die manipulierten Inhalte erkennen kann und welche Risiken, aber auch Chancen das KI-Phänomen bereithält.
Inhaltsverzeichnis
1. Was sind Deepfakes? – einfach erklärt
3. So kann man Deepfakes erkennen
4. Wie entstehen Deepfakes? – die Technologie dahinter
5. Wer erstellt und verbreitet Deepfakes?
6. Gefahren und Chancen von Deepfakes
7. Sind Deepfakes illegal? – rechtliche Lage in Deutschland
8. Fazit: Deepfakes zwischen Innovation und Herausforderung
Deepfakes sind Medieninhalte, die mithilfe von Künstlicher Intelligenz (KI) manipuliert oder vollständig künstlich erzeugt wurden und dabei täuschend echt wirken können. Meist handelt es sich um Videos, Bilder oder Audioaufnahmen, in denen Gesichter, Stimmen oder ganze Szenarien verändert werden. Ziel von Deepfakes ist es, eine Person etwas sagen oder tun zu lassen oder Ereignisse darzustellen, die in Wirklichkeit nie stattgefunden haben.
Die Technologie hinter Deepfakes basiert auf modernen KI-Systemen, die große Datenmengen analysieren und daraus menschliche Gesichter, Stimmen oder Ausdrucksweisen realistisch nachbilden können.
Woher kommt der Name „Deepfake“? Der Begriff „Deepfake“ setzt sich aus den beiden Wörtern „Deep Learning“ und „Fake“ (dt. Fälschung) zusammen. Damit verbindet der Name die technische Grundlage der zugrundeliegenden Künstlichen Intelligenz mit der ursprünglichen Intention der Deepfakes – nämlich Inhalte künstlich zu verändern oder zu verfälschen.
Deepfakes begegnen uns heute in vielen unterschiedlichen Formen – von harmloser Unterhaltung bis hin zu gezielter Manipulation. Besonders bekannt sind manipulierte Videos von prominenten Personen, in denen Politiker, Schauspieler oder Unternehmer scheinbar Aussagen treffen, die sie nie gemacht haben. Um das Ganze besser zu verstehen, hier zwei bekannte Deepfake-Beispiele aus der Politik:
Heutzutage gibt es viele verschiedene Arten von Deepfakes – von Videos, bei denen lediglich Lippenbewegungen manipuliert werden, bis hin zu Inhalten, in denen Gesichter oder ganze Personen ausgetauscht und verfälscht werden. Hier die gängigsten Arten von Deepfakes im Überblick:
Beim sogenannten „Face Swapping“ werden Gesichter in Bildern oder Videos mithilfe von KI ausgetauscht. Dabei kann beispielsweise das Gesicht einer Person auf den Körper einer anderen gelegt werden. Bekannt geworden ist diese Form der Deepfakes vor allem durch Social Media, Memes oder die Filmproduktion. Während Face Swapping teilweise für Unterhaltungszwecke genutzt wird, kommt die Technologie auch für Betrug, Desinformation oder gezielte Rufschädigung zum Einsatz. Besonders problematisch ist die Verwendung in Verbindung mit Pornografie, wenn Gesichter realer Personen ohne deren Zustimmung in pornografische Inhalte eingefügt werden.
Beim „Voice Cloning“ erstellt eine KI eine künstliche Kopie einer echten Stimme. Oft reichen schon wenige Sekunden Audiomaterial aus, um eine realistisch klingende Stimme zu erzeugen. Je mehr Trainingsmaterial verfügbar ist, desto authentischer wirkt das Ergebnis. Moderne KI-Systeme sind inzwischen in der Lage, Stimmen nahezu identisch nachzuahmen. Diese Technologie findet häufig Anwendung für Sprachassistenten, Synchronisationen oder Hörbücher. Aber auch hier besteht Missbrauchspotenzial durch Kriminelle, etwa durch Fake-Anrufe, Betrug oder Identitätsdiebstahl.
Beim „Lip-Sync-Deepfake“ werden die Lippenbewegungen einer Person mithilfe von KI an eine neue Audiospur angepasst. Ziel des Ganzen ist es, Personen Dinge sagen zu lassen, die sie so nie gesagt haben. Diese Art der Deepfakes wird unter anderem für Übersetzungen oder bei der Videobearbeitung eingesetzt und findet zunehmend Anwendung in Film, Werbung und Social Media. Gleichzeitig können Lip-Sync-Deepfakes aber auch für politische Manipulation oder Fake-Statements missbraucht werden.
Moderne KI-Systeme ermöglichen es inzwischen, vollständig fiktive Personen zu erschaffen. Diese Menschen existieren nicht real, sondern werden komplett durch KI erzeugt. Dabei generiert die Technologie realistische Gesichter, Stimmen und Bewegungen, die zusammen eine glaubwürdige virtuelle Identität ergeben. Solche KI-generierten Personen werden häufig als virtuelle Influencer, digitale Markenbotschafter oder KI-Avatare eingesetzt und finden vor allem im Marketing, Gaming oder Kundenservice Anwendung. Gleichzeitig birgt aber auch diese Form der Deepfakes erhebliche Risiken – etwa durch Fake-Identitäten oder gefälschte Social-Media-Profile.
Weniger bekannt, aber dennoch weit verbreitet sind Text- bzw. Chat-Deepfakes. Auch wenn der Begriff ursprünglich vor allem für manipulierte audiovisuelle Inhalte verwendet wurde, werden inzwischen auch KI-generierte Texte und Chats häufig unter dem Begriff Deepfake zusammengefasst. KI-Systeme sind in der Lage, Schreibstil, Formulierungen und Kommunikationsmuster von Personen überzeugend zu imitieren. Solche Text-Fakes kommen z. B. bei gefälschten E-Mails, KI-generierten Social-Media-Posts oder bei Fake-Nachrichten im Stil echter Journalisten zum Einsatz. Die manipulierten Inhalte dienen primär Phishing, Betrug und Desinformation.
Eine der größten Herausforderungen im Umgang mit Deepfakes besteht darin, manipulierte von echten Medieninhalten zu unterscheiden. Da KI-generiete Videos, Bilder und Stimmen immer realistischer werden, wird es zunehmend schwerer, gefälschte Inhalte zu erkennen. Dennoch gibt es verschiedene Hinweise und Methoden, mit denen sich Deepfakes häufig enttarnen und auf Echtheit prüfen lassen.
Auch wenn KI-Inhalte immer realistischer werden, sind sie meist nie ganz fehlerfrei. Wer genau hinsieht oder hinhört, kann häufig typische Auffälligkeiten entdecken:
Tipp: In unseren weiterführenden Beiträgen erklären wir noch einmal genauer, wie man KI-Bilder erkennt und wie man den Einsatz Künstlicher Intelligenz in Videos identifiziert.
Da viele Deepfakes inzwischen kaum noch mit bloßem Auge erkennbar sind, kommen zunehmend technische Analyseverfahren zum Einsatz, um Inhalte auf ihre Echtheit zu prüfen:
Auch normale Mediennutzer können sich besser vor Deepfakes schützen, wenn sie sich der Bedrohung bewusst sind und digitale Inhalte kritisch hinterfragen. Folgende Maßnahmen helfen im Umgang mit möglichen Fälschungen:
Deepfakes entstehen durch den Einsatz Künstlicher Intelligenz. Mithilfe des sogenannten „Deep Learnings“ analysieren KI-Systeme große Mengen an Bild-, Video- oder Audiodateien einer Person. Aus diesen Daten lernt das System, wie das Gesicht der Person aussieht, wie sie sich bewegt oder wie ihre Stimme klingt. Basierend darauf kann die KI typische Merkmale wie Gesichtsausdruck, Bewegungen, Mimik oder Stimme realitätsnah nachbilden.
Besonders häufig kommen bei der Erstellung von Deepfakes sogenannte neuronale Netzwerke und „Generative Adversarial Networks“ (GANs) zum Einsatz. Vereinfacht gesagt arbeiten hier zwei KI-Systeme zusammen: Während eine KI versucht, möglichst realistische Inhalte zu erzeugen, überprüft die andere KI, ob die Fälschung glaubwürdig wirkt. Durch dieses Wechselspiel und den ständigen Lernprozess werden die Deepfakes immer realistischer.
Deepfakes werden heute von ganz unterschiedlichen Akteuren erstellt und verbreitet – mit ebenso unterschiedlichen Motiven und Zielen. Die Einsatzbereiche reichen von Unterhaltung und Marketing bis hin zu Betrug, Manipulation und Desinformation.
Viele der eher harmloseren Deepfakes entstehen durch Einzelpersonen oder Internet-Communities. Sie nutzen die KI-Technologie vor allem zur Unterhaltung oder für Memes und Social Media. Häufig werden virale Trends nachgeahmt oder kreative Hobby-Projekte umgesetzt, bei denen verschiedene Arten von Deepfakes eingesetzt werden.
Ein großer Teil der im Netz kursierenden Deepfakes stammt inzwischen von kriminellen Akteuren. Diese nutzen die KI-Technologie beispielsweise für Betrug, Identitätsdiebstahl, Rufschädigung, Erpressung oder Social Engineering. Besonders im Bereich der Cyberkriminalität eröffnen Deepfakes neue Möglichkeiten, Menschen gezielt zu täuschen und Sicherheitsmechanismen zu umgehen.
Auch im politischen Umfeld spielen Deepfakes zunehmend eine Rolle. Sie werden genutzt, um Meinungen zu beeinflussen, Desinformation zu verbreiten oder politische Gegner gezielt zu diskreditieren. Besonders vor Wahlen oder wichtigen politischen Entscheidungen können manipulierte Videos oder Audioaufnahmen eingesetzt werden, um öffentliche Debatten zu beeinflussen.
Darüber hinaus setzen auch Unternehmen verstärkt auf KI-generierte Inhalte. Vor allem im Marketing und auf Social Media kommen virtuelle Markenbotschafter, digitale Avatare oder personalisierte KI-Inhalte zum Einsatz. Hier dienen Deepfake-Technologien vor allem der Vermarktung, Unterhaltung und stärkeren Kundenbindung.
Deepfakes bergen sowohl zahlreiche Chancen als auch erhebliche Risiken und das nicht nur für Einzelpersonen, sondern auch für die Gesellschaft und für Unternehmen. Während die Technologie neue Möglichkeiten für Unterhaltung, Bildung und Marketing eröffnet, wird sie ebenso für Desinformation, Betrug oder politische Manipulation eingesetzt. Kein Wunder also, dass Deepfakes zu den umstrittenen Entwicklungen im Bereich Künstliche Intelligenz zählen.
Nein, Deepfakes sind nicht grundsätzlich illegal. Unter bestimmten Bedingungen können sie allerdings strafbar sein. Je nachdem wie die Technologie eingesetzt wird, können verschiedene Straftatbestände greifen, darunter:
Wird die Technologie für solche Zwecke missbraucht, drohen den Akteuren strafrechtliche Konsequenzen. Einen eigenen Straftatbestand speziell für Deepfakes oder ein eigenständiges Deepfake-Gesetz gibt es in Deutschland bisher allerdings nicht.
Die Rechtslage im Bereich Künstliche Intelligenz entwickelt sich aber weiter. Erste Ausgangspunkte sind neue EU-Regulierungen wie der EU AI Act oder der Digital Services Act (DAS). Diese sollen künftig strengere Regeln für den Umgang mit KI-Inhalten innerhalb der EU schaffen und könnten so auch Deepfakes regulieren oder einschränken.
Trotz der bereits beeindruckenden Möglichkeiten steht die Entwicklung der Deepfake-Technologie noch am Anfang. Mit dem rasanten Fortschritt Künstlicher Intelligenz werden KI-generierte Inhalte zukünftig noch realistischer, einfacher zu erstellen und alltäglicher werden. Mit der Folge, dass die Grenzen zwischen echten und künstlich erzeugten Medien zunehmend verschwimmen.
Umso wichtiger wird es in Zukunft sein, einen bewussten und kritischen Umgang mit digitalen Medieninhalten zu entwickeln. Neben technischen Lösungen zur Erkennung von Deepfakes werden vor allem Medienkompetenz, Aufklärung und klare gesetzliche Rahmenbedingungen eine zentrale Rolle im Umgang mit Deepfakes spielen.
Deepfakes zeigen beispielhaft, wie stark Künstliche Intelligenz unsere digitale Kommunikation verändern kann – mit allen Chancen, aber auch den Herausforderungen, die diese Entwicklung mit sich bringt.
Schreibe einen Kommentar