Politik

Das MIT Center for Advanced Virtuality produzierte ein komplexes Deepfake, bei dem die Technologie sowohl zum Einsatz kam, um Gesicht als auch Stimme des ehemaligen US-Präsidenten Richard Nixon zu duplizieren. Die Macher ließen Nixon dadurch eine Rede über den Tod der Apollo-11-Astronauten vorlesen. Diese war einst geschrieben, aber aufgrund der erfolgreichen Mondlandung nie öffentlich gehalten worden.

Deepfakes werden genutzt, um Politiker auf Videoportalen oder Imageboards falsch darzustellen. So wurde zum Beispiel das Gesicht des argentinischen Präsidenten Mauricio Macri durch das von Adolf Hitler oder das von Angela Merkel durch das von Donald Trump ersetzt.

Um März 2022 tauchte auf einer gehackten ukrainischen Nachrichten-Website ein Fake-Video des ukrainischen Präsidenten Wolodymyr Selenskyj auf, in dem er ukrainische Soldaten aufrief, sich zu ergeben. Das Video wurde schnell als Fälschung entlarvt. Facebook klassifizierte das Video als Deepfake und entfernte es aus seinem Netzwerk. Ob das Video tatsächlich mit Deepfake-Technologie entstand, ist unbekannt.

Im Juni 2022 wurde in Videokonferenzen mehreren Politikern gegenüber vorgetäuscht, dass sie ein Gespräch mit dem Kiewer Bürgermeister Vitali Klitschko führen würden. Die Konferenzen wurden unter anderem mit der EU-Innenkommissarin Ylva Johansson, der Berliner Bürgermeisterin Franziska Giffey, dem Bürgermeister von Madrid José Luis Martínez-Almeida, dem Budapester Bürgermeister Gergely Karácsony, dem Warschauer Stadtpräsidenten Rafał Trzaskowski und dem Wiener Bürgermeister Michael Ludwig geführt und durch die ersten beiden Bürgermeister vorzeitig abgebrochen. Im Nachgang bekannte sich das als Kreml-nah geltende russische Komiker-Duo Vovan und Lexus zu den Telefonaten. Sie widersprechen der Darstellung, dass Deepfake-Technologie eingesetzt wurde oder eine politische Motivation vorlag. Stattdessen wird davon ausgegangen, dass ein Shallowfake genutzt wurde.

Im Oktober 2022 wurde berichtet, dass im Rahmen des russischen Überfalls auf die Ukraine ein mittels Deepfake gefälschter Video-Anruf abgefangen worden sei. Die Anrufer hätten sich als der ukrainische Premierminister Denys Schmyhal ausgegeben.

Kunst

In der Kunst werden Deepfakes als Mittel der Zuspitzung verwendet, etwa um sich über popkulturelle Dinge lustig zu machen. Der Künstler Joseph Ayerle nutzte Deepfake für den Kurzfilm Un’emozione per sempre 2.0, um eine Zeitreise der Protagonistin Ornella Muti aus dem Jahr 1978 in das Jahr 2018 zu inszenieren. Dabei wurde der Charakter der Ornella Muti des Jahres 2018 durch eine KI errechnet, die aus den Gesichtsdaten der jungen Ornella Muti und Filmszenen des Modells Kendall Jenner neue Szenen errechnete, die die wirkliche Ornella Muti nie gespielt hat. Im April 2018 veröffentlichte der US-amerikanische Kabarettist Jordan Peele gemeinsam mit BuzzFeed ein Deepfake-Video, in dem er Barack Obama vor den Gefahren manipulierter Videos warnen lässt. In diesem Video bezeichnet der „synthetische“ Ex-Präsident unter anderem seinen Nachfolger Donald Trump als „kompletten Volltrottel“. Ein YouTuber, der unter dem Namen „Speaking of AI“ auftritt, ließ wiederum den als Kylo Ren aus Star Wars bekannten Schauspieler das Intro zur Original-TV-Serie Star Trek sprechen.

Datenschutz

Seit 2018 wird universitär und industriell daran geforscht, generierte Gesichter zum Schutz der Identität einzusetzen. Nach der natürlichen Entfremdung des Gesichtes können im öffentlichen Bereich aufgenommene Daten für Analysezwecke oder für maschinelles Lernen wie Originaldaten verwendet werden, jedoch unter größerem Schutz der Privatsphäre und Ausschlusses biometrischer Erkennungen. Einsatzorte sind beispielsweise für die Entwicklung autonomer Fahrzeuge oder für Smart City Kameras. Künstliche Gesichter oder andere synthetische Merkmale, stellen damit eine alternative Anonymisierungsform gegenüber dem Blurring von personenbezogen Daten dar.

Forschung

In Informatik, Mathematik und Kunst sind Algorithmen für maschinelles Lernen, die sich mit der Generierung von solchen Mediendateien beschäftigen, ein Forschungs- und Entwicklungsgebiet.

Deepfakes sorgten für ein großes mediales und gesellschaftliches Echo. Mehrere Journalisten führten daher Selbstversuche durch, um zu untersuchen, wie einfach oder schwierig Deepfakes zu erstellen sind und wie sie die Glaubwürdigkeit von Videobildern beeinflussen könnten. 2020 stellte Microsoft eine Software mit dem Namen Video Authenticator vor, deren KI in der Lage sein soll, durch Deepfake und ähnliche Tools manipulierte Videos zu erkennen.

Pornographie

Im Herbst 2017 stellte ein anonymer Reddit-Nutzer unter dem Pseudonym „Deepfakes“ mehrere Pornovideos ins Internet. So waren die Wonder-Woman-Darstellerin Gal Gadot beim Sex mit ihrem Stiefbruder und andere Schauspielerinnen wie Emma Watson, Katy Perry, Taylor Swift oder Scarlett Johansson zu sehen. Diese Szenen waren unter Verwendung künstlicher Intelligenz erstellt worden und wurden rasch entlarvt. Der Reddit-Nutzer hatte Szenen aus Sexfilmen und Spielfilmen mit der eingefügten Person als Trainingsdaten für ein Neuronales Netz verwendet. Nach einem Bericht im Dezember 2017 im Magazin Vice wurde das Thema von weiteren Medien aufgenommen. In den folgenden Wochen überarbeiteten und verbesserten andere Reddit-Nutzer der Entwickler-Community das Vorgehen des Erstentwicklers, womit es zunehmend schwieriger wurde, gefälschte von echten Inhalten zu unterscheiden. Auf dem dazu auf Reddit gegründeten Subreddit „Deepfakes“ wurden bis zu dessen Sperrung am 7. Februar 2018 von mehr als 50.000 Nutzern Deepfake-Videos ausgetauscht. Rachepornos wurden durch den Einsatz von Deepfakes ohne Mitwirkung der im Porno erscheinenden Person möglich. Auch die Pornoseite Pornhub gab an, Deepfake-Pornos zukünftig zu sperren.

Im Juni 2019 wurde das Programm DeepNude für Windows und Linux veröffentlicht, welches neuronale Netzwerke benutzt, damit Kleider von Bildern von Frauen entfernt werden können. Dabei gab es eine kostenlose und eine kostenpflichtige Version für 50 USD. Jedoch wurde die Software kurz danach von den Erstellern wieder entfernt und die Käufer erhielten eine Rückerstattung.

Betrug

Deepfakes von Stimmen können Betrügern kriminelle Handlungen ermöglichen, wenn sie Opfern gegenüber durch eine künstlich imitierte Stimme die Identität einer vertrauens- oder anweisungsberechtigten Person erwecken und das Opfer Handlungen zum Vorteil des Betrügers vornehmen lassen. 2019 wurde ein CEO eines Unternehmens aus dem Vereinigten Königreich durch einen Telefonanruf dazu gebracht, 220.000 Euro auf ein ungarisches Bankkonto zu überweisen, wobei die Täter durch ein Deepfake die Stimme eines Vorgesetzten des Opfers imitierten.

Neben der Täuschung von Personen durch Deepfakes lassen sich auch biometrische Authentifizierungssysteme wie Voice-ID-Systeme, bei denen die Stimme einer Person als Passwort fungiert, mittels künstlich imitierter Stimme aushebeln. So erhalten Betrüger Zugang zu persönlichen Accounts anderer. Deepfakes werden lt. einer Erhebung von 2023 zunehmend in größerem Umfang im Zusammenhang mit Enkeltrick-Betrügereien genutzt.

Kreditwürdigkeit und Authentizität

Zwar ist das Verfälschen von Bildern schon lange einfach, jedoch das von Videos viel schwieriger, weswegen einige Unternehmen zur Verifikation von ihren Kunden Videos von ihnen verlangen. Mittels Deepfakes konnten Hacker schon diese Verifikation dadurch bestehen.

Der Professor Hao Li von der Universität von Southern California warnte, dass, wenn die Technologie von Deepfakes nicht der breiten Masse aufgezeigt werde, die missbräuchliche Anwendung von Deepfakes für Fake News oder Ähnliches eine ernste Gefahr darstellen könne.

In der zweiten Jahreshälfte des Jahres 2020 veröffentlichte Microsoft die Information, dass die Firma an einer Software arbeite, die Deepfake-Manipulationen erkennen soll. Im Jahr 2022 wurde in den USA vor Gericht ein mutmaßlich authentische Videoaufnahme von Anwälten angezweifelt, weil sie ein Deepfake sein könnte. So behaupteten Elon Musks Anwälte 2022 in einem Gerichtsprozess in den USA, dass ein belastenden Video wahrscheinlich nicht Elon Musk sei, sondern ein Deepfake-Video. Der Richter akzeptierte diese Argumentation nicht.