AR/ VR

Deepfakes – wenn das eigene Gesicht in jeder Situation dargestellt werden kann

„Jetzt gibt’s was auf die Ohren!“ - Augmented Reality zum Hören

Deepfakes – wenn das eigene Gesicht in jeder Situation dargestellt werden kann

Jul , 28

Seit wenigen Jahren geistert der Begriff Deepfake – oder im Plural Deepfakes – durch die Medien. Dabei handelt es sich um computergenerierte Videos, Fotos oder Tondokumente. Die professionellen Fälschungen sind von echten Aufnahmen kaum zu unterscheiden und bergen ein hohes Gefahrenpotenzial.

Was sind Deepfakes?

Deepfake ist eine Wortschöpfung, die sich aus den Begriffen „Deep Learning“ (spezielle Technik der Künstlichen Intelligenz) und „Fake“ (Fälschung) zusammensetzt. Konkret handelt es sich Videos und Fotos, bei denen die Gesichter digital ausgetauscht und durch die von Prominenten ersetzt werden. Bei diesem Prozess spielt Künstliche Intelligenz eine zentrale Rolle. Moderne Technik lässt das Bildmaterial so authentisch wirken, dass selbst Computer Schwierigkeiten haben, das Original von der Fälschung zu unterscheiden. Die Technik ist mittlerweile so ausgereift, dass selbst Laien Fotos und Videos manipulieren können. Werden diese über die sozialen Medien verbreitet, erreichen sie binnen kürzester Zeit ein Millionenpublikum.

Weitreichende Manipulationen

Das Bearbeiten und Aufhübschen von Urlaubsfotos ist seit dem Erscheinen der ersten Bildbearbeitungssoftware eine gängige Praxis. Bei bewegten Bildern, wie sie in Videos zu sehen sind, ist dies erst seit wenigen Jahren möglich. Bis zu diesem Zeitpunkt galten Videos allgemein als glaubwürdig, sofern es sich nicht um eine aufwendige Filmproduktion handelte. Doch Technik, die mittlerweile für jedermann zugänglich ist, macht weitreichende Manipulationen möglich.

Das Cyber-Security-Unternehmen Deeptrace führte im Jahr 2019 eine Untersuchung hinsichtlich der Nutzung von Deepfakes für manipulatorische Zwecke durch. Das Ergebnis: 96 Prozent aller Deepfake-Videos im Internet waren pornografischer Natur, wobei die Köpfe von Pornodarstellerinnen in der Regel durch die prominenter Frauen ersetzt wurden. Erstmalig veröffentlicht wurden pornografische Deepfake-Videos von einem anonymen Nutzer auf der Onlineplattform Reddit. Zwar legte Reddit den Kanal nach kurzer Zeit still, doch die manipulierten Videos kursieren weiter im Netz.

Kann man selbst Deepfakes erstellen?

Mittlerweile ist Fälschungssoftware auf dem Markt, die in der Lage ist, täuschend echte Deepfake-Videos zu erzeugen. Die Bilder werden immer realistischer und sind für einen Menschen kaum noch als Fälschung zu erkennen. Damit geraten nicht nur Prominente ins Visier, von denen massenhaft Bildmaterial existiert, sondern auch Privatpersonen. Mithilfe verschiedener Apps lassen sich Bilder und Videos manipulieren. Sie nennen sich „Reface“, „Fake App“ oder „DeepFaceLab“ und sie erzielen ganz erstaunliche Ergebnisse.

Welche Chancen bieten Deepfakes?

Deepfakes haben das Potenzial, die Filmindustrie nachhaltig zu verändern. Nicht nur visuelle Effekte können mit der Technologie deutlich günstiger produziert werden. Die Gesichter bekannter Schauspieler könnten theoretisch beispielsweise nachträglich in Filmklassiker montiert werden. So könnte Tom Cruise einen Gastauftritt in der „Der Pate“ bekommen oder die bereits verstorbene Carrie Fisher alias Prinzessin Leia taucht in einer neuen Star-Wars-Verfilmung auf. Grundsätzlich könnten verstorbene Personen mithilfe der Deepfake-Technologie zum Leben erweckt werden, zumindest in digitaler Form auf dem Bildschirm.

Theoretisch müssten Hollywood-Stars wie Scarlett Johansson oder George Clooney gar nicht mehr persönlich am Filmset erscheinen. Benötigt wird nur noch das Gesicht des Künstlers, damit die Künstliche Intelligenz eine Basis für die Gestaltung hat. Ein Schauspieler mit vergleichbarer Statur könnte die Rolle des Hollywood-Stars spielen. Das Gesicht des Künstlers würde nachträglich in die Szenen montiert werden. Bis es so weit ist, müssen jedoch rechtliche Rahmenbedingungen geschaffen bzw. angepasst werden.

Risiken von Deepfakes

Der Missbrauch der Deepfake-Technologie stellt nicht nur aus Sicht des FBI eine Gefahr dar. Bislang beschränkte sich die missbräuchliche Verwendung vorrangig auf die Manipulation von Pornofilmen. Es existieren Berichte, dass Fake-Videos als Druckmittel eingesetzt wurden, um Geldbeträge zu erpressen.

In einer Zeit, in der Fake-News über das Internet rasend schnell verbreitet werden können, lauern noch weitere Gefahren. So besteht die Möglichkeit, dass Parteien politische Gegner mithilfe von manipuliertem Videomaterial in Misskredit bringen. Erstklassige Deepfake-Videos sind von echten Aufnahmen kaum noch zu unterscheiden. Werden beispielsweise Falschaussagen vom Vorstandschef eines Dax-Konzerns in einem Deepfake-Video verbreitet, können Verwerfungen am Aktienmarkt die Folge sein.

Fazit: Deepfake bietet gleichermaßen Chancen und Risiken. Sobald die Technologie eingesetzt wird, um das Ansehen oder den Ruf von Personen, Unternehmen oder Organisationen zu schädigen, müssen Gegenmaßnahmen ergriffen werden.