zurück zurück
Sicherheit

Deep Fakes: Kann ich meinen Augen noch trauen?

Virtual Humans und Deep Fakes werden immer günstiger und sind auch für Laien umzusetzen – das bringt Gefahren mit sich.
Jeremy bishop N Llefbl Y Mhw unsplash
© Photo by Jeremy Bishop on Unsplash
28.10.2022

Zahlreiche Expert*innen haben im Rahmen des fintropolis-Kongresses 2022 nicht nur die Zukunft des Bankings unter die Lupe genommen. Sie haben auch einen Blick auf die aktuellen Trends sowie deren Auswirkungen auf unsere Gesellschaft, unsere Arbeitswelt und unser Leben geworfen. Michael Luks, Principal Expert Trends & Research bei Atruvia, präsentierte in seinem Vortrag die vielfältigen Einsatzgebiete von Virtual Humans, Deep Fakes und Künstlicher Intelligenz. Gleichzeitig beleuchtete er die Schattenseiten der Technologie.

Hallo Michael, zunächst: Was sind Deep Fakes und wie werden sie generiert?

Deep Fakes sind manipulierte Video- oder Audioaufnahmen. Inzwischen können die gefälschten Medieninhalte täuschend echt wirken. Das betrifft sowohl visuelle Inhalte als auch Stimmen. Die Technologie kann auch die Basis sein, um Virtual Humans zu erstellen. Das hängt natürlich davon ab, wie viel Zeit man in den Deep Fake investiert. Schon nach sieben bis acht Stunden Rechenzeit ist ein zufriedenstellendes Zwischenergebnis möglich. Für fintropolis habe ich selbst einen Deep Fake erstellt und versucht, das Gesicht unseres Bundeskanzlers auf meinen Kopf zu übertragen.

FINTROPOLIS 2022 Michael Digital Human V 1 © Photo by Michael Luks

Dafür braucht es heutzutage nicht mehr viel: ein Smartphone, einen gängigen Gaming-PC mit entsprechender Grafikkarte und einen Algorithmus. Diese sind online kostenlos zum Download verfügbar. Nach ein wenig Einarbeitungszeit können auch Laien schon beachtliche Ergebnisse erzielen.

Wie arbeitet der Algorithmus?

Ein Machine-Learning-Algorithmus vergleicht immer wieder das zu fälschende Gesicht mit dem Original und erzeugt ein neuronales Netz. Dieses neuronale Netz wird genutzt, um daraus ein allgemeines Konzept zur Übertragung des Gesichtes zu erstellen. Je mehr Datenmengen (Input) dem Algorithmus zur Verfügung gestellt werden, desto besser lernt er und dementsprechend ist auch das Ergebnis (Output) kaum mehr vom Original zu unterscheiden. Den Abgleich zwischen Fälschung und Original nennt man Lerneinheiten. Bei meinem Deep Fake für fintropolis habe ich den Algorithmus bis zu 700.000 Lerneinheiten durchführen lassen. Der Vorgang hat rund sieben Stunden gedauert. Auch hier gilt: Mit jeder Lerneinheit wird der Output besser, bis es kaum noch Verbesserungen gibt.

Wo wird die Technologie bereits heute angewendet?

Die Medaille hat zwei Seiten: Es gibt spannende Anwendungsgebiete wie in der Gaming-Industrie, der Filmbranche oder auch im Kund*innenservice. Allerdings hat die Bundesregierung Deep Fakes auch als politische Gefahr eingestuft. Gerade in Zeiten, in denen Desinformationskampagnen eine große Rolle spielen, können Deep Fakes fatale Auswirkungen haben: Fake News mittels Deep Fakes sozusagen. Es war wohl noch nie so einfach, Falschinformationen derart glaubhaft zu verbreiten oder auch einzelne Menschen in Verruf zu bringen. Das ist besonders bedenklich, da Deep Fakes mittlerweile einfach sowie günstig zu erstellen sind und die Technologie durchaus mächtig ist.

Johnny mcclung QG Bhwhgh QG0 unsplash © Photo by Johnny McClung on Unsplash

Und die erfreulichere Seite?

Die überwiegt zum Glück! Vieles kommt aus der Gaming-Industrie. Dort wird die Technologie angewandt und auch vorangetrieben. Hier ist vor allem die „Unreal Engine 5“ von Epic Games zu nennen. Wie der Name schon sagt, ist sie eine Art Motor für die Grafikkomponenten eines Videospiels. Mit der Unreal Engine lassen sich inzwischen realistisch wirkende Doubles von bekannten Personen oder den Spieler*innen selbst in das Spiel übertragen, sodass es kaum noch möglich ist, zwischen reeller Videoaufnahme und technologisch-erstellter Kopie zu unterscheiden. Auch im Film wird die Technologie genutzt, um beispielsweise Schauspieler*innen jünger zu machen: Ein Beispiel ist der Film Gemini Man. Ein Science-Fiction-Film mit Will Smith, der einen älteren Auftragskiller und gleichzeitig die 25-jährige Version seiner Rolle spielt. Die Deep-Fake-Technologie hat das möglich und absolut realistisch gemacht.

Du hattest bereits die Kund*innenenberatung angesprochen – wie sieht es hier aus?

Hier werden Deep Fakes und Digital Humans in naher Zukunft auch eine bedeutende Rolle spielen, mancherorts tun sie das bereits. Die UBS in der Schweiz setzt bereits zwei Digital Humans in der Kund*innenberatung ein. Hier steht den vermögenden Klient*innen ein virtuelles Double des Chief Economist Daniel Kalt beratend zur Seite. Dabei verknüpft der Digital Human die Deep-Fake-Technologie mit den Fähigkeiten eines modernen Chatbots: Er ist in der Lage, mit den Kund*innen ein personalisiertes Gespräch zu führen und sie auf Basis der UBS-Finanzdaten individuell zu beraten. Auch für das Tagesgeschäft hat die Bank einen leistungsstarken Chatbot entwickelt, der Kund*innen bei einfachen Transaktionen unterstützt. Ich bin überzeugt, dass das flächendeckend die Zukunft der Kund*innenberatung sein wird.

Mo N Khckz9 B78c unsplash © Photo by Mo on Unsplash

Wohin wird sich die Technologie entwickeln?

Ganz einfach gesagt: Sie wird noch besser, günstiger und einfacher zu beherrschen sein. Dazu kommt, dass die Anwendungsgebiete nahezu unbegrenzt sind. Wo auch immer Interaktion stattfindet, können Digital Humans eingesetzt werden. Zudem werden sie auch beim Customer Engagement eine große Rolle spielen: Es wird einfacher, alle Kund*innen gleichermaßen zu beraten und ihnen das Gefühl zu geben, dass sie individuell und persönlich beraten werden. Dazu kommt auch eine gewisse Neugier, die Innovationen in der Regel mit sich bringen. Einige Unternehmen haben diesen sich anbahnenden Megatrend und das Marktpotenzial schon erkannt: Einer Studie zufolge soll der Digital-Human-Avatar-Markt bis 2030 rund 528 Milliarden US-Dollar schwer sein. Besonders der Grafikkartenhersteller Nvidia ist hier Vorreiter: Die Firma hat ihr Geschäftsmodell nach der Technologie ausgerichtet und ist inzwischen – nach Apple, Google und Co. – an sechster Stelle der wertvollsten Tech-Unternehmen weltweit. das Tech-Unternehmen weltweit. Das zeigt ganz klar: Den Digital Humans gehören die Zukunft!

28.10.2022