Transforming Media - Breaking Borders

Deep-Fake-Videos für Europa?

Die consulting creatives haben gemeinsam mit der Crytek GmbH ein Konzept für gefälschte Videos für die Europawahl entwickelt. Wie kommt man auf so eine Idee? Und darf man das überhaupt?

Björn Höcke, Matteo Salvini, Marine le Pen und Geert Wilders plädieren vor laufender Kamera und mit tränengerührter Stimme für ein friedlich vereintes Europa. Es handelt sich nicht um einen politischen Sinneswandel, sondern um die Kombination von moderner Videotechnik mit künstlicher Intelligenz: Sogenannte Reenacted Human Portrait Videos. Bei dieser Art von Videos sind die Aufnahmen echt, die Sprachaufnahmen werden mit Simulation und Rechenleistung gefälscht.

Manipulieren für den Frieden

Ingo Butsch

Die Idee zu dem Europa-Projekt stammt von Ingo Butsch. Er ist Geschäftsführer der Beratungsfirma consulting creatives. Nach seinem Designstudium arbeitete er 15 Jahre lang als Creative Director in der Werbebranche. Heute berät Butsch hauptsächlich Kunden, „die einen positiven Unterschied auf der Welt machen wollen“: etwa Hilfs- und Wissenschaftsorganisationen.

„Europa ist ein Thema, das mich schon sehr lange beschäftigt. Ich bin in Luxemburg aufgewachsen und finde die europäische Idee grandios. Ich wollte etwas tun, um auf die Europa-Wahlen aufmerksam zu machen“, erklärt Butsch. Die Wahrnehmung Europas werde heute leider zunehmend von ihren Problemen bestimmt: Finanzkrise, Populismus, Brexit.

Der ursprüngliche europäische Gedanke war Frieden. Und der werde heute leider als selbstverständlich vorausgesetzt und nicht mehr genug wertgeschätzt. Das war das Ergebnis von Befragungen, die Butsch durchführte: „Wir dürfen Frieden nicht mehr nur als Abwesenheit von Krieg deuten. Wir müssen verstehen, dass Frieden uns erst das volle Potenzial von Europa ausschöpfen lässt.“

Die Umsetzung: Deep-Fake-Videos

Daraus entstand die Idee, rechtskonservative, populistische Politiker als Friedensbotschafter für Europa auftreten zu lassen. Forscher der TU München, der Max-Planck-Gesellschaft sowie der Universitäten Stanford und Nürnberg-Erlangen hatten mit dem Projekt „Face2Face“ die technischen Möglichkeiten dazu geschaffen und gezeigt, wie realistisch sich solche Fakes bereits umsetzen lassen.

Face2Face: Real-time Face Capture and Reenactment of RGB Videos (CVPR 2016 Oral)

Mit dem Klick auf den Playbutton wird das YouTube Video geladen und Daten an YouTube übersendet. Mehr dazu in unserer Datenschutzerklärung

Jeder verfügbare Filmschnipsel kann dabei als Quelle dienen. Etwa ein YouTube-Video einer Rede von George W. Bush. Die Grimassen, die der Forscher vor einer herkömmlichen Webcam schneidet, werden über ein Computerprogramm gerendert und George W. Bush täuschend echt ins Gesicht geschrieben.

Pascal Tonecker

Technische Unterstützung holte Butsch sich außerdem von Pascal Tonecker, Leiter der Cryengine Enterprise Solutions bei Crytek, einer deutschen Computerspielfirma. „Mit diesen Deep-Fake-Videos wollten wir die Leute motivieren, zur Wahl zu gehen, und gleichzeitig für einen kritischen Umgang mit Medien sensibilisieren“, erklärt Tonecker.

„Wir nutzen künstliche Intelligenz schon länger, um Werkzeuge zu generieren, die unseren Spieledesignern die tägliche Arbeit erleichtern“, so Tonecker. Gebäude, Umgebungen oder Vegetation können bereits prozedural erzeugt werden. Zukünftig soll es darüber hinaus möglich sein, durch eine semantische Eingabe fotorealistische Ergebnisse zu erhalten, anstatt jeden Statisten der Spielewelt von Hand zu zeichnen. Gibt man beispielsweise „junge römische Soldaten“ ein, wird die augenblickliche Ausgabe eines römischen Heeres möglich sein.

Die Moral von der Geschicht‘

Die Gewissensfrage für die Idee zum Europa-Projekt ist: Darf künstliche Intelligenz überhaupt eine Rolle in der politischen Kommunikation spielen? Und welche Regeln brauchen die neuen technischen Möglichkeiten? Realität ist: Technologien analysieren schon heute politische Reden und ihre Wirkung auf die Zuhörer. Künstliche Intelligenz ist also längst in der politischen Kommunikation angekommen. Bewusst wird uns das oft erst, wenn Manipulationen aufgedeckt werden. So haben etwa Algorithmen den letzten amerikanischen Wahlkampf massiv beeinflusst.

Mit ihrem Projekt wollten Butsch und Tonecker nicht nur medienwirksam Werbung für die europäische Idee machen. Sie wollten auch einen wichtigen Schritt im Kampf gegen Fake-News gehen, erklärt Tonecker: „Wenn man weiß, wie Deep Fake Videos technisch funktionieren, kann man auch Tools entwickeln, die manipulierte Nachrichten und Videos entlarven.“

Mehr zum Projekt und warum es am Ende doch nicht umgesetzt wurde, verraten Ingo Butsch und Pascal Tonecker auf der Veranstaltung „Transforming Media – Breaking Borders“ in Nürnberg am 4. Juni 2019.

Infos und kostenfreie Anmeldung