In Sachen Deepfake hat die Pornoindustrie die Nase vorn

Die auf Porno-Websites aufgetauchten „Deepfake“-Videos geben Anlass zur Besorgnis: Die mit moderner Technik erzeugten Bilder sind zwar Fälschungen, wirken aber extrem echt. Und niemand weiß, wie man ihre Verbreitung stoppen kann.

Bei dieser Art von Pornos wird das Gesicht einer bekannten Person mit dem Körper eines Pornodarstellers verschmolzen. Fotomontagen von Standbildern gibt es bereits seit einer ganzen Weile. Die neuesten Bearbeitungstechniken machen es aber auch bei Filmen immer schwerer, Original und Fälschung voneinander zu unterscheiden.

Das bekannteste Opfer dieser Deepfake-Pornos ist die Schauspielerin Scarlett Johansson. Da jedoch die komplette Website aus solchen Videos besteht, ist sie damit sicherlich nicht allein.

Pornos sind nur der Anfang

Die Deepfake-Problematik geht weit über die Pornoindustrie und die versuchte Zerstörung von Scarlett Johanssons Leben hinaus. Deutlich besorgniserregender ist die Frage, was passiert, wenn mit bearbeiteten Videos gezielt Gewalttaten oder politische Unruhen provoziert werden.

Stellen Sie sich einmal vor, es gäbe ein Video, in dem eindeutig bewaffnete Polen den Sender Gleiwitz überfallen. Anstatt einer Leiche als Beweis gäbe es dann vermeintliche Live-Bilder des Vorfalls, die eindeutig plündernde Polen zeigen. Wenn Sie jemand sind, der nur das glaubt, was er sieht, könnte Sie das vielleicht schon dazu bringen, einen Krieg anzuzetteln. Denn genau dieser Vorfall war einer der Auslöser des Zweiten Weltkriegs.

In Anbetracht des technologischen Fortschritts und der leichteren Zugänglichkeit gehen Sicherheitsexperten wie Hany Farid, Professor für Informatik am Dartmouth College, davon aus, dass diese Deepfake-Entwicklung früher oder später in einer Katastrophe endet. Fragt sich nur noch, wie schnell Deepfakes für politische Zwecke eingesetzt werden.

Die jüngste Deepfake-Sensation: das Gesicht von Mr. Bean auf dem Körper von Donald Trump

Neue Gesetze sollen Abhilfe schaffen

Der amerikanische Gesetzgeber denkt darüber nach, dieses Problem durch rechtliche Vorschriften zu lösen. Letzten Monat legte Ben Sasse dem US-Senat einen Gesetzesentwurf vor, der das böswillige Erstellen und Verbreiten von Deepfakes als Straftat einstuft. Für den Bundesstaat New York gibt es einen Gesetzesentwurf, der das Erstellen eines Deepfake-Videos ohne die Einwilligung der betroffenen Person verbietet.

Deepfake-Verbreiter müssen aus dem Verkehr gezogen werden

Bis jetzt wurde vor allem gegen das Erstellen und das Verbreiten von Deepfakes vorgegangen. In Anbetracht der vielen Deepfake-Pornos wird aber deutlich, dass die Technologie für das Erstellen solcher Inhalte bereits zugänglich ist und auch verwendet wird. Damit verschiebt sich der Fokus auf Distributionsplattformen wie YouTube oder Twitter.

Sieht so aus, als müssten diese Plattformen – zumindest in Europa – in Zukunft nicht nur neue Filter zur Einhaltung der Urheberrechtsreform einsetzen, sondern ihre Inhalte auch auf Deepfakes überwachen. Diese neue Vorschrift, Inhalte zu filtern und urheberrechtlich geschütztes Material sowie Deepfake-Pornos zu entfernen, könnte sich auf lange Sicht erheblich auf die Entwicklung des Internets auswirken.

Auf der anderen Seite könnten sich die gestellten Anforderungen auch als nicht umsetzbar erweisen. Pro Minute werden geschätzte 400 Stunden Videomaterial auf YouTube hochgeladen und 350.000 Tweets auf Twitter gepostet. Angesichts solcher Zahlen ist fraglich, wie eine zuverlässige Prüfung solcher Unmengen an Inhalten aussehen kann. Wie Scarlett Johansson in einem Interview mit der Washington Post sagte: „Tatsächlich ist es doch so, dass es mehr oder weniger aussichtslos ist, sich vor dem Internet und seiner moralischen Verwerflichkeit schützen zu wollen.“

Dieser Artikel ist auch verfügbar in: Englisch

As a PR Consultant and journalist, Frink has covered IT security issues for a number of security software firms, as well as provided reviews and insight on the beer and automotive industries (but usually not at the same time). Otherwise, he’s known for making a great bowl of popcorn and extraordinary messes in a kitchen.