Ein neues Deepfake-Erkennungstool sollte die Führer der Welt vorerst schützen

Ein Bild von Deepfake und imitierenden Beispielen von Barak Obama Universität von Kalifornien, Berkeley

Ein von KI produziertes Video könnte zeigen, wie Donald Trump etwas extrem Unerhörtes und Aufrührerisches sagt oder tut. Es wäre nur zu glaubwürdig und könnte im schlimmsten Fall eine Wahl beeinflussen, Gewalt auf den Straßen auslösen oder einen internationalen bewaffneten Konflikt auslösen.

Zum Glück ein neues Technik der digitalen Forensik verspricht, Präsident Trump, andere führende Persönlichkeiten der Welt und Prominente vor solchen Deepfakes zu schützen – zumindest vorerst. Die neue Methode nutzt maschinelles Lernen, um den Sprach- und Bewegungsstil einer bestimmten Person zu analysieren, was die Forscher als softbiometrische Signatur bezeichnen.

Die Forscher der UC Berkeley und der University of Southern California verwendeten ein vorhandenes Tool, um die Gesichts- und Kopfbewegungen von Personen zu extrahieren. Sie haben auch ihre eigenen Deepfakes für Donald Trump, Barack Obama, Bernie Sanders, Elizabeth Warren und Hillary Clinton mithilfe von generativen gegnerischen Netzwerken erstellt.

Das Team verwendete dann maschinelles Lernen, um die Kopf- und Gesichtsbewegungen zu unterscheiden, die die reale Person charakterisieren. Diese subtilen Signale – die Art und Weise, wie Bernie Sanders vielleicht nickt, während er ein bestimmtes Wort sagt, oder das Grinsen von Trump nach einem Comeback – werden derzeit nicht von Deepfake-Algorithmen modelliert.

In Experimenten war die Technik zu mindestens 92 % genau beim Erkennen mehrerer Variationen von Deepfakes, darunter Gesichtstausch und solche, bei denen ein Imitator eine digitale Marionette verwendet. Es war auch in der Lage, mit Artefakten in den Dateien umzugehen, die aus der erneuten Komprimierung eines Videos stammen, was andere Erkennungstechniken verwirren kann. Die Forscher planen, die Technik zu verbessern, indem sie auch Merkmale der Sprache einer Person berücksichtigen. Die Forschung, die bei a vorgestellt wurde Computer Vision Konferenz in Kalifornien diese Woche, wurde von Google und DARPA, einem Forschungsflügel des Pentagon, finanziert. DARPA finanziert ein Programm zur Entwicklung besserer Erkennungstechniken.

Das Problem, mit dem Weltführer (und alle anderen) konfrontiert sind, besteht darin, dass es lächerlich einfach geworden ist, Videofälschungen mit künstlicher Intelligenz zu erstellen. Falschmeldungen, gefälschte Social-Media-Konten und manipulierte Videos haben bereits die politische Berichterstattung und den Diskurs untergraben. Politiker sind besonders besorgt darüber, dass gefälschte Medien verwendet werden könnten, um während der Präsidentschaftswahl 2020 Fehlinformationen zu säen.

Einige Tools zum Fangen von Deepfake-Videos wurden bereits produziert, aber Fälscher haben sich schnell angepasst. Zum Beispiel war es eine Zeit lang möglich, einen Deepfake zu erkennen, indem man die Augenbewegungen des Sprechers verfolgte, die bei Deepfakes eher unnatürlich waren. Kurz nachdem diese Methode identifiziert wurde, wurden Deepfake-Algorithmen jedoch optimiert, um ein besseres Blinken zu ermöglichen.

Wir erleben ein Wettrüsten zwischen digitalen Manipulationen und der Fähigkeit, diese zu erkennen, und die Fortschritte bei KI-basierten Algorithmen katalysieren beide Seiten, sagt Hao Li, Professor an der University of Southern California und CEO von Pinscreen die an der Entwicklung der neuen Technik mitgewirkt haben. Aus diesem Grund hat sein Team den Code hinter der Methode noch nicht veröffentlicht.

Li sagt, dass es für Deepfake-Hersteller besonders schwierig sein wird, sich an die neue Technik anzupassen, aber er räumt ein, dass sie es wahrscheinlich irgendwann tun werden. Der nächste Schritt, um diese Form der Erkennung zu umgehen, wäre, Bewegungen und Verhaltensweisen basierend auf früheren Beobachtungen dieser bestimmten Person zu synthetisieren, sagt er.

Li sagt auch, dass es für jeden notwendig werden könnte, sich zu schützen, wenn Deepfakes einfacher zu verwenden und leistungsfähiger werden. Prominente und politische Persönlichkeiten seien bisher die Hauptziele gewesen, sagt er. Aber ich wäre nicht überrascht, wenn in ein oder zwei Jahren künstliche Menschen, die von echten nicht zu unterscheiden sind, von jedem Endverbraucher synthetisiert werden könnten.

verbergen