Fake America wieder großartig

Im Rennen um die besorgniserregend echten Fälschungen, die mithilfe künstlicher Intelligenz hergestellt werden können. Durch

• Will Knight Archivseite

17. August 2018

Bruce Peterson

Erraten Sie, was? Ich habe gerade ein peinliches Videomaterial von Texas Senator Ted Cruz gefunden, der zu Tina Turner singt und herumwirbelt. Seine politischen Gegner werden großen Spaß daran haben, es während der Midterms zu zeigen. Donald Trump wird ihn Dancin’ Ted nennen.

Okay, ich gebe es zu – ich habe das Video selbst erstellt. Aber hier ist das Beunruhigende: Es erforderte nur sehr wenig Videobearbeitungsfähigkeiten. Ich habe Software heruntergeladen und konfiguriert, die maschinelles Lernen nutzt, um einen überzeugenden digitalen Gesichtstausch durchzuführen. Das resultierende Video, das als Deepfake bekannt ist, zeigt Cruz‘ charakteristisch herabhängende Augen, die auf die Gesichtszüge des Schauspielers Paul Rudd gestickt sind, der lippensynchrones Karaoke macht. Es ist nicht perfekt – da ist etwas ein bisschen daneben – aber es könnte einige Leute täuschen.

Diese Geschichte war Teil unserer Ausgabe vom September 2018

• Siehe den Rest des Problems
• Abonnieren

Fotofälschung ist alles andere als neu, aber künstliche Intelligenz wird das Spiel komplett verändern. Bis vor kurzem konnte nur ein Filmstudio mit großem Budget einen Video-Face-Swap durchführen, und es hätte wahrscheinlich Millionen von Dollar gekostet. KI macht es jetzt jedem mit einem anständigen Computer und ein paar Stunden Zeit möglich, dasselbe zu tun. Weitere Fortschritte beim maschinellen Lernen werden noch komplexere Täuschungen ermöglichen – und Fälschungen schwerer zu erkennen machen.

Diese Fortschritte drohen die Grenze zwischen Wahrheit und Fiktion in der Politik weiter zu verwischen. Schon jetzt beschleunigt und verstärkt das Internet die Verbreitung von Desinformationen durch gefälschte Social-Media-Konten. Alternative Fakten und Verschwörungstheorien sind weit verbreitet und weit verbreitet. Abgesehen von ihrem möglichen Einfluss auf die letzten US-Präsidentschaftswahlen haben gefälschte Nachrichtenmeldungen im vergangenen Jahr ethnische Gewalt in Myanmar und Sri Lanka ausgelöst. Stellen Sie sich nun vor, Sie würden neue Arten von echt aussehenden gefälschten Videos in den Mix werfen: Politiker, die Unsinn oder ethnische Beleidigungen sagen, oder bei unangemessenem Verhalten auf Videos erwischt werden – außer, dass es nie wirklich passiert ist.

Deepfakes haben das Potenzial, den politischen Diskurs zu entgleisen, sagt Charles Seife, Professor an der New York University und Autor von Virtuelle Unrealität: Nur weil das Internet es Ihnen gesagt hat, woher wissen Sie, dass es wahr ist? Seife bekennt sich erstaunt darüber, wie schnell sich die Dinge seit der Veröffentlichung seines Buches im Jahr 2014 entwickelt haben. Die Technologie verändert unsere Wahrnehmung der Realität in alarmierendem Tempo, sagt er.

Stehen wir kurz vor dem Eintritt in eine Ära, in der wir nichts mehr vertrauen können, nicht einmal authentisch aussehenden Videos, die echte Nachrichten einzufangen scheinen? Wie entscheiden wir, was glaubwürdig ist? Wem vertrauen wir?

Diese Standbilder von Ted Cruz und Paul Rudd stammen aus dem Filmmaterial, das einem Gesichttauschprogramm zugeführt wurde.

Echte Fälschung

Mehrere Technologien sind zusammengekommen, um Fälschungen zu vereinfachen, und sie sind leicht zugänglich: Smartphones ermöglichen es jedem, Videomaterial aufzunehmen, und leistungsstarke Computergrafik-Tools sind viel billiger geworden. Fügen Sie Software mit künstlicher Intelligenz hinzu, die es ermöglicht, Dinge auf verblüffende neue Weise zu verzerren, neu zu mischen und zu synthetisieren. KI ist nicht nur eine bessere Version von Photoshop oder iMovie. Es lässt einen Computer lernen, wie die Welt aussieht und klingt, damit er überzeugende Simulakren heraufbeschwören kann.

Ich habe den Clip von Cruz mit OpenFaceSwap erstellt, einem von mehreren Programmen zum Wechseln von Gesichtern, die Sie kostenlos herunterladen können. Sie brauchen einen Computer mit einem fortschrittlichen Grafikchip, und das kann Sie ein paar tausend Dollar kosten. Aber Sie können den Zugang zu einer virtuellen Maschine auch für ein paar Cent pro Minute mieten, indem Sie eine Cloud-Machine-Learning-Plattform wie Paperspace verwenden. Dann fügst du einfach zwei Videoclips ein und lehnst dich ein paar Stunden zurück, während ein Algorithmus herausfindet, wie jedes Gesicht aussieht und sich bewegt, damit es aufeinander abgebildet werden kann. Es ist eine Kunst, die Dinge zum Laufen zu bringen: Wenn Sie zu unterschiedliche Clips auswählen, kann das Ergebnis ein albtraumhaftes Durcheinander aus Nasen, Ohren und Kinn sein.

Aber der Prozess ist einfach genug.

Es ist eine kleine Kunst, die Dinge zum Laufen zu bringen: Wenn Sie zu unterschiedliche Clips auswählen, kann das Ergebnis ein Mischmasch aus Nasen, Ohren und Kinn sein.

Face-Swapping wurde erwartungsgemäß zuerst für die Herstellung von Pornos übernommen. Im Jahr 2017 nutzte ein anonymer Reddit-Benutzer namens Deepfakes maschinelles Lernen, um die Gesichter berühmter Schauspielerinnen in Szenen mit Filmstars für Erwachsene zu tauschen, und veröffentlichte die Ergebnisse dann auf einem Subreddit, das sich mit durchgesickerten Promi-Pornos befasste. Ein anderer Reddit-Benutzer veröffentlichte daraufhin eine einfach zu bedienende Benutzeroberfläche, die zu einer Verbreitung von Deepfake-Pornos sowie aus irgendeinem Grund zu endlosen Clips des Schauspielers Nicolas Cage in Filmen führte, in denen er nicht wirklich mitspielte. Sogar Reddit, a notorisch freilaufender Treffpunkt, verbot solche nicht einvernehmliche Pornografie. Aber das Phänomen hält sich in den dunkleren Ecken des Internets.

OpenFaceSwap verwendet ein künstliches neuronales Netzwerk, das mittlerweile das Go-to-Tool in der KI ist. Sehr große oder tiefe neuronale Netze, die mit enormen Mengen an Trainingsdaten gespeist werden, können alle möglichen nützlichen Dinge tun, einschließlich des Auffindens des Gesichts einer Person unter Millionen von Bildern. Sie können auch verwendet werden, um Bilder zu manipulieren und zu synthetisieren.

OpenFaceSwap trainiert ein tiefes Netzwerk, um ein Gesicht zu codieren (ein Prozess ähnlich der Datenkomprimierung), wodurch eine Darstellung erstellt wird, die decodiert werden kann, um das vollständige Gesicht zu rekonstruieren. Der Trick besteht darin, die codierten Daten für ein Gesicht in den Decoder für das andere einzuspeisen. Das neuronale Netzwerk zaubert dann oft mit überraschender Genauigkeit ein Gesicht, das die Gesichtsausdrücke und Bewegungen des anderen nachahmt. Das resultierende Video kann wackelig erscheinen, aber OpenFaceSwap verwischt automatisch die Kanten und passt die Farbe des neu transplantierten Gesichts an, damit die Dinge echter aussehen.

Links: OpenFaceSwap zeigt eine Vorschau versuchter Gesichtswechsel während des Trainings. Frühe Versuche können oft etwas seltsam und grotesk sein.

Rechts: Die Software braucht mehrere Stunden, um einen guten Gesichtstausch zu erstellen. Je mehr Trainingsdaten, desto besser das Endergebnis.

Eine ähnliche Technologie kann auch verwendet werden, um die Stimme einer Person nachzubilden. Ein Startup namens Lyrebird hat überzeugende Demos von Barack Obama und Donald Trump veröffentlicht, die völlig erfundene Dinge sagen. Lyrebird sagt, dass es in Zukunft seine Stimmvervielfältigung auf Personen beschränken wird, die ihre Erlaubnis gegeben haben – aber sicherlich werden nicht alle so gewissenhaft sein.

Ein Startup hat überzeugende Demos von Barack Obama und Donald Trump gepostet, die völlig erfundene Dinge sagen.

Es gibt gut etablierte Methoden zum Identifizieren manipulierter Bilder und Videos. Eine Möglichkeit besteht darin, im Internet nach Bildern zu suchen, die möglicherweise zusammengefügt wurden. Eine eher technische Lösung besteht darin, nach verräterischen Änderungen an einer digitalen Datei oder an den Pixeln in einem Bild oder Videoframe zu suchen. Ein Experte kann nach visuellen Inkonsistenzen suchen – ein Schatten, der nicht da sein sollte, oder ein Objekt, das die falsche Größe hat.

Hany Farid von der Dartmouth University, einer der weltweit führenden Experten, hat gezeigt, wie eine Szene in 3-D rekonstruiert werden kann, um physische Kuriositäten zu entdecken. Er hat auch bewiesen, dass subtile Änderungen der Pixelintensität in einem Video, die die Pulsfrequenz einer Person anzeigen, verwendet werden können, um den Unterschied zwischen einer realen Person und einer computergenerierten Person zu erkennen. Kürzlich hat einer von Farids ehemaligen Schülern, jetzt Professor an der State University of New York in Albany, gezeigt, dass unregelmäßiges Blinzeln ein Gesicht verraten kann, das von KI manipuliert wurde.

Dennoch können die meisten Menschen diese Art von Detektivarbeit nicht leisten und haben keine Zeit, jedes Bild oder jeden Clip zu studieren, der auf Facebook auftaucht. Da visuelle Fälschungen immer häufiger vorkommen, gibt es einen Drang, die Analyse zu automatisieren. Und es stellt sich heraus, dass Deep Learning sich nicht nur hervorragend zum Erfinden von Dingen eignet, sondern auch ideal zum Untersuchen von Bildern und Videos auf Anzeichen von Fälschung. Diese Bemühungen haben jedoch gerade erst begonnen und könnten letztendlich dadurch behindert werden, wie realistisch die automatisierten Fälschungen werden könnten.

Netzwerke der Täuschung

Eine der neuesten Ideen in der KI-Forschung besteht darin, neuronale Netze gegen sich selbst zu wenden, um noch realistischere Fälschungen zu produzieren. Ein generatives kontradiktorisches Netzwerk oder GAN verwendet zwei tiefe neuronale Netzwerke: eines, das darauf trainiert wurde, echte Bilder oder Videos zu identifizieren, und ein anderes, das im Laufe der Zeit lernt, sein Gegenüber zu überlisten. GANs können trainiert werden, um überraschend realistische gefälschte Bilder zu erzeugen.

Über das Kopieren und Austauschen von Gesichtern hinaus können GANs es ermöglichen, ganze Szenen und Menschen zu synthetisieren, die ziemlich echt aussehen, eine Tagesszene in eine Nachtszene zu verwandeln und sich imaginäre Prominente auszudenken. GANs funktionieren nicht perfekt, aber sie werden ständig besser, und dies ist ein heißes Forschungsgebiet ( MIT Technology Review nannte GANs eine seiner 10 bahnbrechenden Technologien für 2018).

GANs können Tagesszenen in Nachtszenen verwandeln und sich imaginäre Promi-Gesichter ausdenken.

Am besorgniserregendsten ist, dass die Technik auch verwendet werden könnte, um digitale Forensik zu umgehen. Die US-amerikanische Defense Advanced Research Projects Agency lud Forscher ein, diesen Sommer an einem Wettbewerb teilzunehmen, bei dem einige gefälschte Videos mit GANs entwickelten und andere versuchten, sie zu erkennen. GANs sind eine besondere Herausforderung für uns in der forensischen Gemeinschaft, weil sie gegen unsere forensischen Techniken gerichtet werden können, sagt Farid. Es bleibt abzuwarten, welche Seite sich durchsetzen wird.

Das ist das Ende

Wenn wir nicht aufpassen, könnte dies zum Ende der Welt führen – oder zumindest so, wie es scheint.

Im April kündigte ein vermeintlicher BBC-Nachrichtenbericht die Eröffnungssalven eines Atomkonflikts zwischen Russland und der NATO an. Der Clip, der auf der Messaging-Plattform WhatsApp kursierte, zeigte Aufnahmen von Raketen, die abgeschossen wurden, als ein Nachrichtensprecher den Zuschauern mitteilte, dass die deutsche Stadt Mainz zusammen mit Teilen von Frankfurt zerstört worden sei.

Es war natürlich eine völlige Fälschung, und die BBC beeilte sich, es anzuprangern. Das Video wurde nicht mit KI erstellt, aber es zeigte die Macht gefälschter Videos und wie sie Gerüchte mit Warp-Geschwindigkeit verbreiten können. Die Verbreitung von KI-Programmen wird es viel einfacher machen, solche Videos zu erstellen, und noch überzeugender.

Auch wenn wir uns nicht von Fake News täuschen lassen, könnten sie verheerende Folgen für die politische Debatte haben. So wie wir uns inzwischen daran gewöhnt haben, zu hinterfragen, ob ein Foto möglicherweise mit Photoshop bearbeitet wurde, könnten uns KI-generierte Fälschungen misstrauischer gegenüber Ereignissen machen, die wir online sehen. Und dies könnte zur weiteren Erosion rationaler politischer Debatten beitragen.

In Der Tod der Wahrheit , der in diesem Jahr erschienen ist, argumentiert die Literaturkritikerin Michiko Kakutani, dass alternative Fakten, Fake News und der allgemeine Wahnsinn der modernen Politik den Höhepunkt kultureller Strömungen darstellen, die Jahrzehnte zurückreichen. Kakutani sieht hyperreale KI-Fälschungen nur als den jüngsten schweren Schlag gegen das Konzept der objektiven Realität.

Bevor die Technologie überhaupt gut wird, ist die Tatsache, dass sie existiert und ein Weg ist, das Vertrauen in legitimes Material zu untergraben, zutiefst problematisch, sagt Renee DiResta, Forscherin bei Data for Democracy und eine der ersten Personen, die das Phänomen des politisch motivierten Twitter identifiziert hat Desinformationskampagnen.

Das vielleicht größte Risiko bei dieser neuen Technologie besteht also nicht darin, dass sie von staatlichen Hackern, politischen Saboteuren oder Anonymous missbraucht wird, sondern darin, dass sie die Wahrheit und Objektivität selbst weiter untergräbt. Wenn Sie eine Fälschung nicht von der Realität unterscheiden können, wird es einfach, die Echtheit von irgendetwas in Frage zu stellen. Dies dient Politikern bereits als Möglichkeit, sich der Rechenschaftspflicht zu entziehen.

Das vielleicht größte Risiko besteht darin, dass die Technologie die Wahrheit und Objektivität weiter untergräbt.

Präsident Trump hat die Idee der gefälschten Nachrichten auf den Kopf gestellt, indem er den Begriff benutzte, um alle Medienberichte anzugreifen, die seine Regierung kritisieren. Er hat auch angedeutet, dass ein belastender Clip, in dem er Frauen verunglimpft, der während der Kampagne 2016 veröffentlicht wurde, möglicherweise digital gefälscht wurde. Im April dieses Jahres beschuldigte die russische Regierung Großbritannien, Videobeweise eines Chemiewaffenangriffs in Syrien gefälscht zu haben, um geplante Militäraktionen zu rechtfertigen. Keine der Anschuldigungen war wahr, aber die Möglichkeit raffinierter Fälschungen mindert zunehmend die Glaubwürdigkeit echter Informationen. In Myanmar und Russland zielen neue Gesetze darauf ab, Fake News zu verbieten, aber in beiden Fällen können die Gesetze einfach dazu dienen, gegen Kritik an der Regierung vorzugehen.

Da sich die Mächtigen zunehmend der KI-Fälschung bewusst werden, wird es leicht, selbst eindeutige Videobeweise von Fehlverhalten als nichts anderes als von GAN verursachte digitale Täuschung abzutun.

Die Wahrheit wird immer noch da draußen sein. Aber wirst du es erkennen, wenn du es siehst?

Will Knight ist leitender Redakteur bei MIT Technology Review der sich mit künstlicher Intelligenz befasst.

verbergen