Deepfake-Busting-Apps können sogar ein einzelnes Pixel erkennen, das fehl am Platz ist

Mit freundlicher Genehmigung von Serelay





Früher war das Fälschen von Fotos und Videos sehr arbeitsintensiv. Entweder haben Sie CGI verwendet, um fotorealistische Bilder von Grund auf neu zu erstellen (sowohl herausfordernd als auch teuer), oder Sie brauchten einige Photoshop-Kenntnisse – und viel Zeit –, um vorhandene Bilder überzeugend zu modifizieren.

Jetzt hat es das Aufkommen von KI-generierten Bildern für jeden einfacher gemacht, ein Bild oder ein Video mit verwirrend realistischen Ergebnissen zu optimieren. Früher in diesem Jahr, MIT Technology Review Der leitende KI-Redakteur Will Knight verwendete handelsübliche Software, um sein eigenes gefälschtes Video des US-Senators Ted Cruz zu fälschen. Das Video ist ein wenig fehlerhaft, aber es wird nicht lange dauern.

Dieselbe Technologie erzeugt eine wachsende Klasse von Filmmaterial und Fotos, sogenannte Deepfakes , die das Potenzial haben, die Wahrheit zu untergraben, Zuschauer zu verwirren und Zwietracht in einem viel größeren Ausmaß zu säen, als wir es bereits mit textbasierten Fake News gesehen haben.



Dies sind die Möglichkeiten, die Hany Farid, einen Informatikprofessor am Dartmouth College, stören, der seit 20 Jahren gefälschte Bilder entlarvt. Ich glaube, wir sind noch nicht bereit, warnt er. Aber er hofft, dass das wachsende Bewusstsein für das Problem und neue technologische Entwicklungen die Menschen besser darauf vorbereiten könnten, echte Bilder von manipulierten Kreationen zu unterscheiden.

Ein Originalbild des Brasenose College der Universität Oxford. Mit freundlicher Genehmigung von Serelay

Ein Beispiel dafür, wie das Originalbild bearbeitet werden könnte, um die LGBTQ-Regenbogenflagge auf dem Dach zu entfernen. Mit freundlicher Genehmigung von Serelay



Es gibt zwei Hauptwege, um mit der Herausforderung der Verifizierung von Bildern umzugehen, erklärt Farid. Die erste besteht darin, nach Modifikationen in einem Bild zu suchen. Experten für Bildforensik verwenden Computertechniken, um herauszufinden, ob Pixel oder Metadaten verändert zu sein scheinen. Sie können beispielsweise nach Schatten oder Reflexionen suchen, die den Gesetzen der Physik nicht folgen, oder überprüfen, wie oft eine Bilddatei komprimiert wurde, um festzustellen, ob sie mehrfach gespeichert wurde.

Die zweite und neuere Methode besteht darin, die Integrität eines Bildes in dem Moment zu überprüfen, in dem es aufgenommen wird. Dazu müssen Dutzende von Überprüfungen durchgeführt werden, um sicherzustellen, dass der Fotograf nicht versucht, die Standortdaten und den Zeitstempel des Geräts zu fälschen. Bestätigen sich die Koordinaten, die Zeitzone und die Höhe der Kamera sowie die WLAN-Netzwerke in der Nähe gegenseitig? Wird das Licht im Bild wie bei einer dreidimensionalen Szene gebrochen? Oder fotografiert jemand ein anderes zweidimensionales Foto?

Farid hält diesen zweiten Ansatz für besonders vielversprechend. In Anbetracht der zwei Milliarden Fotos, die täglich ins Internet hochgeladen werden, glaubt er, dass dies helfen könnte, Bilder in großem Umfang zu überprüfen.



Serelay ermöglicht es Benutzern, verdächtige Fotos hochzuladen, um zu überprüfen, ob sie manipuliert wurden. Das System führt eine Reihe von Überprüfungen durch, um festzustellen, wo gegebenenfalls Änderungen vorgenommen wurden. Mit freundlicher Genehmigung von Serelay

Zwei Startups, das in den USA ansässige Unternehmen Truepic (für das Farid als Berater tätig ist) und das in Großbritannien ansässige Unternehmen Serelay arbeiten nun daran, diese Idee zu kommerzialisieren. Sie haben ähnliche Ansätze gewählt: Jeder hat kostenlose iOS- und Android-Kamera-Apps, die proprietäre Algorithmen verwenden, um Fotos automatisch zu überprüfen, wenn sie aufgenommen werden. Wenn ein Bild viral geht, kann es mit dem Original verglichen werden, um zu überprüfen, ob es seine Integrität bewahrt hat.

Während Truepic die Bilder seiner Benutzer hochlädt und auf seinen Servern speichert, speichert Serelay eine Art digitalen Fingerabdruck, indem es aus jedem Bild etwa hundert mathematische Werte berechnet. (Das Unternehmen behauptet, dass diese Werte ausreichen, um selbst eine einzelne Pixelbearbeitung zu erkennen und ungefähr zu bestimmen, welcher Abschnitt des Bildes geändert wurde.) Truepic sagt, dass sie sich dafür entscheiden, die vollständigen Bilder zu speichern, falls Benutzer sensible Fotos aus Sicherheitsgründen löschen möchten. (In einigen Fällen müssen Truepic-Benutzer, die in Szenarien mit hoher Bedrohung, wie einem Kriegsgebiet, operieren, die App sofort entfernen, nachdem sie Szenen dokumentiert haben.) Serelay hingegen glaubt, dass das Nichtspeichern der Fotos den Benutzern mehr Privatsphäre bietet.



Serelay ist in der Lage, die fehlende Flagge auf dem Foto zu fangen und hervorzuheben. Mit freundlicher Genehmigung von Serelay

Als zusätzliche Vertrauens- und Schutzebene speichert Truepic auch alle Fotos und Metadaten mithilfe einer Blockchain – der Technologie hinter Bitcoin, die Kryptographie und verteilte Netzwerke kombiniert, um Informationen sicher zu speichern und zu verfolgen.

Es ist nicht kugelsicher, gibt Farid zu, und er sagt, es gibt einige Nachteile. Benutzer müssen beispielsweise die Verifizierungssoftware anstelle der Kamera-App auf ihrem Telefon verwenden. Er weist auch darauf hin, dass Unternehmen, die versuchen, diese Art von Technologie zu kommerzialisieren, möglicherweise der Monetarisierung Vorrang vor der Sicherheit einräumen. Wir setzen ein gewisses Vertrauen in die Unternehmen, die diese Apps entwickeln, sagt er.

Aber es gibt auch Strategien zur Minderung. Truepic und Serelay bieten beide Software-Entwicklungskits an, um ihre Technologie für Plattformen von Drittanbietern zugänglich zu machen. Ihre Idee ist es, ihre Verifizierungstechnologie eines Tages zu einem Industriestandard für Digitalkameras zu machen, einschließlich Facebooks, Snapchats oder sogar Apples nativer Kamera-App. In diesem Szenario könnte ein unverändertes Bild, das in sozialen Medien gepostet wird, automatisch ein Häkchen erhalten, wie ein Twitter-Verifizierungsabzeichen, das anzeigt, dass es mit einem Bild in ihrer Datenbank übereinstimmt – ein Zeichen, von dem Serelay hofft, dass es vertrauenswürdig ist.

Die überwiegende Mehrheit der Inhalte, die wir online sehen, wird mit Mobilgeräten aufgenommen, sagt Farid. Es gibt im Grunde eine Handvoll Kameras, die diese Art von Technologie in ihr System integrieren können, und ich denke, Sie hätten eine ziemlich gute Lösung.

Jedes Startup befindet sich jetzt in frühen Gesprächen mit Social-Media-Unternehmen, um die Möglichkeit einer Partnerschaft zu erkunden, und Serelay ist auch Teil eines neuen Facebook-Accelerator-Programms namens LDN_LAB.

Obwohl die Technologie noch nicht weit verbreitet ist, ermutigt Farid die Menschen, sie standardmäßig zu verwenden, wenn es um die Dokumentation von High-Stakes-Szenarien geht, seien es politische Wahlkampfreden, Menschenrechtsverletzungen oder Beweisstücke an einem Tatort. Truepic hat bereits gesehen, wie Bürger seine App nutzen, um Krisen in Syrien zu dokumentieren. Al Jazeera verwendete dann das verifizierte Filmmaterial für die Produktion mehrere Videos . Beide Unternehmen haben ihre Technologie auch in der Versicherungsbranche als verifizierte Methode zur Schadensdokumentation vermarktet.

Laut Farid ist es für Unternehmen, die diese Arbeit machen, wichtig, ihre Prozesse transparent zu machen und mit vertrauenswürdigen Partnern zusammenzuarbeiten. Dies kann dazu beitragen, das Vertrauen der Benutzer aufrechtzuerhalten und schlechte Akteure fernzuhalten.

Wir haben noch einen weiten Weg vor uns, um vollständig auf die Verbreitung von Deepfakes vorbereitet zu sein, sagt er. Aber er ist zuversichtlich. Die Truepic-artige Technologie und die Serelay-artige Technologie seien in guter Verfassung, sagt er. Ich denke, wir bereiten uns vor.

verbergen