211service.com
Facebook hat gerade eine Datenbank mit 100.000 Deepfakes veröffentlicht, um der KI beizubringen, wie man sie erkennt
Deepfakes haben sowohl bei der Öffentlichkeit als auch bei Forschern den Nerv getroffen. Es gibt etwas einzigartig Beunruhigendes an diesen KI-generierten Bildern von Menschen, die scheinbar etwas sagen oder tun, was sie nicht getan haben.
Mit Tools zum Erstellen von Deepfakes Inzwischen weit verbreitet und relativ einfach zu verwenden, befürchten viele auch, dass sie zur Verbreitung gefährlicher Fehlinformationen verwendet werden. Politiker können sich zum Beispiel die Worte anderer Menschen in den Mund legen lassen oder sich an Situationen beteiligen, an denen sie selbst nicht beteiligt waren.
Das ist zumindest die Befürchtung. Für das menschliche Auge ist die Wahrheit, dass Deepfakes immer noch relativ leicht zu erkennen sind. Und gem Ein Bericht des Cybersicherheitsunternehmens DeepTrace Labs im Oktober 2019, immer noch die umfassendsten bisher, wurden sie in keiner Desinformationskampagne verwendet. Derselbe Bericht stellte jedoch auch fest, dass die Zahl der online geposteten Deepfakes schnell zunahm, wobei in den vorangegangenen sieben Monaten rund 15.000 auftauchten. Diese Zahl wird jetzt viel größer sein.
Social-Media-Unternehmen befürchten, dass Deepfakes bald ihre Seiten überschwemmen könnten. Aber sie automatisch zu erkennen, ist schwierig. Um das Problem anzugehen, möchte Facebook mithilfe von KI helfen, sich gegen KI-generierte Fälschungen zu wehren. Um KIs darin zu schulen, manipulierte Videos zu erkennen, veröffentlicht es den bisher größten Datensatz von Deepfakes – mehr als 100.000 Clips, die mit 3.426 Schauspielern und einer Reihe bestehender Techniken zum Austauschen von Gesichtern produziert wurden.
Deepfakes seien derzeit kein großes Thema, sagt Facebooks CTO Mike Schroepfer. Aber die Lektion, die ich in den letzten Jahren auf die harte Tour gelernt habe, ist, nicht auf dem falschen Fuß erwischt zu werden. Ich möchte wirklich auf viele schlimme Dinge vorbereitet sein, die nie passieren, anstatt umgekehrt.
Facebook hat auch den Gewinner seines bekannt gegeben Deepfake-Erkennungs-Challenge , bei dem 2.114 Teilnehmer rund 35.000 Modelle einreichten, die mit ihrem Datensatz trainiert wurden. Das beste Modell, entwickelt von Selim Seferbekov, einem Ingenieur für maschinelles Lernen bei der Kartierungsfirma Mapbox, konnte mit einer Genauigkeit von 65 % erkennen, ob ein Video ein Deepfake war, als es an einer Reihe von 10.000 zuvor ungesehenen Clips getestet wurde, darunter eine Mischung aus neuen Videos von Facebook generierte und vorhandene aus dem Internet.
Um die Sache noch schwieriger zu machen, enthalten das Trainingsset und das Testset Videos, durch die ein Erkennungssystem verwirrt werden könnte, wie z Orientierung und verlangsamen sie.
Anstatt forensische Techniken zu lernen, wie zum Beispiel die Suche nach digitalen Fingerabdrücken in den Pixeln eines Videos, die durch den Deepfake-Generierungsprozess zurückgelassen wurden, scheinen die Top-5-Einträge gelernt zu haben, zu erkennen, wenn etwas aussah, wie es ein Mensch tun könnte.
Zu diesem Zweck verwendeten die Gewinner alle eine neue Art von Convolutional Neural Network (CNN), die im vergangenen Jahr von Google-Forschern entwickelt wurde und EfficientNets heißt. CNNs werden häufig zur Analyse von Bildern verwendet und eignen sich gut zum Erkennen von Gesichtern oder zum Erkennen von Objekten. Die Verbesserung ihrer Genauigkeit über einen bestimmten Punkt hinaus kann jedoch eine Ad-hoc-Feinabstimmung erfordern. EfficientNets bieten eine strukturiertere Möglichkeit zur Abstimmung und erleichtern die Entwicklung genauerer Modelle. Aber was genau sie dazu bringt, andere neuronale Netze bei dieser Aufgabe zu übertreffen, ist nicht klar, sagt Seferbekov.
Facebook plant nicht, eines der Gewinnermodelle auf seiner Website zu verwenden. Zum einen ist eine Genauigkeit von 65 % noch nicht gut genug, um nützlich zu sein. Einige Modelle erreichten mit den Trainingsdaten eine Genauigkeit von mehr als 80 %, aber diese fiel, wenn sie mit unsichtbaren Clips verglichen wurde. Das Verallgemeinern auf neue Videos, die verschiedene Gesichter enthalten können, die mit verschiedenen Techniken ausgetauscht werden, ist der schwierigste Teil der Herausforderung, sagt Seferbekov.
Er glaubt, dass eine Möglichkeit zur Verbesserung der Erkennung darin bestünde, sich auf die Übergänge zwischen Videoframes zu konzentrieren und sie über die Zeit zu verfolgen. Selbst sehr hochwertige Deepfakes haben ein gewisses Flackern zwischen den Frames, sagt Seferbekov. Menschen sind gut darin, diese Inkonsistenzen zu erkennen, insbesondere bei Aufnahmen von Gesichtern. Das automatische Erkennen dieser verräterischen Fehler erfordert jedoch größere und vielfältigere Trainingsdaten und viel mehr Rechenleistung. Seferbekov versuchte, diese Frame-Übergänge zu verfolgen, konnte es aber nicht. Die CPU war dort ein echter Engpass, sagt er.
Facebook schlägt vor, dass die Deepfake-Erkennung auch durch den Einsatz von Techniken verbessert werden kann, die über die Analyse eines Bildes oder Videos selbst hinausgehen, wie z. B. die Bewertung seines Kontextes oder seiner Herkunft.
Sam Gregory, der Witness leitet, ein Projekt, das Menschenrechtsaktivisten bei der Nutzung von Videotechnologien unterstützt, begrüßt die Investition von Social-Media-Plattformen in die Deepfake-Erkennung. Witness ist Mitglied von Partnership on AI, das Facebook zu seinem Datensatz beriet. Gregory stimmt Schroepfer zu, dass es sich lohnt, sich auf das Schlimmste vorzubereiten. Wir hatten keine Deepfake-Apokalypsen, aber diese Tools sind eine sehr unangenehme Ergänzung zu geschlechtsspezifischer Gewalt und Fehlinformationen, sagt er. Der Bericht von DeepTrace Labs ergab beispielsweise, dass 96 % der Deepfakes waren nicht einvernehmliche Pornografie, in denen die Gesichter anderer Leute über die von Darstellern in Pornoclips geklebt werden.
Wenn Millionen von Menschen Videos erstellen und teilen können, ist es wichtiger denn je, dem zu vertrauen, was wir sehen. Gefälschte Nachrichten verbreiten sich wie ein Lauffeuer über Facebook, und die bloße Möglichkeit von Deepfakes lässt uns zweifeln eher echtes Filmmaterial in Frage stellen sowie Fälschung.
Darüber hinaus könnte die automatische Erkennung bald unsere einzige Option sein. In Zukunft werden wir Deepfakes sehen, die von Menschen nicht unterschieden werden können, sagt Seferbekov.