211service.com
Das Verteidigungsministerium hat die ersten Tools zum Fangen von Deepfakes entwickelt
sonnig sonnig
Die ersten forensischen Tools zum Aufspüren von Rachepornos und gefälschten Nachrichten, die mit KI erstellt wurden, wurden durch ein Programm des US-Verteidigungsministeriums entwickelt.
Forensiker haben sich beeilt, Wege zu finden, um mithilfe von maschinellem Lernen synthetisierte und manipulierte Videos zu erkennen, da die Technologie es viel einfacher macht, überzeugende gefälschte Videos zu erstellen, die dazu verwendet werden könnten, Desinformation zu säen oder Menschen zu belästigen.
Die gebräuchlichste Technik zum Generieren gefälschter Videos besteht darin, mithilfe von maschinellem Lernen das Gesicht einer Person mit dem einer anderen auszutauschen. Die resultierenden Videos, bekannt als Deepfakes, sind einfach zu erstellen und können es sein überraschend realistisch . Weitere Optimierungen, die von einem erfahrenen Videoeditor vorgenommen werden, können sie erscheinen lassen noch echter .
Bei der Videotrickserei wird eine maschinelle Lerntechnik verwendet, die als generative Modellierung bekannt ist und einen Computer aus echten Daten lernen lässt, bevor er gefälschte Beispiele erstellt, die statistisch ähnlich sind. Eine neue Wendung in dieser Hinsicht besteht darin, dass zwei neuronale Netze, bekannt als Generative Adversarial Networks, zusammenarbeiten, um immer überzeugendere Fälschungen zu produzieren (siehe The GANfather: The man who’s Given Machines the Gift of Imagination).
Die Tools zum Fangen von Deepfakes wurden durch ein Programm entwickelt, das von der US Defense Advanced Research Projects Agency (DARPA) mit dem Namen Medienforensik . Das Programm wurde entwickelt, um bestehende Forensik-Tools zu automatisieren, hat sich aber kürzlich auf KI-Fälschungen konzentriert.
„Wir haben subtile Hinweise in aktuellen GAN-manipulierten Bildern und Videos entdeckt, die es uns ermöglichen, das Vorhandensein von Veränderungen zu erkennen“, sagt Matthew Turek, der das Media Forensics-Programm leitet.
Tucker Carlson bekommt sein eigenes Nicolas-Cage-Makeover. Universität in Albany, SUNY
Eine bemerkenswert einfache Technik wurde von einem Team unter der Leitung von entwickelt Siwei Lyu , Professor an der State University of New York in Albany, und einer seiner Studenten. Wir haben ungefähr 50 gefälschte Videos erstellt und eine Reihe traditioneller forensischer Methoden ausprobiert. Sie arbeiteten hin und wieder, aber nicht sehr gut, sagt Lyu.
Dann, eines Nachmittags, während sie mehrere Deepfakes studierte, bemerkte Lyu, dass die Gesichter, die mit Deepfakes gemacht wurden, selten, wenn überhaupt, blinzelten. Und wenn sie blinzeln, ist die Augenbewegung unnatürlich. Das liegt daran, dass Deepfakes auf Standbilder trainiert werden, die dazu neigen, eine Person mit offenen Augen zu zeigen.
Andere, die an der DARPA-Challenge beteiligt sind, erforschen ähnliche Tricks, um Deepfakes automatisch zu erkennen: seltsame Kopfbewegungen, seltsame Augenfarbe und so weiter. „Wir arbeiten daran, diese Arten von physiologischen Signalen auszunutzen, die für Deepfakes zumindest derzeit schwer nachzuahmen sind“, sagt er Hanni Farid , ein führender Experte für digitale Forensik am Dartmouth College.
Turek von DARPA sagt, dass die Agentur mehr Wettbewerbe durchführen wird, um sicherzustellen, dass die in der Entwicklung befindlichen Technologien in der Lage sind, die neuesten Techniken zu erkennen.“
Die Ankunft dieser forensischen Tools könnte einfach den Beginn eines KI-gestützten Wettrüstens zwischen Videofälschern und digitalen Spürhunden signalisieren. Ein zentrales Problem, sagt Farid, ist, dass maschinelle Lernsysteme darauf trainiert werden können, forensische Tools auszumanövrieren.
Lyu sagt, ein erfahrener Fälscher könnte sein Augenblinzelwerkzeug umgehen, indem er einfach Bilder sammelt, die eine blinzelnde Person zeigen. Aber er fügt hinzu, dass sein Team eine noch effektivere Technik entwickelt hat, sagt aber, dass er sie im Moment geheim hält. Ich warte lieber noch ein bisschen, sagt Lyu. Wir haben im Moment einen kleinen Vorteil gegenüber den Fälschern, und diesen Vorteil wollen wir behalten.