211service.com
Das US-Militär finanziert einen Versuch, Deepfakes und andere KI-Tricks zu fangen
Denken Sie, dass KI dazu beitragen wird, gefälschte Nachrichten zu stoppen? Das US-Militär ist sich da nicht so sicher.
Das US-Verteidigungsministerium finanziert ein Projekt, das versuchen soll, festzustellen, ob die zunehmend echt aussehenden gefälschten Video- und Audiodateien, die von künstlicher Intelligenz generiert werden, bald nicht mehr von der Realität zu unterscheiden sein könnten – selbst für ein anderes KI-System.
In diesem Sommer, im Rahmen eines Projekts finanziert durch die Agentur für fortgeschrittene Verteidigungsforschungsprojekte (DARPA) , treffen sich die weltweit führenden Experten für digitale Forensik zu einem KI-Fälschungswettbewerb. Sie werden konkurrieren, um die überzeugendsten KI-generierten gefälschten Videos, Bilder und Audiodateien zu erstellen – und sie werden auch versuchen, Tools zu entwickeln, die diese Fälschungen automatisch erkennen können.
Der Wettbewerb umfasst sogenannte Deepfakes, Videos, in denen das Gesicht einer Person auf den Körper einer anderen Person gestickt wird. Ziemlich vorhersehbar wurde die Technologie bereits verwendet, um eine Reihe gefälschter Promi-Pornovideos zu erstellen. Aber die Methode könnte auch verwendet werden, um einen Clip zu erstellen, in dem ein Politiker etwas Unverschämtes sagt oder tut.
Die Technologen von DARPA sind besonders besorgt über eine relativ neue KI-Technik, die es fast unmöglich machen könnte, KI-Fälschungen automatisch zu erkennen. Mithilfe sogenannter Generative Adversarial Networks, kurz GANs, ist es möglich, verblüffend realistische künstliche Bilder zu erzeugen.
Wenn Sie einem GAN alle Techniken geben, die wir kennen, um es zu erkennen, könnte es theoretisch alle diese Techniken bestehen, sagt David Gunning, der für das Projekt zuständige DARPA-Programmmanager. Wir wissen nicht, ob es eine Grenze gibt. Es ist unklar.
Ein GAN besteht aus zwei Komponenten. Der erste, der als Akteur bekannt ist, versucht, die statistischen Muster in einem Datensatz, z. B. einem Satz von Bildern oder Videos, zu lernen und dann überzeugende synthetische Datenstücke zu generieren. Der zweite, Kritiker genannt, versucht, zwischen echten und gefälschten Beispielen zu unterscheiden. Das Feedback des Kritikers ermöglicht es dem Schauspieler, immer realistischere Beispiele zu produzieren. Und da GANs bereits darauf ausgelegt sind, ein KI-System zu überlisten, ist unklar, ob ein automatisiertes System sie fangen könnte.
GANs sind relativ neu, aber sie haben die Szene des maschinellen Lernens im Sturm erobert (siehe The GANfather: The man who’s Given Machines the Gift of Imagination ). Mit ihnen lassen sich bereits sehr realistische imaginäre Berühmtheiten erträumen oder Bilder überzeugend modifizieren ein Stirnrunzeln in ein Lächeln verwandeln oder die Nacht zum Tag machen.
Das Erkennen einer digitalen Fälschung umfasst normalerweise drei Schritte. Die erste besteht darin, die digitale Datei auf Anzeichen dafür zu untersuchen, dass zwei Bilder oder Videos zusammengefügt wurden. Die zweite besteht darin, die Beleuchtung und andere physikalische Eigenschaften der Bilder auf Anzeichen dafür zu untersuchen, dass etwas nicht stimmt. Die dritte – die automatisch am schwierigsten zu erledigen und wahrscheinlich am schwersten zu umgehen ist – besteht darin, logische Ungereimtheiten zu berücksichtigen, wie das falsche Wetter für das vermeintliche Datum oder einen falschen Hintergrund für den vermeintlichen Ort.
Walter Scheirer , ein Experte für digitale Forensik an der University of Notre Dame, der am DARPA-Projekt beteiligt ist, sagt, dass die Technologie seit dem Start der Initiative vor ein paar Jahren einen überraschend langen Weg zurückgelegt hat. Wir befinden uns definitiv in einem Wettrüsten, sagt er.
Während es einem erfahrenen Grafikexperten schon lange möglich ist, überzeugend aussehende Fälschungen zu erstellen, wird KI die Technologie weitaus zugänglicher machen. Es ist von staatlich geförderten Schauspielern und Hollywood zu jemandem auf Reddit gegangen, sagt er Hanni Farid , ein Professor in Dartmouth, der sich auf digitale Forensik spezialisiert hat. Die Dringlichkeit, die wir jetzt empfinden, liegt im Schutz der Demokratie.
Deepfakes verwenden eine beliebte Technik des maschinellen Lernens, die als Deep Learning bekannt ist, um automatisch ein neues Gesicht in ein vorhandenes Video einzufügen. Wenn große Datenmengen in ein sehr großes oder tiefes simuliertes neuronales Netzwerk eingespeist werden, kann ein Computer lernen, alle möglichen nützlichen Aufgaben auszuführen, beispielsweise eine sehr genaue Gesichtserkennung. Aber der gleiche Ansatz erleichtert auch die böswillige Videomanipulation. Ein online veröffentlichtes Tool ermöglicht es jedem mit bescheidenem technischem Fachwissen, neue Deepfakes zu erstellen. Und der Schöpfer dieses Tools erzählte Hauptplatine dass eine noch benutzerfreundlichere Version in Arbeit ist.
Das Problem geht natürlich weit über das Tauschen von Gesichtern hinaus. Experten sagen zunehmend, dass es bald viel schwieriger sein könnte zu wissen, ob ein Foto, Video oder Audioclip von einer Maschine erstellt wurde. Google hat sogar ein Tool namens Duplex entwickelt, das mithilfe von KI einen Telefonanruf vortäuscht.
Aviv ovadya , Cheftechnologe am Center for Social Media Responsibility der University of Michigan, befürchtet, dass die derzeit entwickelten KI-Technologien dazu verwendet werden könnten, den Ruf von jemandem zu schädigen, eine Wahl zu beeinflussen oder Schlimmeres. Diese Technologien können auf wunderbare Weise zur Unterhaltung und auch auf sehr erschreckende Weise eingesetzt werden, sagte Ovadya am 15. Mai Veranstaltung organisiert von Bloomberg . Sie haben bereits modifizierte Bilder, die verwendet werden, um echte Gewalt in den Entwicklungsländern zu verursachen, sagte er. Das ist eine reale und gegenwärtige Gefahr.
Wenn Technologie nicht eingesetzt werden kann, um Fälschungen und Fehlinformationen aufzudecken, wird möglicherweise versucht, stattdessen das Gesetz einzusetzen. Tatsächlich hat Malaysia im April Gesetze gegen Fake News eingeführt. Farid von Dartmouth sagt jedoch, dass sich dies selbst als problematisch erweisen könnte, da die Wahrheit selbst ein schlüpfriges Thema ist. Wie definiert man Fake News? Das ist gar nicht so einfach, wie man denkt, sagt er. Ich kann ein Bild zuschneiden und ein Bild grundlegend verändern. Und was machst du mit dem Zwiebel ?