Die größte Bedrohung durch Deepfakes sind nicht die Deepfakes selbst

Ein Bild von Hitler, der eine Rede hält, wobei sein Gesicht durch ein Fragezeichen ersetzt wird. Frau Tech

Es war Ende 2018 und die Menschen in Gabun hatten ihren Präsidenten Ali Bongo seit Monaten nicht mehr in der Öffentlichkeit gesehen. Einige begannen zu vermuten, dass er krank oder sogar tot war, und die Regierung vertuschte dies. Um die Spekulationen zu stoppen, gab die Regierung bekannt, dass Bongo einen Schlaganfall erlitten habe, aber bei guter Gesundheit geblieben sei. Bald darauf, es ein Video veröffentlicht von ihm, wie er seine übliche Neujahrsansprache hält.

Anstatt Spannungen abzubauen, bewirkte das Video jedoch genau das Gegenteil. Wie von der Digital Rights Organisation Internet Without Borders aufgedeckt, denken viele Menschen Bongo schaute auf den Aufnahmen weg , vermutete sofort, dass es sich um einen Deepfake handelte – ein Stück Medien, das mit Hilfe von KI gefälscht oder verändert wurde. Der Glaube nährte ihren Verdacht, dass die Regierung etwas verheimlichte. Eine Woche später startete das Militär einen erfolglosen Putsch und führte das Video als Teil der Motivation an.

Die anschließende forensische Analyse hat nie etwas Verändertes oder Manipuliertes in dem Video gefunden. Das war egal. Die bloße Vorstellung von Deepfakes hatte ausgereicht, um die Auflösung einer ohnehin schon prekären Situation zu beschleunigen.

Im Vorfeld der US-Präsidentschaftswahlen 2020 hat die zunehmend überzeugende Deepfake-Technologie zu Befürchtungen geführt, wie solche gefälschten Medien die politische Meinung beeinflussen könnten. Aber ein neuer Bericht von Deeptrace Labs, einem Cybersicherheitsunternehmen, das sich auf die Aufdeckung dieser Täuschung konzentriert, fand keine bekannten Fälle, in denen Deepfakes tatsächlich in Desinformationskampagnen verwendet wurden. Was die stärkere Wirkung hatte, war das Wissen, dass sie es waren könnten so verwendet werden.

Deepfakes stellen ein Risiko für die Politik dar, da gefälschte Medien als echt erscheinen, aber im Moment besteht die greifbarere Bedrohung darin, wie die Idee von Deepfakes aufgerufen werden kann, um das Echte als Fälschung erscheinen zu lassen, sagt Henry Ajder, einer der Autoren des Prüfbericht. Der Hype und die ziemlich sensationelle Berichterstattung über Spekulationen über die politischen Auswirkungen von Deepfakes haben die realen Fälle überschattet, in denen Deepfakes Auswirkungen hatten.

Dokumentation ist kein Beweis mehr

Menschenrechtsaktivisten und Desinformationsexperten haben wegen dieser separaten, aber miteinander verflochtenen Bedrohungen Alarm geschlagen, seit Deepfakes auf der Bildfläche erschienen sind. In den vergangenen zwei Jahren haben sich US-Technologieunternehmen und politische Entscheidungsträger fast ausschließlich auf das erste Problem konzentriert, das Ajder erwähnt: die Leichtigkeit, mit der die Technologie gefälschte Dinge real erscheinen lassen kann. Aber es ist die zweite, die Experten mehr beunruhigt. Während die Barrieren für die Erstellung von Deepfakes schnell fallen, erfordert es überhaupt keine Technologie, die Wahrhaftigkeit von etwas in Frage zu stellen.

Es gibt den Mächtigen eine weitere Waffe: „Es ist ein Deepfake“ über alles zu sagen, was Leute, die keine Macht haben, versuchen, Korruption zu zeigen.

Das war von Anfang an meine größte Sorge in diesem Bereich, sagt Aviv Ovadya, ein Desinformationsexperte, der jetzt das gemeinnützige Thoughtful Technology Project leitet.

Das Untergraben des Vertrauens in die Medien kann tiefgreifende Auswirkungen haben, insbesondere in fragilen politischen Umgebungen. Sam Gregory, der Programmdirektor von Witness, einer gemeinnützigen Organisation, die Menschen hilft, Menschenrechtsverletzungen zu dokumentieren, bietet ein Beispiel. In Brasilien, das eine lange Geschichte von Polizeigewalt erlitten hat, befürchten Bürger und Aktivisten nun, dass jedes Video, das sie filmen, in dem ein Beamter einen Zivilisten tötet, kein ausreichender Grund mehr für Ermittlungen sein wird. Diese Angst, dass echte Beweise plausibel als Fälschung abgetan werden können, ist laut Gregory zu einem wiederkehrenden Thema in Workshops geworden, die er auf der ganzen Welt veranstaltet.

Es ist eine Weiterentwicklung der Behauptung, dass etwas „Fake News“ ist, sagt er. Es gibt den Mächtigen eine weitere Waffe an die Hand: „Es ist ein Deepfake“ über irgendetwas zu sagen, mit dem Menschen, die keine Macht haben, versuchen, Korruption und Menschenrechtsverletzungen aufzuzeigen.

Beweisen, dass das Echte echt ist und das Falsche falsch ist

Um diese Probleme zu lösen, müssen Sie beide Arten von Bedrohungen verstehen. Auf hohem Niveau möchten Sie es so einfach wie möglich machen, zu zeigen, dass eine echte Sache echt ist und dass eine Fälschung eine Fälschung ist, sagt Ovadya.

In den letzten Monaten haben sich viele Forschungsgruppen und Technologieunternehmen wie Facebook und Google auf Tools zum Aufdecken von Fälschungen konzentriert, wie z. B. Datenbanken zum Trainieren von Erkennungsalgorithmen und Wasserzeichen die in digitale Fotodateien eingebaut werden können, um zu erkennen, ob sie manipuliert wurden. Mehrere Startups haben auch daran gearbeitet, Vertrauen durch Verbraucheranwendungen aufzubauen, die Fotos und Videos bei der Aufnahme verifizieren, um eine Vergleichsbasis zu bilden, wenn später Versionen des Inhalts in Umlauf gebracht werden. Laut Gregory sollten Technologiegiganten beide Arten von Prüfungen direkt in ihre Plattformen integrieren, um sie allgemein verfügbar zu machen.

Aber Technologieunternehmen müssen auch menschliche Inhaltsmoderatoren beschäftigen, und Medienorganisationen müssen Journalisten und Faktenprüfer sowohl in der Erkennung als auch in der Verifizierung schulen. Die Berichterstattung vor Ort kann bestätigen, ob ein Video die Realität widerspiegelt oder nicht, und eine wichtige Nuancenebene hinzufügen. Technische Modelle können den Inhalt des gefälschten Videos nicht über kulturelle Kontexte hinweg interpretieren oder sich vorstellen, wie er weiter rekontextualisiert werden könnte, sagt Britt Paris, eine Expertin für Informationswissenschaften, die kürzlich einen Bericht über Deepfakes veröffentlicht hat.

Was [Desinformationsakteure] wirklich wollen, ist nicht, dass Sie mehr hinterfragen, sondern dass Sie alles hinterfragen.

Als Beispiel verweist Paris auf veränderte Videos von Nancy Pelosi und Jim Acosta, die im vergangenen Jahr viral wurden. Beide waren eher sogenannte Billigfälschungen als Deepfakes – ihre Geschwindigkeit war einfach manipuliert worden, um die Zuschauer in die Irre zu führen. Es gäbe keine Möglichkeit, diese Fälschungen mit technischen Methoden zum Fangen von Deepfakes zu fangen, sagt Paris. Stattdessen mussten Journalisten sie entlarven – was bedeutete, dass die Menschen den Journalisten vertrauen mussten.

Schließlich sind sich alle Experten einig, dass die Öffentlichkeit mehr Medienkompetenz braucht. Es gibt einen Unterschied zwischen dem Beweis, dass eine reale Sache real ist, und der Tatsache, dass die breite Öffentlichkeit glaubt, dass die reale Sache real ist, sagt Ovadya. Er sagt, die Menschen müssen sich darüber im Klaren sein, dass das Fälschen von Inhalten und das Zweifeln an der Richtigkeit von Inhalten beides Taktiken sind, mit denen absichtlich Verwirrung gestiftet werden kann.

Gregory warnt jedoch davor, die Nachrichtenkonsumenten zu stark zu belasten. Forscher, Plattformen und Journalisten sollten so viel Arbeit wie möglich leisten, um klarzustellen, was echt und was gefälscht ist, bevor Nachrichten die Öffentlichkeit erreichen.

Das ultimative Ziel, so Ovadya, sei es nicht, allgemeine Skepsis zu verbreiten, sondern soziale, erzieherische und impfende Infrastruktur aufzubauen, um die Auswirkungen von Deepfakes zu neutralisieren. Was sollten wir vermeiden? er fragt. Es ist wertvoll, Beweise in Frage zu stellen. Aber was [Desinformationsakteure] wirklich wollen, ist nicht, dass Sie mehr hinterfragen, sondern dass Sie alles hinterfragen.

Er fügt hinzu: Das ist das Gegenteil von dem, wonach wir suchen.

Um mehr Geschichten wie diese direkt in Ihren Posteingang zu bekommen, melden Sie sich für unseren von Webby nominierten KI-Newsletter The Algorithm an. Es ist kostenlos.

verbergen