Google hat ein Tool veröffentlicht, um gefälschte und manipulierte Bilder zu erkennen

Kategorie: Künstliche Intelligenz Gesendet 05. Feb

Jigsaw, ein Technologie-Inkubator bei Google, hat veröffentlicht eine experimentelle Plattform namens Assembler um Journalisten und Faktenprüfern an vorderster Front dabei zu helfen, Bilder schnell zu überprüfen.

Wie es funktioniert: Assembler kombiniert mehrere vorhandene Techniken in der Wissenschaft zur Erkennung gängiger Manipulationstechniken, einschließlich der Änderung der Bildhelligkeit und des Einfügens kopierter Pixel an anderer Stelle, um etwas zu verdecken, während die gleiche visuelle Textur beibehalten wird. Es enthält auch einen Detektor, der Deepfakes des Typs erkennt, der mit StyleGAN erstellt wurde, einem Algorithmus, der realistische imaginäre Gesichter erzeugen kann. Diese Erkennungstechniken fließen in ein Mastermodell ein, das den Benutzern mitteilt, wie wahrscheinlich es ist, dass ein Bild manipuliert wurde.

Warum es wichtig ist: Gefälschte Bilder gehören zu den schwieriger zu überprüfenden Dingen, insbesondere mit der zunehmenden Manipulation durch künstliche Intelligenz. Auch das Reaktionsfenster für Journalisten und Faktenprüfer schrumpft rapide, da sich Desinformationen schnell und umfassend verbreiten.

Kein Allheilmittel: Assembler ist ein guter Schritt im Kampf gegen manipulierte Medien – aber es deckt viele andere bestehende Manipulationstechniken nicht ab, einschließlich derer, die für Videos verwendet werden, die das Team hinzufügen und aktualisieren muss, wenn sich das Ökosystem ständig weiterentwickelt. Es existiert auch noch als separate Plattform von den Kanälen, auf denen normalerweise manipulierte Bilder verbreitet werden. Experten haben Tech-Giganten wie Facebook und Google empfohlen, diese Art von Erkennungsfunktionen direkt in ihre Plattformen zu integrieren. Auf diese Weise können solche Überprüfungen nahezu in Echtzeit durchgeführt werden, während Fotos und Videos hochgeladen und geteilt werden.

Es gibt auch andere Ansätze, die in Betracht gezogen werden sollten. Einige Startups verfolgen zum Beispiel eine Verifikationstechnologie, die sich die Positionen von Pixeln in einem Foto im Moment ihrer Aufnahme merkt – aber das bringt auch Herausforderungen mit sich .

Jenseits der Technologie: Letztendlich werden technische Korrekturen nicht ausreichen. Einer der schwierigsten Aspekte der digitalen Fälschung sind nicht die gefälschten Bilder selbst . Vielmehr ist es die Idee, dass sie existieren, die leicht herangezogen werden kann, um die Wahrhaftigkeit echter Medien anzuzweifeln. Dies ist die Art von Herausforderung, die auch soziale und politische Lösungen erfordern wird.