Facebook, Google, Twitter sind nicht auf präsidiale Deepfakes vorbereitet

Kategorie: Künstliche Intelligenz Gesendet 06.08

Keines der drei großen Internet-Nebelhörner – Facebook, Google oder Twitter – scheint einen klaren Plan für den Umgang mit KI-generierten gefälschten Videos oder Deepfakes vor den Präsidentschaftswahlen im nächsten Jahr zu haben, so der Vorsitzende des Geheimdienstausschusses des Repräsentantenhauses.

Status-Update: Adam Schiff, ein Demokrat aus Kalifornien, sagte am Freitag, dass die drei Unternehmen begonnen haben, ernsthaft über die Herausforderungen nachzudenken, die durch maschinell manipulierte Medien oder Deepfakes entstehen, aber dass noch viel mehr zu tun ist, wenn sie auf die Disruption vorbereitet sein wollen Wirkung dieser Technologie bei der nächsten Wahl.

Keine Panik: Kein Grund auszuflippen. Tatsächlich gibt es einige neue Techniken zum Erkennen von Videos, die mit KI erstellt wurden.

Face-off: Deepfake-Videos nutzen die jüngsten Fortschritte im maschinellen Lernen, um Gesichter in einem Video automatisch auszutauschen oder andere realitätsverzerrende Tricks auszuführen. Einfache Deepfake-Tools können aus dem Internet heruntergeladen werden, und Sie können viele surreale Beispiele für die Ergebnisse finden über das Internet .

Die Sorge: Bildmanipulation gibt es schon lange, aber KI macht ausgeklügelte Fälschungen zugänglicher . Während einer Wahl könnte ein Deepfake vielleicht genutzt werden, um Wähler im letzten Moment zu beeinflussen. Im Mai verbreitete sich in den sozialen Medien schnell ein Video von Nancy Pelosi, das manipuliert worden war, um es so aussehen zu lassen, als würde sie ihre Rede undeutlich machen.

Katz 'und Maus: Im Moment gibt es einige Möglichkeiten, Deepfakes zu erkennen. Unregelmäßiges Blinken ist beispielsweise ein verräterisches Zeichen dafür, dass ein Video durcheinander gebracht wurde. Aber die Erkennung ist so etwas wie ein Wettrüsten, da ein KI-Algorithmus normalerweise trainiert werden kann, um einen bestimmten Fehler zu beheben.

Erwischt: Diesen Juni, ein neues Papier von mehreren Experten für digitale Forensik skizzierten einen narrensichereren Ansatz. Es stützt sich auf das Trainieren eines Erkennungsalgorithmus, um das Gesicht und die Kopfbewegungen einer bestimmten Person zu erkennen, wodurch angezeigt wird, wenn das Gesicht dieser Person auf den Kopf und Körper einer anderen Person geklebt wurde. Der Ansatz funktioniert nur, wenn das System darauf trainiert wurde, jemanden zu erkennen, könnte aber zumindest Präsidentschaftskandidaten vor Angriffen schützen.

Schweigen? Google hat tatsächlich etwas Geld für diese neue Forschung bereitgestellt. Vielleicht halten diese Unternehmen ihre Karten also dicht, wenn es um die Deepfake-Erkennung geht. Wenn Sie den Fälschern einen Schritt voraus sein wollen, wäre das sicherlich ein kluger Schachzug.