Deepfake-Mitarbeiter von Amazon säen Verwirrung auf Twitter. Das ist nicht das Problem.

In einem Amazon-Lagerhaus in Bessemer, Alabama, wird ein Banner gezeigt, das die Arbeitnehmer auffordert, bei der Wahl zur Arbeit zu wählen. AP

Die Nachrichten: Vor einer wegweisenden Abstimmung, die zur Gründung der allerersten Gewerkschaft in einem Amazon-Lagerhaus in den USA führen könnte, tauchten neue Twitter-Konten auf, die vorgaben, Amazon-Mitarbeiter zu sein. Die Profile verwendeten Deepfake-Fotos als Profilbilder und twitterten einige ziemlich lächerliche, übertriebene Verteidigungen der Arbeitsweise von Amazon. Sie schienen nicht real zu sein, aber sie führten dennoch zu Verwirrung in der Öffentlichkeit. Steckte Amazon wirklich dahinter? War das eine schreckliche neue gewerkschaftsfeindliche Social-Media-Strategie? Die Antwort lautet mit ziemlicher Sicherheit nicht – aber die Verwendung von Deepfakes in diesem Zusammenhang weist auf einen insgesamt besorgniserregenderen Trend hin.

Die Hintergrundgeschichte: Es gibt einen Grund, warum diese neuen Deepfake-Profile bekannt vorkamen. Im Jahr 2018 begann Amazon ein sehr reales Programm um die Öffentlichkeit davon zu überzeugen, dass es seine Lagerarbeiter gut behandelt. Es richtete Computerstationen in diesen Lagern ein und erstellte Twitter-Konten für eine kleine Gruppe von Mitarbeitern, bekannt als Amazon FC Ambassadors, die während bezahlter Stunden twittern konnten, wie sehr sie ihren Job liebten. Der Plan schlug fehl und führte zur Schaffung zahlreicher Parodie-Botschafter-Konten auf Twitter. Amazon hat das Programm kurz darauf zurückgefahren und viele der ursprünglichen realen Konten wurden gesperrt oder geschlossen, sagt Aric Toler, Leiter der Schulungs- und Forschungsaktivitäten der investigativen Journalismus-Website Bellingcat.

Das Neueste: Am Montag tauchte die neue Ladung Botschafterkonten auf – oder zumindest schien es so. Aber als die Leute anfingen, nachzuforschen, viele spitz aus dass einige Profilbilder mit den verräterischen Zeichen von Deepfake-Gesichtern wie verzerrten Ohrringen und verschwommenen Hintergründen hatten. Da wurde es verwirrend.

Die Leute kamen schnell auf die Idee, dass Amazon selbst im Rahmen einer gewerkschaftsfeindlichen Social-Media-Kampagne hinter den neuen Deepfake-Konten steckt. Das teilte das Unternehmen später mit New York Times reporter Karen Weise dass es nicht war. Toler, der die ursprünglichen Konten verfolgte, glaubt, dass Amazon die Wahrheit sagt. Die ursprünglichen Ambassador-Konten wurden alle unter Amazon-E-Mail-Adressen registriert und mit Sprinklr gepostet. Die neuen Deepfake-Konten, die inzwischen gesperrt wurden, waren es mit Gmail registriert und über die Twitter-Web-App gepostet. Außerdem sollte der Inhalt der Tweets eindeutig humorvoll sein. Diese Konten waren wahrscheinlich nur weitere Parodien, die erstellt wurden, um Amazon zu verspotten.

Spielt das eine Rolle? In diesem speziellen Fall wahrscheinlich nicht. Das sei natürlich ziemlich harmlos, sagt Toler. Es ist Amazon. Sie sind OK. Aber es offenbart ein besorgniserregenderes Problem: dass Deepfake-Konten auf koordinierte Weise in sozialen Medien oder anderswo für weitaus finsterere Zwecke eingesetzt werden können. Die bösartigste Version davon wären staatliche Akteure, warnt Toler.

Verwandte Geschichte

Der zweijährige Kampf, Amazon daran zu hindern, Gesichtserkennung an die Polizei zu verkaufen Die Schritte von Amazon, Microsoft und IBM in dieser Woche markieren einen wichtigen Meilenstein für Forscher und Bürgerrechtler in einem langen und anhaltenden Kampf um die Gesichtserkennung in der Strafverfolgung.

Tatsächlich gab es bereits mehrere hochkarätige Fälle, in denen Deepfake-Fotos in schädlichen Desinformationskampagnen verwendet wurden. Im Dezember 2019 identifizierte und schaltete Facebook ein Netzwerk von über 900 Seiten, Gruppen und Konten , darunter einige mit Deepfake-Profilbildern, die mit der rechtsextremen Ausgabe der Epoch Times in Verbindung stehen, die dafür bekannt ist, sich an Fehlinformationstaktiken zu beteiligen. Im Oktober 2020 wurde auch ein gefälschtes Geheimdienstdokument, das in den Kreisen von Präsident Trump verbreitet wurde und zur Grundlage zahlreicher Verschwörungstheorien um Hunter Biden wurde, von einem gefälschten Sicherheitsanalysten verfasst mit einem deepfake Profilbild .

Laut Toler sind Deepfake-Gesichter in seiner Tätigkeit als Open-Source-Ermittler für verdächtige Online-Aktivitäten zu einem Trend geworden, insbesondere seit dem Start von ThisPersonDoesNotExist.com, einer Website, die bei jeder Aktualisierung ein neues, von KI generiertes Gesicht präsentiert. Es gibt immer eine mentale Checkliste, die Sie durchgehen, wenn Sie etwas finden, sagt er. Die erste Frage lautet: „Ist diese Person echt oder nicht?“ Diese Frage hatten wir vor fünf Jahren nicht wirklich.

Wie groß ist diese Bedrohung? Im Moment, sagt Toler, habe die Verwendung von Deepfake-Gesichtern keinen großen Einfluss auf seine Arbeit gehabt. Es ist für ihn immer noch relativ einfach zu erkennen, ob es sich bei einem Profilbild um einen Deepfake handelt, genauso wie bei einem Foto als Stockfotos. Das schwierigste Szenario ist, wenn das Bild einer realen Person von einem privaten Social-Media-Konto stammt, das nicht in Bildsuchmaschinen indexiert ist.

Ein wachsendes Bewusstsein für Deepfakes hat die Menschen auch dazu veranlasst, die Medien, die sie sehen, genauer zu untersuchen, sagt Toler, was sich daran zeigt, wie schnell die Menschen auf die Fälschung der Amazon-Konten aufmerksam wurden.

Aber Sam Gregory, der Programmdirektor der gemeinnützigen Menschenrechtsorganisation Witness, sagt, dies sollte uns nicht in ein falsches Sicherheitsgefühl wiegen. Deepfakes werden immer besser, sagt er: Ich denke, die Leute haben ein bisschen zu viel Vertrauen, dass es immer möglich sein wird, sie zu erkennen.

Ein übermäßiges Bewusstsein für Deepfakes könnte die Menschen ebenfalls dazu verleiten Hör auf, an echte Medien zu glauben , was ebenso schlimme Folgen haben könnte, wie etwa die Untergrabung der Dokumentation von Menschenrechtsverletzungen.

Was sollen wir machen? Gregory ermutigt Social-Media-Nutzer, sich nicht darauf zu fixieren, ob ein Bild ein Deepfake ist oder nicht. Oft ist das nur ein winziger Teil des Puzzles, sagt er. Das Werbegeschenk ist nicht, dass Sie das Bild irgendwie abgefragt haben. Sie sehen sich das Konto an und es wurde vor einer Woche erstellt, oder es handelt sich um einen Journalisten, der behauptet, ein Journalist zu sein, aber nie etwas anderes geschrieben hat, das Sie bei einer Google-Suche finden könnten.

Diese Ermittlungstaktiken sind viel robuster gegenüber Fortschritten in der Deepfake-Technologie. Der Ratschlag gilt auch für den Amazon-Fall. Durch Überprüfung der E-Mails und Tweet-Details der Konten stellte Toler schließlich fest, dass es sich um Fälschungen handelte – nicht durch eine Untersuchung der Profilbilder.

verbergen