Es ist zu spät, QAnon mit Faktenchecks und Kontosperren zu stoppen

Unsplash/@dole777

Twitter eignet sich perfekt als Megaphon für die extreme Rechte: Seine Trendthemen sind einfach zu spielen, Journalisten verbringen viel zu viel Zeit auf der Seite und – wenn Sie Glück haben – könnte der Präsident der Vereinigten Staaten Sie retweeten.

QAnon, die sich ständig weiterentwickelnde Pro-Trump-Verschwörungstheorie, ist bei Twitter genauso gut wie andere erfolgreiche Internet-native Ideologien – Nutzung der Plattform zur gleichzeitigen Manipulation von Informationen, Aufmerksamkeit und Verbreitung. Am Dienstag, Twitter machte einen gezielten Schritt um den Erfolg von QAnon einzuschränken, einschließlich der Löschung von etwa 7.000 Konten, die die Verschwörung fördern, der Kennzeichnung von QAnon als koordinierte schädliche Aktivität und der Verhinderung, dass verwandte Begriffe in Trends und Suchergebnissen angezeigt werden.

Wir werden Konten dauerhaft sperren, die über diese Themen twittern, von denen wir wissen, dass sie an Verstößen gegen unsere Richtlinie für mehrere Konten beteiligt sind, Missbrauch um einzelne Opfer koordinieren oder versuchen, eine vorherige Sperrung zu umgehen. Twitter kündigte an . Das Unternehmen fügte hinzu, dass es in den letzten Wochen eine Zunahme dieser Aktivitäten gesehen habe.

Der Das berichtete die New York Times dass Facebook ähnliche Schritte plant, um die Reichweite von QAnon-Inhalten auf seiner Plattform im nächsten Monat zu begrenzen, unter Berufung auf zwei Mitarbeiter des Unternehmens, die anonym sprachen. Am Freitag, TikTok hat mehrere Hashtags blockiert im Zusammenhang mit QAnon aus den Suchergebnissen.

Dieser jüngste Versuch, die Reichweite von QAnon zu begrenzen, folgt auf zwei hochkarätige Kampagnen, die von der Verschwörungstheorie angetrieben werden. Das erste amerikanische Model und Berühmtheit Chrissy Teigen, die mehr als 13 Millionen Follower auf Twitter hat, war das Ziel einer intensiven Belästigungskampagne. Dann, in jüngerer Zeit, waren QAnon-Konten maßgeblich an der Verbreitung von a falsche Menschenhandels-Verschwörungstheorie über den Möbelmarktplatz Wayfair. Die Behauptungen verbreiteten sich von der Trendleiste von Twitter zu Instagram und TikTok Konten, die die Theorie bei ihren Anhängern fördern.

Verwandte Geschichte

Wie man mit Verschwörungstheoretikern spricht – und trotzdem freundlich bleibt

Experten und r/ChangeMyView-Subreddit-Moderatoren bieten 10 Tipps, um Verschwörungstheorien überzeugend zu entlarven.

Diese Aktivität hat das seit langem bestehende Problem der koordinierten Brigadenführung deutlicher gemacht. Diese Art von Massenbelästigung hat erhebliche Auswirkungen auf das Leben der Menschen, sagte Renee DiResta, Forschungsmanagerin am Stanford Internet Observatory und Expertin für Online-Desinformation.

Aber Twitter-Kenntnisse sind nur ein kleiner Teil dessen, warum QAnon Einfluss ausübt, und nur ein Beispiel dafür, wie Plattformen Randüberzeugungen und schädliche Aktivitäten verstärken. Um QAnon tatsächlich zu stoppen, würden Experten sagen, viel mehr Arbeit und Koordination erfordern. Das heißt, wenn es überhaupt möglich ist.

Eine Omnikonspiration

QAnon wurde Ende 2017 nach einem Scherz von Präsident Donald Trump in einer Pressekonferenz über eine Ruhe geboren, bevor der Sturm eine Reihe von verursachte Mysteriöse Beiträge auf 4chan Q zugeschrieben, die die bevorstehende Verhaftung von Hillary Clinton vorhersagt. Obwohl dies nicht geschah, postete Q weiter und behauptete, alles über einen geheimen Plan zu wissen, der von Trump angeführt wurde, um seine Feinde zu verhaften.

QAnon hat seinen Ursprung in einer plattformübergreifenden Konversation, die in sozialen Medien in einer pseudonymen Umgebung begann, in der Sprache keine Konsequenzen hat, sagt Brian Friedberg, leitender Forscher am Technology and Social Change Project des Harvard Shorenstein Center. Die Beiträge wurden nach Verboten von einer Seite zur anderen verschoben und erscheinen jetzt auf einem Message Board namens 8kun.

Die Beiträge haben Follower angezogen, die ihre Zeit damit verbringen, diese Botschaften zu interpretieren, Schlussfolgerungen zu ziehen und Kampagnen zu leiten, um die Botschaften sichtbarer zu machen. Einige QAnon-Anhänger haben koordinierte Belästigungskampagnen gegen Journalisten, rivalisierende Online-Communities, Prominente und liberale Politiker durchgeführt. Andere sind bei Trump-Kundgebungen mit Waren mit Q-Motiven aufgetaucht. Der Präsident hat Twitter-Konten im Zusammenhang mit Q oder Verschwörungstheorien Dutzende Male retweetet , obwohl es eine offene Frage ist, wie bewusst er ist, was Q ist, jenseits einer Bewegung, die seine Präsidentschaft im Internet unterstützt. Und es gab mehrere Vorfälle von reale Gewalt mit QAnon-Unterstützern verknüpft.

Verwandte Geschichte

Wie Covid-19-Verschwörungstheoretiker die YouTube-Kultur ausnutzen Covid-19-Verschwörungstheoretiker erhalten immer noch Millionen von Aufrufen auf YouTube, selbst wenn die Plattform gegen Gesundheitsfehlinformationen vorgeht.

Das traditionelle Verständnis von QAnon war, dass seine Ideen von einer relativ kleinen Anzahl von Anhängern verbreitet werden, die extrem gut darin sind, soziale Medien für maximale Sichtbarkeit zu manipulieren. Aber die Pandemie machte das komplizierter, als QAnon begann, sich tiefer mit gesundheitlichen Fehlinformationen zu vermischen und schnell seine Präsenz auf Facebook zu erhöhen.

An diesem Punkt ist QAnon zu einer Omniconspiracy-Theorie geworden, sagt DiResta – es geht nicht mehr nur um ein paar Forenbeiträge, sondern um eine breite Bewegung, die viele verschiedene, miteinander verbundene Ideen fördert. Forscher wissen, dass der Glaube an eine Verschwörungstheorie zur Akzeptanz anderer führen kann, und leistungsstarke Empfehlungsalgorithmen für soziale Medien haben diesen Prozess im Wesentlichen beschleunigt. Laut DiResta haben Untersuchungen beispielsweise gezeigt, dass Mitglieder von Anti-Impfstoff-Facebook-Gruppen bereits 2016 Empfehlungen für Gruppen sahen, die die Pizzagate-Verschwörungstheorie förderten.

Der Empfehlungsalgorithmus scheint eine Korrelation zwischen Nutzern erkannt zu haben, die die Überzeugung teilten, dass die Regierung eine geheime Wahrheit verschwieg. Die Einzelheiten der geheimen Wahrheit waren unterschiedlich, sagt sie.

Forscher wissen seit Jahren, dass verschiedene Plattformen unterschiedliche Rollen in koordinierten Kampagnen spielen. Die Leute koordinieren sich in einer Chat-App, einem Message Board oder einer privaten Facebook-Gruppe, richten ihre Nachrichten (einschließlich Belästigung und Missbrauch) auf Twitter aus und hosten Videos über das Ganze auf YouTube.

In diesem Informationsökosystem funktioniert Twitter eher wie eine Marketingkampagne für QAnon: Inhalte werden erstellt, um von Außenstehenden gesehen und mit ihnen interagiert zu werden. Inzwischen ist Facebook ein Kraftpaket für die Koordination, insbesondere in geschlossenen Gruppen.

„Q“ hat viele falsche Vorhersagen gemacht und verbreitet weiterhin den Glauben, dass es eine „Deep State“-Verschwörung gegen Donald Trump gibt.

Reddit war bis zur Website ein Mainstream-Hub für QAnon-Aktivitäten fing an, sich dagegen zu wehren im Jahr 2018 wegen Anstiftung zu Gewalt und wiederholter Verletzung der Nutzungsbedingungen. Aber anstatt seine Macht zu verlieren, wechselte QAnon einfach zu anderen Mainstream-Social-Media-Plattformen, wo es weniger wahrscheinlich war, dass es verboten wird.

Das alles bedeutet, dass eine Plattform, wenn sie eigenständig handelt, um die Auswirkungen von QAnon zu blockieren oder zu reduzieren, nur einen Teil des Problems angreift.

Friedberg sagte, dass es sich für ihn so anfühle, als würden Social-Media-Plattformen auf einen Akt der Massengewalt warten, um eine aggressivere Deplatforming-Bemühung zu koordinieren. Aber der potenzielle Schaden von QAnon ist bereits offensichtlich, wenn Sie aufhören, es als Pro-Trump-Kuriosität zu betrachten, und es stattdessen als das sehen, was es ist: ein Verbreitungsmechanismus für Desinformationen aller Art, sagte Friedberg, und einer, den Anhänger bereit sind, offen zu fördern und sich damit identifizieren, ungeachtet der Folgen.

Drei Jahre nahezu uneingeschränkter Zugang

Steven Hassan, ein Berater für psychische Gesundheit und ein Experte für Sekten, der floh aus der Vereinigungskirche von Sun Myung Moon , bekannt als die Moonies, sagt, dass es nicht ausreicht, Gruppen wie QAnon nur als Fehlinformation oder algorithmisches Problem zu diskutieren.

Ich betrachte QAnon als Sekte, sagt Hassan. Wenn man in einen Mind-Control-Kult rekrutiert wird und in ein neues Glaubenssystem indoktriniert wird … ist vieles davon durch Angst motiviert.

Sie hatten drei Jahre lang nahezu uneingeschränkten Zugang, um sich zu entwickeln und zu erweitern.

Menschen können davon umprogrammiert werden, sagt Hassan. Aber die Menschen, die dabei am erfolgreichsten sein werden, sind Familienmitglieder und Freunde. Menschen, die einem QAnon-Unterstützer bereits nahe stehen, könnten darauf trainiert werden, im Laufe der Zeit mehrere Interaktionen zu haben, in der Hoffnung, die Person herauszuziehen.

Wenn Plattformen sich ernsthaft mit Ideologien wie QAnon auseinandersetzen wollten, würden sie viel mehr tun, als sie sind, sagt er.

Erstens müsste Facebook die Nutzer nicht nur darüber aufklären, wie man Fehlinformationen erkennt, sondern auch, wie man versteht, wenn sie durch koordinierte Kampagnen manipuliert werden. Koordinierte Pushes in den sozialen Medien sind ein wichtiger Faktor bei QAnon wachsende Reichweite auf Mainstream-Plattformen , wie kürzlich vom Guardian dokumentiert. Die Gruppe hat ausdrücklich angenommen Information Warfare als Taktik zur Einflussnahme. Im Mai entfernte Facebook eine kleine Sammlung von mit QAnon verbundenen Konten für unauthentisches Verhalten .

Und zweitens empfiehlt Hassan, dass Plattformen Menschen daran hindern, in algorithmische oder Empfehlungstunnel im Zusammenhang mit QAnon abzusteigen, und sie stattdessen mit Inhalten von Leuten wie ihm füttern, die überlebt haben und aus Kulten entkommen sind – insbesondere von denen, die hineingezogen und aus ihnen herausgeklettert sind QAnon.

Friedberg, der die Bewegung eingehend studiert hat, glaubt, dass es für die Mainstream-Social-Media-Plattformen absolut zu spät ist, QAnon zu stoppen, obwohl es einige Dinge gibt, die sie tun könnten, um beispielsweise die Fähigkeit ihrer Anhänger einzuschränken, auf Twitter zu evangelisieren.

Sie hatten drei Jahre lang fast uneingeschränkten Zugang außerhalb bestimmter Plattformen, um sich zu entwickeln und zu erweitern, sagt Friedberg. Außerdem haben QAnon-Unterstützer eine aktive Beziehung zur Quelle der Verschwörungstheorie, die ständig neue Inhalte zur Entschlüsselung veröffentlicht und die Social-Media-Nachrichten von Q-Unterstützern in seinen Beiträgen erwähnt. Um den Einfluss von QAnon zu brechen, müsste das Vertrauen zwischen Q, einer anonymen Figur ohne definierende Merkmale, und ihren Unterstützern gebrochen werden. Angesichts der Tatsache, dass die lange Erfolgsgeschichte von Q mit ungenauen Vorhersagen dieses Vertrauen nicht gebrochen hat, ist das schwierig, und kritische Medienberichterstattung oder Deplatforming müssen an dieser Front noch viel tun. Wenn überhaupt, nähren sie die QAnon-Gläubigen nur, um anzunehmen, dass sie an etwas dran sind.

Die besten Ideen, um QAnon einzuschränken, würden drastische Veränderungen und eine gründliche Suche nach der Seele von den Leuten erfordern, die die Unternehmen leiten, auf deren Plattformen es erfolgreich war. Aber auch die Ankündigungen dieser Woche sind nicht ganz so dramatisch, wie sie zunächst scheinen mögen: Twitter geklärt dass es seine neuen Richtlinien nicht automatisch gegen Politiker anwenden würde, die QAnon-Inhalte fördern, darunter mehrere Promoter die für ein Amt in den USA kandidieren.

Und, sagte Friedberg, QAnon-Unterstützer seien bereit, diese Einschränkungen zu testen, und testeten diese Einschränkungen bereits. Beispielsweise hat Twitter das Teilen bestimmter mit Verschwörungen verbundener URLs verboten, aber die Leute haben bereits alternative URLs, die sie verwenden können.

Um tatsächlich etwas dagegen zu unternehmen, müsste am Ende das gesamte Informationsökosystem überdacht werden, sagt DiResta. Und ich meine das in einem viel breiteren Sinne, als nur auf eine Verschwörungsfraktion zu reagieren.

verbergen