Laut einem neuen Bericht benötigt Facebook 30.000 seiner eigenen Content-Moderatoren

Ein Facebook-Büro

Assoziierte Presse Assoziierte Presse





Stellen Sie sich vor, Facebook würde jetzt aufhören, seine Website zu moderieren. Jeder konnte posten, was er wollte. Die Erfahrung scheint darauf hinzudeuten, dass es ziemlich schnell zu einem werden würde höllische Umgebung überschwemmt mit Spam, Mobbing, Kriminalität, terroristischen Enthauptungen, Neonazi-Texten und Bildern von sexuellem Missbrauch von Kindern. In diesem Szenario würden wahrscheinlich große Teile der Nutzerbasis das Unternehmen verlassen, gefolgt von den lukrativen Werbetreibenden.

Aber wenn Mäßigung so wichtig ist, wird sie nicht so behandelt. Die überwiegende Mehrheit der 15.000 Menschen, die den ganzen Tag damit verbringen, zu entscheiden, was auf Facebook sein darf und was nicht, arbeitet nicht einmal für Facebook. Die gesamte Funktion der Inhaltsmoderation wird an Drittanbieter ausgelagert, die Zeitarbeiter beschäftigen bei prekären Verträgen an über 20 Standorten weltweit. Sie müssen täglich Hunderte von Beiträgen überprüfen, von denen viele es sind zutiefst traumatisierend . Fehler sind weit verbreitet , trotz der Übernahme durch das Unternehmen KI-Tools Posten zu selektieren, nach denen Aufmerksamkeit erforderlich ist. Facebook hat selbst eine Fehlerquote von 10 % eingeräumt, unabhängig davon, ob es sich um fälschlicherweise zu löschende Beiträge handelt, die beibehalten werden sollten, oder umgekehrt. Wenn sich Rezensenten täglich durch drei Millionen Posts wühlen müssen, entspricht das täglich 300.000 Fehlern. Manche Fehler können tödliche Folgen haben. Zum Beispiel nutzten Mitglieder des Militärs von Myanmar Facebook Völkermord anzustiften gegen die mehrheitlich muslimische Minderheit der Rohingya in den Jahren 2016 und 2017. Das Unternehmen gab es später zu konnte seine eigenen Richtlinien nicht durchsetzen Verbot von Hassreden und der Aufstachelung zu Gewalt.

Wenn wir die Durchführung der Moderation verbessern wollen, muss Facebook Inhaltsmoderatoren ins Haus holen, sie zu vollwertigen Angestellten machen und ihre Zahl verdoppeln, argumentiert a neuer Bericht vom Stern Center for Business and Human Rights der New York University.



Die Moderation von Inhalten ist nicht wie andere ausgelagerte Funktionen wie Kochen oder Putzen, sagt der Autor des Berichts, Paul M. Barrett, stellvertretender Direktor des Zentrums. Es ist eine zentrale Funktion des Geschäfts der sozialen Medien, und das macht es etwas seltsam, dass es so behandelt wird, als wäre es ein peripheres oder ein Problem von jemand anderem.

Warum wird die Inhaltsmoderation von den Facebook-Führungskräften so behandelt? Es kommt zumindest teilweise auf die Kosten an, sagt Barrett. Seine Empfehlungen wären sehr teuer für das Unternehmen zu erlassen – höchstwahrscheinlich in zweistelliger Millionenhöhe (obwohl, um dies ins rechte Licht zu rücken, es macht Milliarden Dollar Gewinn pro Jahr). Aber es gibt noch einen zweiten, komplexeren Grund. Die Tätigkeit der Content-Moderation passt einfach nicht in das Selbstverständnis des Silicon Valley. Bestimmte Arten von Aktivitäten werden sehr hoch geschätzt und verherrlicht – Produktinnovation, cleveres Marketing, Engineering … die nüchterne Welt der Content-Moderation passt nicht dazu, sagt er.

Er denkt, dass es für Facebook an der Zeit ist, die Moderation als zentralen Teil seines Geschäfts zu behandeln. Er sagt, dass eine Aufwertung des Status auf diese Weise dazu beitragen würde, die Art von katastrophalen Fehlern zu vermeiden, die in Myanmar begangen werden, die Rechenschaftspflicht zu erhöhen und die Mitarbeiter besser vor Schäden an ihrer psychischen Gesundheit zu schützen.



Es scheint eine unvermeidliche Realität zu sein, dass die Moderation von Inhalten immer mit entsetzlichem Material einhergeht, selbst wenn die Arbeit intern eingebracht wird. Das Unternehmen könnte jedoch noch viel mehr tun, um es einfacher zu machen: Moderatoren beispielsweise besser zu überprüfen, um sicherzustellen, dass sie sich der Risiken des Jobs wirklich bewusst sind, und sicherzustellen, dass sie erstklassige Betreuung und Beratung erhalten. Barrett glaubt, dass die Moderation von Inhalten etwas sein könnte, das alle Facebook-Mitarbeiter mindestens ein Jahr lang tun müssen, um ihnen zu helfen, die Auswirkungen ihrer Entscheidungen zu verstehen.

Der Bericht gibt acht Empfehlungen für Facebook:

  • Hören Sie auf, die Moderation von Inhalten auszulagern, und erhöhen Sie die Position der Moderatoren am Arbeitsplatz.
  • Verdoppeln Sie die Anzahl der Moderatoren, um die Qualität der Inhaltsüberprüfung zu verbessern.
  • Stellen Sie jemanden ein, der die Inhalts- und Faktenprüfung überwacht und direkt dem CEO oder COO unterstellt ist.
  • Weitere Ausweitung der Moderation in gefährdeten Ländern in Asien, Afrika und anderswo.
  • Bieten Sie allen Moderatoren erstklassige medizinische Versorgung vor Ort, einschließlich Zugang zu Psychiatern.
  • Fördern Sie die Forschung zu den Gesundheitsrisiken der Moderation von Inhalten, insbesondere PTBS.
  • Informieren Sie sich über eng zugeschnittene staatliche Vorschriften für schädliche Inhalte.
  • Erweitern Sie die Faktenprüfung erheblich, um falsche Informationen zu entlarven.

Die Vorschläge sind, gelinde gesagt, ehrgeizig. Als Facebook um einen Kommentar gebeten wurde, wollte es nicht darüber diskutieren, ob es erwägen würde, sie umzusetzen. Ein Sprecher sagte jedoch, dass der aktuelle Ansatz bedeutet, dass wir den Fokus unserer Belegschaft schnell nach Bedarf anpassen können, und fügte hinzu, dass wir so sicherstellen können, dass wir über die richtigen Sprachkenntnisse verfügen – und schnell in verschiedenen Zeitzonen einstellen können – wenn neue Anforderungen bestehen auftreten oder wenn eine Situation auf der ganzen Welt dies rechtfertigt.



Aber Barrett glaubt, dass ein kürzlich durchgeführtes Experiment als Reaktion auf die Coronavirus-Krise zeigt, dass Veränderungen möglich sind. Facebook kündigte an, dass es dies tun würde, da viele seiner Inhaltsmoderatoren nicht in die Büros der Unternehmen gehen könnten Verlagerung der Verantwortung auf interne Mitarbeiter zur Überprüfung bestimmter sensibler Inhaltskategorien.

Ich finde es sehr bezeichnend, dass sich Zuckerberg in einem Moment der Krise auf die Menschen verlassen hat, denen er vertraut: seinen Vollzeitmitarbeitern, sagt er. Vielleicht könnte dies als Grundlage für ein Gespräch innerhalb von Facebook über die Anpassung der Art und Weise angesehen werden, wie es die Moderation von Inhalten sieht.

verbergen