Die durchgesickerten Moderationsregeln von Facebook zeigen, warum Big Tech Hassreden nicht überwachen kann

Kategorie: Silicon Valley Gesendet 28. Dez

Die Gesellschaft forderte Big Tech auf, Hassreden im Internet zu unterbinden. Wir haben genau das bekommen, wonach wir gefragt haben.

Die Nachrichten: Max Fisher von der New York Times veröffentlichte Auszüge aus mehr als 1.400 Seiten interner Facebook-Dokumente, die Regeln für die globale Armee des Unternehmens von mehr als 7.500 Inhaltsmoderatoren enthalten. (Mainboard hatte zuvor veröffentlicht einige aus dem gleichen Material.)

Was ist da drin? Ein weitläufiges Sammelsurium von Richtlinien, Einschränkungen und Klassifizierungen. Allein die Regeln zu Hassreden belaufen sich auf 200 mit Fachjargon gefüllte, schwindelerregende Seiten. Sie enthalten Details zur Interpretation von Emoji (die Verwendung von ? kann anscheinend sowohl Mobbing als auch Lob sein) und Listen von Personen oder politischen Parteien, die auf mögliche Hassreden überwacht werden sollen. Die Dokumente zeigen, dass Facebook ein weitaus mächtigerer Schiedsrichter der globalen Rede ist, als es zugegeben hat, schreibt Fisher.

Das Problem: Die Richtlinien sind nicht nur byzantinisch; einige sind veraltet oder enthalten Fehler. Sie variieren auch stark, je nachdem, wie stark das Unternehmen unter Druck steht: Facebook blockiert Dutzende rechtsextremer Gruppen in Deutschland, wo die Behörden das soziale Netzwerk unter die Lupe nehmen, aber nur eine im Nachbarland Österreich. Von Moderatoren, von denen die meisten für Outsourcing-Unternehmen arbeiten und nur minimal geschult sind, wird erwartet, dass sie in Sekundenschnelle komplexe Urteile fällen. tausend Posts pro Tag bearbeiten , mit Regeln, die sich häufig als Reaktion auf politische Ereignisse ändern, und häufig mit Google Translate.

Das wegnehmen: Dies entfernt alle verbleibender Vorwand dass Facebook nur eine neutrale Veröffentlichungsplattform ist. Politische Urteile durchdringen jede Seite dieser Richtlinien.

Aber was hast du erwartet? Wie mir der ehemalige Chief Security Officer von Facebook, Alex Stamos, im Oktober mitteilte, haben wir gefordert, dass die Polizei von Technologieplattformen Hassrede hält, und das gibt ihnen nur mehr Macht. Das ist ein gefährlicher Weg, warnte Stamos. In fünf oder zehn Jahren könnte es maschinell lernende Systeme geben, die menschliche Sprachen genauso gut verstehen wie Menschen. Wir könnten am Ende alles, was wir online sagen, in Echtzeit in Maschinengeschwindigkeit moderieren.