211service.com
Schwarze Journalistinnen und Politikerinnen erhalten alle 30 Sekunden einen beleidigenden Tweet
Maschinelles Lernen offenbart ein beunruhigendes Maß an Belästigung, Missbrauch und Trolling, das sich gegen Frauen und Minderheiten auf Twitter richtet. 18. Dezember 2018
Marten Björk | Unsplash
Twitter kann ein toxischer Ort sein. In den letzten Jahren haben Trolling und Belästigungen auf der Website diese für viele Menschen, insbesondere Frauen und Minderheiten, zu einer äußerst unangenehmen und beunruhigenden Erfahrung gemacht. Das automatische Identifizieren und Stoppen eines solchen Missbrauchs ist jedoch schwierig, genau und zuverlässig. Dies liegt daran, dass Maschinen trotz aller jüngsten Fortschritte in der KI im Allgemeinen immer noch Schwierigkeiten haben, sinnvoll auf menschliche Kommunikation zu reagieren. Beispielsweise fällt es der KI normalerweise schwer, missbräuchliche Nachrichten zu erkennen, die sarkastisch oder mit einer Prise positiver Schlüsselwörter getarnt sein können.
Eine neue Studie hat modernstes maschinelles Lernen verwendet, um eine genauere Momentaufnahme des Ausmaßes der Belästigung auf Twitter zu erhalten. Seine Analyse bestätigt, was viele Menschen bereits vermuten werden: Journalistinnen und Journalisten sowie Politiker aus Minderheiten werden auf der Plattform in erschreckendem Maße missbraucht.
Die Studie wurde von Amnesty International in Zusammenarbeit mit einer kanadischen Firma durchgeführt ElementsAI , zeigt, dass schwarze Politikerinnen und Journalistinnen mit 84 % höherer Wahrscheinlichkeit in beleidigenden oder problematischen Tweets erwähnt werden als weiße Frauen im gleichen Beruf.
Es ist einfach zum Verrücktwerden, sagt Julien Cornebise, Forschungsdirektor bei ElementAI in London, einem Büro, das sich auf humanitäre Anwendungen des maschinellen Lernens konzentriert. Diese Frauen sind ein großer Teil davon, wie die Gesellschaft funktioniert.
Die Forscher von ElementAI verwendeten zunächst ein maschinelles Lerntool, das dem zur Spam-Klassifizierung verwendeten Tool ähnelt, um missbräuchliche Tweets zu identifizieren. Die Forscher gaben den Freiwilligen dann eine Mischung aus vorklassifizierten und zuvor ungesehenen Tweets zur Klassifizierung. Die als missbräuchlich identifizierten Tweets wurden verwendet, um ein Deep-Learning-Netzwerk zu trainieren. Das Ergebnis ist laut Cornebise ein System, das Missbrauch mit beeindruckender Genauigkeit klassifizieren kann.
Das Projekt konzentrierte sich auf Tweets, die an Politiker und Journalisten gesendet wurden. Im Rahmen der Studie halfen 6.500 Freiwillige aus 150 Ländern bei der Klassifizierung von Missbrauch in 228.000 Tweets, die 2017 an 778 Politikerinnen und Journalistinnen in Großbritannien und den USA gesendet wurden.
Die Studie untersuchte Tweets, die an weibliche Mitglieder des britischen Parlaments und des US-Kongresses und -Senats sowie an Journalistinnen von Publikationen wie Daily Mail, Gal Dem, The Guardian, Pink News und The Sun in Großbritannien und Breitbart and the gesendet wurden New York Times in den USA.
Es stellte sich heraus, dass in diesem Zeitraum 1,1 Millionen missbräuchliche Tweets an die 778 Frauen gesendet wurden – das entspricht einem alle 30 Sekunden. Es wurde auch festgestellt, dass 7,1 % aller Tweets, die an Frauen in diesen Rollen gesendet werden, missbräuchlich sind. Die Forscher hinter der Studie haben auch ein Tool veröffentlicht, namens Troll Patrol , um zu testen, ob ein Tweet Missbrauch oder Belästigung darstellt.
Während der Deep-Learning-Ansatz eine große Verbesserung gegenüber bestehenden Methoden zur Erkennung von Missbrauch darstellte, warnen die Forscher, dass maschinelles Lernen oder KI nicht ausreichen werden, um Trolling ständig zu erkennen. Laut Cornebise ist das Tool oft so gut wie menschliche Moderatoren, aber auch fehleranfällig. Auf absehbare Zeit werde ein gewisses menschliches Urteilsvermögen erforderlich sein, sagt er.
Twitter wurde weithin dafür kritisiert, dass es nicht mehr tut, um seine Plattform zu überwachen. Milena Marin, die bei Amnesty International an dem Projekt mitgearbeitet hat, sagt, das Unternehmen sollte zumindest seine Polizeimethoden transparenter machen.
Bei Troll Patrol geht es nicht darum, Twitter zu überwachen oder es zu zwingen, Inhalte zu entfernen, sagt Marin. Aber sie warnte, Twitter müsse anfangen, transparent darüber zu sein, wie genau es maschinelles Lernen einsetzt, um Missbrauch zu erkennen, und technische Informationen über die Algorithmen veröffentlichen, auf die es sich stützt.
Als Antwort auf den Bericht wies die Rechtsreferentin von Twitter, Vijaya Gadde, auf das Problem der Definition von Missbrauch hin. Ich möchte anmerken, dass das Konzept des „problematischen“ Inhalts zum Zwecke der Klassifizierung von Inhalten eine weitere Diskussion rechtfertigt, sagte Gadde in einer Erklärung. Wir arbeiten hart daran, weltweit durchsetzbare Regeln zu schaffen, und haben begonnen, die Öffentlichkeit als Teil des Prozesses zu konsultieren.