Wie Facebook maschinelles Lernen einsetzt, um die Propaganda von ISIS und Al-Qaida zu bekämpfen

Kategorie: Silicon Valley Gesendet 12. Nov

Facebook behauptet, in den letzten drei Quartalen proaktiv 99 % der terroristischen Inhalte auf der Website gefunden und entfernt zu haben. Es gibt einen Einblick in seine Prozesse in a Blogeintrag .

Einige Statistiken: Zunächst ist es wichtig anzumerken, dass sich Facebook mit Terrorismus nur auf ISIS und Al-Qaida bezieht. Im Durchschnitt behauptet die Firma, dass sie jetzt terroristische Inhalte weniger als zwei Minuten nach ihrer Veröffentlichung entfernt, im Vergleich zu den durchschnittlich 14 Stunden, die es früher in diesem Jahr dauerte. Facebook hat im zweiten Quartal 2018 Maßnahmen zu 9,4 Millionen Inhalten ergriffen, eine Zahl, die dank seiner Bemühungen im vorangegangenen Quartal auf 3 Millionen im dritten Quartal 2018 zurückgegangen ist, hieß es.

Erkennungssysteme: Facebook hat ein neues Tool für maschinelles Lernen eingeführt, das bewertet, ob Beiträge Unterstützung für ISIS oder Al-Qaida signalisieren. Es erstellt eine Punktzahl, die angibt, wie wahrscheinlich es ist, dass es gegen ihre Anti-Terror-Richtlinien verstößt, wobei diejenigen, die höhere Punktzahlen erhalten, an ihre menschlichen Prüfer zur Bewertung weitergeleitet werden. Bei den am höchsten bewerteten Fällen werden Beiträge automatisch entfernt. In den seltenen Fällen, in denen Mitarbeiter die Möglichkeit eines unmittelbar bevorstehenden Schadens feststellen, informiert Facebook sofort die Strafverfolgungsbehörden, hieß es.

Lass die Bots frei: Offensichtlich ist Facebook bestrebt, hart gegen den Terrorismus vorzugehen. Und wie immer verlässt es sich dabei fast ausschließlich auf Algorithmen. Das macht aus seiner Sicht sehr viel Sinn, da Menschen niemals so viele Informationen so schnell scannen könnten (und sie sind teuer). Aber es ist eine weitere Erinnerung an die Rolle von Facebook als Richter, Geschworene und Henker in Bezug auf die Informationen, die uns angezeigt werden.