Das Video von Logan Paul ist eine warnende Geschichte für Plattformen, die hoffen, dass KI sie vor anstößigen Inhalten schützt

Kategorie: Tech-Richtlinie Gesendet 03. Jan

YouTube-Star Logan Paul (falls Sie es nicht kennen, er hat 15 Million Abonnenten) hat am Wochenende ein Video auf die Plattform hochgeladen, in dem er anscheinend Witze vor einer an einem Baum hängenden Leiche machte, während er einen Wald in Japan besuchte, in dem bekannt ist, dass Menschen Selbstmord begehen. Das Filmmaterial wurde über sechs Millionen Mal angesehen, bevor Paul es entfernte.

Warum es wichtig ist: Pauls Video war nicht erwischt durch eine der YouTube-Software oder menschliche Filter , was es zu einem Paradebeispiel für Inhalte macht, die niemals hätten weit verbreitet werden dürfen, die sich aber dennoch den hochmodernen Systemen der künstlichen Intelligenz entzogen haben. Obszön ist es, die Leiche eines Selbstmordopfers, Tarleton Gillespie, leitender Forscher bei Microsoft Research, gezeigt und respektlos behandelt zu haben. erzählte Buzzfeed . Dies ist die Art von kontextbezogener und ethischer Subtilität, die automatisierte Tools wahrscheinlich niemals erreichen können.

Vorwärts gehen: Der Vorfall zeigt, dass trotz der Bemühungen von Facebook und YouTube, KI zur Bekämpfung anstößiger Inhalte einzusetzen, das Problem der Inhaltsmoderation nicht durch den Einsatz von ein bisschen Software gelöst werden kann.