Instagram verwendet KI, um Menschen daran zu hindern, beleidigende Kommentare zu posten

Kategorie: Künstliche Intelligenz Gesendet 09.07

Die Social-Media-Plattform wird möglicherweise anstößige Kommentare kennzeichnen, bevor sie gepostet werden, und den Verfasser bitten, es noch einmal zu überdenken.

Der Kontext: Online-Missbrauch war aufgrund seines Ausmaßes und seiner Nuancen schon immer ein kompliziertes Thema. Als zensurwürdig gilt a ewige Debatte : zu viel filtern und es beeinträchtigt die Selbstdarstellung; zu wenig filtern und es entsteht eine feindliche Umgebung. Hinzu kommt die Komplexität verschiedener Sprachen, Kulturen und Normen, und die Herausforderung wird wirklich unhandlich.

Künstliche Unintelligenz: Aus diesem Grund haben sich Social-Media-Plattformen wie Facebook der künstlichen Intelligenz zugewandt, um ihnen zu helfen, die schiere Menge an Posts und Kommentaren zu sortieren. Aber Sprache war für die KI schon immer besonders schwer zu analysieren – einfache Dinge wie Doppeldeutigkeiten, Sarkasmus oder sogar Rechtschreibfehler können ein System dazu bringen, ihre Bedeutung zu verwechseln. Um das zu umgehen, beschäftigt sich Facebook Tausende von Inhaltsmoderatoren zu verstärken, wenn seine Algorithmen kein endgültiges Urteil fällen. Untersuchungen haben jedoch ergeben, dass diese Jobs oft brutal und zermürbend sind.

Lösung von Instagram: Instagram, das zu Facebook gehört, versucht nun einen neuen Ansatz. Anstatt sich ausschließlich auf seine Algorithmen zu verlassen, um anstößiges Material zu zensieren, wird es auch auf die Selbstzensur der Benutzer zurückgreifen. Wenn ein Kommentar gepostet wird und das KI-Modell der Plattform ihn als schädlich kennzeichnet, wird der Poster ein Popup-Fenster sehen, in dem Sie gefragt werden, ob Sie das wirklich posten möchten?

In frühen Tests stellte Instagram fest, dass die Funktion viele Menschen ermutigte, ihre Kommentare zurückzuziehen, so die gestrigen Blog-Post-Ankündigung . Es ist eine clevere Taktik, um zu versuchen, die Belastung der menschlichen Inhaltsmoderation zu verringern, ohne zu restriktiv zu sein.

Trainingsdaten: Dies ist nicht das erste Mal, dass Instagram KI verwendet, um Sprache zu bereinigen. Im Juni 2017 ist es auch gestartet ein Filter für anstößige Kommentare, der maschinelles Lernen verwendet, um den offensichtlichsten Missbrauch zu verbergen. Seitdem hat die Plattform ihr maschinelles Lernmodell weiter verbessert und dabei wahrscheinlich die Millionen von Datenpunkten genutzt, die von Benutzern generiert wurden, als sie in der Vergangenheit Kommentare gemeldet hatten. Die neueste Funktion fordert Benutzer außerdem auf, Instagram zu benachrichtigen, wenn es ihren Kommentar versehentlich als anstößig gekennzeichnet hat, eine weitere Feedback-Schleife, die nützlichere Trainingsdaten generieren könnte.

Um mehr Geschichten wie diese direkt in Ihren Posteingang zu bekommen, melden Sie sich für unseren von Webby nominierten KI-Newsletter The Algorithm an. Es ist kostenlos.