Facebook sagt, dass es in seinen Algorithmen nach rassistischen Vorurteilen suchen wird

Kategorie: Künstliche Intelligenz Gesendet 22. Juli

Die Nachrichten: Facebook sagt, es wird eingerichtet neue interne Teams, um nach rassistischen Vorurteilen zu suchen laut Wall Street Journal in den Algorithmen, die sein wichtigstes soziales Netzwerk und Instagram antreiben. Die Untersuchungen werden sich insbesondere mit den nachteiligen Auswirkungen des maschinellen Lernens befassen – was möglich ist impliziten Rassismus kodieren in Trainingsdaten – über Schwarze, Hispanoamerikaner und andere Minderheitengruppen.

Warum es wichtig ist: In den letzten Jahren haben immer mehr Forscher und Aktivisten das Problem hervorgehoben Voreingenommenheit in der KI und das unverhältnismäßige Auswirkungen auf Minderheiten hat . Facebook, das maschinelles Lernen einsetzt, um die tägliche Erfahrung seiner 2,5 Milliarden Nutzer zu kuratieren, ist für eine interne Bewertung dieser Art längst überfällig. Es gibt bereits Hinweise darauf, dass die Adserving-Algorithmen von Facebook nach Rasse diskriminieren und ermöglichen Werbetreibenden beispielsweise, bestimmte Rassengruppen daran zu hindern, ihre Anzeigen zu sehen.

Unter Druck: Facebook hat in der Vergangenheit Vorwürfe der Voreingenommenheit in seinen Systemen ausgewichen. Es hat mehrere Jahre der schlechten Presse und des Drucks von Bürgerrechtsgruppen gedauert, um an diesen Punkt zu gelangen. Facebook hat diese Teams nach einem monatelangen Werbeboykott eingerichtet, der von Bürgerrechtsgruppen organisiert wurde – darunter die Anti-Defamation League, Color of Change und die NAACP –, der große Geldgeber wie Coca-Cola, Disney, McDonald’s und Starbucks dazu veranlasste setzen ihre Kampagnen aus.

Keine einfache Lösung: Der Umzug ist willkommen. Aber die Einleitung einer Untersuchung ist weit davon entfernt, das Problem der rassistischen Voreingenommenheit tatsächlich zu lösen, insbesondere wenn niemand wirklich weiß, wie man es löst. In den meisten Fällen, In den Trainingsdaten besteht eine Verzerrung und es gibt keine gut vereinbarten Möglichkeiten, es zu entfernen. Und das Anpassen dieser Daten – eine Form von algorithmische Affirmative Action – ist umstritten. Machine Learning Bias ist auch nur eines der Probleme von Social Media in Bezug auf Rassen. Wenn Facebook seine Algorithmen überprüft, sollte es Teil einer umfassenderen Überarbeitung sein, die sich auch mit Richtlinien auseinandersetzt, die rassistischen Politikern, weißen rassistischen Gruppen und Holocaustleugnern Plattformen bieten.

„Wir werden weiterhin eng mit dem Responsible AI-Team von Facebook zusammenarbeiten, um sicherzustellen, dass wir potenzielle Vorurteile auf unseren jeweiligen Plattformen untersuchen“, sagt Stephanie Otway, eine Sprecherin von Instagram. 'Es ist noch früh und wir planen, in den kommenden Monaten weitere Einzelheiten zu dieser Arbeit bekannt zu geben.'