Der neue KI-Lächeldetektor von Google zeigt, wie die Einbeziehung von Rasse und Geschlecht Vorurteile reduzieren kann

Kategorie: Nicht kategorisiert Gesendet Dez 04

Computervision wird immer besser darin, verschiedene Gesichtsausdrücke zu erkennen, aber für bestimmte Gruppen, die in Trainingsdatensätzen nicht angemessen repräsentiert sind, wie ethnische Minderheiten oder Frauen mit androgynen Merkmalen, können Algorithmen immer noch unterdurchschnittlich abschneiden.

Ein neues Papier veröffentlicht in arXiv von Google-Forschern hat die hochmodernen Algorithmen zur Lächelerkennung verbessert, indem sie Rassen- und Geschlechtsklassifizierer in ihr Modell aufgenommen und trainiert haben. Der Rassenklassifikator wurde auf vier Rassenuntergruppen und zwei auf Geschlecht trainiert (die Forscher nannten die Rassengruppen nicht, aber die Bilder scheinen aus Asiaten, Schwarzen, Hispanoamerikanern und Weißen zu bestehen).

Ihre Methode erreichte eine Genauigkeit von fast 91 Prozent bei der Erkennung von Lächeln im Datensatz Faces of the World (FotW), einem Satz von 13.000 Bildern von Gesichtern, die aus dem Internet gesammelt wurden und manchmal als Benchmark für solche Algorithmen verwendet werden. Das entspricht einer Verbesserung von etwas mehr als 1,5 Prozent gegenüber der vorherigen Marke. Die Ergebnisse zeigten eine insgesamt verbesserte Genauigkeit auf ganzer Linie, was zeigt, dass die Beachtung von Rasse und Geschlecht bessere Ergebnisse erzielen kann als der Versuch, einen farbenblinden Algorithmus zu entwickeln.

Viele Forscher zögern, Klassifikatoren wie diesen aufzunehmen, da sie davon ausgehen, dass es einfacher ist, sich der Voreingenommenheit schuldig zu machen (oder zumindest beschuldigt zu werden), wenn Ihr System explizite Rassen- oder Geschlechtskategorien hat. Die Ergebnisse des Google-Teams beweisen, dass die Anstrengungen, die unternommen werden, um Rassen- oder Geschlechtsklassifizierer zu trainieren, das Bias-Problem tatsächlich verringern können. Die Forscher verwendeten auch Klassifikationen wie Geschlecht 1 und Geschlecht 2, um möglichst keine unbewusste, gesellschaftliche Voreingenommenheit einzuführen.

Trotz der vielversprechenden Ergebnisse und der Sorgfalt, sich Voreingenommenheit in all ihren Formen bewusst zu machen, nahmen die Forscher einen Abschnitt mit dem Titel Ethische Überlegungen in ihr Papier auf, in dem sie darauf hinweisen, dass ihre Arbeit nicht darauf abzielt, Rasse und Geschlecht zu motivieren Identifikation als Endziel. Sie weisen auch darauf hin, dass es keinen Goldstandard für die Aufschlüsselung von Rassenkategorien gibt und dass das Geschlecht in der zukünftigen Arbeit vielleicht eher als Spektrum betrachtet werden sollte als als binärer Zustand.