Eine Studie der US-Regierung bestätigt, dass die meisten Gesichtserkennungssysteme rassistisch sind

Kategorie: Künstliche Intelligenz Gesendet 20. Dez

Fast 200 Gesichtserkennungsalgorithmen – eine Mehrheit in der Branche – hatten laut a eine schlechtere Leistung bei nicht weißen Gesichtern wegweisende Studie .

Was sie getestet haben: Das US National Institute of Standards and Technology (NIST) hat jeden Algorithmus auf zwei der häufigsten Aufgaben zur Gesichtserkennung getestet. Bei der ersten Methode, die als Eins-zu-eins-Matching bekannt ist, wird ein Foto von jemandem mit einem anderen Foto derselben Person in einer Datenbank abgeglichen. Damit werden beispielsweise Smartphones entsperrt oder Pässe überprüft. Die zweite, als Eins-zu-Viele-Suche bekannte, beinhaltet die Bestimmung, ob ein Foto von jemandem eine Übereinstimmung in einer Datenbank hat. Dies wird häufig von Polizeidienststellen verwendet, um Verdächtige in einer Untersuchung zu identifizieren.

Die Agentur untersuchte vier Gesichtsdatensätze, die derzeit in Anwendungen der US-Regierung verwendet werden: Fahndungsfotos von Menschen, die in den USA leben; Bewerbungsfotos von Personen, die Zuwanderungsleistungen beantragen; Bewerbungsfotos von Personen, die ein Visum beantragen; und Fotos von Menschen, die die Grenze in die USA überquerten. Insgesamt enthielten die Datensätze 18,27 Millionen Bilder von 8,49 Millionen Menschen.

Was sie fanden: NIST teilte einige hochkarätige Ergebnisse der Studie mit. Die wichtigsten:

1. Beim Eins-zu-eins-Matching hatten die meisten Systeme eine höhere Rate falsch positiver Übereinstimmungen für asiatische und afroamerikanische Gesichter als für kaukasische Gesichter, manchmal um den Faktor 10 oder sogar 100. Mit anderen Worten, sie waren eher dazu bereit Finden Sie eine Übereinstimmung, wenn es keine gab.

2. Dies änderte sich für in asiatischen Ländern entwickelte Gesichtserkennungsalgorithmen, die nur sehr geringe Unterschiede bei den falsch positiven Ergebnissen zwischen asiatischen und kaukasischen Gesichtern erzeugten.

3. In den USA entwickelte Algorithmen waren alle durchweg schlecht darin, asiatische, afroamerikanische und indianische Gesichter zu finden. Amerikanische Ureinwohner erlitten die höchsten Falsch-Positiv-Raten.

4. One-to-many-Matching-Systeme hatten die schlechtesten Fehlalarmraten bei afroamerikanischen Frauen, wodurch diese Bevölkerungsgruppe dem höchsten Risiko ausgesetzt ist, fälschlicherweise eines Verbrechens beschuldigt zu werden.

Warum das wichtig ist: Die Verwendung von Gesichtserkennungssystemen nimmt in der Strafverfolgung, bei der Grenzkontrolle und anderen Anwendungen in der gesamten Gesellschaft schnell zu. Während mehrere akademische Studien zuvor gezeigt haben, dass populäre kommerzielle Systeme aufgrund von Rasse und Geschlecht voreingenommen sind, ist die Studie von NIST die bisher umfassendste Bewertung und bestätigt diese früheren Ergebnisse. Die Ergebnisse stellen in Frage, ob diese Systeme weiterhin so weit verbreitet sein sollten.

Nächste Schritte: Es liegt nun an den politischen Entscheidungsträgern, herauszufinden, wie diese Technologien am besten reguliert werden können. NIST fordert die Entwickler von Gesichtserkennungen außerdem dringend auf, mehr Forschung darüber zu betreiben, wie diese Vorurteile gemildert werden könnten.

Um mehr Geschichten wie diese direkt in Ihren Posteingang zu bekommen, melden Sie sich für unseren von Webby nominierten KI-Newsletter The Algorithm an. Es ist kostenlos.