211service.com
Ist die Gig Economy manipuliert?
Illustration von Matthew Hollister
Apps und Websites, mit denen Mitarbeiter für individuelle Aufgaben wie das Abholen von Lebensmitteln oder das Entwerfen eines neuen Logos eingestellt werden können, haben sich in den letzten Jahren stark verbreitet und versprechen einen effizienteren und faireren Arbeitsmarkt. Eine neue Studie der Northeastern University in Boston legt jedoch nahe, dass rassistische und sexuelle Diskriminierung auf zwei beliebten Gig-Economy-Plattformen üblich sein könnte.
Forscher unter der Leitung von Christo Wilson , ein Assistenzprofessor an der Northeastern, and Ancsa Hannák , ein Doktorand, untersuchte TaskRabbit, eine Plattform für die Einstellung von Leuten, die Besorgungen erledigen, und Fiverr, einen Marktplatz für kreative Dienstleistungen. Bei beiden fanden sie Hinweise auf Voreingenommenheit in Bezug auf Rasse und Geschlecht.
Dies ist nur ein Beispiel dafür, wie sich Voreingenommenheit in Online-Plattformen und -Dienste einschleicht. Und es ist beunruhigend, weil die Gig Economy versprochen hat, nicht nur effizienter und flexibler, sondern auch weniger voreingenommen zu sein – da Algorithmen die Arbeit erledigen, Menschen zu verbinden.
Auf Fiverr fanden die Forscher Beweise dafür, dass schwarze und asiatische Arbeiter niedrigere Bewertungen erhielten als weiße Menschen. Und auf TaskRabbit erhielten Frauen weniger Bewertungen als Männer und schwarze Arbeiter erhielten niedrigere Bewertungen als weiße. Am beunruhigendsten ist vielleicht, dass die Forscher auch Hinweise auf eine solche Verzerrung im Empfehlungsalgorithmus von TaskRabbit fanden. Die Forschungsergebnisse werden diese Woche auf einer akademischen Konferenz in New York vorgestellt.
Es ist unmöglich, mit Sicherheit zu sagen, dass die von Wilson und Hannák identifizierte Korrelation auf rassistische und geschlechtsspezifische Vorurteile seitens der Mitarbeiter zurückzuführen ist, im Gegensatz zu einem unbekannten Störfaktor, aber Wilson sagt, dass das Muster besorgniserregend ist. Uns wurde gesagt, dass dies die Zukunft der Arbeit ist, sagt er. Wenn Sie einen Algorithmus einführen, der von Millionen von Menschen verwendet wird, haben Sie eine gewisse Verantwortung gegenüber der Öffentlichkeit, zu prüfen, was Sie einsetzen, es zu bewerten und zu sehen, ob es eines davon enthalten wird negative Nebenwirkungen.
Ein Sprecher von Fiverr argumentiert, dass die Methodik der Studie dahingehend fehlerhaft sei, dass sie Faktoren wie internationale Grenzen und Sprachunterschiede ignoriere. Sie weist auch darauf hin, dass Benutzer keine demografischen Informationen angeben müssen, um den Dienst zu nutzen, wodurch es einfach ist, Diskriminierung zu vermeiden. TaskRabbit hat auf eine Bitte um Stellungnahme nicht geantwortet.
Es gibt jedoch zunehmend Hinweise darauf, dass Voreingenommenheit alle Arten von digitalen Diensten beeinträchtigen kann. Letzten Monat Forscher vom MIT, Stanford und der University of Washington das entdeckt dass Uber-Fahrer in Boston häufiger Fahrten für Kunden mit afroamerikanisch klingenden Namen stornierten und dass schwarze Uber-Kunden in Seattle mit längeren Wartezeiten konfrontiert waren als ihre weißen Kollegen. In einer im vergangenen Jahr veröffentlichten Studie haben Forscher der CMU Beweise gefunden dass Anzeigen für hochbezahlte Jobs häufiger Männern als Frauen gezeigt wurden.
In vielen Fällen spiegeln die beobachteten Vorurteile nur wider, was in der realen Welt vorgefunden wird, wie z. B. die bewussten und unbewussten Vorurteile, die Arbeitgeber bei Einstellungsentscheidungen einbringen können. Für Empfehlungsmaschinen oder maschinelle Lernsysteme stellt sich daher die Frage, wie Verzerrungen beseitigt werden können, entweder aus den Datensätzen, die den Algorithmen zugeführt werden, oder aus den Algorithmen selbst.
Die Leute haben die Vorstellung, dass es neutral ist, weil es ein Computer ist, fügt Wilson hinzu. Wenn Sie Daten haben, die voreingenommen sind, ist es sinnvoll, einen voreingenommenen Algorithmus zu trainieren.
Don MacKenzie , Assistenzprofessor an der University of Washington und einer der Autoren der jüngsten Uber-Studie, betont, dass die Studie nicht beweise, dass rassistische oder geschlechtsspezifische Vorurteile im Spiel seien. Aber er sagt, es sei wichtig, die Voreingenommenheit in der Gig Economy und den zugrunde liegenden Algorithmen zu berücksichtigen – und fügt hinzu, dass das Problem beherrschbar sein sollte, wenn Unternehmen vorsichtig sind.
Dies ist ein aufstrebender Bereich, und wenn es eine Reihe von Best Practices gibt, bin ich mir dessen nicht bewusst, sagt MacKenzie. Aus meiner Sicht sollten Unternehmen, Entwickler und Data Scientists wachsam sein, auf Feedback hören und sich nicht scheuen, verschiedene Lösungen auszuprobieren. Ich denke, wenn jeder diese Probleme in gutem Glauben, konstruktiv und mit der Bereitschaft, verschiedene Dinge auszuprobieren, angeht, können wir der Beseitigung von Vorurteilen in diesen Systemen näher kommen.