Diese Unternehmen behaupten, fair gehandelte Datenarbeit zu leisten. Tun sie?

Illustration, die das Öffnen des Gehirns zeigt und Datenarbeiter enthüllt Rose Wang

An einem kühlen New Yorker Nachmittag im Februar kauerte Leon Campbell an seinem Schreibtisch in einem Büro in Midtown Manhattan. Er rief einen Podcast über Spiele auf und startete eine Softwareplattform auf seinem Laptop. In den nächsten Stunden klickte er auf die Ecken von Fahrzeugen in Bildern und veranlasste die Software, Kästchen um sie herum zu zeichnen.

Durch die Identifizierung von Bildern von Autos und SUVs erstellten Campbell und andere Unmengen von Daten für das Training von Algorithmen, wie sie beispielsweise in autonomen Fahrzeugen eingesetzt werden. Es war eine eintönige Arbeit, sagte Campbell, der 24 und Autist ist. Oftmals mussten Kästchen in ähnlichen Positionen gezeichnet und die Kästchen so angepasst werden, dass sie sich immer noch um das Objekt herum befinden, wenn sie sich ein wenig aus dem Rahmen bewegen. Trotzdem war er froh, es zu haben. Es hilft mir, mich auf zukünftige Unternehmungen vorzubereiten, die ich verfolgen möchte, sagte er und fügte hinzu, dass er hofft, Spieleprogrammierer oder -designer zu werden.

Viel menschliche Arbeit fließt in den Aufbau von Systemen der künstlichen Intelligenz. Ein Großteil davon besteht darin, Daten zu bereinigen, zu kategorisieren und zu kennzeichnen, bevor KIs sie aufnehmen, um nach Mustern zu suchen. Das AI Now Institute, eine Ethikbehörde, verweist betrachten diese Arbeit als die verborgene Arbeit der KI-Pipeline, die die unsichtbare menschliche Arbeit bereitstellt, die oft Behauptungen von KI-„Magie“ widerlegt, sobald diese Systeme in Produkten und Dienstleistungen eingesetzt werden.

Campbell ist ein relativ privilegiertes Mitglied dieses Arbeitskräftepools. Er arbeitet 28 Stunden die Woche für Daivergent, eine Online-Arbeitsplattform, die autistischen Menschen helfen soll, nützliche Arbeitserfahrung zu sammeln und sich auf eine Karriere vorzubereiten, und verdient zwischen 12 und 20 US-Dollar pro Stunde. (Daivergent wollte seinen genauen Lohn nicht preisgeben, sagte aber, dass dies die typische Bandbreite des Unternehmens und der Marktpreis für New York City sei.)

Im Gegensatz dazu arbeiten die meisten Personen, die Datenannotationen vornehmen, nicht in Büros in Manhattan, sondern von zu Hause aus an Orten wie Indien, Kenia, Malaysia und den Philippinen. Sie loggen sich für einige Minuten bis zu mehreren Stunden am Tag in Online-Plattformen ein und unterscheiden vielleicht zwischen Frühlingszwiebelsträußen und Selleriestangen oder zwischen Cat-Eye- und Pilotenbrillen. Wie in dem kürzlich erschienenen Buch „Ghost Work“ von Mary Gray und Siddharth Suri beschrieben, sind die meisten von ihnen Gig-Arbeiter mit niedriger Bezahlung, unsicherer Beschäftigung und ohne Aufstiegschancen.

Eine kleine Gruppe von Datenannotationsfirmen will diese Erzählung umschreiben. Aber diese Unternehmen, die darauf abzielen, gute Leistungen bei KI-Datendiensten zu erbringen, stellen fest, dass der Weg zur Unternehmenserleuchtung steinig sein kann.

Behauptung

Ein Zahlenspiel

Typischerweise melden sich Mitarbeiter für Datenanmerkungen bei Amazons Mechanical Turk oder Gig-Work-Plattformen von Datenanmerkungsunternehmen wie Appen an. Dort führen sie Aufgaben aus, die von KI-Firmen vergeben werden, die den Plattformen einen Cent pro Minute zahlen. Im Verdrängungswettbewerb um das Geschäft konkurrieren diese Plattformen um Größe, Geschwindigkeit und Kosten.

Appen beispielsweise verfügt über einen Pool von einer Million Auftragnehmern, die Aufgaben wie die Kategorisierung medizinischer Bilder oder die Übersetzung von Texten für Chatbots ausführen. Als das Unternehmen im März den Datenannotationsanbieter Figure Eight für 300 Millionen US-Dollar kaufte, wurde das Unternehmen erklärt dass der Kauf dazu beitragen würde, die Anforderungen der Kunden an Umfang, Geschwindigkeit und Qualität zu erfüllen.

Es ist wirklich ein Wettlauf nach unten, sagt Daniel Kaelin, Director of Customer Success bei Alegion, einem Unternehmen für Datenannotationsdienste in Austin, Texas. Diese ganze Branche ist sehr, sehr wettbewerbsintensiv; Jeder versucht, diese etwas billigeren Arbeitskräfte irgendwo anders auf der Welt zu finden.

Was bedeutet Wirkung wirklich?

Alegion ist eine von mehreren Plattformen, darunter CloudFactory, Digital Divide Data (DDD), iMerit und Samasource, die sagen, dass sie dafür sorgen wollen, dass KI-Daten würdevoll funktionieren. Sie nennen sich Impact Companies und behaupten, ethisch fundierte Datenarbeit mit besseren Arbeitsbedingungen und Karriereaussichten anzubieten als die meisten Unternehmen der Branche. Es ist wie fair gehandelte Kaffeebohnen, aber für riesige Datensätze.

Es gibt jedoch keine Vorschriften und nur schwache Industriestandards dafür, was ethische Beschaffung bedeutet. Und die eigenen Definitionen der Unternehmen variieren stark.

Bei iMerit zum Beispiel sind Mitarbeiter, die mehrere Jahre im Unternehmen gearbeitet haben, die Karriereleiter hinaufgestiegen, um als Teamleiter, Projektmanager und Domänentrainer zu fungieren, sagt Radha Basu, Mitbegründerin und CEO des Unternehmens. Das Unternehmen beschäftigt 2.300 Vollzeitbeschäftigte, die meisten davon in Indien; die Hälfte sind Frauen, die bis zu sechs Monate Mutterschaftsurlaub bekommen können. iMerit wurde 2012 als gewinnorientiertes Unternehmen mit doppeltem Gewinn gegründet, d. h. es misst sich selbst anhand von Kennzahlen für soziale Auswirkungen wie Inklusion und Vielfalt sowie traditionellen steuerlichen.

Menschen in Kenia und Uganda, die für den Datendienstleister Samasource arbeiten, haben auch Vollzeitjobs mit Leistungen wie Gesundheitsversorgung, Renten, subventionierte Mahlzeiten und 90 Tage Mutterschaftsurlaub. Laut einem Unternehmensbericht aus dem Jahr 2018 stellt DDD unterdessen einkommensschwache Jugendliche, ländliche Migranten und städtische Slumbewohner ein, von denen mindestens 50 % Frauen sind, um sechs bis acht Stunden am Tag digitale Aufgaben zu erledigen. Die Firma zahlt für einen Teil der Ausbildung und hilft ihren Mitarbeitern, anderswo zu arbeiten.

Alegion und CloudFactory hingegen bieten beide hauptsächlich stundenweise Vertragsarbeit an – die Norm unter Datenanmerkungsfirmen – und keine Vollzeitbeschäftigung. Laut CloudFactory geben 79 % ihrer Cloud-Mitarbeiter an, dass das Unternehmen ihre Haupteinnahmequelle ist.gegenüber 28 % im Jahr 2015. Für Alegion wird ein Großteil davon jedoch als zusätzliches Einkommen und nicht als Haupteinkommen angesehen, sagt Nathaniel Gates, CEO von Alegion. Es ist keine Karriere für sie.

Troy Stringfield, der 2018 das Amt des Global Impact Director von Alegion übernahm, verteidigt das Impact-Label – das das sieben Jahre alte Unternehmen erst im vergangenen Jahr eingeführt hat – indem er sagt, Impact bedeute, Arbeit zu schaffen, die das Leben der Menschen verbessert. Es geht hinein und sagt: „Was ist ein lebenswerter Lohn? Was bringt sie besser als dort, wo sie gerade sind?“, sagt er.

Aber Sara Enright, Projektleiterin bei der Global Impact Sourcing Coalition (GISC), einem von Mitgliedern finanzierten Branchenverband, sagt, es sei zweifelhaft, ob eine solche Arbeit als Impact Sourcing bezeichnet werden sollte: Wenn es sich nur um Gig-Arbeit handelt, bei der eine Person in Teilzeit zugreift Lohn durch eine Stunde am Tag hier und da, das wirkt sich nicht auf die Beschäftigung aus, weil es nicht wirklich zur Karriereentwicklung und letztendlich zur Armutsbekämpfung führt.

CloudFactory, DDD, iMerit und Samasource (aber nicht Alegion) sind alle Mitglieder der GISC, die eine etabliert hat Impact-Sourcing-Standard . Es definiert Mindestanforderungen und freiwillige Best Practices für eine Beschäftigung, die das Leben von Menschen verbessert, die ansonsten nur begrenzte Aussichten auf eine formelle Beschäftigung haben. Die 2016 gegründete Organisation verlangt von ihren Mitgliedern alle zwei Jahre eine Bewertung der Leistung ihrer Mitglieder in Bezug auf Nichtdiskriminierung, gleiches Entgelt und andere Kriterien.

GISC-Mitglieder werden jedoch nicht bestraft oder rausgeschmissen, wenn sie die Prüfung nicht bestehen. Die Unternehmen unterscheiden sich auch darin, wie viel sie öffentlich berichten. Samaquelle veröffentlicht zum Beispiel Auswirkungsprüfungen Berichterstattung über die Demografie der Belegschaft, die Zahl der Menschen, die aus der Armut herausgekommen sind, und mehr. DDD Die Jahresberichte von enthalten Daten, die das durchschnittliche monatliche Einkommen der Mitarbeiter und die geschätzte Steigerung des Lebenseinkommens zeigen.

CloudFactory hingegen veröffentlichte a Bericht über soziale Auswirkungen im Jahr 2015, hat aber seitdem keine mehr herausgebracht. Das Unternehmen teilte MIT Technology Review mit, dass es jährlich Impact-Metriken an die Rockefeller Foundation, einen Investor in das Unternehmen, meldet. In der Zwischenzeit sagte iMerit, dass es als gewinnorientiertes Unternehmen solche Berichte nicht veröffentlicht, während Alegion sagte, es habe breite Ziele, die es erreichen wolle, aber keine spezifischen Kennzahlen lieferte.

Einstieg in den US-Markt

In ihrem Expansionsbestreben versuchen Unternehmen wie Alegion und iMerit auch, einen Pool von Datenarbeitern in den USA aufzubauen, die dort auf unterprivilegierte und marginalisierte Bevölkerungsgruppen zurückgreifen. Das verschafft ihnen lukrativen Zugang zu Regierungs-, Finanz- und Gesundheitskunden, die strenge Sicherheitsmaßnahmen fordern, mit regulierten medizinischen und finanziellen Daten arbeiten oder die Arbeit in den USA aus anderen rechtlichen Gründen benötigen.

Um diese US-Arbeiter zu rekrutieren, können die Impact-Firmen Unternehmen wie Daivergent nutzen, das als Verbindung zu Organisationen wie der Autism Society und Autism Speaks dient. (Dort arbeitet Campbell, den wir früher beim Zeichnen von Kisten um Autos getroffen haben.) Alegion führte auch einen Versuch mit Arbeitern durch, die von IAM23, einer Selbsthilfegruppe für Militärveteranen, bereitgestellt wurden.

Aber der Versuch, ein Modell auf der Grundlage von Übersee-Outsourcing in die USA zu bringen, ist problematisch. Sie brauchen immer noch die billigen Arbeitskräfte, sagt Stringfield von Alegion.

Auch iMerit hatte Probleme, seine US-Belegschaft zu vergrößern. Als sich das Unternehmen im vergangenen Jahr in New Orleans niederließ und 100 neue Arbeitsplätze versprach, gratulierte ihm Bürgermeister Mitch Landrieu öffentlich. Aber nach mehr als einem Jahr hat das Unternehmen nur noch 30 Vollzeitbeschäftigte in der Stadt. Um auf 100 zu kommen, braucht es mehr Kundenverträge, sagt Jai Natarajan, Marketingleiter des Unternehmens.

Ein Teil des Pitches des Unternehmens ist, dass es nicht nur billige Standard-Gig-Arbeit anbietet, sondern etwas ganz Spezialisiertes. Im Juni zum Beispiel war Basu von iMerit in New Orleans und half bei der Entwicklung eines Schulungsprogramms für Arbeiter, die eine Art Bildanalyse durchführen, die bis zu 45 bis 90 Minuten pro Aufgabe dauern kann. Die Leute schauen sich Impact Sourcing an und gehen davon aus, dass Menschen aus armen Verhältnissen nur die unterste Kennzeichnung vornehmen. Das ist ziemlich ungenau, sagt Basu. Aber der Preiskampf nach unten in der Datenetikettierungsbranche trägt dazu bei, die allgemeine Wahrnehmung zu verstärken, dass die Arbeit einfach ist und billig sein sollte. Das macht die Behauptung von iMerit – dass seine Dienstleistungen höhere Fähigkeiten erfordern – schwer zu verkaufen.

Auch für Samasource, das Leila Janah vor 11 Jahren als gemeinnützige Organisation ins Leben gerufen hat, war es schwierig, mit etablierten gewinnorientierten Unternehmen zu konkurrieren. Als selbsternannter Nerd für totale soziale Gerechtigkeit, der Vorträge bei SXSW, mehreren TedX-Veranstaltungen und dem Jahrestreffen 2016 des IWF gehalten hat, schrieb Janah 2017 ein Buch mit dem Titel „Give Work: Reversing Poverty One Job at a Time“. Nach der Einführung ihrer fair gehandelten Luxus-Hautpflegemarke LXMI wurde Janah auf den Hochglanzseiten von vorgestellt Mode im Jahr 2018 , zusammen mit Modedesignern, Models, einem Eistänzerpaar und anderen, die Veränderungen bewirken und Gespräche führen, wo immer ihre Karriere sie hinführt.

Trotz ihrer produktiven Bemühungen, sagt Janah, hatte Samasource keine Chance gegen gewinnorientierte Startups. Wir würden im Grunde von all diesen Unternehmen verarscht werden … ohne Interesse an Ethik oder fairen Löhnen, aber 20 Millionen US-Dollar an VC-Geldern zu sammeln, um Trainingsdaten mit im Grunde einer anonymen Crowd-Arbeitskraft zu erstellen, sagt sie.

Also wechselte sie zu einem Hybridmodell, bei dem die gemeinnützige Gründungsgesellschaft die Mehrheit der Anteile an einem gewinnorientierten Unternehmen besitzt, das Kapital von Investoren aufnehmen kann. Es ist ein zunehmend verbreitetes Modell für Sozialunternehmer in Bereichen wie Mikrokredite, Gesundheitsfürsorge und Berufsausbildung.

Behauptung

Aber es kam mit einem Kompromiss. Samasource entschied, dass es keine andere Wahl hatte, als Investoren Stimmrechte zu gewähren, um Investoren zu werben. Es gibt keinen Investor, der sonst in ein Unternehmen investieren würde, in dem ein gemeinnütziger Vorstand die Ergebnisse diktiert, sagt Janah. Sie sagt, ihr Vorstand hielt das Risiko, dass Investoren das Wirkungsmodell von Samasource abschaffen, für sehr gering, und sie würde nicht näher darauf eingehen, ob die Investoren tatsächlich Entscheidungen getroffen haben, die es geschwächt haben.

Impact-Waschen?

Da es keine Standards für die Berichterstattung und keine Validierung durch Dritte gibt, müssen wir uns auf das Wort der Unternehmen verlassen, dass sie nicht nur Marketing-Gimmicks oder das, was manche als Impact-Washing bezeichnen, tun.

Es ist richtig zu fragen, wenn ein Unternehmen ohne große Qualifikation sagt: „Schauen Sie sich die Wirkung an, die wir erzielen, indem wir nur gute Jobs anbieten“, sagt Enright. Allein der Aufbau eines Unternehmens in einem Entwicklungsland macht es nicht unbedingt zu einem wirkungsvollen Unternehmen, nur weil es Menschen gute Jobs bietet, die diese Jobs sonst nicht hätten.

Anders als bei fair gehandelten Waren gibt es wenig öffentlichen Druck auf die Unternehmen, ehrlich zu sein, da sie ihre Dienstleistungen für Unternehmen und nicht direkt für Verbraucher erbringen. Verbraucher können ethisches Sourcing wertschätzen – zum Beispiel bei Patagonia und verschiedenen Verbrauchermarken – und Sie als Verbraucher akzeptieren das irgendwie, sagt Natarajan von iMerit. Aber es bleibt abzuwarten, was ethisches Sourcing im B-to-B-Bereich bedeutet. Als ein Pulse Ausgabe 2014 , ein Magazin der Outsourcing-Branche, stellte fest, dass Unternehmen sich entscheiden müssten, wirkungsbewusste Arbeitsanbieter einzusetzen. Ohne Gesetze oder öffentlichen Druck ist nicht klar, was sie dazu bewegen kann, eine solche Wahl zu treffen, und ohne Standards und Rechenschaftspflicht ist nicht klar, wie sie die Anbieter bewerten sollten.

Letztendlich ist es vielleicht nur die Regulierung, die die Arbeitspraktiken verändert. Es gibt keine Möglichkeit, die Beschäftigung von innerhalb der Märkte zu ändern. Ja, sie tun alles, was sie können, und das ist so, als würde man sagen, ich habe ein Fahrrad ohne Pedale, und ich tue alles, um es so schnell zu fahren, wie dieses Ding gebaut ist, um zu fahren, sagt Gray Geisterarbeit Mitverfasser. Es gibt keine Organisierung von Arbeitnehmerrechten und fairer Beschäftigung ohne Einbeziehung der Zivilgesellschaft, und das haben wir noch nicht getan.

Kate Kaye ist freiberufliche Journalistin und Gründerin der KI-Ethik-Berichtsseite Rotschwanz .

verbergen