211service.com
Ein KI-Einstellungsunternehmen sagt, dass es Job-Hopping basierend auf Ihren Vorstellungsgesprächen vorhersagen kann
Ein Screenshot von PredictiveHire.
Seit Ausbruch der Pandemie eine wachsende Zahl von Unternehmen haben sich an AI gewandt, um sie bei der Einstellung zu unterstützen. Die gebräuchlichsten Systeme umfassen die Verwendung von Gesichtserkennungsalgorithmen, Spielen, Fragen oder anderen Bewertungen, um festzustellen, welche Kandidaten interviewt werden sollen.
Während Aktivisten und Wissenschaftler davor warnen, dass diese Screening-Tools Diskriminierung aufrechterhalten können, argumentieren die Macher selbst, dass algorithmische Einstellung bei der Korrektur hilft Mensch Vorurteile. Algorithmen können getestet und optimiert werden, während menschliche Vorurteile viel schwerer zu korrigieren sind – so die Denkweise. In einem Papier vom Dezember 2019 , untersuchten Forscher von Cornell die Landschaft von algorithmischen Screening-Unternehmen, um ihre Behauptungen und Praktiken zu analysieren. Von den 18, die sie mit englischsprachigen Websites identifizierten, vermarktete sich die Mehrheit als fairere Alternative zur Einstellung durch Menschen, was darauf hindeutet, dass sie sich die verstärkte Besorgnis über diese Probleme zunutze machten, um die Vorteile ihrer Tools hervorzuheben und mehr Kunden zu gewinnen.
Aber Diskriminierung ist nicht das einzige Problem bei der algorithmischen Einstellung, und einige Wissenschaftler befürchten, dass eine Marketingsprache, die sich auf Voreingenommenheit konzentriert, Unternehmen bei anderen Themen wie Arbeitnehmerrechten aus dem Schneider hält. Eine neue Vordruck von einer dieser Firmen dient nun als wichtige Erinnerung: Wir sollten nicht zulassen, dass die Aufmerksamkeit, die Menschen begonnen haben, Vorurteilen und Diskriminierungsproblemen zu widmen, die Tatsache verdrängen, dass es eine Reihe anderer Probleme gibt, sagt Solon Barocas, ein Assistenzprofessor an der Cornell University und leitender Forscher bei Microsoft Research, der sich mit algorithmischer Fairness und Rechenschaftspflicht befasst.
Bei der fraglichen Firma handelt es sich um das im Oktober 2013 gegründete Unternehmen PredictiveHire mit Sitz in Australien. Es bietet einen Chatbot an, der Kandidaten eine Reihe offener Fragen stellt. Anschließend werden ihre Antworten analysiert, um berufsbezogene Persönlichkeitsmerkmale wie Antrieb, Initiative und Belastbarkeit zu bewerten. Laut der CEO des Unternehmens, Barbara Hyman, sind seine Kunden Arbeitgeber, die eine große Anzahl von Anwendungen verwalten müssen, beispielsweise im Einzelhandel, im Vertrieb, in Call Centern und im Gesundheitswesen. Wie die Cornell-Studie herausfand, verwendet sie auch aktiv Versprechen fairerer Einstellungen in ihrer Marketingsprache. Auf seiner Homepage wirbt es plakativ: Meet Phai. Ihr Co-Pilot bei der Einstellung. Interviews SUPER SCHNELL machen. ENDLICH INKLUSIVE. ENDLICH, OHNE VORAUSSETZUNG.
Wie wir bereits geschrieben haben, ist die Idee von vorspannungsfreien Algorithmen höchst irreführend . Aber die von PredictiveHire neueste Forschung ist aus einem anderen Grund beunruhigend. Es konzentriert sich auf den Aufbau eines neuen maschinellen Lernmodells, das die Wahrscheinlichkeit eines Job-Hoppings eines Kandidaten vorhersagen soll, die Praxis, den Arbeitsplatz häufiger zu wechseln, als es ein Arbeitgeber wünscht. Die Arbeit folgt der jüngsten Peer-Review-Forschung des Unternehmens, die untersuchte, wie offene Interviewfragen gestellt werden mit der Persönlichkeit korrelieren (an und für sich a stark umkämpfte Praxis ). Da Organisationspsychologen bereits einen Zusammenhang zwischen Persönlichkeit und Job-Hopping gezeigt haben, wollte das Unternehmen testen, ob es seine vorhandenen Daten für die Vorhersage verwenden könnte, sagt Hyman. Mitarbeiterbindung ist für viele Unternehmen, mit denen wir zusammenarbeiten, angesichts der Kosten einer hohen Mitarbeiterabwanderung, die auf 16 % der Gehaltskosten jedes Mitarbeiters geschätzt werden, ein großer Schwerpunkt, fügt sie hinzu.
Die Studie verwendete die Freitextantworten von 45.899 Kandidaten, die den Chatbot von PredictiveHire verwendet hatten. Den Bewerbern wurden ursprünglich fünf bis sieben offene Fragen und Selbsteinschätzungsfragen zu ihren bisherigen Erfahrungen und ihrem situationsbezogenen Urteil gestellt. Dazu gehörten Fragen, die Eigenschaften hervorheben sollten, die Studien zufolge stark mit Job-Hopping-Tendenzen korrelieren, wie z. B. offener für Erfahrungen, weniger praktisch und weniger bodenständig zu sein. Die Forscher des Unternehmens behaupten, dass das Modell Job-Hopping mit statistischer Signifikanz vorhersagen konnte. Die Website von PredictiveHire bewirbt diese Arbeit bereits als Flugrisikobewertung kommt bald .
Die neue Arbeit von PredictiveHire ist ein Paradebeispiel dafür, was Nathan Newman als eine der größten negativen Auswirkungen von Big Data auf die Arbeit bezeichnet. Newman, außerordentlicher außerordentlicher Professor am John Jay College of Criminal Justice, schrieb ein Gesetzbuch aus dem Jahr 2017 dass Big-Data-Analysen neben den Bedenken hinsichtlich der Diskriminierung am Arbeitsplatz auch auf unzählige Arten eingesetzt wurden, um die Löhne der Arbeitnehmer zu senken.
Auf maschinellem Lernen basierende Persönlichkeitstests werden beispielsweise zunehmend bei der Einstellung eingesetzt, um potenzielle Mitarbeiter auszusortieren, die mit größerer Wahrscheinlichkeit für höhere Löhne oder die Unterstützung einer Gewerkschaftsbildung agitieren. Arbeitgeber überwachen zunehmend die E-Mails, Chats und andere Daten der Mitarbeiter, um zu beurteilen, welche Mitarbeiter möglicherweise gehen, und um die Mindestlohnerhöhung zu berechnen, die erforderlich ist, damit sie bleiben. Und algorithmische Managementsysteme wie das von Uber dezentralisieren die Mitarbeiter von Büros und digitalen Besprechungsräumen, die es ihnen ermöglichen, sich miteinander abzustimmen und gemeinsam eine bessere Behandlung und Bezahlung zu fordern.
Keines dieser Beispiele sollte überraschen, argumentierte Newman. Sie sind einfach eine moderne Manifestation dessen, was Arbeitgeber in der Vergangenheit getan haben, um Löhne zu unterdrücken, indem sie Gewerkschaftsaktivitäten ins Visier nahmen und auflösten. Die Verwendung von Persönlichkeitsbewertungen bei der Einstellung, die in den USA auf die 1930er Jahre zurückgeht, begann tatsächlich als ein Mechanismus, um Personen auszusondern, die am ehesten Arbeitsorganisatoren werden würden. Die Tests wurden in den 1960er und 1970er Jahren besonders beliebt, nachdem Organisationspsychologen sie verfeinert hatten, um Arbeitnehmer auf ihre Gewerkschaftssympathien zu bewerten.
In diesem Zusammenhang ist die Kampfrisikobewertung von PredictiveHire nur ein weiteres Beispiel für diesen Trend. Job-Hopping oder die Gefahr von Job-Hopping, so Barocas, ist eine der wichtigsten Möglichkeiten, wie Arbeitnehmer ihr Einkommen steigern können. Das Unternehmen baute seine Bewertung sogar auf Persönlichkeitsscreenings auf, die von Organisationspsychologen entwickelt wurden.
Barocas plädiert nicht unbedingt dafür, die Tools komplett wegzuwerfen. Er glaubt, dass das Ziel, die Einstellungsarbeit für alle zu verbessern, ein edles ist und erreicht werden könnte, wenn die Aufsichtsbehörden dies vorschreiben mehr Transparenz . Derzeit habe keiner von ihnen eine strenge Peer-Review-Bewertung erhalten, sagt er. Aber wenn Unternehmen offener mit ihren Praktiken umgingen und ihre Tools für eine solche Validierung einreichten, könnte dies dazu beitragen, sie zur Rechenschaft zu ziehen. Es könnte Wissenschaftlern auch dabei helfen, leichter mit Unternehmen zusammenzuarbeiten, um die Auswirkungen der Tools auf Arbeit und Diskriminierung zu untersuchen.
Trotz all meiner eigenen Arbeit in den letzten Jahren, in der ich Bedenken zu diesem Thema geäußert habe, glaube ich tatsächlich, dass viele dieser Tools den aktuellen Stand der Dinge erheblich verbessern könnten, sagt er.