Die KI-Einstellungsbranche steht auf dem Prüfstand – aber das wird schwer zu beheben sein

Kategorie: Tech-Richtlinie Gesendet 07.11

Das Electronic Privacy Information Center (EPIC) hat bat die Federal Trade Commission, HireVue zu untersuchen , ein KI-Tool, mit dem Unternehmen herausfinden können, welche Mitarbeiter sie einstellen sollten.

Was ist HireVue? HireVue gehört zu einer wachsenden Zahl von Tools für künstliche Intelligenz, mit denen Unternehmen Bewerber bewerten. Der Algorithmus analysiert Videointerviews und verwendet alles von der Wortwahl bis zu Gesichtsbewegungen, um eine Bewertung der Beschäftigungsfähigkeit zu ermitteln, die mit der anderer Bewerber verglichen wird. Mehr als 100 Unternehmen haben es bereits bei über einer Million Bewerbern eingesetzt, so die Washington Post .

Was ist das Problem? Es ist schwer vorherzusagen, welche Mitarbeiter aufgrund von Dingen wie Gesichtsausdrücken erfolgreich sein werden. Schlimmer noch, Kritiker befürchten, dass der Algorithmus auf begrenzte Daten trainiert ist und daher traditionelle Bewerber (weiß, männlich) eher als beschäftigungsfähiger markieren wird. Infolgedessen erhalten Bewerber, die vom Traditionellen abweichen – einschließlich Personen, die kein Englisch als Muttersprache sprechen oder die eine Behinderung haben – wahrscheinlich niedrigere Punktzahlen. Experten sagen . Außerdem ermutigt es Bewerber, das System zu spielen, indem sie so interviewt werden, dass sie HireVue mögen werden.

Was kommt als nächstes? KI-Einstellungstools sind nicht gut reguliert, und die Lösung des Problems wird aus mehreren Gründen schwierig sein.

—Die meisten Unternehmen werden ihre Daten nicht veröffentlichen oder erklären, wie die Algorithmen funktionieren, daher ist es sehr schwierig, Voreingenommenheit nachzuweisen. Das ist einer der Gründe, warum es bisher keine größeren Klagen gab. Die EPIC-Beschwerde, die darauf hindeutet, dass das Versprechen von HireVue gegen die Regeln der FTC gegen unfaire und irreführende Praktiken verstößt, ist ein Anfang. Aber es ist nicht klar, ob etwas passieren wird. Die FTC hat die Beschwerde erhalten, aber nicht gesagt, ob sie sie weiterverfolgen wird.

– Andere Versuche, Voreingenommenheit zu verhindern, sind gut gemeint, aber begrenzt. Anfang dieses Jahres verabschiedete der Gesetzgeber von Illinois ein Gesetz, das die Arbeitgeber dazu verpflichtet Sagen Sie es zumindest Arbeitssuchenden dass sie diese Algorithmen verwenden werden, und um ihre Zustimmung einzuholen. Aber das ist nicht sehr nützlich. Viele Menschen werden wahrscheinlich einfach zustimmen, weil sie die Gelegenheit nicht verpassen wollen.

– Schließlich wird die künstliche Intelligenz bei der Einstellung die Vorurteile der Gesellschaft wiederherstellen, genau wie die KI im Gesundheitswesen oder die KI im Gerichtssaal, was ein kompliziertes Problem darstellt. Die Regulierungsbehörden müssen herausfinden, wie viel Verantwortung Unternehmen übernehmen sollten, um die Fehler einer voreingenommenen Gesellschaft zu vermeiden.