211service.com
Emotions-KI-Forscher sagen, dass übertriebene Behauptungen ihrer Arbeit einen schlechten Ruf verleihen
Eine Illustration. Auf der linken Seite verstreute Ausschnitte von Gesichtsteilen wie Augen und Mündern, die in einer Schachtel enthalten sind. Mitte: ein komplettes Gesicht, Augen geschlossen. Rechts: ein Netzwerk in Form eines Kopfes. Franziska Barczyk
Vielleicht haben Sie schon davon gehört, dass KI Interviews führt. Oder vielleicht wurden Sie selbst von einem interviewt. Unternehmen wie HireVue behaupten, dass ihre Software Videointerviews analysieren kann, um die eines Kandidaten herauszufinden Beschäftigungsfähigkeit . Die Algorithmen bewerten nicht nur das Aussehen von Gesicht und Körperhaltung; Sie teilen den Arbeitgebern auch mit, ob der Befragte es ist hartnäckig oder gut darin, im Team zu arbeiten . Diese Bewertungen können einen großen Einfluss auf die Zukunft eines Kandidaten haben. Im uns und Südkorea , wo die KI-gestützte Einstellung immer beliebter wird, schulen Karriereberater jetzt neue Absolventen und Arbeitssuchende darin, wie man mit einem Algorithmus Vorstellungsgespräche führt. Diese Technologie wird auch bei Kindern in Klassenzimmern und eingesetzt wurde in Studien verwendet, um Täuschung in Gerichtsvideos aufzudecken .
Aber viele dieser Versprechungen werden nicht durch wissenschaftlichen Konsens gestützt. Es gibt keine aussagekräftigen, von Experten begutachteten Studien, die belegen, dass die Analyse der Körperhaltung oder des Gesichtsausdrucks bei der Auswahl der besten Arbeitnehmer oder Studenten helfen kann (teilweise, weil Unternehmen ihre Methoden geheim halten). Infolgedessen ist der Hype um die Emotionserkennung, der ist P Bis 2023 soll ein 25-Milliarden-Dollar-Markt entstehen , hat eine Gegenreaktion von Tech-Ethikern und Aktivisten ausgelöst, die befürchten, dass die Technologie die gleichen Arten von Diskriminierungsproblemen hervorrufen könnte wie vorausschauende Verurteilung oder Gehäusealgorithmen für Vermieter, die entscheiden, an wen sie vermieten.
Der Hype beunruhigt auch die Forscher. Viele stimmen zu, dass ihre Arbeit – die verschiedene Methoden (wie die Analyse von Mikroausdrücken oder Stimmen) verwendet, um menschliche Ausdrücke zu erkennen und zu interpretieren – vereinnahmt und in kommerziellen Anwendungen verwendet wird, die eine wackelige Grundlage in der Wissenschaft haben. Sie sagen, dass ein Mangel an staatlicher Regulierung nicht nur schlecht für die Verbraucher ist. Es ist auch schlecht für sie.
Das Gute und das Böse
Die Emotionserkennung, eine Teilmenge des Affective Computing, ist noch eine im Entstehen begriffene Technologie. Während KI-Forscher die Grenzen dessen getestet haben, was wir über menschliches Verhalten quantifizieren können und was nicht, hat sich die zugrunde liegende Wissenschaft der Emotionen weiterentwickelt. Es gibt immer noch mehrere Theorien, zum Beispiel darüber, ob Emotionen diskret unterschieden werden können oder auf ein Kontinuum fallen. Gleichzeitig können die gleichen Ausdrücke in verschiedenen Kulturen unterschiedliche Bedeutungen haben. Im Juli, ein Meta-Studie kam zu dem Schluss, dass es nicht möglich ist, Emotionen zu beurteilen, indem man nur das Gesicht einer Person betrachtet. Über die Studie wurde viel berichtet (auch in dieser Veröffentlichung), oft mit Schlagzeilen, die darauf hindeuteten Emotionserkennung kann nicht vertraut werden .
Emotionserkennungsforscher sind sich dieser Einschränkung bereits bewusst. Diejenigen, mit denen wir gesprochen haben, waren vorsichtig damit, Behauptungen darüber aufzustellen, was ihre Arbeit leisten kann und was nicht. Viele betonten, dass die Emotionserkennung die inneren Emotionen und Erfahrungen einer Person nicht wirklich beurteilen kann. Es kann nur abschätzen, wie die Emotionen dieser Person von anderen wahrgenommen werden, oder allgemeine, bevölkerungsbezogene Trends vorschlagen (z. B. dass ein Film im Durchschnitt eine positivere Reaktion hervorruft als ein anderer). Kein seriöser Forscher würde behaupten, dass man Aktionseinheiten im Gesicht analysieren kann und dann tatsächlich weiß, was die Leute denken, sagt Elisabeth André, Expertin für Affective Computing an der Universität Augsburg.
Forscher stellen auch fest, dass die Emotionserkennung weit mehr beinhaltet, als nur jemandem ins Gesicht zu schauen. Es kann auch die Beobachtung der Körperhaltung, des Gangs und anderer Merkmale sowie die Verwendung biometrischer Sensoren und Audio umfassen, um ganzheitlichere Daten zu sammeln.
Solche Unterscheidungen sind schön, aber wichtig: Sie disqualifizieren Anwendungen wie HireVue, die vorgeben, die inhärente Kompetenz eines Individuums zu bewerten, aber andere unterstützen, wie z. B. Technologien, die darauf abzielen, Maschinen zu intelligenteren Kollaborateuren und Begleitern für Menschen zu machen. (HireVue antwortete nicht auf eine Anfrage nach einem Kommentar.) Ein humanoider Roboter konnte lächeln, wenn Sie lächelten – eine Spiegelungsaktion, die Menschen häufig verwenden, damit sich Interaktionen natürlicher anfühlen. Ein tragbares Gerät könnte Sie daran erinnern, sich auszuruhen, wenn es Cortisol, das Stresshormon des Körpers, über dem Ausgangswert feststellt. Keine dieser Anwendungen erfordert einen Algorithmus, um Ihre privaten Gedanken und Gefühle zu bewerten; Sie erfordern lediglich eine Einschätzung einer angemessenen Reaktion auf den Cortisolspiegel oder die Körpersprache. Sie treffen auch keine wichtigen Entscheidungen über das Leben einer Person – im Gegensatz zu unbewiesenen Einstellungsalgorithmen. Wenn wir möchten, dass Computer und Computersysteme uns helfen, wäre es positiv, wenn sie ein Gefühl dafür hätten, wie wir uns fühlen, sagt Nuria Oliver, Chief Data Scientist bei der gemeinnützigen DataPop Alliance.
Aber viel von dieser Nuance geht verloren, wenn die Forschung zur Emotionserkennung für lukrative kommerzielle Anwendungen genutzt wird. Die gleichen Stressüberwachungsalgorithmen in einem Wearable könnten von einem Unternehmen verwendet werden, das versucht sicherzustellen, dass Sie hart genug arbeiten. Selbst für Unternehmen wie Affectiva, die von Forschern gegründet wurden, die über die Bedeutung von Datenschutz und Ethik sprechen, sind die Grenzen schwer zu ziehen. Es hat verkaufte seine Technologie an HireVue . (Affectiva lehnte es ab, sich zu bestimmten Unternehmen zu äußern.)
Ein Ruf nach Regulierung
Im Dezember forderte das Forschungsinstitut AI Now ein Verbot von Technologien zur Emotionserkennung bei wichtigen Entscheidungen, die das Leben der Menschen beeinflussen . Es ist einer der ersten Aufrufe zum Verbot einer Technologie, die weniger regulatorische Aufmerksamkeit erhalten hat als andere Formen der künstlichen Intelligenz, obwohl ihre Verwendung bei der Stellensuche und im Unterricht schwerwiegende Auswirkungen haben könnte.
Im Gegensatz dazu hielt der Kongress gerade seine dritte Anhörung zur Gesichtserkennung in weniger als einem Jahr , und es hat ein Thema bei der Wahl 2020 werden . Aktivisten arbeiten daran, Gesichtserkennungstechnologien zu boykottieren, und mehrere Vertreter erkennen die Notwendigkeit einer Regulierung sowohl im privaten als auch im öffentlichen Sektor an. Für Affective Computing gab es nicht so viele engagierte Kampagnen und Arbeitsgruppen, und Regulierungsversuche waren begrenzt. Ein Gesetz aus Illinois Regulierung der KI-Analyse von Vorstellungsgesprächsvideos trat im Januar in Kraft, und die Federal Trade Commission wurde gebeten, H ireVue zu untersuchen (obwohl es kein Wort darüber gibt, ob sie dies beabsichtigt).
Obwohl viele Forscher glauben, dass ein Verbot zu weit gefasst ist, stimmen sie darin überein, dass ein Regulierungsvakuum auch schädlich ist. Wir haben klar definierte Prozesse, um zu zertifizieren, dass bestimmte Produkte, die wir konsumieren – seien es Lebensmittel, die wir essen, seien es Medikamente, die wir einnehmen – für uns unbedenklich sind und sie tatsächlich das tun, was sie vorgeben, sagt Oliver . Wir haben nicht die gleichen Prozesse für Technologie. Sie ist der Meinung, dass Unternehmen, deren Technologien das Leben von Menschen erheblich beeinflussen können, nachweisen müssen müssen, dass sie einen bestimmten Sicherheitsstandard erfüllen.
Rosalind Picard, Professorin am MIT Media Lab, die Affectiva und Empatica, ein weiteres affektives Computer-Startup, mitbegründet hat, teilt diese Ansicht. Für ein bestehendes Regulierungsmodell verweist sie auf die Gesetz zum Schutz von Polygraphen für Arbeitnehmer Einschränkung der Verwendung von Lügendetektoren, die ihrer Meinung nach im Wesentlichen eine affektive Computertechnologie sind. Beispielsweise verbietet das Gesetz den meisten privaten Arbeitgebern die Verwendung von Lügendetektoren und lässt Arbeitgeber nicht nach den Ergebnissen von Lügendetektortests fragen.
Sie schlägt vor, dass jede Nutzung solcher Technologien freiwillig erfolgen sollte und dass Unternehmen verpflichtet werden sollten, offenzulegen, wie ihre Technologien getestet wurden und wo ihre Grenzen liegen. Was wir heute haben, ist, dass [Unternehmen] diese unverschämten Behauptungen aufstellen können, die einfach falsch sind, weil der Käufer im Moment nicht so gut ausgebildet ist, sagt sie. Und wir sollten nicht verlangen, dass die Käufer gut ausgebildet sind. (Picard, die sagt, sie habe Affectiva 2013 verlassen, unterstützt die Behauptungen von HireVue nicht.)
Meredith Whittaker, Forscherin an der NYU und Co-Direktorin von AI Now, betont ihrerseits den Unterschied zwischen Forschung und Kommerzialisierung. Wir stellen nicht den gesamten Bereich des Affective Computing in Frage, sagt sie. Wir rufen insbesondere den unregulierten, nicht validierten, wissenschaftlich unbegründeten Einsatz kommerzieller Affekterkennungstechnologien auf. Die Kommerzialisierung schadet den Menschen gerade jetzt möglicherweise, weil sie Behauptungen aufstellt, die den Zugang der Menschen zu Ressourcen bestimmen.
Ein Verbot der Verwendung von Emotionserkennung in Anwendungen wie Job-Screening würde dazu beitragen, dass die Kommerzialisierung die Wissenschaft nicht überholt. Stoppen Sie zuerst den Einsatz der Technologien, sagt sie, und investieren Sie dann in die Forschung. Wenn die Forschung bestätigt, dass die Technologien so funktionieren, wie es die Unternehmen behaupten, sollten Sie eine Lockerung des Verbots in Betracht ziehen.
Um die Sicherheit der Menschen zu gewährleisten, wären jedoch noch andere Vorschriften erforderlich: Letztlich sei mehr zu berücksichtigen, argumentiert Whittaker, als nur die wissenschaftliche Glaubwürdigkeit. Wenn diese Systeme in sensiblen Kontexten eingesetzt werden, müssen wir sicherstellen, dass sie anfechtbar sind, dass sie fair eingesetzt werden, sagt sie, und dass sie nicht zu verstärkten Machtasymmetrien zwischen den Menschen führen, die sie nutzen, und den Menschen, denen sie gegenüberstehen sind gebraucht.