Software, die Studenten während Tests überwacht, hält Ungleichheit aufrecht und verletzt ihre Privatsphäre

Foto von Iris Wang auf Unsplash

Die Coronavirus-Pandemie war ein Segen für die Testaufsichtsbranche. Etwa ein halbes Dutzend Unternehmen in den USA geben an, dass ihre Software Betrug in Online-Tests genau erkennen und verhindern kann. Prüfung , HonorLock , Proctorio , ProctorU , Antworten und andere sind schnell gewachsen, seit Colleges und Universitäten auf Fernunterricht umgestellt haben.

Es gibt zwar keine offizielle Bilanz, aber es ist vernünftig zu sagen, dass jeden Monat Millionen von algorithmisch überwachten Tests auf der ganzen Welt stattfinden. Proctorio sagte der New York Times im Mai war dieses Geschäft in den ersten Monaten der Pandemie um 900 % gestiegen, bis zu dem Punkt, an dem das Unternehmen allein im April weltweit 2,5 Millionen Tests beaufsichtigte.

Ich bin Universitätsbibliothekar und habe die Auswirkungen dieser Systeme hautnah miterlebt. Mein eigener Arbeitgeber, die University of Colorado Denver, hat einen Vertrag mit Proctorio.

Mir ist klar geworden, dass algorithmisches Proctoring eine moderne Überwachungstechnologie ist, die weiße Vorherrschaft, Sexismus, Ableismus und Transphobie verstärkt. Die Verwendung dieser Tools ist ein Eingriff in die Privatsphäre der Schüler und häufig eine Verletzung der Bürgerrechte.

Wenn Sie ein Student sind, der an einem algorithmisch überwachten Test teilnimmt, funktioniert er folgendermaßen: Wenn Sie beginnen, beginnt die Software, die Kamera Ihres Computers, Audio und die von Ihnen besuchten Websites aufzuzeichnen. Es misst Ihren Körper und beobachtet Sie für die Dauer der Untersuchung, verfolgt Ihre Bewegungen, um zu erkennen, was es als Betrugsverhalten betrachtet. Wenn Sie etwas tun, das die Software als verdächtig erachtet, wird sie Ihren Professor darauf hinweisen, die Aufzeichnung einzusehen und ihm eine farbkodierte Wahrscheinlichkeit Ihres akademischen Fehlverhaltens mitzuteilen.

Je nachdem, welches Unternehmen die Software hergestellt hat, wird für all dies eine Kombination aus maschinellem Lernen, KI und Biometrie (einschließlich Gesichtserkennung, Gesichtserkennung oder Augenverfolgung) verwendet. Das Problem ist, dass sich die Gesichtserkennung und -erkennung bewährt hat Rassist , Sexist , und transphob über , und über , und über wieder.

Im Allgemeinen hat die Technologie a Muster verstärkender struktureller Unterdrückung mögen Rassismus und Sexismus . Jetzt zeigen sich dieselben Vorurteile in Testüberwachungssoftware, die marginalisierten Schülern unverhältnismäßig schadet.

Eine schwarze Frau an meiner Universität erzählte mir einmal, dass sie jedes Mal, wenn sie die Testaufsichtssoftware von Proctorio verwendete, sie dazu veranlasste, mehr Licht auf ihr Gesicht zu werfen. Die Software konnte ihre Identität nicht validieren und ihr wurde der Zugang zu Tests so oft verweigert, dass sie zu ihrem Professor gehen musste, um andere Vorkehrungen zu treffen. Ihre weißen Kollegen hatten dieses Problem nie.

Ähnliche Arten von Diskriminierung können auftreten, wenn ein Student transsexuell oder nicht-binär ist. Aber wenn Sie ein weißer Cis-Mann sind (wie die meisten Entwickler, die Gesichtserkennungssoftware entwickeln), wird es Ihnen wahrscheinlich gut gehen.

Auch Studierende mit Kindern werden durch diese Systeme benachteiligt. Wenn Sie jemals versucht haben, E-Mails zu beantworten, während Sie sich um Kinder kümmern, wissen Sie, wie unmöglich es sein kann, auch nur ein paar ununterbrochene Minuten vor dem Computer zu verbringen. Aber mehrere Überwachungsprogramme kennzeichnen Geräusche im Raum oder jeden, der das Sichtfeld der Kamera verlässt, als ruchlos. Das bedeutet, dass Studenten mit Erkrankungen, die häufig auf die Toilette gehen oder Medikamente verabreichen müssen, als ähnlich verdächtig gelten würden.

Neben all den Möglichkeiten, wie Beaufsichtigungssoftware Schüler diskriminieren kann, ist die algorithmische Beaufsichtigung auch ein erheblicher Eingriff in die Privatsphäre. Diese Produkte filmen Studenten in ihren Häusern und verlangen oft, dass sie Raumscans durchführen, bei denen sie ihre Umgebung mit ihrer Kamera zeigen. In vielen Fällen können Professoren jederzeit auf die Aufzeichnungen ihrer Studenten zugreifen und diese Aufzeichnungen sogar auf ihre persönlichen Computer herunterladen. Sie können auch den Standort jedes Schülers anhand seiner IP-Adresse sehen.

Datenschutz ist für Bibliothekare wie mich von größter Bedeutung, da Kunden uns ihre Daten anvertrauen. Nach dem 11. September, als der Patriot Act das US-Heimatschutzministerium dazu ermächtigte Zugriff auf Bibliotheksbenutzerdatensätze Bei ihrer Suche nach Terroristen begannen viele Bibliothekare mit der Verwendung von Software, die den Datensatz eines Benutzers löschte, sobald ein Buch zurückgegeben wurde. Produkte, die die Privatsphäre von Menschen verletzen und sie diskriminieren, verstoßen gegen meine Berufsethos , und es ist zutiefst besorgniserregend zu sehen, dass solche Produkte von Hochschulen eifrig übernommen werden.

Dieser Eifer wäre etwas verständlicher, wenn es Beweise dafür gäbe, dass diese Programme tatsächlich das taten, was sie behaupten. Meines Wissens gibt es keine einzige Peer-Review- oder kontrollierte Studie, die zeigt, dass Überwachungssoftware Betrug effektiv erkennt oder verhindert. Angesichts der Tatsache, dass Universitäten stolz darauf sind, evidenzbasierte Entscheidungen zu treffen, ist dies ein eklatanter Fehler.

Glücklicherweise sind Bewegungen im Gange Überwachungssoftware verbieten und Gesichtserkennungstechnologien auf dem Campus verbieten , ebenso gut wie Kongressrechnungen der US-Bundesregierung die Nutzung der Gesichtserkennung zu verbieten. Aber selbst wenn die Gesichtserkennungstechnologie verboten wäre, könnte Überwachungssoftware immer noch als Programm existieren, das die Bewegungen der Augen und Körper der Schüler verfolgt. Das mag zwar weniger rassistisch sein, wäre es aber immer noch diskriminieren gegen Menschen mit Behinderungen, stillende Eltern und Menschen, die neuroatypisch sind. Diese Produkte können nicht reformiert werden; sie sollten aufgegeben werden.

Betrug ist nicht die Bedrohung für die Gesellschaft, die Testaufsichtsunternehmen glauben machen wollen. Es verwässert nicht den Wert von Abschlüssen oder verschlechtert den Ruf von Institutionen, und die Studenten versuchen dies nicht schummeln sich zu Ihrem Chirurgen . Die Technologie hat die Bedingungen für das Betrügen nicht erfunden und wird es auch nicht verhindern. Das Beste, was wir in der Hochschulbildung tun können, ist, mit der radikalen Idee von zu beginnen vertrauende Schüler . Entscheiden wir uns für Mitgefühl statt Überwachung.

Shea Swauger ist wissenschaftlicher Bibliothekar und Forscher an der University of Colorado Denver.

verbergen