Die neue Klage, die Gesichtserkennung zeigt, ist offiziell ein Bürgerrechtsproblem

ACLU

Am 9. Januar 2020 fuhr die Polizei von Detroit in den Vorort Farmington Hill und verhaftete Robert Williams in seiner Einfahrt, während seine Frau und seine kleinen Töchter zusahen. Williams, ein Schwarzer, wurde beschuldigt, Uhren von Shinola, einem Luxusgeschäft, gestohlen zu haben. Er wurde über Nacht im Gefängnis festgehalten.

Während der Befragung zeigte ein Beamter Williams ein Bild eines Verdächtigen. Seine Antwort, wie er sagte der ACLU , sollte die Forderung zurückweisen. Das bin nicht ich, sagte er dem Beamten. Ich hoffe, Sie alle denken nicht, dass alle Schwarzen gleich aussehen. Er sagt, der Beamte habe geantwortet: Der Computer sagt, Sie sind es.

Verwandte Geschichte

Was passiert, wenn ein Algorithmus falsch liegt?

Das Seltsame an der falschen Verhaftung von Robert Williams war nicht, dass die Polizei Gesichtserkennung verwendete, um ihn zu identifizieren. Sie haben ihm davon erzählt.

Williams unrechtmäßige Verhaftung, über die zuerst von der New York Times berichtet wurde im August 2020 , basierte auf einer schlechten Übereinstimmung des Gesichtserkennungssystems der Detroit Police Department. Zwei mehr Instanzen von falsche Verhaftungen wurden inzwischen öffentlich gemacht. Beide sind auch schwarze Männer, und beide haben rechtliche Schritte eingeleitet.

Jetzt folgt Williams ihrem Weg und geht noch weiter – nicht nur, indem er die Abteilung wegen seiner unrechtmäßigen Verhaftung verklagt, sondern indem er versucht, die Technologie zu verbieten.

Am Dienstag, der Civil Rights Litigation Initiative der ACLU und der University of Michigan Law School eine Klage eingereicht im Namen von Williams, der behauptete, dass die Verhaftung seine Rechte aus der vierten Änderung verletzt und gegen das Bürgerrechtsgesetz von Michigan verstoßen habe.

Die Klage fordert eine Entschädigung, mehr Transparenz über die Verwendung der Gesichtserkennung und ein Ende der Verwendung von Gesichtserkennungstechnologie durch die Polizei von Detroit, ob direkt oder indirekt.

Was die Klage sagt

Der Dokumente eingereicht am Dienstag den Fall auslegen. Im März 2019 hatte der DPD ein körniges Foto eines Schwarzen mit roter Mütze aus Shinolas Überwachungsvideo durch sein Gesichtserkennungssystem laufen lassen, das von einer Firma namens DataWorks Plus hergestellt wurde. Das System gab eine Übereinstimmung mit einem alten Führerscheinfoto von Williams zurück. Die Ermittlungsbeamten schlossen dann Williams Lizenzfoto als Teil einer Fotoaufstellung ein, und einen Sicherheitsunternehmer von Shinola ( der nicht wirklich anwesend war zum Zeitpunkt des Diebstahls) Williams als den Dieb identifiziert. Die Beamten erhielten einen Haftbefehl, der mehrere Genehmigungen der Abteilungsleitung erfordert, und Williams wurde festgenommen.

In der Beschwerde wird argumentiert, dass die fälschliche Verhaftung von Williams eine direkte Folge des Gesichtserkennungssystems war und dass dieser Fall der unrechtmäßigen Verhaftung und Inhaftierung beispielhaft für den schweren Schaden steht, der durch den Missbrauch und das Vertrauen auf die Gesichtserkennungstechnologie verursacht wurde.

Der Fall enthält vier Anklagepunkte, von denen sich drei auf das Fehlen eines wahrscheinlichen Grundes für die Festnahme konzentrieren, während sich einer auf die rassischen Unterschiede bei den Auswirkungen der Gesichtserkennung konzentriert. Durch den Einsatz von Technologie, die nachweislich Schwarze Menschen mit weitaus höheren Raten falsch identifiziert als andere Personengruppen, verweigerte die DPD Herrn Williams aufgrund seiner Rasse den vollen und gleichen Genuss der Dienste, Privilegien und Vorteile der Detroit Police Department oder Farbe.

Die Schwierigkeiten der Gesichtserkennungstechnologie bei der Identifizierung dunkelhäutiger Menschen sind gut dokumentiert . Nach der Ermordung von George Floyd in Minneapolis im Jahr 2020 kündigten einige Städte und Bundesstaaten Verbote und Moratorien für den polizeilichen Einsatz von Gesichtserkennung an. Aber viele andere, einschließlich Detroit, nutzten es trotz wachsender Bedenken weiter.

Sich auf unterdurchschnittliche Bilder verlassen

Als MIT Technology Review letztes Jahr mit Phil Mayor, dem ACLU-Anwalt von Williams, sprach, betonte er, dass Rassismusprobleme innerhalb der amerikanischen Strafverfolgung den Einsatz von Gesichtserkennung noch besorgniserregender machten.

Dies ist keine Situation mit einem schlechten Schauspieler, sagte Mayor. Dies ist eine Situation, in der wir ein kriminelles Rechtssystem haben, das extrem schnell Anklagen macht und extrem langsam, um die Rechte der Menschen zu schützen, insbesondere wenn es um People of Color geht.

Eric Williams, ein leitender Anwalt der Economic Equity Practice in Detroit, sagt, dass Kameras viele technologische Einschränkungen haben, nicht zuletzt, dass sie mit Farbbereichen zur Erkennung von Hauttönen fest codiert sind und dunklere Haut oft einfach nicht verarbeiten können.

„Ich denke, jeder Schwarze im Land hat die Erfahrung gemacht, auf einem Foto zu sein, und das Bild wird entweder viel heller oder viel dunkler.“

Ich denke, jeder Schwarze im Land hat die Erfahrung gemacht, auf einem Foto zu sein, und das Bild erscheint entweder viel heller oder viel dunkler, sagt Williams, der Mitglied des Anwaltsausschusses der ACLU of Michigan ist, aber nicht am Robert arbeitet Williams-Fall. Die Beleuchtung ist einer der wichtigsten Faktoren, wenn es um die Qualität eines Bildes geht. Die Tatsache, dass sich die Strafverfolgung bis zu einem gewissen Grad … auf wirklich unterdurchschnittliche Bilder verlässt, ist problematisch.

Es gab Fälle, in denen voreingenommene Algorithmen und Technologien der künstlichen Intelligenz aufgrund der Rasse in Frage gestellt wurden. Facebook zum Beispiel unterzog sich eine massive Bürgerrechtsprüfung nachdem festgestellt wurde, dass seine zielgerichteten Werbealgorithmen Anzeigen auf der Grundlage von Rasse, Geschlecht und Religion schalten. YouTube wurde verklagt eine Sammelklage von schwarzen Schöpfern der behauptete, dass seine KI-Systeme Benutzerprofile erstellen und Inhalte aufgrund der Rasse zensieren oder diskriminieren. YouTube wurde auch von LGBTQ+-Erstellern verklagt, die sagten, dass Content-Moderation-Systeme markierte die Wörter schwul und lesbisch.

Einige Experten sagen, es sei nur eine Frage der Zeit gewesen, bis der Einsatz von voreingenommener Technologie durch eine große Institution wie die Polizei rechtlich angefochten wurde.

Verwandte Geschichte

Warum 2020 ein entscheidendes, widersprüchliches Jahr für die Gesichtserkennung war Die Bewegung für Rassengerechtigkeit hat Probleme mit der Technologie ins öffentliche Bewusstsein gerückt – aber trotz Skandalen und Verboten verlangsamt sich ihr Wachstum nicht.

Die staatliche Nutzung der Gesichtserkennung hat eindeutig unterschiedliche Auswirkungen auf Farbige, sagt Adam Schwartz, leitender Anwalt der Electronic Frontier Foundation. Eine Studie nach der anderen zeigt, dass diese gefährliche Technologie bei Farbigen im Vergleich zu Weißen eine weitaus höhere Rate an Fehlalarmen aufweist. Daher verstößt die staatliche Nutzung dieser Technologie gegen Gesetze, die es der Regierung verbieten, Praktiken anzuwenden, die unterschiedliche Auswirkungen haben.

Aber Mayor, der Anwalt von Williams, erwartet einen harten Kampf. Er sagte letztes Jahr MIT Technology Review, dass er dies von der Detroit Police Department erwarte argumentieren weiterhin, dass die Gesichtserkennung ein großartiges Ermittlungsinstrument ist.

Der Fall Williams beweist, dass dies nicht der Fall ist. Überhaupt nicht, sagte er. Und tatsächlich kann es Menschen schaden, wenn Sie es als Ermittlungsinstrument verwenden.

Unter dem Mikroskop

In einer Erklärung sagte Lawrence Garcia, der Anwalt der Stadt Detroit, dass die Stadt eine „Lösung“ in dem Fall anstrebe, aber die Gesichtserkennung sei nicht an der Situation schuld.

„Wie der Polizeichef erklärt hat, war die Verhaftung das Ergebnis minderwertiger Ermittlungen – nicht fehlerhafter Technologie“, sagte Garcia. „Die Polizeibehörde von Detroit hat eine interne Untersuchung durchgeführt und mehrere Mitglieder der Abteilung wegen Fehlverhaltens angeklagt. DPD hat neue Protokolle eingeführt, um das Auftreten ähnlicher Probleme zu verhindern.'

Aber der Williams-Anzug kommt zu einem kritischen Zeitpunkt für Rennen und Polizei in den USA. Es wurde eingereicht, als Verteidiger im Prozess gegen Derek Chauvin, den Beamten, der des Mordes an George Floyd im vergangenen Mai in Minneapolis angeklagt war, mit Argumenten begannen – und am dritten Tag der Proteste als Reaktion auf die Erschießung von Daunte Wright im nahe gelegenen Brooklyn Center, Minnesota. Wright, ein 20-jähriger Schwarzer, wurde für eine Verkehrskontrolle angehalten und aufgrund eines Haftbefehls festgenommen, bevor die Beamtin Kim Potter ihn erschoss und angeblich ihre Pistole mit einem Elektroschocker verwechselte.

Eric Williams sagt, es sei wichtig, die Gesichtserkennung in diesem breiteren Kontext von Polizeiversagen zu verstehen:

Als sich DPD für den Kauf der Technologie entschied ... war bekannt, dass die Gesichtserkennungstechnologie dazu neigte, dunkelhäutige Personen falsch zu identifizieren, bevor Mr. Williams in Gewahrsam genommen wurde, richtig? Trotzdem haben sie sich in einer Stadt, die zu über 80 % aus Schwarzen besteht, für diese Technologie entschieden.

Sie legen eindeutig weniger Wert auf das Leben und den Lebensunterhalt sowie auf die bürgerlichen Freiheiten der Schwarzen als auf die Weißen. Das ist in den heutigen Vereinigten Staaten einfach zu üblich.

Diese Geschichte wurde aktualisiert, um eine Erklärung der Stadt Detroit aufzunehmen. Jennifer Strong hat zur Berichterstattung zu dieser Geschichte beigetragen.

verbergen