Predictive Policing ist immer noch rassistisch – welche Daten auch immer verwendet werden

David McNew/Getty Images

Es ist kein Geheimnis, dass Predictive-Policing-Tools das sind rassistisch voreingenommen . Eine Reihe von Studien hat gezeigt, dass rassistische Rückkopplungsschleifen entstehen können, wenn Algorithmen das sind auf Polizeidaten trainiert , wie Verhaftungen. Neue Forschungsergebnisse zeigen jedoch, dass das Training von Vorhersagewerkzeugen auf eine Weise, die darauf abzielt, Vorurteile zu verringern, wenig Wirkung hat.

Verhaftungsdaten verzerren Vorhersagewerkzeuge, da die Polizei bekanntermaßen mehr Menschen in Schwarzen und anderen Minderheitenvierteln festnimmt, was dazu führt, dass Algorithmen mehr Polizei auf diese Gebiete lenken, was zu mehr Verhaftungen führt. Das Ergebnis ist, dass prädiktive Tools Polizeipatrouillen falsch zuweisen: Einige Stadtteile werden zu Unrecht als Kriminalitäts-Hotspots bezeichnet, während andere zu wenig überwacht werden.

Verwandte Geschichte

Predictive-Policing-Algorithmen sind rassistisch. Sie müssen abgebaut werden. Mangelnde Transparenz und voreingenommene Trainingsdaten bedeuten, dass diese Tools ihren Zweck nicht erfüllen. Wenn wir sie nicht reparieren können, sollten wir sie loswerden.

Zu ihrer Verteidigung sagen viele Entwickler von Predictive-Policing-Tools, dass sie begonnen haben, Opferberichte zu verwenden, um ein genaueres Bild der Kriminalitätsraten in verschiedenen Stadtteilen zu erhalten. Theoretisch sollten Opferberichte weniger voreingenommen sein, da sie nicht von polizeilichen Vorurteilen oder Rückkopplungsschleifen betroffen sind.

Aber Nil-Jana Akpinar und Alexandra Choouldechova von der Carnegie Mellon University und Maria De-Arteaga von der University of Texas at Austin zeigen das Auch die Sichtweise der Opferberichte ist verzerrt . Das Team baute seinen eigenen Vorhersagealgorithmus unter Verwendung desselben Modells, das in mehreren populären Tools zu finden ist, darunter PredPol, das am weitesten verbreitete System in den USA. Sie trainierten das Modell anhand von Opfermeldedaten für Bogotá, Kolumbien, eine der wenigen Städte, für die unabhängige Kriminalitätsmeldedaten auf Bezirksebene verfügbar sind.

Als sie die Vorhersagen ihres Tools mit den tatsächlichen Kriminalitätsdaten für jeden Bezirk verglichen, stellten sie fest, dass es erhebliche Fehler machte. Beispielsweise sagte das Tool in einem Bezirk, in dem nur wenige Straftaten gemeldet wurden, etwa 20 % der tatsächlichen Brennpunkte voraus – Orte mit einer hohen Kriminalitätsrate. Andererseits prognostizierte das Tool in einem Bezirk mit vielen Meldungen 20 % mehr Hotspots, als tatsächlich vorhanden waren.

Für Rashida Richardson, eine Anwältin und Forscherin, die an der Rutgers Law School in New Jersey algorithmische Voreingenommenheit untersucht, bekräftigen diese Ergebnisse bestehende Arbeiten, die Probleme mit Datensätzen aufzeigen, die bei der vorausschauenden Polizeiarbeit verwendet werden. Sie führen zu voreingenommenen Ergebnissen, die die öffentliche Sicherheit nicht verbessern, sagt sie. Ich denke, viele Anbieter von Predictive Policing wie PredPol verstehen im Grunde nicht, wie strukturelle und soziale Bedingungen viele Arten von Kriminalitätsdaten beeinflussen oder verzerren.

Warum hat der Algorithmus es also so falsch verstanden? Das Problem bei Opferanzeigen ist, dass Schwarze eher wegen eines Verbrechens angezeigt werden als Weiße. Reichere Weiße melden eher einen ärmeren Schwarzen als umgekehrt. Und Schwarze melden auch eher andere Schwarze. Wie bei den Verhaftungsdaten führt dies dazu, dass schwarze Viertel häufiger als Kriminalitätsherde gekennzeichnet werden, als sie sollten.

Auch andere Faktoren verzerren das Bild. Die Anzeige von Opfern hängt auch mit dem Vertrauen der Gemeinschaft oder dem Misstrauen gegenüber der Polizei zusammen, sagt Richardson. Wenn Sie sich also in einer Gemeinde mit einer historisch korrupten oder bekanntermaßen rassistisch voreingenommenen Polizeidienststelle befinden, wirkt sich dies darauf aus, wie und ob Menschen Straftaten melden. In diesem Fall könnte ein Vorhersagetool das Ausmaß der Kriminalität in einem Gebiet unterschätzen, sodass es nicht die erforderliche Überwachung erhält.

Keine schnelle Lösung

Schlimmer noch, es gibt immer noch keine offensichtliche technische Lösung. Akpinar und Choouldechova versuchten, ihr Bogotá-Modell anzupassen, um die beobachteten Verzerrungen zu berücksichtigen, hatten jedoch nicht genügend Daten, um einen großen Unterschied zu machen – obwohl es für Bogotá mehr Daten auf Bezirksebene gibt als für jede andere US-Stadt. Letztendlich ist unklar, ob die Milderung der Voreingenommenheit in diesem Fall einfacher ist als frühere Bemühungen, die darauf abzielten, auf Festnahmedaten basierende Systeme zu entzerren, sagt Akpinar.

Was kann getan werden? Richardson ist der Meinung, dass der öffentliche Druck, rassistische Werkzeuge und die dahinterstehende Politik zu demontieren, die einzige Antwort ist. Es sei nur eine Frage des politischen Willens, sagt sie. Sie weist darauf hin, dass Early Adopters von Predictive Policing-Tools wie Santa Cruz angekündigt haben, sie nicht mehr zu verwenden, und dass es vernichtende offizielle Berichte über den Einsatz von Predictive Policing durch das LAPD und die Chicago PD gegeben hat. Aber die Reaktionen in jeder Stadt waren unterschiedlich, sagt sie.

Chicago hat den Einsatz von Predictive Policing ausgesetzt, aber wieder in eine Datenbank für die Überwachung von Banden investiert, die laut Richardson viele der gleichen Probleme hat.

Es ist besorgniserregend, dass selbst wenn Untersuchungen und Berichte der Regierung erhebliche Probleme mit diesen Technologien aufdecken, es für Politiker und Polizeibeamte nicht ausreicht, zu sagen, dass sie nicht verwendet werden sollten, sagt sie.

verbergen