Natürlich perpetuiert Technologie Rassismus. Es wurde so konzipiert.

Quellenfoto: Getty / Ms Tech

Heute zerbröckeln die Vereinigten Staaten unter dem Gewicht zweier Pandemien: Coronavirus und Polizeibrutalität.

Beide üben körperliche und psychische Gewalt aus. Beide töten und schwächen unverhältnismäßig schwarze und braune Menschen. Und beide werden durch Technologien belebt, die wir entwerfen, umfunktionieren und einsetzen – sei es Kontaktverfolgung, Gesichtserkennung oder soziale Medien.

Diese Geschichte war Teil unserer Ausgabe Juli 2020

• Siehe den Rest des Problems
• Abonnieren

Wir greifen oft auf Technologie zurück, um Probleme zu lösen. Aber wenn die Gesellschaft farbige Menschen als Problem definiert, einrahmt und darstellt, schaden diese Lösungen oft mehr, als sie nützen. Wir haben entworfen Gesichtserkennungstechnologien die auf kriminelle Verdächtige auf der Grundlage der Hautfarbe abzielen. Wir haben geschulte automatisierte Systeme zur Erstellung von Risikoprofilen die Latinx-Leute unverhältnismäßig als illegale Einwanderer identifizieren. Wir haben entwickelte Kredit-Scoring-Algorithmen die schwarze Menschen überproportional als Risiko identifizieren und sie daran hindern, Häuser zu kaufen, Kredite zu bekommen oder Jobs zu finden.

Die Frage, der wir uns stellen müssen, ist also, ob wir weiterhin Werkzeuge entwickeln und einsetzen werden, die den Interessen von Rassismus und weißer Vorherrschaft dienen,

Natürlich ist die Frage gar nicht neu.

Unbürgerliche Rechte

1960 standen die Führer der Demokratischen Partei vor ihrem eigenen Problem: Wie konnte ihr Präsidentschaftskandidat John F. Kennedy die schwindende Unterstützung von Schwarzen und anderen ethnischen Minderheiten stützen?

Ein geschäftstüchtiger Politikwissenschaftler am MIT, Ithiel-de-Sola-Pool , trat mit einer Lösung an sie heran. Er würde Wählerdaten von früheren Präsidentschaftswahlen sammeln, sie in eine neue digitale Verarbeitungsmaschine einspeisen, einen Algorithmus entwickeln, um das Wahlverhalten zu modellieren, vorherzusagen, welche politischen Positionen zu den günstigsten Ergebnissen führen würden, und dann der Kennedy-Kampagne raten, entsprechend zu handeln. Pool gründete eine neue Firma, die Simulmatics Corporation , und führte seinen Plan aus. Er hatte Erfolg, Kennedy wurde gewählt und die Ergebnisse demonstrierten die Leistungsfähigkeit dieser neuen Methode der Vorhersagemodellierung.

Die Rassenspannungen eskalierten in den 1960er Jahren. Dann kam der lange, heiße Sommer 1967. Städte im ganzen Land brannten, von Birmingham, Alabama, über Rochester, New York, bis Minneapolis, Minnesota, und viele mehr dazwischen. Schwarze Amerikaner protestierten gegen die Unterdrückung und Diskriminierung, der sie durch das amerikanische Strafjustizsystem ausgesetzt waren. Aber Präsident Johnson nannte es zivile Unruhen und gründete die Kerner-Kommission, um die Ursachen von Ghetto-Unruhen zu verstehen. Die Kommission forderte Simulmatics auf.

Als Teil eines DARPA-Projekts, das darauf abzielte, das Blatt im Vietnamkrieg zu wenden, hatte Pools Firma hart daran gearbeitet, eine massive Propaganda- und psychologische Kampagne gegen den Vietcong vorzubereiten. Präsident Johnson war bestrebt, die Verhaltensbeeinflussungstechnologie von Simulmatics einzusetzen, um die innere Bedrohung der Nation zu unterdrücken, nicht nur ihre ausländischen Feinde. Unter dem Deckmantel einer so genannten Medienstudie baute Simulmatics ein Team für eine groß angelegte Überwachungskampagne in den von Unruhen betroffenen Gebieten auf, die im Sommer 1967 die Aufmerksamkeit der Nation auf sich zog.

Dreiköpfige Teams gingen in Gebiete, in denen in diesem Sommer Unruhen stattgefunden hatten. Sie identifizierten und interviewten strategisch wichtige Schwarze. Sie gingen weiter, um andere schwarze Bewohner zu identifizieren und zu interviewen, an jedem Ort, von Friseurläden bis hin zu Kirchen. Sie fragten die Anwohner, was sie von der Berichterstattung der Nachrichtenmedien über die Unruhen hielten. Aber sie sammelten auch Daten über so viel mehr: wie sich die Menschen während der Unruhen in und um die Stadt bewegten, mit wem sie vorher und währenddessen sprachen und wie sie sich auf die Zeit danach vorbereiteten. Sie sammelten Daten über Mautstellennutzung, Tankstellenverkäufe und Buslinien. Sie verschafften sich Zugang zu diesen Gemeinschaften unter dem Vorwand, zu verstehen zu versuchen, wie Nachrichtenmedien angeblich Unruhen entzündeten. Aber Johnson und die politischen Führer der Nation versuchten, ein Problem zu lösen. Sie wollten die von Simulmatics gesammelten Informationen verwenden, um den Informationsfluss während der Proteste zu verfolgen, um Influencer zu identifizieren und die Führung der Proteste zu enthaupten.

Sie haben dies nicht direkt erreicht. Sie haben keine Menschen ermordet, ins Gefängnis gesteckt oder sie heimlich verschwinden lassen.

Aber bis Ende der 1960er Jahre trug diese Art von Informationen dazu bei, das zu schaffen, was später als Informationssysteme für die Strafjustiz bekannt wurde. Sie vermehrten sich im Laufe der Jahrzehnte und legten den Grundstein für Racial Profiling, Predictive Policing und rassistisch gezielte Überwachung. Sie hinterließen ein Vermächtnis, das Millionen von inhaftierten schwarzen und braunen Frauen und Männern umfasst.

Umformulierung des Problems

Schwärze und Schwarze. Beide bleiben das Problem unserer Nation – ich wage es sogar zu sagen – das Problem unserer Welt. Als die Kontaktnachverfolgung zu Beginn der Pandemie zum ersten Mal auftauchte, war es leicht, sie als notwendiges, aber harmloses Instrument zur Gesundheitsüberwachung zu betrachten. Das Coronavirus war unser Problem, und wir begannen, neue Überwachungstechnologien in Form von Anwendungen zur Kontaktverfolgung, Temperaturüberwachung und Bedrohungskartierung zu entwickeln, um es anzugehen.

Aber etwas Kurioses und Tragisches geschah. Wir stellten fest, dass Schwarze, Latinx und indigene Bevölkerungsgruppen überproportional infiziert und betroffen waren. Plötzlich wurden wir auch zu einem nationalen Problem; wir haben unverhältnismäßig gedroht, das Virus zu verbreiten. Das wurde noch verstärkt, als der tragische Mord an George Floyd durch einen weißen Polizisten Tausende von Demonstranten auf die Straße schickte. Als die Plünderungen und Unruhen begannen, wurden wir – die Schwarzen – erneut als Bedrohung für Recht und Ordnung angesehen, als Bedrohung für ein System, das die Macht der weißen Rasse aufrechterhält. Sie fragen sich, wie lange es dauern wird, bis die Strafverfolgungsbehörden diese Technologien einsetzen, die wir ursprünglich zur Bekämpfung von Covid-19 entwickelt haben, um die Bedrohung zu unterdrücken, die Schwarze angeblich für die Sicherheit der Nation darstellen.

Wenn wir nicht wollen, dass unsere Technologie dazu verwendet wird, Rassismus aufrechtzuerhalten, müssen wir sicherstellen, dass wir soziale Probleme wie Kriminalität oder Gewalt oder Krankheiten nicht mit schwarzen und braunen Menschen verwechseln. Wenn wir das tun, riskieren wir, diese Menschen zu den Problemen zu machen, zu deren Lösung wir unsere Technologie einsetzen, zu der Bedrohung, zu deren Beseitigung wir sie entwickeln.

Charlton McIlwain ist Professor für Medien, Kultur und Kommunikation an der New York University und Autor von Schwarze Software: Das Internet und die Rassengerechtigkeit, vom AfroNet bis zu Black Lives Matter

verbergen