Wir könnten bereits nächste Woche eine Bundesverordnung zur Gesichtserkennung sehen

AP Photo/John Minchillo, Akte

Am 10. Mai schickten 40 Interessengruppen einen offenen Brief fordert ein dauerhaftes Verbot über die Verwendung von Amazons Gesichtserkennungssoftware Rekognition durch die US-Polizei. Der Brief war an Jeff Bezos und Andy Jassy, ​​die derzeitigen und zukünftigen CEOs des Unternehmens, adressiert und kam nur wenige Wochen zuvor Amazons einjähriges Moratorium über den Verkauf an Strafverfolgungsbehörden lief aus.

Der Brief kontrastierte Bezos und Jassys lautstarke Unterstützung der Aktivisten von Black Lives Matter während der Proteste gegen Rassengerechtigkeit im letzten Sommer nach dem Mord an George Floyd mit der Berichterstattung darüber Andere Amazon-Produkte wurden von Strafverfolgungsbehörden verwendet, um Demonstranten zu identifizieren .

Am 17. Mai, Amazon angekündigt es würde sein Moratorium auf unbestimmte Zeit verlängern und sich den Konkurrenten IBM und Microsoft in einem selbstregulierten Fegefeuer anschließen. Der Schritt ist eine Anspielung auf die politische Macht der Gruppen, die kämpfen, um die Technologie einzudämmen – und die Anerkennung, dass sich neue gesetzgeberische Schlachtfelder abzuzeichnen beginnen. Viele glauben, dass bald umfangreiche Bundesgesetze kommen werden.

Die Leute sind erschöpft

Das vergangene Jahr war Ausschlaggebend für die Gesichtserkennung , mit Enthüllungen über die Rolle der Technologie in falsche Verhaftungen , und Verbote, die von eingeführt wurden fast zwei Dutzend Städte und sieben Staaten quer durch die USA. Aber die Dynamik hat sich seit einiger Zeit verschoben.

2018 veröffentlichten KI-Forscher eine Studie Vergleich der Genauigkeit kommerzieller Gesichtserkennungssoftware von IBM, Microsoft und Face++. Ihre Arbeit ergab, dass die Technologie hellhäutige Männer viel genauer identifiziert als dunkelhäutige Frauen; Das System von IBM schnitt mit einem Unterschied von 34,4 % in der Fehlerquote zwischen den beiden Gruppen am schlechtesten ab.

Auch 2018 die ACLU testete die Rekognition von Amazon und stellte fest, dass 28 Mitglieder des Kongresses fälschlicherweise als Kriminelle identifiziert wurden – ein Fehler, der People of Color unverhältnismäßig stark betrifft. Die Organisation schrieb einen eigenen offenen Brief an Amazon , die fordert, dass das Unternehmen die Nutzung der Technologie durch die Regierung verbietet, ebenso wie der Congressional Black Caucus – aber Amazon hat keine Änderungen vorgenommen.

(Ein Sprecher von Amazon verwies MIT Technology Review auf a Widerlegung veröffentlicht im Juli 2018, in dem Probleme dargelegt werden, die das Unternehmen mit der Genauigkeit und den Methoden des ACLU-Tests hatte.)

„Wenn wir uns im Strafjustizsystem zur Rassengerechtigkeit verpflichten … ist eines der einfachsten und klarsten Dinge, die Sie tun können, die Verwendung von Gesichtserkennungstechnologie zu beenden.“

Kate Ruane, ACLU

Während der Rassenjustizbewegungen gegen Polizeibrutalität im letzten Sommer überraschte Amazon jedoch viele mit der Ankündigung, dass es die Verwendung von Rekognition durch die Polizei einstellen würde, mit Ausnahme von Bundesvollzugsbeamten wie ICE. In der Ankündigung des Unternehmens heißt es, es hoffe, dass die Pause dem Kongress genügend Zeit geben könnte, um angemessene Regeln einzuführen.

Evan Greer ist Direktor von Fight for the Future, einer Technologie-Interessenvertretung, die an die Abschaffung der Gesichtserkennungstechnologie glaubt und sagt, dass es eine wachsende öffentliche Unterstützung für ihre Regulierung gibt. Sie sagt, dass die Verlängerung des Moratoriums in dieser Woche zeigt, dass Amazon auf diesen enormen Druck reagiert, den sie erhalten, nicht nur in Bezug auf die Gesichtserkennung, und fügt hinzu, dass ich den landesweiten Aufständen für Rassengerechtigkeit, die im letzten Jahr stattgefunden haben, wirklich große Anerkennung zolle und einhalb.

Eine politische Realität

Obwohl der Druck auf große Technologieanbieter steigt, kaufen die meisten Benutzer von Strafverfolgungsbehörden und Behörden keine Gesichtserkennungssoftware von Unternehmen wie Amazon. Die Moratorien und Verbote sind den Interessengruppen zwar willkommen, verhindern aber nicht unbedingt die Nutzung der Technologien. Der Kongress muss unterdessen noch Bundesgesetze zur Gesichtserkennung in Strafverfolgungs-, Regierungs- oder kommerziellen Umgebungen verabschieden, die kleinere Anbieter regulieren würden.

Einige hoffen jedoch, dass die Bundesgesetzgebung bald kommen wird, entweder durch direkte Maßnahmen des Kongresses, eine Präsidialverordnung oder bevorstehende Gesetze zur Aneignung und Polizeireform.

Ich denke, das beste Szenario ist, dass der Kongress ein Moratorium für die Verwendung verabschiedet, sagt Kate Ruane, Senior Legislative Counsel bei der ACLU. Sie ist der Meinung, dass neue Nutzungen erst nach weiterer gesetzgeberischer Arbeit zugelassen werden sollten.

Es wurden bereits mehrere Bundesgesetze vorgeschlagen, die den Zugang zur Gesichtserkennung einschränken würden.

• Der Gesetz über das Moratorium für Gesichtserkennung und biometrische Technologie fordert, die Nutzung der Software durch Bundesbehörden zu verbieten und staatliche und lokale Behörden, die kein eigenes Moratorium erlassen, staatliche Zuschussgelder zurückzuhalten. Es wurde von vier demokratischen Kongressabgeordneten vorgeschlagen und letztes Jahr dem Senat vorgelegt.
• Der George Floyd Justice im Polizeigesetz würde den Einsatz von Gesichtserkennung in Bodycams verhindern. Der Gesetzentwurf wurde bereits im Repräsentantenhaus verabschiedet und wird voraussichtlich in der kommenden Woche den Senat erreichen. Präsident Biden hat darum gebeten, dass das Gesetz vor dem Todestag von George Floyd am 25. Mai verabschiedet wird.
• Der Vierte Änderung des Gesetzes über die Nichtverkäuflichkeit , ein überparteiliches Gesetz, das von 18 Senatoren eingebracht wurde, schränkt die Regierung ein, mit Technologieanbietern zusammenzuarbeiten, die gegen die Nutzungsbedingungen verstoßen. In der Praxis würde dies den Zugang der Regierung zu Systemen, die Web Scraping betreiben, weitgehend verhindern. wie Clearview AI .

Mutale Nkonde, der Gründungs-CEO von AI for the People, einer gemeinnützigen Organisation, die sich für Rassengerechtigkeit in der Technologie einsetzt, glaubt, dass wir bis zu den Zwischenwahlen im nächsten Jahr wahrscheinlich zusätzliche Bundesgesetze sehen werden.

Ich denke, es wird eine Bundesgesetzgebung geben, die alle algorithmischen Systeme regeln wird, einschließlich der Gesichtserkennung, sagt Nkonde. Ich denke, das ist eine politische Realität.

Laut Nkonde gewinnt das Konzept der Folgenabschätzung, die technologische Systeme auf der Grundlage von Bürgerrechten bewertet, in politischen Kreisen auf beiden Seiten des Ganges an Bedeutung.

Die ACLU setzt sich bei der Biden-Regierung für eine Exekutivverordnung ein, und das kürzlich einen Brief mit 40 anderen Gruppen veröffentlicht fordert ein sofortiges Verbot der Nutzung der Technologie durch die Regierung.

Wenn wir uns der Rassengerechtigkeit verpflichten, wenn wir uns der Rassengerechtigkeit im Strafjustizsystem verpflichten, wir uns dieser Art von Reformen verpflichten, ist eines der einfachsten und klarsten Dinge, die Sie tun können, ein Ende der Einsatz von Gesichtserkennungstechnologie, sagt Ruane.

Die Leute sind einfach radikaler

In der Zwischenzeit erwartet Ruane, dass die Selbstregulierung eine der effektivsten Methoden bleibt, um den erweiterten Einsatz der Gesichtserkennung zu verhindern. Es ist plausibel, dass Bundesbehörden wie das Ministerium für Wohnungsbau, Heimatschutz und Bildung erwägen werden, Regeln zu verhängen, die die Verwendung der Technologie verbieten .

Nkonde ist optimistisch, dass sich die Moratorien zu Verboten und dauerhafteren Gesetzen ausweiten werden: Ich denke, Moratorien schienen das zu sein, was möglich war, bevor George Floyd getötet wurde. Danach sind die Leute einfach radikaler.

Greer warnt jedoch davor, dass bei aller Dynamik gegen die Gesichtserkennung eine Gesetzgebung, die sich stark auf die rassische Genauigkeit der Systeme konzentriert, möglicherweise keine tieferen Probleme löst. Ich denke, es wäre ein Fehler, wenn Politiker die Genauigkeit als das einzige Problem bei der Gesichtserkennung ansehen, das angegangen werden muss, sagt sie. Die Industrie wäre eigentlich sehr zufrieden mit einer Rechnung, die zum Beispiel so etwas sagt wie „Wenn Sie ein Gesichtserkennungssystem verkaufen, muss es bei Menschen aller Rassen und Hauttöne zu 99% genau sein.“

Selbst wenn die Voreingenommenheit nicht in das System eingebrannt ist, haben Sie immer noch ein voreingenommenes Polizeisystem, das jetzt mit dieser Technologie beschleunigt und irgendwie aufgeladen wird, fügt sie hinzu.

Diese Geschichte wurde aktualisiert, um Amazons Widerlegung des ACLU-Tests des Rekognition-Systems von Amazon im Jahr 2018 aufzunehmen.

verbergen