KI-Forscher sagen, dass wissenschaftliche Verlage dazu beitragen, rassistische Algorithmen aufrechtzuerhalten

Kategorie: Künstliche Intelligenz Gesendet 23. Juni

Die Nachrichten: Ein offener Brief aus einer wachsenden Koalition von KI-Forschern ruft den Wissenschaftsverlag Springer Nature für ein Konferenzpapier auf, das Berichten zufolge in sein bevorstehendes Buch aufgenommen werden soll Transaktionen zu Computational Science & Computational Intelligence . Das Papier mit dem Titel A Deep Neural Network Model to Predict Criminality Using Image Processing stellt ein Gesichtserkennungssystem vor, das angeblich in der Lage ist, vorherzusagen, ob jemand ein Krimineller ist Original Pressemitteilung . Es wurde von Forschern der Harrisburg University entwickelt und sollte auf einer bevorstehenden Konferenz vorgestellt werden.

Die Forderungen: Unter Berufung auf die Arbeit der führenden schwarzen KI Gelehrte , entlarvt der Brief die wissenschaftliche Grundlage des Papiers und behauptet, dass Technologien zur Vorhersage von Verbrechen rassistisch sind. Darin werden auch drei Forderungen aufgeführt: 1) dass Springer Nature sein Angebot zur Veröffentlichung der Studie zurückzieht; 2) dass sie eine Erklärung abgibt, in der sie den Einsatz statistischer Techniken wie maschinelles Lernen zur Vorhersage von Kriminalität verurteilt und ihre Rolle als Anreiz für solche Forschung anerkennt; und 3) für alle wissenschaftlichen Verlage, sich zu verpflichten, in Zukunft keine ähnlichen Artikel mehr zu veröffentlichen. Der Brief, der am Montag an Springer Nature geschickt wurde, wurde ursprünglich von fünf Forschern des MIT, des Rensselaer Polytechnic Institute, der McGill University und des AI Now Institute verfasst. Innerhalb weniger Tage erhielt es mehr als 600 Unterschriften und Zählungen aus allen KI-Ethik- und akademischen Gemeinschaften, darunter von führenden Persönlichkeiten wie Meredith Whittaker, Mitbegründerin des AI Now Institute, und Ethan Zuckerman, ehemaliger Direktor des Center for Civic Media at das MIT Media Lab.

Warum es wichtig ist: Während der Brief ein bestimmtes Papier hervorhebt, ist es das Ziel der Autoren, ein systematisches Problem mit der Art und Weise aufzuzeigen, wie wissenschaftliche Veröffentlichungen Forscher dazu anregen, unethische Normen aufrechtzuerhalten. Aus diesem Grund sehen wir immer wieder, dass die Rassenwissenschaft auftaucht, sagte Chelsea Barabas, Doktorandin am MIT und eine der Co-Autoren des Briefes. Es liegt daran, dass Verlage es veröffentlichen. Die wahre Bedeutung dieses Springer-Artikels besteht darin, dass er überhaupt nicht einzigartig ist, wiederholte Theodora Dryer, Postdoktorandin bei AI Now und eine weitere Co-Autorin. Es ist ein Sinnbild für ein Problem und eine Kritik, die so, so lange andauert.

Springers Antwort: Als Antwort auf den Brief sagte Springer, dass es das Papier nicht veröffentlichen werde. Das Papier, auf das Sie sich beziehen, wurde einer bevorstehenden Konferenz vorgelegt, für die Springer geplant hatte, die Proceedings zu veröffentlichen, hieß es. Nach einem gründlichen Peer-Review-Prozess wurde die Arbeit abgelehnt. Auch die Universität Harrisburg hat seine Pressemitteilung entfernt , die besagt, dass die Fakultät das Papier aktualisiert, um die geäußerten Bedenken auszuräumen. Die Harrisburg University und ein Co-Autor des Papiers lehnten eine Bitte um Stellungnahme sowie eine Bitte um eine Kopie des Originalpapiers ab. Die Unterzeichner des Briefes erklärten, dass sie weiterhin auf die Erfüllung ihrer zweiten und dritten Forderung drängen werden.

Das größere Bild: Seit der Tod von George Floyd eine internationale Bewegung für Rassengerechtigkeit entfacht hat, stehen der KI-Bereich und die Technologiebranche im Allgemeinen vor einer Abrechnung über die Rolle, die sie bei der Verstärkung des strukturellen Rassismus gespielt haben. In der Woche vom 8. Juni gaben beispielsweise IBM, Microsoft und Amazon alle das Ende oder die teilweise Aussetzung ihrer Gesichtserkennungsprodukte bekannt. Der Umzug war ein Höhepunkt zwei Jahre Anwaltschaft von Forschern und Aktivisten, um einen Zusammenhang zwischen diesen Technologien und der übermäßigen Überwachung von Minderheitengemeinschaften aufzuzeigen. Der Offene Brief ist die neueste Entwicklung in dieser Bewegung hin zu mehr ethischer Verantwortlichkeit in der KI.

Wir wollten unbedingt zu dieser wachsenden Bewegung beitragen“, sagte Sonja Solomun, Forschungsdirektorin des Center for Media, Technology, and Democracy an der McGill University. Besonders wenn wir aus unseren Fenstern schauen und sehen, was gerade in den USA und weltweit vor sich geht, steht einfach so viel auf dem Spiel.

Aktualisieren: Nach der Veröffentlichung gab Springer Nature eine Erklärung ab, in der klargestellt wurde, dass „[das Papier] zu keinem Zeitpunkt zur Veröffentlichung angenommen wurde … Die Entscheidung des Serienherausgebers, das endgültige Papier abzulehnen, wurde am Dienstag, den 16. Juni getroffen und den Autoren am Montag, dem 22., offiziell mitgeteilt Juni.'