211service.com
In den Suchmaschinenergebnissen gibt es bereits Voreingenommenheit, und es wird nur noch schlimmer
Die Arbeitsweise von Suchmaschinen ist alles andere als vorurteilsfrei, argumentiert ein neues Buch. 26. Februar 2018
NYU Buchpresse
Das Internet mag wie ein Level Playing Field erscheinen, ist es aber nicht. Safiya Umoja Noble wurde eines Tages mit dieser Tatsache konfrontiert, als sie die Suchmaschine von Google nutzte, um nach Themen zu suchen, die ihre Nichten interessant finden könnten. Sie gab den Begriff schwarze Mädchen ein und kam mit Seiten zurück, die von Pornografie dominiert wurden.
Noble, ein Kommunikationsprofessor der USC Annenberg, war entsetzt, aber nicht überrascht. Seit Jahren argumentiert sie, dass die Werte des Internets seine Erbauer – meist weiße, westliche Männer – widerspiegeln und keine Minderheiten und Frauen repräsentieren. Ihr neustes Buch, Algorithmen der Unterdrückung , beschreibt die Recherchen, die sie nach dieser schicksalhaften Google-Suche begonnen hat, und untersucht die verborgenen Strukturen, die bestimmen, wie wir Informationen über das Internet erhalten.
Das Buch, das diesen Monat erscheint, argumentiert, dass Suchmaschinenalgorithmen nicht so neutral sind, wie Google Sie glauben machen möchte. Algorithmen fördern einige Ergebnisse über andere, und selbst ein scheinbar neutrales Stück Code kann die Vorurteile der Gesellschaft widerspiegeln. Darüber hinaus können Suchanfragen ohne Einblick in die Funktionsweise der Algorithmen oder den breiteren Kontext die Diskussion über ein Thema wie schwarze Mädchen auf unfaire Weise beeinflussen.
Noble sprach mit MIT Technology Review über die Probleme des aktuellen Systems, wie Google es besser machen könnte und wie künstliche Intelligenz die Dinge verschlimmern könnte.
MIT FREUNDLICHER GENEHMIGUNG VON SAFIYA UMOJA NOBLE
Was machen die Leute falsch, wenn es darum geht, wie Suchmaschinen funktionieren?
Wenn wir nach dem nächstgelegenen Starbucks, einem bestimmten Zitat oder etwas sehr Engem suchen, das leicht verständlich ist, funktioniert es gut. Aber wenn wir anfangen, uns mit komplizierteren Konzepten rund um Identität und Wissen zu befassen, beginnen Suchmaschinen uns an dieser Stelle im Stich zu lassen. Dies wäre kein so großes Problem, außer dass sich die Öffentlichkeit wirklich auf Suchmaschinen verlässt, um ihnen das zu geben, was ihrer Meinung nach die Wahrheit ist, oder etwas, das überprüft oder glaubwürdig ist. Hier haben wir meiner Meinung nach das größte Missverständnis in der Öffentlichkeit darüber, was Suchmaschinen sind.
Um Vorurteilen entgegenzuwirken, unterdrückt Google normalerweise bestimmte Ergebnisse. Gibt es einen besseren Ansatz?
Wir könnten darüber nachdenken, ein so ehrgeiziges Projekt zur Organisation des gesamten Wissens der Welt zurückzuziehen, oder wir könnten neu formulieren und sagen: Dies ist eine Technologie, die unvollkommen ist. Es ist manipulierbar. Wir zeigen Ihnen, wie es manipuliert wird. Wir werden diese Art von Dimensionen unseres Produkts transparenter machen, damit Sie die zutiefst subjektive Natur der Ausgabe kennen. Stattdessen ist die Position vieler Unternehmen – nicht nur Google – so, dass [sie] etwas anbieten, dem Sie vertrauen können und auf das Sie sich verlassen können, und hier wird es ziemlich schwierig.
Wie könnte maschinelles Lernen einen Teil des Rassismus und Sexismus aufrechterhalten, über den Sie schreiben?
Ich habe argumentiert, dass künstliche Intelligenz oder automatisierte Entscheidungsfindungssysteme in diesem Jahrhundert zu einem Menschenrechtsthema werden. Ich bin fest davon überzeugt, dass Algorithmen und Projekte für maschinelles Lernen Daten verwenden, die bereits voreingenommen, unvollständig und fehlerhaft sind, und [wir] Maschinen beibringen, wie sie auf der Grundlage dieser Informationen Entscheidungen treffen können. Wir wissen, dass [das] zu einer Vielzahl unterschiedlicher Ergebnisse führen wird. Lassen Sie mich nur hinzufügen, dass es immer schwieriger wird, in die KI einzugreifen, weil es weniger klar wird, welche Daten verwendet wurden, um die Herstellung dieser KI oder die Herstellung dieser Systeme zu informieren. Es gibt zum Beispiel viele verschiedene Arten von Datensätzen, die nicht standardisiert sind, die zusammenwachsen, um Entscheidungen zu treffen.
Seit Sie 2010 zum ersten Mal nach schwarzen Mädchen gesucht haben, haben Sie gesehen, dass sich die Dinge verbessert oder verschlechtert haben?
Seit ich angefangen habe, darüber zu schreiben und öffentlich darüber zu sprechen, dass insbesondere schwarze Mädchen mit Pornografie in Verbindung gebracht werden, haben sich die Dinge geändert. Jetzt sind die pornografischen und hypersexualisierten Inhalte nicht auf der ersten Seite, also denke ich, dass das eine leise Verbesserung war, die nicht mit viel Tamtam zustande kam. Aber andere Gemeinschaften, wie Latinas und asiatische Mädchen, sind in den Suchergebnissen immer noch stark sexualisiert.