211service.com
Rassismus vergiftet die Online-Werbung, sagt Harvard-Professor
Wurdest du jemals verhaftet? Stellen Sie sich vor, die Frage erscheint beim Lesen dieses Papiers nicht allein in Ihren Gedanken, sondern immer dann, wenn jemand Ihren Namen in einer Suchmaschine abfragt.
Screenshot einer Google-Anzeige.
So beginnt Latanya Sweeney von der Harvard University in einem überzeugenden Papier, in dem sie argumentiert, dass rassistische Diskriminierung die Online-Anzeigenlieferung heimsucht.
Viele Leute haben Erfahrung damit, Freunde, Kollegen und Verwandte zu googeln, um sich über ihre Online-Präsenz zu informieren – die Websites, auf denen sie erscheinen, ihre Bilder, Hobbys und so weiter.
Sweeneys Interesse gilt den Anzeigen, die neben diesen Ergebnissen erscheinen. Als sie ihren Namen in Google eingab, erschien eine Anzeige mit dem Wortlaut:
Latanya Sweeney, festgenommen? 1) Geben Sie Namen und Status ein. 2) Greifen Sie auf den vollständigen Hintergrund zu. Prüft sofort. www.instantcheckmate.com
Dies ist eine suggestive Formulierung. Es deutet darauf hin, dass Latanya Sweeney über ein Vorstrafenregister verfügt, dessen Details durch Klicken auf die Anzeige abgerufen werden können. Aber nachdem sie auf den Link geklickt und die erforderliche Abonnementgebühr bezahlt hat, sagt Sweeney, sie habe keine Aufzeichnungen über die Verhaftung gefunden.
Das Interessante daran ist, dass Sweeneys Vorname auch andeutend ist – dass sie schwarz ist. Die Frage, die Sweeney stellt, ist, ob eine ähnliche Suche mit einem Namen, der auf ein weißes Rassenprofil hindeutet, auch Anzeigen liefert, in denen Verhaftungsakten erwähnt werden.
Die Antwort ist ein starker Weckruf. Sweeney sagt, sie habe Beweise dafür, dass schwarze Namen mit einer bis zu 25 Prozent höheren Wahrscheinlichkeit mit einer Anzeige im Zusammenhang mit Verhaftungen zugestellt werden. Es gebe Diskriminierung bei der Bereitstellung dieser Anzeigen, schließt sie.
Sweeney sammelte diese Beweise, indem er über 2000 Namen sammelte, die auf eine Rasse hindeuteten. Zum Beispiel deuten Vornamen wie Trevon, Lakisha und Darnell darauf hin, dass der Besitzer schwarz ist, während Namen wie Laurie, Brendan und Katie darauf hindeuten, dass der Besitzer weiß ist.
Anschließend gab sie diese plus Nachnamen in Google.com und Reuters.com ein und untersuchte die zurückgegebenen Anzeigen. Die meisten Namen generierten Anzeigen für öffentliche Aufzeichnungen. Es stellte sich jedoch heraus, dass schwarz-identifizierende Namen viel wahrscheinlicher als weiß-identifizierende Namen Anzeigen generieren, die das Wort Verhaftung enthalten (60 Prozent gegenüber 48 Prozent). Alle kamen von www.instantcheckmate.com .
Sie sagt, dass die Ergebnisse mit einer Wahrscheinlichkeit von weniger als 0,1 Prozent, dass sie zufällig generiert wurden, statistisch signifikant sind.
Auf Reuters.com war die Wahrscheinlichkeit, dass schwarze Namen mit einer Anzeige im Zusammenhang mit Festnahmen zugestellt wurden, 25 Prozent höher.
Das ist ein außergewöhnliches Ergebnis, das mehr Fragen aufwirft als es beantwortet. Das größte Rätsel ist natürlich, was dazu führt, dass die Anzeigen in diesem Muster geschaltet werden. Hier verschleiert das Mysterium von Googles Adsense-Dienst erheblich.
Sweeney sagt, dass es im Wesentlichen drei Möglichkeiten gibt. Einer ist das www.instantcheckmate.com hat die Anzeigen zur Erwähnung von Verhaftungen eingerichtet, die schwarzen Namen zugestellt werden sollen. Eine andere ist, dass Google seinen Adserving-Mechanismus auf diese Weise irgendwie verzerrt hat.
Eine heimtückischere Erklärung ist, dass die Gesellschaft als Ganzes schuld ist. Wenn der Adsense-Dienst von Google erfährt, welche Anzeigenkombinationen effektiver sind, würde er zunächst die haftbezogenen Anzeigen nach dem Zufallsprinzip an alle Namen schalten. Dies würde sich jedoch ändern, wenn festgestellt würde, dass Klicks wahrscheinlicher sind, wenn diese Anzeigen gegen einen schwarzen Namen geliefert werden. Mit anderen Worten, die Ergebnisse spiegeln lediglich das diskriminierende Klickmuster der Normalbürger wider.
Natürlich können wir dies nicht ohne tiefere Einblicke in die Blackbox von Google Adsense wissen.
Offensichtlich hat Sweeney hier ein ernstes Problem entdeckt, da sich die Online-Präsenz auf die Beschäftigungsaussichten einer Person auswirken kann.
Was auch immer die Ursache sein mag, Sweeney sagt, dass die Technologie eine Lösung bieten kann. Wenn die Algorithmen hinter Adsense über die Maximierung der Einnahmen nachdenken können, sollten sie in der Lage sein, über die rechtlichen und sozialen Folgen bestimmter Klickmuster nachzudenken.
Das ist eine interessante Idee, die Google www.instantcheckmate.com und Gesellschaft im Allgemeinen sollten genauer darüber nachdenken.
Ref: http://arxiv.org/abs/1301.6822 Diskriminierung bei der Online-Anzeigenlieferung
Update 4. Februar 2013 14:34 EST
Als Antwort auf diesen Blogbeitrag sendet ein Google-Sprecher den folgenden Kommentar:
AdWords führt kein Racial-Profiling durch. Wir haben auch ein Anti- und Gewaltpolitik die besagt, dass wir keine Anzeigen zulassen, die sich gegen eine Organisation, Person oder Personengruppe richten. Es liegt an den einzelnen Werbetreibenden, zu entscheiden, welche Keywords sie auswählen möchten, um ihre Anzeigen auszulösen.
Update 7. Februar
Instantcheckmate.com sendet die folgende Erklärung:
Tatsächlich möchte Instant Checkmate unmissverständlich feststellen, dass es nie ein Racial Profiling in Google AdWords durchgeführt hat.
Wir haben absolut keine Technologie, um auch nur einen Namen mit einer Rasse zu verbinden, und haben dies auch nie versucht. Allein die Idee steht im Widerspruch zu den tiefsten Prinzipien und Werten unseres Unternehmens.