211service.com
Wir befinden uns in einer Diversity-Krise: Mitbegründer von Black in AI darüber, was Algorithmen in unserem Leben vergiftet
Timnit Gebru schaut sich in der KI-Welt um und sieht fast niemanden, der so aussieht wie sie. Das ist ein Problem für uns alle. 14. Februar 2018
Mit freundlicher Genehmigung von Timnit Brug
Künstliche Intelligenz ist ein zunehmend nahtloser Bestandteil unseres Alltags und in allem präsent, von der Websuche über soziale Medien bis hin zu Haushaltsassistenten wie Alexa. Aber was tun wir, wenn diese enorm wichtige Technologie unbeabsichtigt, aber grundsätzlich voreingenommen ist? Und was tun wir, wenn dieses enorm wichtige Feld fast keine schwarzen Forscher umfasst? Timnit Gebru geht diese Fragen im Rahmen der Microsoft-Gruppe „Fairness, Accountability, Transparency, and Ethics in AI“ an, der sie letzten Sommer beigetreten ist. Sie war außerdem Mitbegründerin der Black in AI-Veranstaltung auf der Neural Information Processing Systems (NIPS)-Konferenz im Jahr 2017 und gehörte dem Lenkungsausschuss der ersten Fairness and Transparency-Konferenz im Februar an. Sie sprach mit MIT Technology Review darüber, wie Vorurteile in KI-Systeme gelangen und wie Diversität dem entgegenwirken kann.
Wie verzerrt der Mangel an Vielfalt künstliche Intelligenz und insbesondere Computer Vision?
Diese Geschichte war Teil unserer März-Ausgabe 2018
- Siehe den Rest des Problems
- Abonnieren
Darüber kann ich ein ganzes Jahr lang sprechen. Es gibt eine Vorliebe dafür, welche Arten von Problemen wir für wichtig halten, welche Arten von Forschung wir für wichtig halten und wohin KI unserer Meinung nach gehen sollte. Ohne Diversität in unserer Gruppe von Forschern werden wir Probleme nicht angehen, mit denen die Mehrheit der Menschen auf der Welt konfrontiert ist. Wenn Probleme uns nicht betreffen, denken wir, dass sie nicht so wichtig sind, und wir wissen vielleicht nicht einmal, was diese Probleme sind, weil wir nicht mit den Menschen interagieren, die sie erleben.
Als ich mit Black in AI anfing, habe ich es mit ein paar meiner Freunde angefangen. Ich hatte vorher eine winzige Mailingliste, wo ich buchstäblich jede schwarze Person, die ich in diesem Feld sah, in die Mailingliste einfügte und sagte: „Hallo, ich bin Timnit. Ich bin die Schwarze Nummer zwei. Hallo, schwarze Person Nummer eins. Lass uns Freunde sein.'
Gibt es Möglichkeiten, Voreingenommenheit in Systemen entgegenzuwirken?
Der Grund, warum Vielfalt in der KI wirklich wichtig ist, nicht nur in Datensätzen, sondern auch in Forschern, liegt darin, dass Sie Menschen brauchen, die einfach dieses soziale Gespür dafür haben, wie die Dinge sind. Wir befinden uns in einer Diversity-Krise für KI. Neben technischen Gesprächen, Gesprächen über Recht und Ethik müssen wir Gespräche über Diversität in der KI führen. Wir brauchen jede Art von Vielfalt in der KI. Und dies muss als etwas äußerst Dringliches behandelt werden.
Aus technischer Sicht gibt es viele verschiedene Ansätze. Eine besteht darin, Ihren Datensatz zu diversifizieren und viele verschiedene Anmerkungen zu Ihrem Datensatz zu haben, wie Rasse, Geschlecht und Alter. Sobald Sie ein Modell trainiert haben, können Sie es testen und sehen, wie gut es in all diesen verschiedenen Untergruppen abschneidet. Aber selbst nachdem Sie dies getan haben, werden Sie zwangsläufig eine Art Voreingenommenheit in Ihrem Datensatz haben. Sie können keinen Datensatz haben, der die ganze Welt perfekt abtastet.
Etwas, das mir wirklich am Herzen liegt und an dem ich gerade arbeite, ist herauszufinden, wie Unternehmen ermutigt werden können, Benutzern oder sogar Forschern mehr Informationen zur Verfügung zu stellen. Sie sollten die Verwendung empfohlen haben, was die Fallstricke sind, wie voreingenommen der Datensatz ist usw. Wenn ich also ein Startup bin und nur Ihren Standarddatensatz oder Ihr Standardmodell nehme und Wenn ich es in alles einbaue, was ich tue, habe ich zumindest ein gewisses Wissen darüber, welche Arten von Fallstricken es geben kann. Im Moment befinden wir uns fast an einem Ort wie im Wilden Westen, wo wir nicht wirklich viele Standards haben, wo wir Datensätze veröffentlichen.
Und dann gibt es noch einige Dinge, für die Sie maschinelles Lernen derzeit wahrscheinlich nicht verwenden sollten, und wir haben keine klare Richtlinie dafür, was diese Dinge sind. Wir sollten sagen, dass, wenn Sie maschinelles Lernen für diese spezielle Aufgabe verwenden, die Genauigkeit Ihres Modells mindestens X betragen sollte und es in dieser besonderen Hinsicht fair sein sollte. Auch dafür haben wir keine Vorgaben. KI fängt gerade erst an, überall in den Mainstream, in ein Produkt, eingebacken zu werden, also stehen wir an einem Abgrund, an dem wir wirklich eine Art Gespräch über Standardisierung und Nutzung brauchen.
MIT FREUNDLICHER GENEHMIGUNG VON TIMNIT VERWENDET
Was war die treibende Motivation hinter Ihrer Arbeit mit Google Street View und anderer demografischer Forschung?
Als wir mit diesem Projekt begannen, wurde sehr wenig daran gearbeitet, Kultur anhand von Bildern zu analysieren. Aber wir wissen, dass die meisten unserer Daten online in Form von Bildern vorliegen. Einer unserer Beweggründe war zu zeigen, dass man mit Bildern soziale Analysen durchführen kann.
Dies kann in Fällen sehr nützlich sein, in denen es sehr schwierig ist, umfragebasierte Daten zu erhalten. Es gibt Orte auf der Welt, an denen die Infrastruktur nicht vorhanden ist und die Ressourcen nicht vorhanden sind, um Menschen von Tür zu Tür zu schicken und [Volkszählungs-] Daten zu sammeln, [aber wo] ein Verständnis für die verschiedenen Bevölkerungsgruppen, die in Ihrem Land leben, reichen würde sehr hilfreich sein.
Aber genau das hat mich auch dazu gebracht, Fairness zu studieren. Denn wenn ich diese Art von Arbeit fortsetzen werde, muss ich die potenziell negativen Auswirkungen wirklich besser verstehen. Welche Auswirkungen hat die Überwachung? Und was sind die Auswirkungen einer Datensatzverzerrung? Bei jeder Art von Data-Mining-Projekt werden Sie eine Voreingenommenheit haben. Meine Arbeit dort war also wirklich der Grund, warum ich einige Zeit in der Fairness-Community verbringen wollte, um zu verstehen, wo die Fallstricke liegen könnten.
Welche Themen möchten Sie mit dieser ersten Konferenz zu Fairness und Transparenz ansprechen?
Dies ist wirklich die erste Konferenz, die sich mit den Themen Fairness, Rechenschaftspflicht, Ethik und Transparenz in der KI befasst. Es gab Workshops auf anderen Konferenzen, und meistens gab es Workshops auf entweder auf der Verarbeitung natürlicher Sprache basierenden Konferenzen oder auf Konferenzen auf der Grundlage von maschinellem Lernen. Die eigenständige Konferenz ist wirklich wichtig, weil sie von Leuten aus vielen Disziplinen bearbeitet werden muss, die miteinander sprechen.
Menschen mit maschinellem Lernen allein können dieses Problem nicht lösen. Es gibt Fragen der Transparenz; Es gibt Fragen, wie die Gesetze aktualisiert werden sollten. Wenn Sie über Vorurteile im Gesundheitswesen sprechen, sollten Sie mit [Fachpersonal im Gesundheitswesen] darüber sprechen, wo die potenziellen Vorurteile liegen könnten, und dann können Sie darüber nachdenken, wie Sie eine auf maschinellem Lernen basierende Lösung haben können.
Welche Erfahrungen haben Sie in der KI gemacht?
Es ist nicht einfach. Ich liebe meinen Job. Ich liebe die Forschung, an der ich arbeite. Ich liebe das Feld. Ich kann mir nicht vorstellen, was ich in dieser Hinsicht sonst tun würde. Davon abgesehen ist es sehr schwierig, eine schwarze Frau in diesem Bereich zu sein. Als ich mit Black in AI anfing, habe ich es mit ein paar meiner Freunde angefangen. Ich hatte vorher eine winzige Mailingliste, wo ich buchstäblich jede schwarze Person, die ich in diesem Feld sah, in die Mailingliste einfügte und sagte: Hallo, ich bin Timnit. Ich bin die Schwarze Nummer zwei. Hallo, schwarze Person Nummer eins. Lass uns Freunde sein.
Was es wirklich beschleunigte, war [2016], als ich zum NIPS ging und jemand sagte, es seien schätzungsweise 8.500 Leute da. Ich habe sechs Schwarze gezählt. Ich hatte buchstäblich Panik. Nur so kann ich beschreiben, wie ich mich gefühlt habe. Ich sah, dass dieses Feld exponentiell wuchs und den Mainstream erreichte; es betrifft jeden Teil der Gesellschaft. Gleichzeitig habe ich auch viel Rhetorik über Vielfalt gesehen und wie viele Unternehmen sie für wichtig halten.
Und ich sah eine Diskrepanz zwischen Rhetorik und Aktion. Weil sechs Schwarze von 8.500 – das ist eine lächerliche Zahl, oder? Das sind fast null Prozent. Ich dachte: Wir müssen jetzt etwas tun. Ich möchte Menschen zum Handeln auffordern, die glauben, dass Vielfalt wichtig ist. Weil es ein Notfall ist und wir jetzt etwas dagegen tun müssen.