Die Probleme, die KI heute hat, reichen Jahrhunderte zurück

Ari Liloan

Im März 2015 brachen an der Universität von Kapstadt in Südafrika Proteste wegen der Campus-Statue des britischen Kolonialisten Cecil Rhodes aus. Rhodes, ein Bergbaumagnat, der das Land, auf dem die Universität gebaut wurde, geschenkt hatte, hatte Völkermord an Afrikanern begangen und den Grundstein für die Apartheid gelegt. Unter dem Sammelbanner von Rhodes Must Fall forderten Studenten, dass die Statue entfernt wird. Ihre Proteste lösten eine globale Bewegung aus, um die kolonialen Hinterlassenschaften auszurotten, die in der Bildung bestehen bleiben.

Die Ereignisse veranlassten auch Shakir Mohamed, einen südafrikanischen KI-Forscher bei DeepMind, darüber nachzudenken, welche kolonialen Hinterlassenschaften auch in seiner Forschung existieren könnten. Im Jahr 2018, als die KI-Branche begann, mit Problemen wie algorithmischer Diskriminierung zu rechnen, schrieb Mohamed ein Blogbeitrag mit seinen ersten Gedanken. Darin forderte er die Forscher auf, die künstliche Intelligenz zu dekolonisieren – die Arbeit auf diesem Gebiet weg von westlichen Zentren wie dem Silicon Valley neu auszurichten und neue Stimmen, Kulturen und Ideen zu gewinnen, um die Entwicklung der Technologie zu steuern.

Jetzt im Gefolge erneute Schreie für Rhodes Must Fall auf dem Campus der Universität Oxford, angespornt durch den Mord an George Floyd und die globale Antirassismusbewegung, hat Mohamed getan hat ein neues Papier herausgebracht zusammen mit seinem Kollegen William Isaac und der Oxford-Doktorandin Marie-Therese Png. Es konkretisiert Mohameds ursprüngliche Ideen mit konkreten Beispielen dafür, wie KI-Herausforderungen im Kolonialismus verwurzelt sind, und präsentiert Strategien, um sie anzugehen, indem man diese Geschichte anerkennt.

Wie sich Kolonialität in der KI manifestiert

Obwohl der historische Kolonialismus vorbei sein mag, bestehen seine Auswirkungen noch heute. Das ist es, was Gelehrte Kolonialität nennen: die Idee, dass die heutigen Machtungleichgewichte zwischen Rassen, Ländern, Reichen und Armen und anderen Gruppen eine Erweiterung der Machtungleichgewichte zwischen Kolonisatoren und Kolonisierten sind.

Nehmen wir das Beispiel strukturellen Rassismus. Die Europäer haben ursprünglich das Konzept der Rassen und der Unterschiede zwischen ihnen erfunden, um den afrikanischen Sklavenhandel und dann die Kolonialisierung afrikanischer Länder zu rechtfertigen. In den USA können die Auswirkungen dieser Ideologie nun durch die eigene Geschichte des Landes von Sklaverei, Jim Crow und Polizeibrutalität verfolgt werden.

Auf die gleiche Weise, so argumentieren die Autoren des Papiers, erklärt diese Kolonialgeschichte einige der beunruhigendsten Eigenschaften und Auswirkungen der KI. Sie identifizieren fünf Manifestationen von Kolonialität im Feld:

Algorithmische Diskriminierung und Unterdrückung. Die Verbindungen zwischen algorithmischer Diskriminierung und kolonialem Rassismus sind vielleicht die offensichtlichsten: Algorithmen, die zur Automatisierung von Verfahren entwickelt und auf Daten innerhalb einer rassistisch ungerechten Gesellschaft trainiert wurden, replizieren diese rassistischen Ergebnisse in ihren Ergebnissen. Aber ein Großteil der Forschung zu dieser Art von Schaden durch KI konzentriert sich auf Beispiele in den USA. Die Untersuchung im Kontext der Kolonialität ermöglicht eine globale Perspektive: Amerika ist nicht der einzige Ort mit sozialen Ungleichheiten. Es gibt immer Gruppen, die identifiziert und unterworfen werden, sagt Isaac.

Geisterarbeit. Das Phänomen der Geisterarbeit , die unsichtbare Datenarbeit, die zur Unterstützung von KI-Innovationen erforderlich ist, erweitert die historische wirtschaftliche Beziehung zwischen Kolonisator und Kolonisiertem. Viele ehemalige US- und britische Kolonien – die Philippinen, Kenia und Indien – sind zu Geisterarbeitszentren für US- und britische Unternehmen geworden. Die billigen, englischsprachigen Arbeitskräfte der Länder, die sie zu einer natürlichen Eignung für die Datenarbeit machen, existieren aufgrund ihrer Kolonialgeschichte.

Beta-test. KI-Systeme werden manchmal an gefährdeteren Gruppen ausprobiert, bevor sie für echte Benutzer implementiert werden. Cambridge Analytica zum Beispiel hat seine Algorithmen bei den Wahlen in Nigeria 2015 und Kenia 2017 einem Betatest unterzogen, bevor sie in den USA und Großbritannien eingesetzt wurden. Studien fanden später heraus, dass diese Experimente aktiv gestört der kenianische Wahlprozess und der erodierte soziale Zusammenhalt. Diese Art von Tests spiegelt die historische Behandlung der Kolonien des britischen Empire als Laboratorien für neue Medikamente und Technologien wider.

KI-Governance. Die geopolitischen Machtungleichgewichte, die die Kolonialzeit hinterlassen hat, prägen auch aktiv die KI-Governance. Dies hat sich in der jüngsten Eile gezeigt, globale KI-Ethikrichtlinien zu formulieren: Entwicklungsländer in Afrika, Lateinamerika und Zentralasien wurden weitgehend aus den Diskussionen ausgeschlossen, was einige dazu veranlasst hat sich weigern, an internationalen Datenflussabkommen teilzunehmen . Das Ergebnis: Industrieländer profitieren weiterhin überproportional von globalen Normen, die zu ihrem Vorteil gestaltet sind, während Entwicklungsländer weiter zurückfallen.

Internationale soziale Entwicklung. Schließlich beeinflussen dieselben geopolitischen Machtungleichgewichte die Art und Weise, wie KI zur Unterstützung von Entwicklungsländern eingesetzt wird. AI for Good- oder AI for Sustainable Development-Initiativen sind oft paternalistisch. Sie zwingen Entwicklungsländer, sich auf bestehende KI-Systeme zu verlassen, anstatt sich an der Schaffung neuer Systeme zu beteiligen, die für ihren eigenen Kontext entwickelt wurden.

Die Forscher stellen fest, dass diese Beispiele nicht umfassend sind, aber sie zeigen, wie weitreichend koloniale Hinterlassenschaften in der globalen KI-Entwicklung sind. Sie binden auch scheinbar unterschiedliche Probleme unter einer einheitlichen These zusammen. Es ermöglicht uns eine neue Grammatik und ein neues Vokabular, um darüber zu sprechen, warum diese Probleme wichtig sind und was wir tun werden, um über diese Probleme nachzudenken und sie langfristig anzugehen, sagt Isaac.

Wie baut man dekoloniale KI?

Der Vorteil der Untersuchung schädlicher Auswirkungen von KI durch diese Linse, so argumentieren die Forscher, ist der Rahmen, den sie für die Vorhersage und Minderung zukünftiger Schäden bietet. Png glaubt, dass es so etwas wie unbeabsichtigte Folgen wirklich nicht gibt – nur Folgen der blinden Flecken, die Organisationen und Forschungseinrichtungen haben, wenn ihnen eine vielfältige Vertretung fehlt.

In diesem Sinne schlagen die Forscher drei Techniken vor, um eine dekoloniale oder integrativere und vorteilhaftere KI zu erreichen:

Kontextbewusste technische Entwicklung. Zunächst sollten KI-Forscher, die ein neues System aufbauen, überlegen, wo und wie es eingesetzt werden soll. Ihre Arbeit sollte auch nicht mit dem Schreiben des Codes enden, sondern auch das Testen, die Unterstützung von Richtlinien, die seine ordnungsgemäße Verwendung erleichtern, und die Organisation von Maßnahmen gegen unzulässige Codes umfassen.

Umgekehrte Vormundschaft. Zweitens sollten sie marginalisierten Gruppen zuhören. Ein Beispiel dafür, wie dies zu tun ist, ist die aufstrebende Praxis von partizipatives maschinelles Lernen , das darauf abzielt, die Menschen, die am stärksten von maschinell lernenden Systemen betroffen sind, in ihr Design einzubeziehen. Dies gibt den Probanden die Möglichkeit, zu hinterfragen und zu diktieren, wie maschinelle Lernprobleme formuliert werden, welche Daten wie gesammelt werden und wo die endgültigen Modelle verwendet werden.

Solidarität. Auch marginalisierte Gruppen sollten Unterstützung und Ressourcen erhalten, um ihre eigene KI-Arbeit zu initiieren. Es gibt bereits mehrere Gemeinschaften marginalisierter KI-Praktizierender, darunter Deep-Learning-Indaba , Schwarz in der KI , und Queer in der KI , und ihre Arbeit sollte verstärkt werden.

Seit der Veröffentlichung ihrer Arbeit, sagen die Forscher, haben sie ein überwältigendes Interesse und Begeisterung gesehen. Es signalisiert mir zumindest, dass es eine Empfänglichkeit für diese Arbeit gibt, sagt Isaac. Es fühlt sich an, als wäre dies ein Gespräch, mit dem sich die Community beschäftigen möchte.

verbergen