Hören Sie auf, über KI-Ethik zu reden. Es ist an der Zeit, über Macht zu sprechen.

Kapitelillustrationen aus Atlas of AI

Vladan Joler





Um die Jahrhundertwende eroberte ein deutsches Pferd Europa im Sturm. Der clevere Hans, wie er genannt wurde, konnte anscheinend alle möglichen Tricks ausführen, die zuvor nur Menschen vorbehalten waren. Er konnte Zahlen addieren und subtrahieren, die Zeit ablesen und einen Kalender lesen, sogar Wörter und Sätze buchstabieren – alles, indem er die Antwort mit einem Huf stempelte. A war ein Tippen; B war zwei; 2+3 war fünf. Er war eine internationale Sensation – und ein Beweis, so glaubten viele, dass man Tieren ebenso wie Menschen Vernunft beibringen könne.

Das Problem war, dass Clever Hans keines dieser Dinge wirklich tat. Wie die Ermittler später herausfanden, hatte das Pferd gelernt, die richtige Antwort zu geben, indem es Veränderungen in Haltung, Atmung und Gesichtsausdruck seiner Fragesteller beobachtete. Wenn der Fragesteller zu weit entfernt stand, würde Hans seine Fähigkeiten verlieren. Seine Intelligenz war nur eine Illusion.

Diese Geschichte wird als warnende Geschichte für KI-Forscher verwendet, wenn sie die Fähigkeiten ihrer Algorithmen bewerten. Ein System ist nicht immer so intelligent, wie es scheint. Achten Sie darauf, es richtig zu messen.



MIT FREUNDLICHER GENEHMIGUNG VON KATE CRAWFORD

Aber in ihrem neuen Buch Atlas der KI stellt die führende KI-Forscherin Kate Crawford diese Moral auf den Kopf. Das Problem, schreibt sie, lag in der Art und Weise, wie Menschen Hans‘ Errungenschaften definierten: Hans vollbrachte bereits bemerkenswerte Leistungen in der Kommunikation zwischen den Spezies, in der Öffentlichkeit und in beträchtlicher Geduld, doch dies wurde nicht als Intelligenz anerkannt.

So beginnt Crawfords Erforschung der Geschichte der künstlichen Intelligenz und ihrer Auswirkungen auf unsere physische Welt. Jedes Kapitel versucht, unser Verständnis der Technologie zu erweitern, indem es enthüllt, wie eng wir es betrachtet und definiert haben.

Crawford tut dies, indem er uns auf eine globale Reise mitnimmt, von den Minen, in denen die für die Computerherstellung verwendeten Seltenerdelemente abgebaut werden, bis zu den Amazon-Versandzentren, in denen menschliche Körper im unermüdlichen Streben des Unternehmens nach Wachstum und Gewinn mechanisiert wurden. In Kapitel eins erzählt sie, wie sie einen Lieferwagen vom Herzen des Silicon Valley zu einer winzigen Bergbaugemeinde im Clayton Valley in Nevada gefahren ist. Dort untersucht sie die zerstörerischen Umweltpraktiken, die erforderlich sind, um das Lithium zu gewinnen, das die Computer der Welt antreibt. Es ist ein eindrucksvolles Beispiel dafür, wie nahe diese beiden Orte im physischen Raum sind, aber wie weit sie in Bezug auf Reichtum voneinander entfernt sind.



Indem sie ihre Analyse auf solche physikalischen Untersuchungen stützt, entledigt sich Crawford des euphemistischen Framings, dass künstliche Intelligenz einfach effiziente Software ist, die in der Cloud läuft. Ihre hautnahen, lebendigen Beschreibungen der Erde und der Arbeits-KI bauen darauf auf, und die zutiefst problematischen Geschichten dahinter machen es unmöglich, weiterhin rein abstrakt über die Technologie zu sprechen.

In Kapitel vier zum Beispiel nimmt uns Crawford mit auf eine weitere Reise – diesmal eher durch die Zeit als durch den Raum. Um die Geschichte der Klassifizierungsbesessenheit des Fachgebiets zu erklären, besucht sie das Penn Museum in Philadelphia, wo sie Reihen um Reihen menschlicher Schädel anstarrt.

Die Schädel wurden von Samuel Morton, einem amerikanischen Kraniologen des 19. Jahrhunderts, gesammelt, der glaubte, es sei möglich, sie anhand ihrer Körpermaße objektiv in die fünf Rassen der Welt einzuteilen: Afrikaner, Indianer, Kaukasier, Malaien und Mongolen. Crawford zieht Parallelen zwischen Mortons Arbeit und den modernen KI-Systemen, die die Welt weiterhin in feste Kategorien einteilen.



Diese Klassifizierungen seien alles andere als objektiv, argumentiert sie. Sie erzwingen eine soziale Ordnung, naturalisieren Hierarchien und vergrößern Ungleichheiten. Aus dieser Perspektive kann KI nicht länger als objektive oder neutrale Technologie betrachtet werden.

In ihrer 20-jährigen Karriere hat sich Crawford mit den realen Folgen von großen Datensystemen, maschinellem Lernen und künstlicher Intelligenz auseinandergesetzt. 2017 gründete sie zusammen mit Meredith Whittaker das Forschungsinstitut AI Now als eine der ersten Organisationen, die sich der Untersuchung der sozialen Auswirkungen dieser Technologien verschrieben hat. Sie ist jetzt auch Professorin an der USC Annenberg in Los Angeles und die erste Gastprofessur für KI und Justiz an der École Normale Supérieure in Paris sowie Senior Principal Researcher bei Microsoft Research.

Vor fünf Jahren, sagt Crawford, habe sie noch daran gearbeitet, die bloße Idee einzuführen, dass Daten und KI nicht neutral seien. Jetzt hat sich das Gespräch weiterentwickelt, und die KI-Ethik hat sich zu einem eigenen Bereich entwickelt. Sie hofft, dass ihr Buch dazu beitragen wird, dass es noch weiter reift.



Ich habe mich mit Crawford zusammengesetzt, um über ihr Buch zu sprechen.

Das Folgende wurde aus Gründen der Länge und Klarheit bearbeitet.

Warum haben Sie sich für dieses Buchprojekt entschieden und was bedeutet es Ihnen?

Crawford: So viele der Bücher, die über künstliche Intelligenz geschrieben wurden, sprechen wirklich nur von sehr engen technischen Errungenschaften. Und manchmal schreiben sie über die großen Männer der KI, aber das ist wirklich alles, was wir in Bezug auf die wirkliche Auseinandersetzung mit dem, was künstliche Intelligenz ist, hatten.

Ich denke, es hat zu diesem sehr verzerrten Verständnis von künstlicher Intelligenz als rein technischen Systemen geführt, die irgendwie objektiv und neutral sind und – wie Stuart Russell und Peter Norvig in sagen ihr Lehrbuch – als intelligente Agenten, die die beste Entscheidung für jede mögliche Aktion treffen.

Ich wollte etwas ganz anderes machen: wirklich verstehen, wie künstliche Intelligenz im weitesten Sinne entsteht. Das bedeutet, die natürlichen Ressourcen zu betrachten, die es antreiben, die Energie, die es verbraucht, die versteckte Arbeit entlang der gesamten Lieferkette und die riesigen Datenmengen, die von jeder Plattform und jedem Gerät, das wir täglich verwenden, extrahiert werden.

Verwandte Geschichte

Deepfake-Mitarbeiter von Amazon säen Verwirrung auf Twitter. Das ist nicht das Problem.

Die Konten sind wahrscheinlich nur Parodien, nicht Teil einer finsteren Unternehmensstrategie, aber sie veranschaulichen, was eines Tages passieren könnte.

Dabei wollte ich dieses Verständnis von KI als weder künstlich noch intelligent öffnen. Es ist das Gegenteil von künstlich. Es kommt von den materiellsten Teilen der Erdkruste und von den arbeitenden menschlichen Körpern und von all den Artefakten, die wir jeden Tag produzieren und sagen und fotografieren. Es ist auch nicht intelligent. Ich denke, es gibt diese große Erbsünde auf diesem Gebiet, wo die Leute davon ausgegangen sind, dass Computer irgendwie wie menschliche Gehirne sind und wenn wir sie nur wie Kinder trainieren, werden sie langsam zu diesen übernatürlichen Wesen heranwachsen.

Das ist etwas, was ich wirklich problematisch finde – dass wir diese Idee von Intelligenz gekauft haben, während wir uns in Wirklichkeit nur Formen der statistischen Analyse in großem Maßstab ansehen, die so viele Probleme haben wie die Daten, die sie liefern.

War Ihnen sofort klar, dass Menschen so über KI denken sollten? Oder war es eine Reise?

Es war absolut eine Reise. Ich würde sagen, einer der Wendepunkte für mich war 2016, als ich ein Projekt mit dem Namen startete Anatomie eines KI-Systems mit Vladan Joler. Wir haben uns auf einer Konferenz getroffen, die sich speziell mit sprachgesteuerter KI befasste, und wir haben versucht, effektiv zu zeichnen, was nötig ist, damit ein Amazon Echo funktioniert. Was sind die Komponenten? Wie extrahiert es Daten? Was sind die Schichten in der Datenpipeline?

Uns wurde klar, nun ja, um das zu verstehen, muss man verstehen, woher die Komponenten kommen. Wo wurden die Chips produziert? Wo sind die Minen? Wo wird es geschmolzen? Wo sind die logistischen und Supply-Chain-Pfade?

Und schließlich, wie verfolgen wir das Lebensende dieser Geräte? Wie sehen wir, wo sich die Elektroschrottdeponien in Orten wie Malaysia, Ghana und Pakistan befinden? Was wir am Ende hatten, war dieses sehr zeitaufwändige zweijährige Forschungsprojekt, um diese Materiallieferketten wirklich von der Wiege bis zur Bahre zu verfolgen.

Wenn Sie anfangen, KI-Systeme in diesem größeren Maßstab und auf diesem längeren Zeithorizont zu betrachten, bewegen Sie sich weg von diesen sehr engen Darstellungen von KI-Fairness und -Ethik und sagen: Dies sind Systeme, die tiefgreifende und dauerhafte geomorphologische Veränderungen auf unserem Planeten hervorrufen sowie die Formen der Arbeitsungleichheit verstärken, die wir bereits in der Welt haben.

Dadurch wurde mir klar, dass ich von der Analyse nur eines Geräts, des Amazon Echo, auf die Anwendung dieser Art von Analyse auf die gesamte Branche umsteigen musste. Das war für mich die große Aufgabe, und deshalb Atlas der KI brauchte fünf Jahre, um zu schreiben. Es ist so wichtig zu sehen, was uns diese Systeme wirklich kosten, weil wir so selten die Arbeit leisten, ihre wahren planetarischen Auswirkungen zu verstehen.

Die andere Sache, die ich als echte Inspiration bezeichnen würde, ist das wachsende Feld von Wissenschaftlern, die diese größeren Fragen zu Arbeit, Daten und Ungleichheit stellen. Hier denke ich an Ruha Benjamin, Safiya Noble, Mar Hicks, Julie Cohen, Meredith Broussard, Simone Brown – die Liste geht weiter. Ich sehe dies als einen Beitrag zu diesem Wissensschatz, indem ich Perspektiven einbringe, die Umwelt, Arbeitnehmerrechte und Datenschutz verbinden.

Sie reisen viel durch das Buch. Fast jedes Kapitel beginnt damit, dass Sie sich tatsächlich in Ihrer Umgebung umsehen. Warum war Ihnen das wichtig?

Es war eine sehr bewusste Entscheidung, eine Analyse der KI an bestimmten Orten zu verankern, um sich von diesen abstrakten Nirgendwo des algorithmischen Raums zu entfernen, wo so viele der Debatten über maschinelles Lernen stattfinden. Und hoffentlich unterstreicht es die Tatsache, dass, wenn wir das nicht tun, wenn wir nur über diese Nirgendwo-Räume der algorithmischen Objektivität sprechen, dies auch eine politische Entscheidung ist und Auswirkungen hat.

In Bezug auf die Verknüpfung der Orte habe ich wirklich angefangen, über diese Atlas-Metapher nachzudenken, denn Atlanten sind ungewöhnliche Bücher. Es sind Bücher, die Sie aufschlagen und die Ausmaße eines ganzen Kontinents betrachten können, oder Sie können hineinzoomen und eine Bergkette oder eine Stadt betrachten. Sie geben Ihnen diese Verschiebungen in der Perspektive und im Maßstab.

Da ist diese schöne Zeile, die ich in dem Buch der Physikerin Ursula Franklin verwende. Sie schreibt darüber, wie Karten das Bekannte und das Unbekannte in diesen Methoden der kollektiven Einsicht zusammenführen. Für mich war es also wirklich wichtig, auf das Wissen zurückzugreifen, das ich hatte, aber auch über die tatsächlichen Orte nachzudenken, an denen KI buchstäblich aus Steinen, Sand und Öl gebaut wird.

Welches Feedback hat das Buch erhalten?

Eines der Dinge, die mich bei den ersten Antworten überrascht haben, ist, dass die Leute wirklich das Gefühl haben, dass diese Art von Perspektive überfällig war. Es gibt einen Moment der Erkenntnis, dass wir eine andere Art von Konversation führen müssen als die, die wir in den letzten Jahren geführt haben.

Wir haben viel zu viel Zeit damit verbracht, uns auf enge technische Korrekturen für KI-Systeme zu konzentrieren und uns immer auf technische Antworten und technische Antworten zu konzentrieren. Jetzt müssen wir uns mit dem ökologischen Fußabdruck der Systeme auseinandersetzen. Wir müssen uns mit den sehr realen Formen der Arbeitsausbeutung auseinandersetzen, die beim Aufbau dieser Systeme stattgefunden haben.

Und wir fangen jetzt auch an, das giftige Erbe dessen zu sehen, was passiert, wenn man einfach so viele Daten wie möglich aus dem Internet reißt und es einfach Grundwahrheit nennt. Diese Art von problematischer Gestaltung der Welt hat so viele Schäden verursacht, und wie immer wurden diese Schäden am meisten von Gemeinschaften zu spüren bekommen, die bereits an den Rand gedrängt waren und die Vorteile dieser Systeme nicht erfuhren.

Was hoffen Sie, dass die Leute anfangen werden, es anders zu machen?

Ich hoffe, es wird viel schwieriger, diese Sackgassengespräche zu führen, wo Begriffe wie Ethik und KI für immer waren so vollständig von jeder tatsächlichen Bedeutung denaturiert . Ich hoffe, es zieht den Vorhang beiseite und sagt, schauen wir uns wirklich an, wer die Hebel dieser Systeme bedient. Das bedeutet, sich nicht nur auf Dinge wie ethische Prinzipien zu konzentrieren, sondern über Macht zu sprechen.

Wie entfernen wir uns von diesem ethischen Rahmen?

Verwandte Geschichte

Sind Sie besorgt über die KI-Ethik Ihres Unternehmens? Diese Startups sind hier, um zu helfen. Ein wachsendes Ökosystem verantwortungsbewusster KI-Unternehmen verspricht, Unternehmen bei der Überwachung und Korrektur ihrer KI-Modelle zu unterstützen.

Wenn es in den letzten zehn Jahren eine echte Falle im Technologiesektor gegeben hat, dann die, dass sich die Theorie des Wandels immer auf die Technik konzentriert hat. Es war schon immer so: Wenn es ein Problem gibt, gibt es eine technische Lösung dafür. Und erst seit kurzem sehen wir, dass sich das zu Oh, na ja, wenn es ein Problem gibt, dann ausweitet Verordnung kann es beheben. Politiker haben eine Rolle.

Aber ich denke, wir müssen das noch weiter ausweiten. Wir müssen auch sagen: Wo sind die zivilgesellschaftlichen Gruppen, wo sind die Aktivisten, wo sind die Fürsprecher, die sich mit Fragen der Klimagerechtigkeit, der Arbeitsrechte, des Datenschutzes befassen? Wie beziehen wir sie in diese Diskussionen ein? Wie binden wir betroffene Gemeinden ein?

Mit anderen Worten, wie können wir dies zu einem viel tiefer gehenden demokratischen Gespräch darüber führen, wie diese Systeme bereits das Leben von Milliarden von Menschen auf hauptsächlich unerklärliche Weise beeinflussen, die außerhalb von Regulierung und demokratischer Aufsicht leben?

In diesem Sinne versucht dieses Buch, die Technik zu dezentrieren und größere Fragen zu stellen: In was für einer Welt wollen wir leben?

Was für eine Welt tun Sie willst du wohnen? Von was für einer Zukunft träumst du?

Ich möchte sehen, wie die Gruppen, die die wirklich harte Arbeit geleistet haben, um Fragen wie Klimagerechtigkeit und Arbeitsrechte anzugehen, zusammenkommen und erkennen, dass diese zuvor recht getrennten Fronten für sozialen Wandel und Rassengerechtigkeit wirklich gemeinsame Anliegen und eine gemeinsame Grundlage haben zu koordinieren und zu organisieren.

Weil wir hier einen sehr kurzen Zeithorizont betrachten. Wir haben es mit einem Planeten zu tun, der bereits stark belastet ist. Wir sehen eine tiefgreifende Machtkonzentration in außergewöhnlich wenigen Händen. Man müsste wirklich in die Anfänge der Eisenbahn zurückgehen, um eine andere Industrie zu sehen, die so konzentriert ist, und jetzt könnte man sogar sagen, dass die Technologie sie überholt hat.

Wir müssen uns also damit auseinandersetzen, wie wir unsere Gesellschaften pluralisieren und größere Formen demokratischer Rechenschaftspflicht haben können. Und das ist ein kollektives Aktionsproblem. Es ist kein Problem der individuellen Wahl. Es ist nicht so, dass wir die ethischere Technologiemarke von der Stange wählen. Wir müssen Wege finden, um bei diesen planetaren Herausforderungen zusammenzuarbeiten.

Aktualisieren : Die Beschreibung des Instituts AI Now wurde präzisiert.

verbergen