Im Kampf um die Rückeroberung der KI aus der Kontrolle von Big Tech

Abgebildet in der oberen Reihe von links: Raphael Gontijo Lopes, Deborah Raji, Rediet Abebe. Zweite Reihe: Joy Buolamwini. Dritte Reihe von links: William Agnew, Timnit Gebru. Richard Santos

Timnit Gebru hätte nie daran gedacht Wissenschaftlicher Aufsatz würde ihr so ​​viel Ärger bereiten.

Im Jahr 2020 hatte sich Gebru als Co-Leiter des ethischen KI-Teams von Google an Google gewandt Emily Bender , Linguistikprofessor an der University of Washington, und die beiden beschlossen, gemeinsam an der Erforschung der beunruhigenden Richtung der künstlichen Intelligenz zu arbeiten. Gebru wollte die damit verbundenen Risiken identifizieren große Sprachmodelle , einer der erstaunlichsten jüngsten Durchbrüche in der KI-Forschung. Die Modelle sind Algorithmen, die auf erstaunliche Textmengen trainiert wurden. Unter den richtigen Bedingungen können sie scheinbar überzeugende Prosapassagen verfassen.

Diese Geschichte war Teil unserer Juli-Ausgabe 2021

• Siehe den Rest des Problems
• Abonnieren

Seit einigen Jahren rennen Technologieunternehmen darum, größere Versionen zu bauen und sie in Verbraucherprodukte zu integrieren. Google, der Erfinder der Technik, nutzte bereits eine, um die Relevanz von Suchergebnissen zu verbessern. OpenAI kündigte den größten an, genannt GPT-3 , im Juni 2020 und lizenzierte es einige Monate später exklusiv an Microsoft.

Gebru machte sich Sorgen darüber, wie schnell die Technologie eingesetzt wurde. In der Zeitung, die sie am Ende mit Bender und fünf anderen schrieb, beschrieb sie die möglichen Gefahren. Die Erstellung der Modelle war enorm kostspielig – sowohl ökologisch (sie erfordern enorme Rechenleistung) als auch finanziell; sie wurden oft in der giftigen und missbräuchlichen Sprache des Internets geschult; und sie würden die Forschung in der Sprach-KI dominieren und vielversprechende Alternativen aufbieten.

Wie andere vorhandene KI-Techniken verstehen die Modelle Sprache nicht wirklich. Aber weil sie es manipulieren können, um textbasierte Informationen für Benutzer abzurufen oder natürliche Konversationen zu erzeugen, können sie in Produkte und Dienstleistungen verpackt werden, die Technologieunternehmen viel Geld einbringen.

Im November desselben Jahres reichte Gebru das Papier bei einer Konferenz ein. Bald darauf forderten die Google-Manager sie auf, es zurückzuziehen, und als sie sich weigerte, wurde sie gefeuert. Zwei Monate später auch sie feuerte ihre Koautorin Margaret Mitchell , der andere Leiter des ethischen KI-Teams.

Die Auflösung dieses Teams löste eine der größten Kontroversen innerhalb der KI-Welt in jüngster Zeit aus. Die Verteidiger von Google argumentierten, dass das Unternehmen das Recht habe, seine eigenen Forscher zu überwachen. Aber für viele andere verfestigte es die Befürchtungen über das Ausmaß der Kontrolle, das Technologiegiganten jetzt über das Feld haben. Big Tech ist heute der wichtigste Arbeitgeber und Geldgeber von KI-Forschern, darunter ironischerweise viele von denen, die ihre sozialen Auswirkungen bewerten.

Verwandte Geschichte

Wir haben die Zeitung gelesen, die Timnit Gebru aus Google verdrängt hat. Hier ist, was es sagt.

Der Star-Ethikforscher des Unternehmens hob die Risiken großer Sprachmodelle hervor, die für das Geschäft von Google von entscheidender Bedeutung sind.

Unter den reichsten und mächtigsten Unternehmen der Welt haben Google, Facebook, Amazon, Microsoft und Apple KI zum Kern ihres Geschäfts gemacht. Fortschritte in den letzten zehn Jahren, insbesondere bei einer sogenannten KI-Technik tiefes Lernen , haben ihnen erlaubt, das Verhalten der Benutzer zu überwachen; ihnen Neuigkeiten, Informationen und Produkte empfehlen; und vor allem, richten Sie sie mit Anzeigen aus. Im vergangenen Jahr erwirtschaftete der Werbeapparat von Google einen Umsatz von über 140 Milliarden US-Dollar. Facebook erwirtschaftete 84 Milliarden US-Dollar.

Die Unternehmen haben stark in die Technologie investiert, die ihnen so großen Reichtum eingebracht hat. Die Google-Muttergesellschaft Alphabet hat das in London ansässige KI-Labor übernommen DeepMind für 600 Millionen US-Dollar im Jahr 2014 und gibt Hunderte von Millionen pro Jahr aus, um seine Forschung zu unterstützen. Microsoft unterzeichnete 2019 einen Vertrag über 1 Milliarde US-Dollar mit OpenAI für Kommerzialisierungsrechte an seinen Algorithmen.

Gleichzeitig sind Technologiegiganten zu großen Investoren in die universitäre KI-Forschung geworden und haben deren wissenschaftliche Prioritäten stark beeinflusst. Im Laufe der Jahre sind immer mehr ambitionierte Wissenschaftler dazu übergegangen, Vollzeit für Technologiegiganten zu arbeiten oder eine Doppelzugehörigkeit anzunehmen. Von 2018 bis 2019 hatten 58 % der am häufigsten zitierten Artikel auf den beiden wichtigsten KI-Konferenzen mindestens einen Autor, der mit einem Technologiegiganten verbunden war, verglichen mit nur 11 % ein Jahrzehnt zuvor, so eine Studie von Forschern der Radikales KI-Netzwerk , eine Gruppe, die versucht, die Machtdynamik in der KI herauszufordern.

Das Problem ist, dass sich die Unternehmensagenda für KI auf Techniken mit kommerziellem Potenzial konzentriert und Forschung weitgehend ignoriert, die dazu beitragen könnte, Herausforderungen wie wirtschaftliche Ungleichheit und Klimawandel anzugehen. Tatsächlich hat es diese Herausforderungen noch verschlimmert. Das Bestreben, Aufgaben zu automatisieren, hat Arbeitsplätze gekostet und zu einem Anstieg mühsamer Arbeit wie Datenbereinigung und Inhaltsmoderation geführt. Der Drang, immer größere Modelle zu erstellen, hat den Energieverbrauch von KI explodieren lassen. Deep Learning hat auch eine Kultur geschaffen, in der unsere Daten ständig abgekratzt werden, oft ohne Zustimmung, um Produkte wie Gesichtserkennungssysteme zu trainieren. Und Empfehlungsalgorithmen haben die politische Polarisierung verschärft, während große Sprachmodelle Fehlinformationen nicht beseitigen konnten.

Diese Situation wollen Gebru und eine wachsende Bewegung gleichgesinnter Gelehrter ändern. In den letzten fünf Jahren haben sie versucht, die Prioritäten des Bereichs weg von der bloßen Bereicherung von Technologieunternehmen zu verschieben, indem sie erweiterten, wer an der Entwicklung der Technologie teilnehmen kann. Ihr Ziel ist es nicht nur, die durch bestehende Systeme verursachten Schäden zu mindern, sondern eine neue, gerechtere und demokratischere KI zu schaffen.

Hallo aus Timnit

Im Dezember 2015 setzte sich Gebru zusammen, um einen offenen Brief zu schreiben. In der Mitte ihrer Promotion in Stanford hatte sie an der Neural Information Processing Systems Conference teilgenommen, der größten jährlichen KI-Forschungsveranstaltung. Von den mehr als 3.700 Forschern dort zählte Gebru nur eine Handvoll Schwarze.

Einst ein kleines Treffen über ein akademisches Nischenfach, entwickelte sich NeurIPS (wie es jetzt bekannt ist) schnell zur größten jährlichen KI-Job-Bonanza. Die wohlhabendsten Unternehmen der Welt kamen, um mit Demos anzugeben, extravagante Partys zu veranstalten und saftige Schecks für die seltensten Menschen im Silicon Valley auszustellen: geschickte KI-Forscher.

In diesem Jahr kam Elon Musk, um das gemeinnützige Unternehmen anzukündigen OpenAI . Er, Sam Altman, der damalige Präsident von Y Combinator, und Peter Thiel, Mitbegründer von PayPal, hatten 1 Milliarde Dollar bereitgestellt, um ein Problem zu lösen, das sie für ein existenzielles Problem hielten: die Aussicht, dass eine Superintelligenz eines Tages die Welt übernehmen könnte. Ihre Lösung: eine noch bessere Superintelligenz aufbauen. Von den 14 Beratern oder technischen Teammitgliedern, die er gesalbt hatte, waren 11 weiße Männer.

RICARDO SANTOS | MIT FREUNDLICHER FOTO

Während Musk vergöttert wurde, hatte Gebru mit Demütigungen und Belästigungen zu kämpfen. Auf einer Konferenzparty wurde sie von einer Gruppe betrunkener Typen in T-Shirts von Google Research umringt und ungewollt umarmt, auf die Wange geküsst und fotografiert.

Gebru tippte eine vernichtende Kritik an dem, was sie beobachtet hatte: das Spektakel, die kultartige Verehrung von KI-Prominenten und vor allem die überwältigende Homogenität. Die Clubkultur dieses Jungen, schrieb sie, habe bereits talentierte Frauen aus dem Feld gedrängt. Es führte auch die gesamte Gemeinschaft zu einer gefährlich engen Vorstellung von künstlicher Intelligenz und ihren Auswirkungen auf die Welt.

Google habe bereits einen Computer-Vision-Algorithmus eingesetzt, der Schwarze als Gorillas klassifiziert, bemerkte sie. Und die zunehmende Verfeinerung unbemannter Drohnen brachte das US-Militär auf den Weg zu tödlichen autonomen Waffen. Aber in Musks großem Plan, KI daran zu hindern, die Welt in einem theoretischen Zukunftsszenario zu übernehmen, wurden diese Probleme nicht erwähnt. Wir müssen nicht in die Zukunft projizieren, um die potenziellen negativen Auswirkungen von KI zu sehen, schrieb Gebru. Es passiert bereits.

Gebru hat ihre Reflexion nie veröffentlicht. Aber sie erkannte, dass sich etwas ändern musste. Am 28. Januar 2016 schickte sie eine E-Mail mit dem Betreff „Hello from Timnit“ an fünf weitere Black-AI-Forscher. Ich war schon immer traurig über den Mangel an Farbe in der KI, schrieb sie. Aber jetzt habe ich 5 von euch gesehen :) und dachte, dass es cool wäre, wenn wir eine Black in AI-Gruppe gründen oder uns zumindest kennen.

Die E-Mail löste eine Diskussion aus. Was hat ihre Forschung über das Schwarzsein beeinflusst? Für Gebru war ihre Arbeit sehr stark ein Produkt ihrer Identität; für andere war es nicht. Aber nach dem Treffen waren sie sich einig: Wenn KI eine größere Rolle in der Gesellschaft spielen sollte, brauchten sie mehr schwarze Forscher. Andernfalls würde das Feld eine schwächere Wissenschaft hervorbringen – und seine nachteiligen Folgen könnten weitaus schlimmer werden.

Eine gewinnorientierte Agenda

Wie Schwarz in der KI gerade erst anfing zu verschmelzen, erreichte AI seinen kommerziellen Schritt. In diesem Jahr, 2016, gaben Technologiegiganten laut McKinsey Global Institute schätzungsweise 20 bis 30 Milliarden US-Dollar für die Entwicklung der Technologie aus.

Durch Unternehmensinvestitionen aufgeheizt, verzerrte sich das Feld. Tausende weitere Forscher begannen mit dem Studium der KI, wollten aber hauptsächlich an Deep-Learning-Algorithmen arbeiten, wie sie beispielsweise hinter großen Sprachmodellen stehen. Als junger Doktorand, der einen Job in einem Technologieunternehmen bekommen möchte, merkt man, dass es bei Technologieunternehmen vor allem um Deep Learning geht, sagt Suresh Venkatasubramanian, ein Informatikprofessor, der jetzt im Büro für Wissenschafts- und Technologiepolitik des Weißen Hauses arbeitet. Sie verlagern also Ihre gesamte Forschung auf Deep Learning. Dann schaut sich der nächste Doktorand um und sagt: „Alle machen Deep Learning. Ich sollte es wahrscheinlich auch tun.’

Aber Deep Learning ist nicht die einzige Technik auf diesem Gebiet. Vor ihrem Boom gab es einen anderen KI-Ansatz, der als symbolisches Denken bekannt ist. Während Deep Learning riesige Datenmengen verwendet, um Algorithmen sinnvolle Zusammenhänge in Informationen beizubringen, konzentriert sich symbolisches Denken auf die explizite Kodierung von Wissen und Logik auf der Grundlage menschlicher Expertise.

Einige Forscher glauben nun, dass diese Techniken kombiniert werden sollten. Der hybride Ansatz würde die KI bei der Nutzung von Daten und Energie effizienter machen und ihr das Wissen und die Denkfähigkeit eines Experten sowie die Fähigkeit verleihen, sich selbst mit neuen Informationen zu aktualisieren. Aber Unternehmen haben wenig Anreiz, alternative Ansätze zu erkunden, wenn der sicherste Weg, ihre Gewinne zu maximieren, darin besteht, immer größere Modelle zu bauen.

In ihrem Artikel wiesen Gebru und Bender auf grundlegende Kosten dieser Tendenz hin, am Deep Learning festzuhalten: Die fortgeschritteneren KI-Systeme, die wir brauchen, werden nicht entwickelt, und ähnliche Probleme treten immer wieder auf. Facebook zum Beispiel verlässt sich stark auf große Sprachmodelle für die automatisierte Moderation von Inhalten. Aber ohne die Bedeutung hinter dem Text wirklich zu verstehen, scheitern diese Modelle oft. Sie entfernen regelmäßig harmlose Posts, während sie Hassreden und Fehlinformationen einen Pass geben.

KI-basierte Gesichtserkennungssysteme leiden unter dem gleichen Problem. Sie sind mit riesigen Datenmengen trainiert, sehen aber nur Pixelmuster – sie haben kein Verständnis für visuelle Konzepte wie Augen, Mund und Nase. Das kann diese Systeme zum Stolpern bringen, wenn sie bei Personen mit einem anderen Hautton als denen verwendet werden, die ihnen während des Trainings gezeigt wurden. Trotzdem haben Amazon und andere Unternehmen diese Systeme an die Strafverfolgungsbehörden verkauft. In den USA haben sie im letzten Jahr drei bekannte Fälle verursacht, in denen die Polizei die falsche Person – alles Schwarze – inhaftiert hat.

Jahrelang haben viele in der KI-Community die Rolle von Big Tech bei der Gestaltung der Entwicklung und Wirkung dieser Technologien weitgehend akzeptiert. Während einige ihr Unbehagen über die Unternehmensübernahme äußerten, begrüßten viele mehr die tiefe Finanzierungsquelle der Branche.

Aber je deutlicher die Mängel der heutigen KI geworden sind – sowohl ihr Versagen bei der Lösung sozialer Probleme als auch die zunehmenden Beispiele dafür, dass sie sie verschärfen kann – ist der Glaube an Big Tech schwächer geworden. Der Sturz von Gebru und Mitchell durch Google hat die Diskussion weiter angeheizt, indem er enthüllte, wie sehr Unternehmen dem Profit Vorrang vor der Selbstkontrolle einräumen werden.

Unmittelbar danach unterzeichneten über 2.600 Google-Mitarbeiter und 4.300 andere eine Petition, in der sie die Entlassung von Gebru als beispiellose Forschungszensur anprangerten. Ein halbes Jahr später lehnen Forschungsgruppen die Finanzierung des Unternehmens immer noch ab, Forscher verweigern die Teilnahme an seinen Konferenzworkshops und Mitarbeiter gehen aus Protest.

Anders als vor fünf Jahren, als Gebru anfing, diese Fragen aufzuwerfen, gibt es heute eine etablierte Bewegung, die hinterfragt, was KI sein und wem sie dienen sollte. Das ist kein Zufall. Es ist in hohem Maße ein Produkt von Gebrus eigener Initiative, die mit dem einfachen Akt begann, mehr schwarze Forscher in das Feld einzuladen.

Es braucht eine Konferenz

Im Dezember 2017 veranstaltete die neue Black in AI-Gruppe ihren ersten Workshop bei NeurIPS. Während der Organisation des Workshops wandte sich Gebru an Joy Buolamwini, eine Forscherin des MIT Media Lab, die kommerzielle Gesichtserkennungssysteme auf mögliche Voreingenommenheit untersuchte. Buolamwini hatte begonnen, diese Systeme zu testen, nachdem eines ihr eigenes Gesicht nicht erkannt hatte, es sei denn, sie trug eine weiße Maske. Sie reichte ihre vorläufigen Ergebnisse für den Workshop ein.

Deborah Raji, damals Studentin im Grundstudium, war eine weitere frühe Teilnehmerin. Raji war entsetzt über die Kultur, die sie bei NeurIPS beobachtet hatte. Der Workshop wurde ihr Erholungsort. Von vier oder fünf Tagen davon zu einem ganzen Tag mit Menschen zu werden, die wie ich aussehen und über den Erfolg in diesem Bereich sprechen – das war eine so wichtige Ermutigung für mich, sagt sie.

Buolamwini, Raji und Gebru arbeiteten später gemeinsam an zwei bahnbrechenden Studien über diskriminierende Computer-Vision-Systeme. Buolamwini und Gebru waren Co-Autoren Geschlechtsschattierungen , die zeigte, dass die von Microsoft, IBM und dem chinesischen Technologieriesen Megvii verkauften Gesichtserkennungssysteme trotz nahezu perfekter Leistung bei weißen Männern bemerkenswert hohe Ausfallraten bei schwarzen Frauen aufwiesen. Raji und Buolamwini arbeiteten dann an einem Follow-up namens Umsetzbares Auditing , die das Gleiche für Rekognition von Amazon bestätigte. 2020 würde Amazon einem zustimmen einjähriges Moratorium für Polizeiverkäufe seines Produkts, teilweise wegen dieser Arbeit.

Verwandte Geschichte

Ich fing an zu weinen: Einblicke in Timnit Gebrus letzte Tage bei Google – und was als nächstes passiert .

Beim allerersten „Black in AI“-Workshop lagen diese Erfolge jedoch noch in weiter Ferne. Es gab keine andere Agenda, als eine Gemeinschaft aufzubauen und Forschung auf der Grundlage ihrer schmerzlich fehlenden Perspektiven zu produzieren. Viele Zuschauer verstanden nicht, warum eine solche Gruppe existieren musste. Gebru erinnert sich an abweisende Kommentare von einigen in der KI-Community. Aber für andere wies Black in AI einen neuen Weg nach vorne.

Dies galt für William Agnew und Raphael Gontijo Lopes, beide queere Männer, die in der Informatik forschten, die erkannten, dass sie eine Queer in AI-Gruppe gründen könnten. (Andere Gruppen, die Gestalt annahmen, sind Latinx in AI, {Dis}Ability in AI und Muslim in ML.) Insbesondere für Agnew war es dringend notwendig, eine solche Community zu haben. Es war schwer, sich überhaupt vorzustellen, dass ich ein glückliches Leben führen würde, sagt er und denkt über den Mangel an queeren Vorbildern in diesem Bereich nach. Da ist Turing, aber er hat Selbstmord begangen. Das ist also deprimierend. Und der seltsame Teil von ihm wird einfach ignoriert.

Nicht alle Mitglieder der Bezugsgruppe sehen einen Zusammenhang zwischen ihrer Identität und ihrer Forschung. Dennoch hat jede Gruppe besondere Expertise aufgebaut. Black in AI ist zum intellektuellen Zentrum geworden, um algorithmische Diskriminierung aufzudecken, Überwachung zu kritisieren und dateneffiziente KI-Techniken zu entwickeln. Queer in AI ist zu einem Zentrum geworden, um die Art und Weise zu bestreiten, wie Algorithmen die Privatsphäre von Menschen verletzen und sie standardmäßig in begrenzte Kategorien einordnen.

Venkatasubramanian und Gebru halfen auch bei der Schaffung der Konferenz Fairness, Accountability, and Transparency (FAccT), um ein Forum für die Erforschung der sozialen und politischen Auswirkungen von KI zu schaffen. Ideen und Entwurfspapiere, die bei Workshops der NeurIPS-Affinitätsgruppe diskutiert werden, bilden oft die Grundlage für bei FAccT veröffentlichte Papiere, die diese Forschung dann einem breiteren Publikum präsentieren.

Nachdem Buolamwini beispielsweise beim ersten Black in AI-Workshop vorgestellt hatte, veröffentlichte FAccT Gender Shades. Zusammen mit Actionable Auditing hat es dann mehrere große Aufklärungs- und Interessenvertretungskampagnen angeheizt, um die Nutzung der Gesichtserkennung durch die Regierung einzuschränken. Als Amazon versuchte, die Legitimität der Forschung von Buolamwini und Raji zu untergraben, schlossen sich Dutzende von KI-Forschern und zivilgesellschaftlichen Organisationen zusammen, um sie zu verteidigen, und ahnen, was sie später für Gebru tun würden. Diese Bemühungen trugen schließlich zum Moratorium von Amazon bei, das das Unternehmen im Mai auf unbestimmte Zeit verlängern würde.

Die Forschung löste auch eine Regulierungskaskade aus. Mehr als ein Dutzend Städte haben die Verwendung der Gesichtserkennung durch die Polizei verboten, und Massachusetts verlangt jetzt, dass die Polizei die Erlaubnis eines Richters einholt, um sie zu verwenden. Sowohl die USA als auch die Europäische Kommission haben eine zusätzliche Regulierung vorgeschlagen.

Zuerst mussten wir einfach da sein, sagt Gebru. Und irgendwann beginnt das, was Black in AI sagt, wichtig zu werden. Und was all diese Gruppen zusammen sagen, wird wichtig. Sie müssen uns jetzt zuhören.

Folge dem Geld

Nach der Entlassung von Gebru und Mitchell setzt sich das Feld erneut mit einer uralten Frage auseinander: Ist es möglich, den Status quo zu ändern, während man von innen heraus arbeitet? Gebru glaubt nach wie vor, dass die Zusammenarbeit mit Technologiegiganten der beste Weg ist, um die Probleme zu identifizieren. Sie glaubt aber auch, dass Unternehmensforscher einen stärkeren rechtlichen Schutz brauchen. Wenn sie riskante Praktiken sehen, sollten sie ihre Beobachtungen öffentlich teilen können, ohne ihre Karriere zu gefährden.

Dann stellt sich die Frage der Finanzierung. Viele Forscher wünschen sich mehr Investitionen von der US-Regierung, um Arbeiten zu unterstützen, die der kommerziellen KI-Entwicklung kritisch gegenüberstehen und das Gemeinwohl fördern. Im vergangenen Jahr hat es magere 1 Milliarde US-Dollar für die nicht verteidigungsbezogene KI-Forschung bereitgestellt. Die Biden-Administration bittet den Kongress nun, weitere 180 Milliarden US-Dollar in neue Technologien zu investieren, wobei KI oberste Priorität hat.

Eine solche Finanzierung könnte Menschen wie helfen Abebe wird zurückkehren , Assistenzprofessor für Informatik an der University of California, Berkeley. Abebe, der auch Black in AI mitbegründet hat, kam mit der Idee zur KI, sie zur Förderung der sozialen Gerechtigkeit einzusetzen. Aber als sie ihre Doktorarbeit an der Cornell University begann, konzentrierte sich niemand auf solche Forschungen.

Im Herbst 2016 gründete sie als Doktorandin mit einem Kommilitonen eine kleine Cornell-Lesegruppe, um Themen wie Wohnungsinstabilität, Zugang zur Gesundheitsversorgung und Ungleichheit zu studieren. Anschließend startete sie ein neues Projekt, um zu sehen, ob ihre Rechenfähigkeiten die Bemühungen zur Linderung der Armut unterstützen könnten.

Schließlich fand sie die Poverty Tracker-Studie, einen detaillierten Datensatz zu den finanziellen Schocks – unerwartete Ausgaben wie Arztrechnungen oder Parktickets –, die mehr als 2.000 New Yorker Familien erlebten. In vielen Gesprächen mit den Autoren der Studie, Sozialarbeitern und gemeinnützigen Organisationen, die marginalisierten Gemeinschaften dienen, erfuhr sie von ihren Bedürfnissen und sagte ihnen, wie sie helfen könnte. Anschließend entwickelte Abebe ein Modell, das zeigte, wie sich Häufigkeit und Art der Schocks auf den wirtschaftlichen Status einer Familie auswirkten.

Fünf Jahre später läuft das Projekt immer noch. Sie arbeitet jetzt mit gemeinnützigen Organisationen zusammen, um ihr Modell zu verbessern, und arbeitet über das California Policy Lab mit politischen Entscheidungsträgern zusammen, um es als Instrument zur Verhinderung von Obdachlosigkeit einzusetzen. Auch ihre Lesegruppe ist inzwischen zu einer 2.000-köpfigen Gemeinschaft angewachsen und hält später in diesem Jahr ihre Eröffnungskonferenz ab.

Abebe sieht darin eine Möglichkeit, mehr Forscher dazu anzuregen, die Normen der KI umzudrehen. Während traditionelle Computerwissenschaftskonferenzen den Schwerpunkt auf die Weiterentwicklung von Computertechniken legen, um dies zu tun, wird die neue Arbeit veröffentlichen, die zuerst versucht, ein soziales Problem tiefgehend zu verstehen. Die Arbeit ist nicht weniger technisch, aber sie bildet die Grundlage für die Entstehung einer sozial sinnvolleren KI.

Diese Veränderungen, für die wir kämpfen, sind nicht nur für marginalisierte Gruppen, sagt sie. Es ist eigentlich für alle.

verbergen