211service.com
Warum KI die Demokratie bedroht – und was wir dagegen tun können
Die Futuristin und NYU-Professorin Amy Webb über eine drohende Katastrophe der künstlichen Intelligenz – und warum es noch Hoffnung gibt, dass sie abgewendet werden kann. 26. Februar 2019
Amy Webb, Futuristin und NYU-Professorin Elena Seibert
Amy Webb, Futuristin, NYU-Professorin und preisgekrönte Autorin, hat einen Großteil des letzten Jahrzehnts damit verbracht, Menschen und Organisationen über künstliche Intelligenz zu erforschen, zu diskutieren und sich mit ihnen zu treffen. Wir haben in Sachen KI einen Höhepunkt erreicht, sagt sie. Jetzt ist es an der Zeit, einen Schritt zurückzutreten, um zu sehen, wohin es geht.
Das ist die Aufgabe ihres neuen Buches, The Big Nine: Wie die Tech-Titanen und ihre Denkmaschinen die Menschheit verzerren könnten , wo sie Trends aus der Vogelperspektive betrachtet, die, warnt sie, die Entwicklung der Technologie auf einen gefährlichen Weg gebracht haben. In den USA werden Google, Microsoft, Amazon, Facebook, IBM und Apple (die G-MAFIA) von den unerbittlichen kurzfristigen Anforderungen eines kapitalistischen Marktes gelähmt, was eine langfristige, durchdachte Planung für KI unmöglich macht. In China konsolidieren und minen Tencent, Alibaba und Baidu riesige Datenmengen, um die autoritären Ambitionen der Regierung zu befeuern.
Wenn wir diesen Kurs nicht ändern, argumentiert Webb, könnten wir direkt auf eine Katastrophe zusteuern. Aber es bleibt noch Zeit zum Handeln und eine Rolle für alle. MIT Technology Review hat sich mit ihr zusammengesetzt, um darüber zu sprechen, warum sie sich Sorgen macht und was wir ihrer Meinung nach dagegen tun können.
Die folgenden Fragen und Antworten wurden aus Gründen der Übersichtlichkeit komprimiert und bearbeitet.
Sie erwähnen, dass wir derzeit eine Konvergenz besorgniserregender technologischer, politischer und wirtschaftlicher Trends beobachten. Können Sie näher erläutern, was die technologischen Trends sind?
Wenn Sie mit einem Forscher sprechen, der auf diesem Gebiet arbeitet, wird er Ihnen sagen, dass es sehr lange dauern wird, bis wir viele der Versprechungen sehen, die über KI gemacht wurden: Dinge wie Vollautomatisierung in Fahrzeugen, absolute Anerkennung oder künstliche allgemeine Intelligenz – AGI – Systeme, die zu Kognition und menschenähnlicherem Denken fähig sind.
Von meinem Standpunkt aus verfehlt der Blick zum Horizont für den Tag, an dem wir eine Art gehende, sprechende Maschine oder eine Maschine mit einer körperlosen Stimme haben, die autonome Entscheidungen trifft, etwas das Wesentliche. Wir sehen bereits Milliarden winziger Fortschritte, die sich im Laufe der Zeit verstärken und zu Systemen führen werden, die autonom viele Entscheidungen gleichzeitig treffen können.
Das DeepMind-Team zum Beispiel hat hart daran gearbeitet, Maschinen beizubringen, wie man Menschen beim Spielen besiegt. Sie sind in Bereichen wie hierarchisches Verstärkungslernen und Multitasking-Lernen ziemlich weit nach vorne gesprungen. Die neueste Version seines AlphaGo-Algorithmus, AlphaZero, ist in der Lage zu lernen, wie man drei Spiele gleichzeitig spielt, ohne dass ein Mensch in der Schleife ist. Das ist ein ziemlich großer Sprung. Es gibt auch das sehr neue Feld der generativen kontradiktorischen Netzwerke , wo Sie mit einem anständigen Bildkorpus jetzt menschliche Gesichter erzeugen können, die sehr, sehr realistisch aussehen .
Diese Fortschritte sind nicht so sexy oder aufregend wie das, was uns über AGI gesagt wurde. Aber wenn Sie in der Lage sind, die 40.000-Fuß-Ansicht einzunehmen, können Sie sehen, dass wir auf eine Situation zusteuern, in der Systeme Entscheidungen für uns treffen werden. Und wir müssen innehalten und uns fragen, was passiert, wenn diese Systeme die menschliche Strategie zugunsten von etwas völlig Unbekanntem beiseite schieben.
Was ist mit den politischen und wirtschaftlichen Trends? Können Sie beschreiben, welche Ihnen am meisten Sorgen bereiten?
In den USA kann sich der freie Ideenfluss ungehindert ausbreiten. So wurde das Silicon Valley gegründet. Es hat sowohl Wettbewerb als auch Innovation hervorgebracht, und so sind wir neben anderen Arten von Technologien dahin gekommen, wo wir jetzt mit KI sind.
The Big Nine: Wie Tech-Titanen und ihre Denkmaschinen die Menschheit verzerren könnten von Amy Webb
Allerdings leiden wir in den USA auch unter einem tragischen Mangel an Voraussicht. Anstatt eine große Strategie für KI oder unsere langfristige Zukunft zu entwickeln, hat die Bundesregierung die Finanzierung von Wissenschaft und technischer Forschung gestrichen. Das Geld muss also aus der Privatwirtschaft kommen. Aber die Anleger erwarten auch eine Art Rendite. Das ist ein Problem. Sie können Ihre F&E-Durchbrüche nicht planen, wenn Sie an grundlegender Technologie und Forschung arbeiten. Es wäre großartig, wenn die großen Technologieunternehmen den Luxus hätten, wirklich hart zu arbeiten, ohne eine jährliche Konferenz veranstalten zu müssen, um ihr neuestes und größtes Wunderding vorzustellen. Stattdessen haben wir jetzt unzählige Beispiele für schlechte Entscheidungen, die jemand in der G-MAFIA getroffen hat, wahrscheinlich weil sie schnell gearbeitet haben. Wir sehen allmählich die negativen Auswirkungen der Spannung zwischen Forschung, die im besten Interesse der Menschheit ist, und der Zufriedenheit der Anleger.
Das wäre jetzt schon schlimm genug, oder? Aber das alles geschieht zur gleichen Zeit, in der in China eine enorme Macht gefestigt wird. China hat einen Staatsfonds, der sich der grundlegenden Grundlagenforschung in der KI widmet. Sie werfen riesige Geldbeträge auf KI. Und sie haben eine ganz andere Vorstellung als die USA, wenn es um Privatsphäre und Daten geht. Das bedeutet, dass sie viel mehr Daten haben, die abgebaut und verfeinert werden können. Mit einer zentralen Behörde ist es für die Regierung super einfach, KI-Dienste zu testen und aufzubauen, die Daten von 1,3 Milliarden Menschen integrieren. Und das nur im eigenen Land.
Dann haben sie die Belt and Road Initiative, die wie ein traditionelles Infrastrukturprogramm aussieht, aber teilweise auch digital ist. Es geht nicht nur darum, Straßen und Brücken zu bauen; Es geht auch um den Aufbau von 5G-Netzen und die Verlegung von Glasfaser sowie um das Schürfen und Veredeln von Daten im Ausland. Der Einsatz dieser Technologien ist ein Risiko für Menschen, denen Dinge wie Meinungsfreiheit und westliche demokratische Ideale am Herzen liegen.
Warum sollten wir westliche demokratische Ideale anstreben?
Es ist eine großartige Frage. Ich habe in China, in Japan und natürlich in den Vereinigten Staaten gelebt. Und man könnte sich jetzt den Zustand unseres Landes anschauen und was in China passiert und sich fragen, ist das wirklich das Schlimmste? Übrigens klingt Chinas Sozialkredit-Scoring-System für Amerikaner verrückt und schrecklich, aber was viele Menschen nicht wissen, ist, dass Selbstanzeige und Überwachung des Verhaltens in Dörfern und Gemeinden seit jeher Teil der chinesischen Kultur sind. Der Social Credit Score automatisiert das irgendwie. Also ja, das ist eine tolle Frage.
Ich denke, was ich sagen würde, wenn ich mir die idealisierte Version des chinesischen Kommunismus und die idealisierte Version der westlichen Demokratie ansehen würde, würde ich die westliche Demokratie wählen, weil ich denke, dass es eine bessere Gelegenheit für den freien Fluss von Ideen und für den Alltag gibt Menschen zum Erfolg. Ich denke, dass es eine großartige Möglichkeit ist, Menschen Anreize für individuelle und persönliche Leistungen zu geben, um eine Gesellschaft voranzubringen und uns dabei zu helfen, unser individuelles Potenzial auszuschöpfen.
Mit der Richtung, in die sich die Welt heute mit KI bewegt, ist das ein fairer Vergleich? Sollten wir die idealisierten Versionen des chinesischen Kommunismus mit der westlichen Demokratie vergleichen oder die schlechtesten Versionen der beiden?
Das ist eine großartige Frage, denn man könnte argumentieren, dass Teile des KI-Ökosystems unsere westlichen demokratischen Ideale bereits auf wirklich negative Weise beeinflussen. Natürlich dient alles, was mit Facebook passiert ist, als Beispiel. Aber schauen Sie sich auch an, was in der Anti-Impf-Community vor sich geht. Sie verbreiten völlig falsche Informationen über Impfstoffe und Grundlagenforschung. Unsere amerikanischen Traditionen sagen Redefreiheit, Plattformen sind Plattformen, wir müssen den Menschen erlauben, sich auszudrücken. Nun, die Herausforderung dabei ist, dass Algorithmen Entscheidungen über redaktionelle Inhalte treffen, die dazu führen, dass Menschen sehr schlechte Entscheidungen treffen und Kinder dadurch krank werden.
Das Problem ist, dass unsere Technologie immer ausgefeilter geworden ist, aber unser Denken darüber, was freie Meinungsäußerung ist und wie eine freie Marktwirtschaft aussieht, ist nicht so ausgefeilt geworden. Wir neigen dazu, auf sehr einfache Interpretationen zurückzugreifen: Redefreiheit bedeutet, dass jede Rede frei ist, es sei denn, sie verstößt gegen das Verleumdungsgesetz, und das ist das Ende der Geschichte. Das ist nicht das Ende der Geschichte. Wir müssen anfangen, ein differenzierteres und intelligenteres Gespräch über unsere aktuellen Gesetze, unsere aufkommende Technologie und darüber zu führen, wie wir diese beiden dazu bringen können, sich in der Mitte zu treffen.
Mit anderen Worten, Sie vertrauen darauf, dass wir uns von dort, wo wir jetzt sind, zu einer idealisierteren Version der westlichen Demokratie entwickeln werden. Und das würden Sie dem idealisierten chinesischen Kommunismus bei weitem vorziehen.
Ja, ich glaube daran, dass es möglich ist. Meine große Sorge ist, dass alle warten, dass wir unsere Fersen schleppen und es eine echte Katastrophe braucht, um die Menschen zum Handeln zu bewegen, als ob der Ort, an dem wir angekommen sind, nicht katastrophal ist. Aber die Tatsache, dass Masern im Bundesstaat Washington zurück sind, ist für mich ist ein katastrophales Ergebnis. So geschehen nach der Wahl. Unabhängig davon, auf welcher Seite des politischen Spektrums Sie sich befinden, kann ich mir nicht vorstellen, dass heute jemand denkt, dass das aktuelle politische Klima gut für unsere Zukunft ist.
Ich glaube also fest daran, dass es einen Weg nach vorne gibt. Aber wir müssen uns zusammentun und die Kluft zwischen Silicon Valley und DC überbrücken, damit wir alle in die gleiche Richtung steuern können.
Was empfehlen Sie Regierungen, Unternehmen, Universitäten und einzelnen Verbrauchern?
Die Entwicklungsspur der KI ist ein Problem, und jeder von uns hat einen Anteil daran. Du, ich, mein Vater, mein Nachbar, der Typ im Starbucks, an dem ich gerade vorbeigehe. Was also sollten die gewöhnlichen Menschen tun? Seien Sie sich bewusster, wer Ihre Daten verwendet und wie. Nehmen Sie sich ein paar Minuten Zeit, um Arbeiten zu lesen, die von klugen Leuten geschrieben wurden, und verbringen Sie ein paar Minuten damit, herauszufinden, worüber wir wirklich sprechen. Bevor Sie Ihr Leben unterschreiben und anfangen, Fotos Ihrer Kinder zu teilen, tun Sie dies auf informierte Weise. Wenn Sie damit einverstanden sind, was es bedeutet und was es später bedeuten könnte, gut, aber haben Sie zumindest zuerst dieses Wissen.
Unternehmen und Investoren können nicht damit rechnen, ein Produkt immer wieder zu überstürzen. Es bereitet uns auf spätere Probleme vor. So können sie beispielsweise ihre Einstellungsprozesse stützen, ihre Bemühungen zur Verbesserung der Inklusion erheblich verstärken und sicherstellen, dass ihre Mitarbeiter repräsentativer für die reale Welt sind. Sie können auch einige Bremsen anziehen. Jede Investition, die in ein KI-Unternehmen oder -Projekt oder was auch immer getätigt wird, sollte auch die Finanzierung und die Zeit beinhalten, um Dinge wie Risiko und Voreingenommenheit zu überprüfen.
Hochschulen müssen in ihren Studiengängen Platz für Hybridabschlüsse schaffen. Sie sollen CS-Studierende dazu anregen, Komparatistik, Weltreligionen, Mikroökonomie, Kulturanthropologie und ähnliche Kurse in anderen Fachbereichen zu studieren. Sie sollten sich für duale Studiengänge in Informatik und Internationale Beziehungen, Theologie, Politikwissenschaft, Philosophie, Public Health, Pädagogik und dergleichen einsetzen. Ethik sollte nicht als eigenständiger Unterricht unterrichtet werden, etwas, das einfach von einer Liste abgehakt wird. Schulen müssen selbst festangestellten Professoren Anreize bieten, komplizierte Diskussionen über Voreingenommenheit, Risiko, Philosophie, Religion, Geschlecht und Ethik in ihre Kurse einzuflechten.
Eine meiner größten Empfehlungen ist die Gründung von GAIA, was ich die Global Alliance on Intelligence Augmentation nenne. Derzeit haben Menschen auf der ganzen Welt sehr unterschiedliche Einstellungen und Herangehensweisen, wenn es darum geht, Daten zu sammeln und zu teilen, was automatisiert werden kann und sollte und wie eine Zukunft mit allgemeineren intelligenten Systemen aussehen könnte. Ich denke also, wir sollten eine Art zentrale Organisation schaffen, die globale Normen und Standards entwickeln kann, eine Art Leitplanke, um nicht nur amerikanische oder chinesische Ideale in KI-Systeme einfließen zu lassen, sondern Weltanschauungen, die viel repräsentativer für alle sind.
Vor allem müssen wir bereit sein, viel längerfristig darüber nachzudenken, nicht erst in fünf Jahren. Wir müssen aufhören zu sagen: Nun, wir können die Zukunft nicht vorhersagen, also machen wir uns jetzt keine Sorgen. Es stimmt, wir können die Zukunft nicht vorhersagen. Aber wir können es sicherlich besser planen.
Eine gekürzte Version dieser Geschichte erschien ursprünglich in unserem KI-Newsletter The Algorithm. Um es direkt in Ihren Posteingang geliefert zu bekommen, melden Sie sich hier kostenlos an.