Künstliche allgemeine Intelligenz: Sind wir nah dran und macht es überhaupt Sinn, es zu versuchen?

Ariel Davis

Die Idee der künstlichen allgemeinen Intelligenz, wie wir sie heute kennen, beginnt mit einem Dotcom-Blowout am Broadway.

Vor zwanzig Jahren – bevor Shane Legg wegen einer gemeinsamen Faszination für Intelligenz mit Neurowissenschaftler Demis Hassabis in Kontakt kam; bevor sich die beiden mit Hassabis Jugendfreund Mustafa Suleyman, einem progressiven Aktivisten, zusammentaten, um diese Faszination in eine Firma namens DeepMind zu verwandeln; Bevor Google dieses Unternehmen vier Jahre später für mehr als eine halbe Milliarde Dollar kaufte, arbeitete Legg bei einem New Yorker Startup namens Webmind, das vom KI-Forscher Ben Goertzel gegründet wurde. Heute repräsentieren die beiden Männer zwei sehr unterschiedliche Zweige der Zukunft der künstlichen Intelligenz, aber ihre Wurzeln reichen weit zurück.

Selbst für die berauschenden Tage der Dotcom-Blase waren die Ziele von Webmind ehrgeizig. Goertzel wollte einen schaffen digitales Babygehirn und veröffentlichte es im Internet, wo er glaubte, dass es heranwachsen würde, um völlig selbstbewusst und weitaus klüger als Menschen zu werden. Wir stehen am Rande eines Übergangs, dessen Ausmaß dem Aufkommen der Intelligenz oder dem Aufkommen der Sprache entspricht, sagte er dem Christlicher Wissenschaftsmonitor In 1998.

Webmind versuchte, sich selbst zu finanzieren, indem es nebenbei ein Tool zur Vorhersage des Verhaltens der Finanzmärkte entwickelte, aber der größere Traum ging nie in Erfüllung. Nachdem Webmind 20 Millionen Dollar verbrannt hatte, wurde es aus seinen Büros an der Südspitze von Manhattan vertrieben und stellte die Bezahlung seiner Mitarbeiter ein. 2001 meldete sie Insolvenz an.

Ben Goertzel

WIKIMEDIA-COMMONS

Aber Legg und Goertzel blieben in Kontakt. Als Goertzel ein Buch zusammenstellte Essays über übermenschliche KI ein paar Jahre später war es Legg, der den Titel erfand. Ich habe mit Ben gesprochen und dachte: ‚Nun, wenn es um die Allgemeingültigkeit geht, die KI-Systeme noch nicht haben, sollten wir es einfach nennen Künstliche allgemeine Intelligenz “, sagt Legg, der jetzt Chefwissenschaftler von DeepMind ist. Und AGI hat irgendwie einen Klang als Akronym.

Der Begriff blieb hängen. Goertzels Buch und das Jahrbuch AGI-Konferenz die er 2008 ins Leben gerufen hat, haben AGI zu einem gängigen Schlagwort für menschenähnliche oder übermenschliche KI gemacht. Aber es ist auch zu einem großen Schreckgespenst geworden. Ich mag den Begriff AGI nicht, sagt Jerome Pesenti, Head of AI bei Facebook. Ich weiß nicht, was es bedeutet.

Er ist nicht allein. Ein Teil des Problems besteht darin, dass AGI ein Sammelbecken für die Hoffnungen und Ängste ist, die eine ganze Technologie umgeben. Entgegen der landläufigen Meinung geht es nicht wirklich um Maschinenbewusstsein oder denkende Roboter (obwohl viele AGI-Leute auch davon träumen). Aber es geht darum, groß zu denken. Viele der Herausforderungen, denen wir heute gegenüberstehen, vom Klimawandel über das Scheitern von Demokratien bis hin zu Krisen im Bereich der öffentlichen Gesundheit, sind äußerst komplex. Wenn wir Maschinen hätten, die wie wir oder besser denken könnten – schneller und ermüdungsfreier –, dann hätten wir vielleicht bessere Chancen, diese Probleme zu lösen. Als Informatiker I.J. Good hat es 1965 formuliert: Die erste ultraintelligente Maschine ist die letzte Erfindung, die der Mensch jemals machen muss.

Elon Musk, der früh in DeepMind investiert und sich mit einer kleinen Gruppe von Megainvestoren, darunter Peter Thiel und Sam Altman, zusammengetan hat, um 1 Milliarde Dollar in OpenAI zu stecken, hat aus wilden Vorhersagen eine persönliche Marke gemacht. Aber wenn er spricht, hören Millionen zu. Das sagte er vor ein paar Monaten der New York Times Übermenschliche KI ist weniger als fünf Jahre entfernt . Es wird sehr schnell auf uns zukommen, sagte er am Lex Fridman-Podcast . Dann müssen wir uns überlegen, was wir tun sollen, wenn wir überhaupt die Wahl haben.

Im Mai Pesenti zurückgeschossen . Elon Musk habe keine Ahnung, wovon er rede, twitterte er. So etwas wie AGI gibt es nicht und wir sind bei weitem nicht an die menschliche Intelligenz herangekommen. Musk antwortete: Facebook ist scheiße.

Solche Schübe sind keine Seltenheit. Hier ist Andreas Ng , ehemaliger Leiter der KI bei Baidu und Mitbegründer von Google Brain: Lassen Sie uns den AGI-Unsinn streichen und mehr Zeit für die dringenden Probleme aufwenden.

Und Julian Togelius , ein KI-Forscher an der New York University: Der Glaube an AGI ist wie der Glaube an Magie. Es ist eine Möglichkeit, rationales Denken aufzugeben und Hoffnung/Angst für etwas auszudrücken, das nicht verstanden werden kann. Durchsuchen Sie den #noAGI-Hashtag auf Twitter und Sie werden viele der Schwergewichte von KI dabei erwischen, wie sie sich wiegen, einschließlich Yann Le Cun , Facebooks leitender KI-Wissenschaftler, der 2018 den Turing Award gewann.

Aber mit den jüngsten Erfolgen von AI, vom Brettspiel-Champion AlphaZero bis zum überzeugenden Fake-Text-Generator GPT-3, hat das Geschwätz über AGI zugenommen. Auch wenn diese Tools noch weit davon entfernt sind, allgemeine Intelligenz darzustellen – AlphaZero kann keine Geschichten schreiben und GPT-3 kann kein Schach spielen, geschweige denn verstehen, warum Geschichten und Schach für die Menschen wichtig sind –, wird das Ziel, ein AGI zu bauen, das einst für verrückt gehalten wurde, akzeptabel wieder.

Einige der größten und angesehensten KI-Labore der Welt nehmen dieses Ziel sehr ernst. OpenAI hat gesagt, dass es das sein will der erste, der eine Maschine mit menschenähnlichen Denkfähigkeiten baute . Das inoffizielle, aber häufig wiederholte Leitbild von DeepMind lautet: Intelligenz lösen . Top-Leute in beiden Unternehmen diskutieren diese Ziele gerne im Hinblick auf AGI.

Ein halbes Jahrhundert später sind wir noch lange nicht in der Nähe einer KI mit den Multitasking-Fähigkeiten eines Menschen – oder sogar eines Insekts.

In den frühen 2000er Jahren über AGI zu sprechen, brachte Sie an den Rand des Wahnsinns, sagt Legg. Schon als wir 2010 mit DeepMind anfingen, haben wir auf Konferenzen erstaunlich viele Augen verdreht. Aber die Dinge ändern sich. Manche Leute fühlen sich damit unwohl, aber es kommt von der Kälte“, sagt er.

Warum ist AGI umstritten? Warum spielt es eine Rolle? Und ist es ein rücksichtsloser, irreführender Traum – oder das ultimative Ziel?

Was ist AGI?

Der Begriff wird seit etwas mehr als einem Jahrzehnt allgemein verwendet, aber die Ideen, die er zusammenfasst, gibt es schon ein Leben lang.

Im Sommer 1956 kamen etwa ein Dutzend Wissenschaftler am Dartmouth College in New Hampshire zusammen, um an einem ihrer Meinung nach bescheidenen Forschungsprojekt zu arbeiten. Die KI-Pioniere John McCarthy, Marvin Minsky, Nat Rochester und Claude Shannon stellten den Workshop im Vorfeld auf schrieb : Die Studie soll von der Vermutung ausgehen, dass jeder Aspekt des Lernens oder jede andere Eigenschaft von Intelligenz im Prinzip so genau beschrieben werden kann, dass eine Maschine sie simulieren kann. Es wird versucht herauszufinden, wie man Maschinen dazu bringen kann, Sprache zu verwenden, Abstraktionen und Konzepte zu bilden, Probleme zu lösen, die heute Menschen vorbehalten sind, und sich selbst zu verbessern. Sie dachten, das würde 10 Leute zwei Monate dauern.

Spulen wir bis 1970 vor und hier ist wieder Minsky, unerschrocken: In drei bis acht Jahren werden wir eine Maschine mit der allgemeinen Intelligenz eines durchschnittlichen Menschen haben. Ich meine eine Maschine, die in der Lage sein wird, Shakespeare zu lesen, ein Auto zu schmieren, Büropolitik zu betreiben, einen Witz zu erzählen, sich zu streiten. An diesem Punkt beginnt die Maschine, sich mit fantastischer Geschwindigkeit selbst zu erziehen. In ein paar Monaten wird es auf genialem Niveau sein, und ein paar Monate danach werden seine Kräfte unberechenbar sein.

Drei Dinge stechen in diesen Visionen für KI hervor: eine menschenähnliche Fähigkeit zur Verallgemeinerung, eine übermenschliche Fähigkeit, sich exponentiell zu verbessern, und eine übergroße Portion Wunschdenken. Ein halbes Jahrhundert später sind wir noch lange nicht in der Nähe einer KI mit den Multitasking-Fähigkeiten eines Menschen – oder sogar eines Insekts.

GETTY IMAGES

Das soll nicht heißen, dass es keine enormen Erfolge gegeben hat. Viele der Punkte auf dieser frühen Wunschliste wurden abgehakt: Wir haben Maschinen, die Sprache verwenden, sehen und viele unserer Probleme lösen können. Aber die KIs, die wir heute haben, sind nicht so menschenähnlich, wie es sich die Pioniere vorgestellt haben. Deep Learning, die Technologie, die den KI-Boom antreibt, trainiert Maschinen, um Meister in einer Vielzahl von Dingen zu werden – wie dem Schreiben falscher Geschichten und dem Schachspielen – aber jeweils nur einem.

Als Legg Goertzel 2007 den Begriff AGI für sein Buch vorschlug, stellte er künstliche allgemeine Intelligenz dieser engen Mainstream-Idee von KI entgegen. Die Leute hatten mehrere verwandte Begriffe wie starke KI und echte KI verwendet, um Minskys Vision von der KI zu unterscheiden, die stattdessen angekommen war.

Über AGI zu sprechen, sollte oft andeuten, dass KI versagt hat, sagt Joanna Bryson, KI-Forscherin an der Hertie School in Berlin: Es war die Idee, dass es Leute gibt, die nur dieses langweilige Zeug machen, wie maschinelles Sehen, aber wir hier drüben – und ich war damals eine von ihnen – versuchen immer noch, die menschliche Intelligenz zu verstehen, sagt sie. Starke KI, Kognitionswissenschaft, AGI – das waren unsere verschiedenen Arten zu sagen: „Ihr habt es vermasselt; wir bewegen uns vorwärts.’

Diese Idee, dass AGI das wahre Ziel der KI-Forschung ist, ist immer noch aktuell. Ein funktionierendes KI-System wird schnell zu einem Stück Software – Brysons langweiligem Zeug. In der Zwischenzeit wird AGI zu einem Ersatz für jede KI, von der wir nur noch nicht herausgefunden haben, wie man sie baut, immer außer Reichweite.

Verwandte Geschichte

Was ist maschinelles Lernen?

Algorithmen für maschinelles Lernen finden und wenden Muster in Daten an. Und sie regieren so ziemlich die Welt.

Legg spricht manchmal von AGI als einer Art Multitool – eine Maschine, die viele verschiedene Probleme löst, ohne dass für jede zusätzliche Herausforderung eine neue konstruiert werden muss. Aus dieser Sicht wäre es nicht intelligenter als AlphaGo oder GPT-3; es hätte einfach mehr Fähigkeiten. Es wäre eine Allzweck-KI, keine vollwertige Intelligenz. Aber er spricht auch von einer Maschine, mit der man interagieren könnte, als wäre es eine andere Person. Er beschreibt eine Art ultimativen Spielkameraden: Es wäre wunderbar, mit einer Maschine zu interagieren und ihr ein neues Kartenspiel zu zeigen und sie verstehen zu lassen und Ihnen Fragen zu stellen und das Spiel mit Ihnen zu spielen, sagt er. Es wäre ein wahr gewordener Traum.

Wenn Menschen über AGI sprechen, sind es typischerweise diese menschenähnlichen Fähigkeiten, die sie im Sinn haben. Thor Gräpel , ein Kollege von Legg bei DeepMind, verwendet gerne ein Zitat des Science-Fiction-Autors Robert Heinlein, das Minskys Worte widerzuspiegeln scheint: Ein Mensch sollte in der Lage sein, eine Windel zu wechseln, eine Invasion zu planen, ein Schwein zu schlachten, ein Schiff zu steuern, ein Gebäude entwerfen, ein Sonett schreiben, Konten abgleichen, eine Mauer bauen, einen Knochen richten, Sterbende trösten, Befehle entgegennehmen, Befehle erteilen, kooperieren, alleine handeln, Gleichungen lösen, ein neues Problem analysieren, Mist werfen, einen Computer programmieren, kochen eine schmackhafte Mahlzeit, effizient kämpfen, tapfer sterben. Spezialisierung ist für Insekten.

Und doch, lustige Tatsache: Graepels beliebte Beschreibung wird von einer Figur namens Lazarus Long in Heinleins Roman von 1973 gesprochen Zeit genug für die Liebe . Long ist eine Art Übermensch, das Ergebnis eines genetischen Experiments, das ihn Hunderte von Jahren leben lässt. Während dieser langen Zeit lebt Long viele Leben und beherrscht viele Fähigkeiten. Mit anderen Worten, Minsky beschreibt die Fähigkeiten eines typischen Menschen; Graepel nicht.

Die Zielpfosten der AGI-Suche verschieben sich auf diese Weise ständig. Was meinen die Leute, wenn sie von menschenähnlicher künstlicher Intelligenz sprechen – Menschen wie du und ich oder Menschen wie Lazarus Long? Für Pesenti ist diese Mehrdeutigkeit ein Problem. Ich glaube nicht, dass irgendjemand weiß, was es ist, sagt er. Der Mensch kann nicht alles. Sie können nicht jedes Problem lösen – und sie können sich nicht verbessern.

Go-Champion Lee Sedol (links) schüttelt DeepMind-Mitbegründer Demis Hassabis die Hand

GETTY

Na und Macht ein AGI wie in der Praxis sein? Es menschenähnlich zu nennen, ist gleichzeitig vage und zu spezifisch. Menschen sind das beste Beispiel für allgemeine Intelligenz, die wir haben, aber Menschen sind auch hochspezialisiert. Ein kurzer Blick auf das vielseitige Universum tierischer Klugheit – von der kollektiven Kognition der Ameisen über die Fähigkeiten zur Problemlösung von Krähen oder Tintenfischen bis hin zur besser erkennbaren, aber immer noch fremdartigen Intelligenz von Schimpansen – zeigt, dass es viele Möglichkeiten gibt, eine allgemeine Intelligenz aufzubauen .

Selbst wenn wir ein AGI erstellen, verstehen wir es möglicherweise nicht vollständig. Die heutigen Machine-Learning-Modelle sind in der Regel Black Boxes, was bedeutet, dass sie durch Berechnungswege zu genauen Ergebnissen gelangen, die kein Mensch nachvollziehen kann. Fügen Sie der Mischung selbstverbessernde Superintelligenz hinzu, und es wird klar, warum Science-Fiction oft die einfachsten Analogien liefert.

Einige würden auch das Bewusstsein oder die Empfindungsfähigkeit in die Anforderungen für ein AGI einbeziehen. Aber wenn Intelligenz schwer festzumachen ist, ist Bewusstsein noch schlimmer. Philosophen und Wissenschaftler sind sich nicht darüber im Klaren, was es in uns selbst ist, geschweige denn, was es in einem Computer wäre. Intelligenz erfordert wahrscheinlich ein gewisses Maß an Selbstbewusstsein, die Fähigkeit, über Ihre Sicht der Welt nachzudenken, aber das ist nicht unbedingt dasselbe wie Bewusstsein – was es ist fühlt sich gerne die Welt erleben oder Ihre Sicht auf sie reflektieren. Selbst die treuesten AGIs sind agnostisch in Bezug auf Maschinenbewusstsein.

Wie machen wir ein AGI?

Legg hat seine ganze Karriere lang nach Geheimdiensten gesucht. Nach Webmind arbeitete er mit Marcus Hutter an der Universität Lugano in der Schweiz an einer Doktorarbeit namens Maschinelle Superintelligenz . Hutter (der jetzt auch bei DeepMind ist) arbeitete an einer mathematischen Definition von Intelligenz, die nur durch die Gesetze der Physik begrenzt war – eine ultimative allgemeine Intelligenz.

Shane Legg

TIEFENGEIST

Das Paar veröffentlichte eine Gleichung für das, was sie nannten universelle Intelligenz , die Legg als Maß für die Fähigkeit beschreibt, Ziele in einer Vielzahl von Umgebungen zu erreichen. Sie zeigten, dass ihre mathematische Definition vielen Intelligenztheorien in der Psychologie ähnelt, die Intelligenz ebenfalls allgemein definiert.

Bei DeepMind verwandelt Legg seine theoretische Arbeit in praktische Demonstrationen, beginnend mit KIs, die bestimmte Ziele in bestimmten Umgebungen erreichen, von Spielen bis hin Proteinfaltung .

Der knifflige Teil kommt als nächstes: Mehrere Fähigkeiten miteinander verbinden. Deep Learning ist der allgemeinste Ansatz, den wir haben, da ein Deep-Learning-Algorithmus verwendet werden kann, um mehr als eine Aufgabe zu lernen. AlphaZero verwendete denselben Algorithmus, um Go, Shogi (ein schachähnliches Spiel aus Japan) und Schach zu lernen. DeepMinds Atari57-System verwendet den gleichen Algorithmus, um jedes Atari-Videospiel zu meistern. Aber die KIs können immer noch nur eine Sache auf einmal lernen. Nachdem AlphaZero Schach beherrscht, muss er sein Gedächtnis löschen und Shogi von Grund auf lernen.

Legg bezeichnet diese Art von Verallgemeinerung als Ein-Algorithmus, im Gegensatz zu der Ein-Gehirn-Verallgemeinerung der Menschen. Die Ein-Algorithmus-Allgemeinheit ist sehr nützlich, aber nicht so interessant wie die Ein-Gehirn-Art, sagt er: You and I don’t need to switch brains; Wir setzen unser Schachhirn nicht ein, um eine Partie Schach zu spielen.

Der Übergang von einem Algorithmus zu einem Gehirn ist eine der größten offenen Herausforderungen in der KI. Eine Ein-Gehirn-KI wäre immer noch keine echte Intelligenz, sondern nur eine bessere Allzweck-KI – Leggs Multitool. Aber unabhängig davon, ob sie auf AGI zielen oder nicht, die Forscher sind sich einig, dass die heutigen Systeme universeller gemacht werden müssen, und für diejenigen, die AGI als Ziel haben, ist eine universelle KI ein notwendiger erster Schritt. Es gibt eine lange Liste von Ansätzen, die helfen könnten. Sie reichen von neuen Technologien, die bereits vorhanden sind, bis hin zu radikaleren Experimenten (siehe Kasten). Grob in der Reihenfolge der Reife sind dies:

• Unüberwachtes oder selbstüberwachtes Lernen. Das Beschriften von Datensätzen (z. B. das Markieren aller Bilder von Katzen mit Katze), um KIs mitzuteilen, was sie während des Trainings sehen, ist der Schlüssel zum sogenannten überwachten Lernen. Es wird immer noch weitgehend von Hand gemacht und ist ein großer Engpass. KI muss in der Lage sein, sich ohne menschliche Anleitung selbst beizubringen – z. B. Bilder von Katzen und Hunden zu betrachten und zu lernen, sie ohne Hilfe zu unterscheiden oder zu erkennen Anomalien bei Finanztransaktionen ohne vorherige Beispiele von einem Menschen markiert zu haben. Dies ist als unüberwachtes Lernen bekannt und wird immer häufiger.
• Transferlernen, einschließlich Lernen mit wenigen Schüssen. Die meisten Deep-Learning-Modelle können heute so trainiert werden, dass sie jeweils nur eine Sache gleichzeitig tun. Transfer Learning zielt darauf ab, dass KIs einige Teile ihres Trainings für eine Aufgabe, wie z. B. Schach spielen, auf eine andere, wie z. B. Go spielen, übertragen können. So lernt der Mensch.
• Gesunder Menschenverstand und Kausalschluss. Es wäre einfacher, das Training zwischen Aufgaben zu übertragen, wenn eine KI einen gesunden Menschenverstand als Ausgangspunkt hätte. Und ein wichtiger Teil des gesunden Menschenverstandes ist das Verständnis von Ursache und Wirkung. Geben gesunder Menschenverstand für KIs ist derzeit ein heißes Forschungsthema, mit Ansätzen, die von der Kodierung einfacher Regeln in ein neuronales Netz bis hin zu reichen Einschränkung der möglichen Vorhersagen, die eine KI machen kann . Aber die Arbeit steckt noch in den Kinderschuhen.
• Lernoptimierer . Dies sind Werkzeuge, die verwendet werden können, um die Art und Weise, wie KIs lernen, zu gestalten und sie zu einem effizienteren Training anzuleiten. Jüngste Arbeiten zeigen, dass diese Tools sein können selbst trainiert – was bedeutet, dass eine KI verwendet wird, um andere zu trainieren. Dies könnte ein kleiner Schritt in Richtung selbstverbessernder KI sein, einem Ziel von AGI.

Alle diese Forschungsbereiche bauen auf Deep Learning auf, das derzeit nach wie vor der vielversprechendste Weg zum Aufbau von KI ist. Deep Learning stützt sich auf neuronale Netze, die oft als gehirnähnlich beschrieben werden, da ihre digitalen Neuronen von biologischen inspiriert sind. Die menschliche Intelligenz ist das beste Beispiel für allgemeine Intelligenz, die wir haben, daher ist es sinnvoll, sich selbst als Inspiration zu betrachten.

Aber Gehirne sind mehr als ein riesiges Gewirr von Neuronen. Sie haben separate Komponenten, die zusammenarbeiten.

Hassabis zum Beispiel untersuchte den Hippocampus, der Erinnerungen verarbeitet, als er und Legg sich trafen. Hassabis glaubt, dass die allgemeine Intelligenz im menschlichen Gehirn teilweise davon herrührt Interaktion zwischen Hippocampus und Cortex . Diese Idee führte zu DeepMinds Atari-Game Playing AI, das eine vom Hippocampus inspirierte KI verwendet Algorithmus , DNC (Differential Neural Computer) genannt, der ein neuronales Netzwerk mit einer dedizierten Speicherkomponente kombiniert.

Künstliche gehirnähnliche Komponenten wie das DNC werden manchmal als kognitive Architekturen bezeichnet. Sie spielen eine Rolle in anderen DeepMind-KIs wie AlphaGo und AlphaZero, die zwei separate spezialisierte neuronale Netze mit Suchbäumen kombinieren, einer älteren Form von Algorithmen, die ein bisschen wie ein Flussdiagramm für Entscheidungen funktionieren. Sprachmodelle wie GPT-3 kombinieren ein neuronales Netzwerk mit einem spezialisierteren Netzwerk namens Transformer, das Datenfolgen wie Text verarbeitet.

Letztendlich laufen alle Ansätze zum Erreichen von AGI auf zwei große Denkrichtungen hinaus. Einer davon ist, dass Sie, wenn Sie die Algorithmen richtig hinbekommen, sie in jeder beliebigen kognitiven Architektur anordnen können. Labs wie OpenAI scheinen zu diesem Ansatz zu stehen und immer größere Modelle für maschinelles Lernen zu entwickeln, die möglicherweise Erfolge erzielen AGI durch rohe Gewalt .

Die andere Schule sagt, dass uns die Fixierung auf Deep Learning zurückhält. Wenn der Schlüssel zu AGI darin besteht, herauszufinden, wie die Komponenten eines künstlichen Gehirns zusammenarbeiten sollen, dann führt eine zu starke Konzentration auf die Komponenten selbst – die Deep-Learning-Algorithmen – dazu, den Wald vor lauter Bäumen zu verpassen. Wenn Sie die kognitive Architektur richtig einstellen, können Sie die Algorithmen fast nebenbei hinzufügen. Diesen Ansatz favorisiert Goertzel, dessen OpenCog Projekt ist ein Versuch, eine Open-Source-Plattform zu bauen, die verschiedene Teile des Puzzles zu einem AGI-Ganzen zusammenfügt. Es ist auch ein Weg, den DeepMind erkundet hat, als es neuronale Netze und Suchbäume für AlphaGo kombinierte.

UNSPRITZEN

Mein persönliches Gefühl ist, dass es etwas zwischen beidem ist, sagt Legg. Ich vermute, dass es eine relativ kleine Anzahl sorgfältig ausgearbeiteter Algorithmen gibt, die wir miteinander kombinieren können, um wirklich leistungsfähig zu sein.

Goertzel widerspricht dem nicht. Die Tiefe des Nachdenkens über AGI bei Google und DeepMind beeindruckt mich, sagt er (beide Firmen gehören jetzt Alphabet). Wenn es ein großes Unternehmen gibt, das es bekommen wird, dann sie.

Halten Sie jedoch nicht den Atem an. Gestört davon, die Herausforderung jahrzehntelang unterschätzt zu haben, riskieren nur wenige außer Musk eine Vermutung, wann (wenn überhaupt) AGI eintreffen wird. Selbst Goertzel wird es nicht riskieren, seine Ziele an einen bestimmten Zeitplan zu heften, obwohl er eher früher als später sagen würde. Es besteht kein Zweifel, dass die schnellen Fortschritte beim Deep Learning – und insbesondere bei GPT-3 – die Erwartungen geweckt haben, indem sie bestimmte menschliche Fähigkeiten nachahmen. Aber Nachahmung ist nicht Intelligenz. Es gibt immer noch sehr große Lücken auf dem Weg vor uns, und die Forscher haben ihre Tiefe immer noch nicht ergründet, geschweige denn herausgefunden, wie sie zu füllen sind.

Aber wenn wir schnell weitermachen, wer weiß? sagt Legg. In ein paar Jahrzehnten werden wir vielleicht einige sehr, sehr leistungsfähige Systeme haben.

Warum ist AGI umstritten?

Einer der Gründe, warum niemand weiß, wie man ein AGI baut, ist, dass sich nur wenige darüber einig sind, was es ist. Die verschiedenen Ansätze spiegeln unterschiedliche Vorstellungen darüber wider, was wir anstreben, von Multi-Tool bis hin zu übermenschlicher KI. Es werden winzige Schritte unternommen, um die KI universeller zu machen, aber es gibt eine enorme Kluft zwischen einem Allzweckwerkzeug, das mehrere verschiedene Probleme lösen kann, und einem, das Probleme lösen kann, die Menschen nicht lösen können – Goods letzte Erfindung. Es gibt haufenweise Fortschritte bei der KI, aber das bedeutet nicht, dass es Fortschritte bei AGI gibt, sagt Andrew Ng.

Ohne Beweise auf beiden Seiten darüber, ob AGI erreichbar ist oder nicht, wird die Frage zu einer Glaubensfrage. Es fühlt sich an wie diese Auseinandersetzungen in der mittelalterlichen Philosophie darüber, ob man unendlich viele Engel auf einen Stecknadelkopf passen kann, sagt Togelius. Das macht keinen Sinn; das sind nur Worte.

Goertzel spielt das Gerede von Kontroversen herunter. Es gibt auf beiden Seiten extreme Menschen, sagt er, aber es gibt auch viele Menschen in der Mitte, und die Menschen in der Mitte neigen nicht dazu, so viel zu plappern.

Die AGI-Welt ist voll von Forschern, die die äußersten Bereiche des Aufbaus einer Superintelligenz erforschen.

• Aufstrebende Intelligenz

  Kristinn Thórisson untersucht, was passiert, wenn einfache Programme andere einfache Programme umschreiben, um noch mehr Programme zu produzieren. Ihn interessieren die komplexen Verhaltensweisen, die aus einfachen Prozessen entstehen, die sich selbst entwickeln.

• Universelle Intelligenz

  Arthur Franz versucht, Marcus Hutters mathematische Definition von AGI, die von unendlicher Rechenleistung ausgeht, in Code zu zerlegen, der in der Praxis funktioniert.

• Offene Intelligenz

  David Weinbaum ist ein Forscher, der an arbeitet Intelligenzen, die ohne vorgegebene Ziele fortschreiten . Die Idee ist, dass Belohnungsfunktionen, wie sie typischerweise beim Reinforcement Learning verwendet werden, den Fokus einer KI einschränken. Weinbaum arbeitet an Möglichkeiten, Intelligenz zu entwickeln, die außerhalb einer bestimmten Problemdomäne funktioniert und sich einfach ziellos an ihre Umgebung anpasst.

Goertzel platziert einen AGI-Skeptiker wie Ng an einem Ende und sich selbst am anderen Ende. Seit seiner Zeit bei Webmind buhlt Goertzel um die Medien als Aushängeschild des AGI-Randes. Er leitet die AGI-Konferenz und leitet eine Organisation namens SingularityNet,die er beschreibtals eine Art Webmind auf Blockchain. Von 2014 bis 2018 war er außerdem Chefwissenschaftler bei Hanson Robotics, der in Hongkong ansässigen Firma, die 2016 einen sprechenden humanoiden Roboter namens Sophia vorstellte. MehrThemenpark Schaufensterpuppeals Spitzenforschung, hat Sophia Goertzel Schlagzeilen auf der ganzen Welt eingebracht. Aber selbst er gibt zu, dass es sich lediglich um einen Theaterroboter handelt, nicht um eine KI. Goertzels besondere Art der Showmanier hat viele ernsthafte KI-Forscher dazu veranlasst, sich von seinem Ende des Spektrums zu distanzieren.

In die Mitte stellte er Leute wie Yoshua Bengio, einen KI-Forscher an der Universität von Montreal, der 2018 gemeinsam mit Yann LeCun und Geoffrey Hinton den Turing Award gewann. In einem Jahr 2014 Keynote-Vortrag Auf der AGI-Konferenz schlug Bengio vor, dass der Aufbau einer KI mit Intelligenz auf menschlicher Ebene möglich sei, weil das menschliche Gehirn eine Maschine ist – eine, die nur herauszufinden ist. Aber er ist nicht überzeugt von Superintelligenz – einer Maschine, die den menschlichen Verstand überflügelt. Auf jeden Fall glaubt er, dass AGI nicht erreicht werden kann, wenn wir keinen Weg finden, Computern gesunden Menschenverstand und kausale Schlussfolgerungen zu geben.

Ng besteht jedoch darauf, dass er auch nicht gegen AGI ist. Ich finde AGI superspannend, da würde ich gerne hinkommen“, sagt er. Wenn ich viel Freizeit hätte, würde ich selbst daran arbeiten. Als er bei Google Brain war und Deep Learning immer stärker wurde, fragte sich Ng – wie OpenAI –, ob die einfache Skalierung neuronaler Netze ein Weg zu AGI sein könnte. Aber das seien Fragen, keine Aussagen, sagt er. AGI wurde kontrovers, als die Leute anfingen, spezifische Behauptungen darüber aufzustellen.

Ein noch spaltenderes Thema als die Hybris darüber, wie schnell AGI erreicht werden kann, ist die Panikmache darüber, was es tun könnte, wenn es losgelassen wird. Hier verschwimmen schnell Spekulation und Science-Fiction. Musk sagt, dass AGI gefährlicher sein wird als Atomwaffen. Hugo de Garis, ein KI-Forscher, der jetzt an der Wuhan-Universität in China forscht, sagte in den 2000er Jahren voraus, dass AGI bis zum Ende des Jahrhunderts zu einem Weltkrieg und Milliarden von Toten führen würde. Gottähnliche Maschinen, die er Artilekte nannte, würden sich mit menschlichen Unterstützern, den Kosmisten, gegen einen menschlichen Widerstand, die Terraner, verbünden.

Der Glaube an AGI ist wie der Glaube an Magie. Es ist eine Möglichkeit, rationales Denken aufzugeben und Hoffnung/Angst für etwas auszudrücken, das nicht verstanden werden kann.

Es hilft dem Pro-AGI-Lager sicherlich nicht, wenn jemand wie de Garis, der auch ein ausgesprochener Verfechter maskulistischer und antisemitischer Ansichten ist, einen Artikel in Goertzels AGI-Buch neben Artikeln von ernsthaften Forschern wie Hutter und Jürgen Schmidhuber hat – manchmal als Vater der modernen KI bezeichnet. Während sich viele im AGI-Lager als Fackelträger der KI sehen, sehen viele außerhalb sie als kartentragende Verrückte, die Gedanken über KI in einen Mixer mit wilden Behauptungen über die Singularität werfen (der Punkt ohne Wiederkehr, wenn sich selbst verbessernde Maschinen überholen menschliche Intelligenz), Gehirn-Uploads, Transhumanismus und die Apokalypse.

Mich stört die sehr interessante Diskussion über Intelligenzen nicht, davon sollten wir mehr haben, sagt Togelius. Mich stört die lächerliche Vorstellung, dass unsere Software eines Tages plötzlich aufwachen und die Weltherrschaft übernehmen wird.

Warum spielt es eine Rolle?

Als die KI vor einigen Jahrzehnten dem Hype von Minsky und anderen nicht gerecht werden konnte, brach das Feld mehr als einmal zusammen. Finanzierung verschwunden; Forscher gingen weiter. Es dauerte viele Jahre, bis die Technologie aus den sogenannten KI-Wintern herauskam und sich wieder durchsetzte. Dieser Hype ist jedoch immer noch da.

Alle KI-Winter wurden durch unrealistische Erwartungen geschaffen, also müssen wir diese auf Schritt und Tritt bekämpfen, sagt Ng. Pesenti stimmt zu: Wir müssen die Begeisterung in den Griff bekommen, sagt er.

Eine unmittelbarere Sorge ist, dass diese unrealistischen Erwartungen die Entscheidungsfindung der politischen Entscheidungsträger beeinflussen. Bryson sagt, sie habe in Sitzungssälen und Regierungen viel konfuses Denken miterlebt, weil die Leute dort eine Science-Fiction-Ansicht von KI haben. Dies kann dazu führen, dass sie sehr reale ungelöste Probleme ignorieren – wie etwa die Art und Weise, wie rassistische Vorurteile durch verzerrte Trainingsdaten in KI kodiert werden können, die mangelnde Transparenz darüber, wie Algorithmen funktionieren, oder Fragen, wer haftet, wenn eine KI eine falsche Entscheidung trifft – zugunsten phantastischer Bedenken über Dinge wie eine Roboterübernahme.

Der Hype begeistert auch Investoren. Musks Geld hat dazu beigetragen, echte Innovationen zu finanzieren, aber wenn er sagt, dass er Arbeiten zu existenziellen Risiken finanzieren will, ermutigt es die Forscher, über Bedrohungen in der fernen Zukunft zu sprechen. Einige von ihnen glauben es wirklich; Einige von ihnen sind nur hinter dem Geld und der Aufmerksamkeit und was auch immer her, sagt Bryson. Und ich weiß nicht, ob alle ganz ehrlich zu sich selbst sind, wer sie sind.

Der Reiz von AGI ist nicht überraschend. Selbstreflexion und Schöpfung sind zwei der menschlichsten Aktivitäten. Der Drang, eine Maschine nach unserem Bild zu bauen, ist unwiderstehlich. Viele Menschen, die AGI heute kritisch gegenüberstehen, haben in ihrer früheren Karriere damit geliebäugelt. Wie Goertzel verbrachte Bryson mehrere Jahre damit, ein künstliches Kleinkind zu bauen. Im Jahr 2005 organisierte Ng einen Workshop bei NeurIPS (damals NIPS genannt), der weltweit wichtigsten KI-Konferenz mit dem Titel Towards human-level AI? Es war verrückt, sagt Ng. LeCun, inzwischen ein häufiger Kritiker des AGI-Geschwätzes, hielt eine Grundsatzrede.

Diese Forscher gingen zu praktischeren Problemen über. Aber dank der Fortschritte, die sie und andere gemacht haben, steigen die Erwartungen wieder. Viele Leute in der Branche haben nicht so viel Fortschritt erwartet, wie wir es in den letzten Jahren gemacht haben, sagt Legg. Es war eine treibende Kraft, um AGI viel glaubwürdiger zu machen.

Selbst die AGI-Skeptiker geben zu, dass die Debatte die Forscher zumindest dazu zwingt, über die Richtung des Feldes insgesamt nachzudenken, anstatt sich auf den nächsten neuronalen Netzwerk-Hack oder Benchmark zu konzentrieren. Die ernsthafte Betrachtung der Idee von AGI führt uns an wirklich faszinierende Orte, sagt Togelius. Vielleicht besteht der größte Fortschritt darin, den Traum zu verfeinern und herauszufinden, worum es in dem Traum geht.

verbergen