Was es braucht, damit Computer bewusst werden

Ist ein Wurm bei Bewusstsein? Wie wäre es mit einer Hummel? Fühlt ein Computer, der Schach spielen kann, etwas?

Christof Koch

Für Christof Koch, Chief Scientific Officer des Allen Institute for Brain Science in Seattle, liegt die Antwort auf diese Fragen möglicherweise in der Struktur des Universums selbst. Bewusstsein, so glaubt er, ist eine intrinsische Eigenschaft der Materie, genau wie Masse oder Energie. Organisieren Sie Materie genau richtig, wie im Säugetiergehirn, und Hier , du kannst fühlen.

Der heute 57-jährige Koch hat fast ein Vierteljahrhundert damit verbracht, zu erklären, warum sich beispielsweise die Sonne auf Ihrem Gesicht warm anfühlt. Aber nach dem Schreiben Drei Bücher über Bewusstsein , sagt Koch, dass die Forscher noch weit davon entfernt sind, zu wissen, warum es auftritt, oder sich überhaupt darauf einigen, was es ist. Es ist ein schwieriges Problem (siehe Die Codes des Gehirns knacken). Das ist einer der Gründe, warum Koch 2011 seine Position bei Caltech aufgab, um Teil eines 500-Millionen-Dollar-Projekts zu werden, das vom Milliardär Paul Allen, dem Mitbegründer von Microsoft, ins Leben gerufen wurde.

Das Ziel des Allen Institute ist es, einen detaillierten Atlas jedes Neurons und jeder Synapse im Gehirn von Säugetieren zu erstellen. Das würde der Neurowissenschaft eine Fülle von Daten liefern, ähnlich dem, was das Human Genome Project erreicht hat.

Aber Koch hat seine Suche nach einer großen Theorie, die alles erklären könnte, nicht aufgegeben. Tatsächlich glaubt er, dass Bewusstsein durch etwas namens erklärt werden könnte Integrierte Informationstheorie , die behauptet, dass Bewusstsein ein Produkt von Strukturen wie dem Gehirn ist, die sowohl eine große Menge an Informationen speichern können als auch eine kritische Dichte von Verbindungen zwischen ihren Teilen aufweisen.

Für Koch bietet die Theorie ein Mittel, um Bewusstseinsgrade bei Menschen mit Hirnschäden, bei Arten im gesamten Tierreich und sogar bei Maschinen zu beurteilen. Wir haben Koch letzte Woche während zum Computerbewusstsein befragt MIT Technology Review 's EmTech-Konferenz.

Wird die Entdeckung der biologischen Grundlage des Bewusstseins in irgendeiner Weise entmenschlichend sein? Was, wenn alles nur eine Illusion ist?

Ich finde diese Ansicht einiger Leute, dass Bewusstsein eine Illusion ist, lächerlich. Wenn es eine Illusion ist, dann ist es die stärkste Illusion, die wir haben. Ich meine, die berühmteste Schlussfolgerung in der westlichen Philosophie ist was? Ich denke. Daher bin ich. Die Tatsache, dass Sie eine bewusste Erfahrung haben, ist die einzige unbestreitbare Gewissheit, die Sie haben.

Wenn Wissenschaftler die Grundlagen des Bewusstseins entdecken, welche Technologien könnten daraus resultieren?

Wir könnten einen Test machen, um zu sagen, wer Bewusstsein hat und wer nicht. Wir führen hierzulande sehr emotionale Debatten über Abtreibung. Ich hätte gerne einen objektiven Weg, um zu testen, an welchem ​​Punkt ein Fötus tatsächlich beginnt, bewusste Empfindungen zu haben. Oder ob ein Patient [im Koma] bei Bewusstsein ist oder nicht. Oft weiß man es einfach nicht. Dies sind Fragen, die sich Menschen seit historischen Zeiten stellen, aber sobald wir eine Theorie haben und eine weithin akzeptierte Theorie, können wir sie beantworten. Auch wenn ich eine bewusste Maschine bauen wollte, würde sie mir eine Blaupause geben.

Du denkst also, ein Computer kann bewusst sein?

Ich habe [letzte Woche] am MIT einen Vortrag über Integrated Information Theory gehalten, entwickelt von Giulio Tononi an der University of Wisconsin. Dies ist eine Theorie, die eine sehr klare Vorhersage macht: Sie besagt, dass Bewusstsein eine Eigenschaft komplexer Systeme ist, die ein bestimmtes Ursache-Wirkungs-Repertoire haben. Sie haben eine besondere Art, mit der Welt zu interagieren, wie es das Gehirn tut oder im Prinzip wie ein Computer könnte. Wenn Sie einen Computer bauen würden, der die gleichen Schaltkreise wie das Gehirn hat, würde dieser Computer auch ein damit verbundenes Bewusstsein haben. Es würde sich wie etwas anfühlen, dieser Computer zu sein. Dies gilt jedoch nicht für digitale Simulationen.

Wenn ich ein perfektes Softwaremodell des Gehirns baue, wäre es niemals bewusst, aber eine speziell entworfene Maschine, die das Gehirn nachahmt, könnte es sein?

Richtig. Diese Theorie besagt eindeutig, dass eine digitale Simulation nicht bewusst wäre, was sich deutlich von der vorherrschenden funktionalistischen Überzeugung von 99 Prozent der Menschen am MIT oder Philosophen wie Daniel Dennett unterscheidet. Sie alle sagen, sobald Sie alles simuliert haben, ist nichts mehr erforderlich, und es wird bewusst sein.

Ich denke, dass Bewusstsein, wie Masse, eine grundlegende Eigenschaft des Universums ist. Die Analogie, und sie ist sehr gut, ist, dass man heutzutage ziemlich gute Wettervorhersagen machen kann. Sie können das Innere eines Sturms vorhersagen. Aber im Inneren des Computers ist es nie nass. Sie können ein Schwarzes Loch in einem Computer simulieren, aber die Raumzeit wird nicht gebogen. Etwas zu simulieren ist nicht das Wahre.

Genauso verhält es sich mit dem Bewusstsein. In 100 Jahren kann man das Bewusstsein vielleicht am Computer simulieren. Aber es wird nichts erfahren. Nada. Es wird innen schwarz sein. Es wird keinerlei Erfahrung haben, auch wenn es vielleicht unsere Intelligenz und unsere Fähigkeit zu sprechen hat.

Ich sage nicht, dass Bewusstsein eine magische Seele ist. Es ist etwas Körperliches. Bewusstsein tritt immer in das Physische ein. Es ist jedoch eine bestimmte Art von Hardware erforderlich, um sie zu instanziieren. Ein Computer, der aus Transistoren besteht, die Ladung an einem Gatter hin- und herbewegen, wobei jedes Gatter mit einer kleinen Anzahl anderer Gatter verbunden ist, ist nur eine ganz andere Ursache-Wirkungs-Struktur als das, was wir im Gehirn haben, wo Sie es haben Ein Neuron ist mit 10.000 Eingabeneuronen verbunden und projiziert auf 10.000 andere Neuronen. Aber wenn Sie den Computer auf die richtige Weise bauen würden, wie einen neuromorphen Computer [siehe Denken in Silizium ], könnte er bewusst sein.

Wenn ich Sie in einen Raum mit einem Computer aus der Zukunft bringen würde, könnten Sie feststellen, ob er bei Bewusstsein ist?

Ich konnte nicht von außen. Ich müsste mir die Hardware ansehen.

Was ist mit dem Turing-Test?

Die Frage, die Turing stellte, ist Können Maschinen denken? ? Aber letztendlich ist es ein operativer Test für die Intelligenz, nicht für das Bewusstsein. Wenn du ein kluges Gespräch mit einem Typen in einem anderen Raum hast und nach einer halben Stunde nicht entscheiden kannst, ob es ein Computer oder ein Mensch ist, nun, dann sagst du, es ist so intelligent wie ein Mensch. Aber der Turing-Test würde mir nicht sagen, ob die Maschine etwas erfährt. Ich könnte fragen: Sind Sie bei Bewusstsein? und die Maschine könnte sagen: Ja, ich bin bei vollem Bewusstsein. Und warum behauptest du, dass ich es nicht bin? Ich bin beleidigt. Aber ich konnte es nicht wirklich wissen. Ich müsste sagen, Entschuldigung, ich muss Sie auseinandernehmen und verstehen, wie Sie gemacht sind und wie Sie diese unterschiedlichen physischen Zustände tatsächlich erzeugen.

Gibt es nicht eine Fangfrage, die Sie stellen könnten und die nur ein bewusstes Wesen beantworten könnte?

Eine sehr gute Frage. Beim Menschen haben wir praktische Tests für das Bewusstsein. Wenn Sie einen schweren Unfall haben und in die Notaufnahme gehen, werden Sie gefragt: Können Sie Ihre Augen bewegen? Kannst du deine Glieder bewegen? Können Sie sprechen? Wenn Sie sprechen können, wissen Sie, welches Jahr wir haben? Wissen Sie, wer der Präsident ist?

Aber woher weiß ich wirklich, dass du bei Bewusstsein bist? Das ist das Problem des Solipsismus. Letztendlich weiß ich es nicht. Aber ich weiß, dass Ihr Gehirn meinem sehr ähnlich ist. Ich habe viele Menschen in Scanner gesteckt, und ich weiß, dass sie alle ein Gehirn haben, und ihr Gehirn verhält sich ähnlich wie meines. Es gibt also eine vollkommen vernünftige Schlussfolgerung, dass auch Sie bei Bewusstsein sind.

Aber je mehr sich diese Systeme von mir unterscheiden, desto schwieriger ist es, diesen Schritt durch Schlussfolgerung zu machen. Nehmen Sie zum Beispiel eine Biene. Fühlt es sich an wie etwas, eine Biene zu sein und in den goldenen Sonnenstrahlen zu fliegen und Nektar zu haben? Ich finde es sehr schwierig zu wissen, ob eine Biene bei Bewusstsein ist oder nicht. Und ein Computer ist noch radikaler anders. Es gibt kein Verhalten, nach dem ich es beurteilen kann. Ich müsste mir die zugrunde liegende Hardware ansehen.

Glauben Sie, dass wir jemals bewusste Maschinen bauen werden?

Ich bin mir nicht sicher, warum wir das tun würden. Aber es steht für mich außer Frage, dass wir intelligente Maschinen bauen werden, die den Turing-Test bestehen können, lange bevor wir die wahren biologischen Grundlagen der menschlichen Intelligenz verstehen. Und ich denke, dass damit Gefahren verbunden sind, die die meisten Menschen als fröhliche Optimisten völlig ignorieren.

Welche Gefahren?

Schaust du keine Science-Fiction-Filme? Runaway AI natürlich. Denken Sie an den Finanzmarkt, all diese Handelsmaschinen, Flash-Crashs. Die Leute werden Computerintelligenz missbrauchen und blind für irgendein Ziel maximieren. Es wird zu einer immer stärkeren Machtkonzentration bei immer weniger Menschen führen. Wir sehen das bereits, es wird zu massiver Arbeitslosigkeit führen. Und vielleicht 30 oder 40 Jahre später denke ich, dass es wirklich eine existentialistische Gefahr für die Spezies gibt, auf der Ebene von Atomwaffen oder einem Meteoriteneinschlag.

Alles ohne Bewusstsein der Maschine? In den Filmen ist der Moment, in dem die KI verrückt spielt, derselbe Moment, in dem sie ein bewusstes Selbstbewusstsein erlangt.

Das liegt daran, dass die Leute eine fesselnde Geschichte schreiben wollen. Wenn der Gegner nichts spürt, wenn nichts da ist, macht es keinen guten Gegner.

verbergen