211service.com
Einem einzelnen künstlichen Neuron wird beigebracht, Hunderte von Mustern zu erkennen
Künstliche Intelligenz ist ein Bereich, der sich mitten in einem schnellen, spannenden Wandel befindet. Das liegt vor allem an einem verbesserten Verständnis der Funktionsweise neuronaler Netze und der Erstellung umfangreicher Datenbanken, um sie zu trainieren. Das Ergebnis sind Maschinen, die plötzlich besser geworden sind in Dingen wie Gesichts- und Objekterkennung, Aufgaben, bei denen Menschen immer die Oberhand hatten (siehe Maschinen beibringen, uns zu verstehen ).
Aber es gibt ein Rätsel im Herzen dieser Durchbrüche. Obwohl neuronale Netze angeblich der Funktionsweise des menschlichen Gehirns nachempfunden sind, sind die darin enthaltenen künstlichen Neuronen nicht mit denen vergleichbar, die in unserer eigenen Wetware arbeiten. Künstliche Neuronen zum Beispiel haben im Allgemeinen nur eine Handvoll Synapsen und es fehlen die kurzen, verzweigten Nervenfortsätze, die als Dendriten bekannt sind, und die Tausenden von Synapsen, die sich entlang dieser bilden. Tatsächlich weiß niemand wirklich, warum echte Neuronen so viele Synapsen haben.
Heute ändert sich das dank der Arbeit von Jeff Hawkins und Subutai Ahmad bei Numenta, einem Startup aus dem Silicon Valley, das sich auf das Verständnis und die Nutzung der Prinzipien der biologischen Informationsverarbeitung konzentriert. Der Durchbruch, den diese Jungs gemacht haben, besteht darin, eine neue Theorie zu entwickeln, die endlich die Rolle der großen Anzahl von Synapsen in echten Neuronen erklärt, und ein Modell zu erstellen, das auf dieser Theorie basiert und viele der intelligenten Verhaltensweisen echter Neuronen reproduziert.
Echte Neuronen bestehen aus einem Zellkörper, dem Soma, der den Zellkern enthält und von dem sich eine Reihe naher oder proximaler Dendriten sowie das Axon erstrecken, ein feiner kabelartiger Vorsprung, der sich viele Zentimeter erstrecken kann, um sich zu verbinden zu anderen Neuronen. Am Ende des Axons befinden sich weitere Zweige, die aufgrund ihrer Entfernung vom Soma als distale Dendriten bekannt sind.
Proximale und distale Dendriten stellen alle Tausende von Verbindungen, Synapsen genannt, zu den Axonen anderer Nervenzellen her. Diese Verbindungen beeinflussen bekanntermaßen die Rate, mit der die Nervenzelle elektrische Signale erzeugt, die als Spikes bekannt sind.
Der Konsens besteht darin, dass Neuronen lernen, indem sie bestimmte Verbindungsmuster zwischen ihren Synapsen erkennen und feuern, wenn sie dieses Muster sehen.
Aber während es leicht zu verstehen ist, wie proximale Synapsen den Zellkörper und die Feuerrate beeinflussen können, ist es schwer zu verstehen, wie distale Synapsen dasselbe tun können, weil sie so weit entfernt sind.
Hawkins und Ahmad sagen jetzt, dass sie wissen, was los ist. Ihre neue Idee ist, dass distale und proximale Synapsen ganz unterschiedliche Rollen im Lernprozess spielen. Proximale Synapsen spielen die konventionelle Rolle, die Zelle zum Feuern zu bringen, wenn bestimmte Verbindungsmuster auftauchen.
Dies ist der herkömmliche Lernprozess. Wir zeigen, dass ein Neuron Hunderte von Mustern erkennen kann, selbst bei großen Mengen an Rauschen und Variabilität, solange die neuronale Gesamtaktivität gering ist, sagen Hawkins und Ahmad.
Aber distale Synapsen tun etwas anderes. Sie erkennen auch, wenn bestimmte Muster vorhanden sind, lösen aber keine Zündung aus. Stattdessen beeinflussen sie den elektrischen Zustand der Zelle in einer Weise, die das Feuern wahrscheinlicher macht, wenn ein anderes spezifisches Muster auftritt. Also bereiten distale Synapsen die Zelle auf das Eintreffen anderer Muster vor. Oder, wie Hawkins und Ahmad es ausdrückten, diese Synapsen helfen der Zelle vorherzusagen, was das nächste von den proximalen Synapsen wahrgenommene Muster sein wird.
Das ist enorm wichtig. Das heißt, die Zelle lernt neben dem Vorliegen eines bestimmten Musters auch die Reihenfolge, in der Muster auftreten. Wir zeigen, wie ein Netzwerk von Neuronen mit dieser Eigenschaft Sequenzen von Mustern lernen und abrufen wird, sagen sie.
Außerdem zeigen sie, dass das alles auch bei starkem Rauschen, wie es in biologischen Systemen immer der Fall ist, gut funktioniert.
Das ist eine bedeutende neue Art, über Neuronen nachzudenken, und eine, die einige der Schlüsselmerkmale der Informationsverarbeitung im menschlichen Gehirn reproduziert. Hawkins und Ahmad zeigen zum Beispiel, dass sich dieses System nicht jedes Detail jedes Musters in einer Sequenz merkt, sondern stattdessen den Unterschied zwischen einem Muster und dem nächsten speichert.
Wichtig ist also nicht die Gesamtmenge an Informationen in einem Muster, sondern der Unterschied zwischen diesem Muster und dem nächsten.
Das ist eine interessante Eigenschaft, die helfen könnte, ein weiteres rätselhaftes Merkmal des menschlichen Gedächtnisses namens Chunking zu erklären. Dies ist die Beobachtung, dass Menschen im Durchschnitt etwa sieben Informationsblöcke in ihrem Arbeitsgedächtnis speichern können. Diese Brocken können Dinge wie Ziffern, Buchstaben oder sogar Wörter sein, aber was auch immer sie sind, Menschen können sich nur etwa sieben davon merken (plus oder minus zwei!).
Aber hier ist die Sache – der Informationsgehalt eines einzelnen Wortes, wie z. B. Synapse, ist erheblich größer als der Informationsgehalt einer einzelnen Ziffer, wie z. B. einer 7. Das Rätsel ist, dass niemand weiß, wie das Gehirn es schafft, die Informationen in sieben zu speichern Worte so leicht, wie es die Informationen in sieben Ziffern enthält.
Aber in Hawkins und Ahmads neuem Modell verschwindet dieses Problem. Das Gehirn speichert nicht die Informationen, die sich auf das Wort oder die Ziffer beziehen, sondern nur den Unterschied zwischen ihnen, der erheblich geringer sein kann. Das sollte zu einigen überprüfbaren Hypothesen über die Natur des Gedächtnisses führen.
Das neue Modell führt auch zu anderen überprüfbaren Hypothesen. Das Modell funktioniert beispielsweise nur, wenn zwischen dem Axon eines Neurons und einem Dendrit eines anderen wenige Synapsen liegen. Wenn es zu viele Synapsen gäbe, wäre es nicht möglich, ein Muster vom anderen zu unterscheiden, und alle Muster würden gleich aussehen.
Wenn das Modell von Hawkins und Ahmad richtig ist, kann dies in echten Neuronen nicht passieren. Um dies zu verhindern, sagen wir die Existenz eines Mechanismus voraus, der aktiv die Bildung mehrerer Synapsen verhindert, nachdem eine gebildet wurde, sagen sie.
Das ist eine ungewöhnliche Sache in der Biologie – eine überprüfbare Hypothese. Aber es ist eines, das Neurowissenschaftlern sicherlich etwas gibt, wonach sie mit ihren Lupen suchen können.
Ein letzter Punkt ist, dass dieses neue Denken nicht aus einem akademischen Umfeld stammt, sondern von einem Silicon-Valley-Startup. Dieses Unternehmen ist das geistige Kind von Jeff Hawkins, einem Unternehmer, Erfinder und Neurowissenschaftler. Hawkins erfand den Palm Pilot in den 1990er Jahren und widmete sich seitdem hauptberuflich den Neurowissenschaften.
Das ist eine ungewöhnliche Kombination von Fachwissen, aber eine, die es sehr wahrscheinlich macht, dass wir diese neuen künstlichen Neuronen in nicht allzu ferner Zukunft bei der Arbeit an realen Problemen sehen werden. Hawkins und Ahmad nennen ihre neuen Spielzeuge übrigens Hierarchical Temporal Memory Neurons oder HTM-Neuronen. Erwarten Sie, noch viel mehr über sie zu hören.
Ref: arxiv.org/abs/1511.00083 : Warum Neuronen Tausende von Synapsen haben, eine Theorie des Sequenzgedächtnisses im Neokortex