Warum sogar das Gehirn einer Motte schlauer ist als eine KI

Eines der merkwürdigen Merkmale der tiefen neuronalen Netze hinter dem maschinellen Lernen ist, dass sie sich überraschend von den neuronalen Netzen in biologischen Systemen unterscheiden. Obwohl es Ähnlichkeiten gibt, haben einige wichtige maschinelle Lernmechanismen keine Entsprechung in der natürlichen Welt, wo das Lernen auf andere Weise zu erfolgen scheint.

Diese Unterschiede erklären wahrscheinlich, warum maschinell lernende Systeme in einigen Leistungsaspekten so weit hinter natürlichen zurückbleiben. Insekten zum Beispiel können Gerüche bereits nach wenigen Kontakten erkennen. Maschinen hingegen benötigen zum Lernen riesige Trainingsdatensätze. Informatiker hoffen, dass ihnen das Verständnis von mehr über natürliche Formen des Lernens helfen wird, die Lücke zu schließen.

Geben Sie Charles Delahunt und Kollegen an der University of Washington in Seattle ein, die ein künstliches neuronales Netzwerk geschaffen haben, das die Struktur und das Verhalten des olfaktorischen Lernsystems in nachahmt Freitag manduca Motten. Sie sagen, dass ihr System einige wichtige Einblicke in die Art und Weise liefert, wie natürliche Netzwerke lernen, mit möglichen Auswirkungen auf Maschinen.

Zuerst etwas Hintergrund. Das olfaktorische Lernsystem bei Motten ist relativ einfach und von Neurowissenschaftlern gut kartiert. Es besteht aus fünf unterschiedlichen Netzwerken, die Informationen von einem zum nächsten weiterleiten.

Das erste ist ein System von rund 30.000 chemischen Rezeptoren, die Gerüche erkennen und eine ziemlich verrauschte Reihe von Signalen an die nächste Ebene senden, die als Antennenkeule bekannt ist. Diese enthält etwa 60 Einheiten, bekannt als Glomeruli, die sich jeweils auf bestimmte Gerüche konzentrieren.

Die Antennenkeule sendet dann neurale Geruchscodes an den Pilzkörper, der etwa 4.000 Kenyon-Zellen enthält und vermutlich Gerüche als Erinnerungen kodiert.

Schließlich wird das Ergebnis von einer Schicht von extrinsischen Neuronen ausgelesen, deren Zahl in den 10ern liegt. Diese interpretieren die Signale des Pilzkörpers als Aktionen, wie z. B. gegen den Wind fliegen.

Mehrere Aspekte dieses Systems unterscheiden sich grundlegend von dem, was in maschinell lernenden Netzwerken zu finden ist. Beispielsweise codiert die Antennenkeule Informationen in einem niedrigdimensionalen Parameterraum, sendet sie jedoch an den Pilzkörper, der sie in einem hochdimensionalen Parameterraum codiert. Im Gegensatz dazu haben die Schichten in künstlichen neuronalen Netzen eher ähnliche Dimensionen.

Und bei Motten löst die erfolgreiche Erkennung eines Geruchs einen Belohnungsmechanismus aus, bei dem Neuronen einen chemischen Neurotransmitter namens Octopamin in die Antennenlappen und den Pilzkörper sprühen.

Dies ist ein entscheidender Teil des Lernprozesses. Octopamin scheint dabei zu helfen, die neuronale Verdrahtung zu verstärken, die zum Erfolg führt. Es ist ein wichtiger Teil des hebbischen Lernens, bei dem Zellen, die zusammen feuern, miteinander verdrahtet sind. Tatsächlich wissen Neurowissenschaftler seit langem, dass Motten ohne Octopamin nicht lernen. Aber die Rolle, die es spielt, ist nicht gut verstanden.

Lernen in Maschinen ist sehr unterschiedlich. Es stützt sich auf einen Prozess namens Backpropagation, der die neuronalen Verbindungen so optimiert, dass die Ergebnisse verbessert werden. Aber Informationen reisen in diesem Prozess im Wesentlichen rückwärts durch das Netzwerk, und es gibt kein bekanntes Analogon davon in der Natur.

Um besser zu verstehen, wie Motten lernen, haben Delahunt und Co. ein künstliches neuronales Netzwerk entwickelt, das das Verhalten des natürlichen nachahmt. Wir haben ein End-to-End-Rechenmodell der erstellt Freitag manduca Motten-Geruchssystem, das die Interaktion des Antennenlappens und des Pilzkörpers unter Octopamin-Stimulation beinhaltet, sagen sie.

Das Modell ist speziell darauf ausgelegt, das Verhalten des natürlichen Systems auf allen Ebenen zu reproduzieren. Insbesondere simuliert das Modell die von den Geruchsrezeptoren erzeugten verrauschten Signale und die Dimensionsänderung, wenn Informationen von der Antennenkeule zum Pilzkörper fließen, und enthält ein Analogon der Rolle, die Octopamin spielt.

Und die Ergebnisse sorgen für eine interessante Lektüre. Das Modell zeigt, wie die Geruchsrezeptoren ein verrauschtes Signal erzeugen, das von der Antennenkeule vorverstärkt wird. Die Dimensionsänderung, wenn das Signal zum Pilzkörper wandert, hat jedoch den Effekt, dass Rauschen entfernt wird, und dies ermöglicht dem System, spezifische, eindeutige Aktionssignale wie Fliegen gegen den Wind zu erzeugen.

Die Rolle von Octopamin sieht auch klarer aus. Die Simulationen zeigen, dass Lernen ohne Octopamin stattfinden kann, aber es ist so langsam, dass es effektiv nutzlos ist. Dies impliziert, dass Octopamin als starker Lernbeschleuniger wirkt.

Aber wie es das macht, steht noch zur Diskussion. Delahunt und Co haben ihre eigenen Ideen. Vielleicht ist es ein Mechanismus, der es der Motte ermöglicht, intrinsische organische Beschränkungen für das Hebbsche Wachstum neuer Synapsen zu umgehen, Beschränkungen, die die Motte sonst auf eine unannehmbar langsame Lernrate beschränken würden, schlagen sie vor.

Octopamin hat auch eine andere Rolle. Hebbisches Lernen verstärkt nur bereits bestehende Verbindungen, und das wirft die Frage auf, wie neue Verbindungen entstehen. Delahunt und Co sagen, dass Octopamin neue Übertragungskanäle für die Verkabelung öffnet. Dies erweitert den Lösungsraum, den das System während des Lernens erkunden kann, sagen sie.

Und am beeindruckendsten ist, dass das simulierte Netzwerk auf ähnliche Weise lernt wie das natürliche Netzwerk. Unser Modell ist in der Lage, neue Gerüche robust zu lernen, und unsere Simulationen von Integrate-and-Fire-Neuronen stimmen mit den statistischen Merkmalen von In-vivo-Feuerungsratendaten überein, sagen Delahunt und Co.

Diese Arbeit könnte erhebliche Auswirkungen auf das Design synthetischer neuronaler Netze haben, die schnell lernen müssen. Aus Sicht des maschinellen Lernens liefert das Modell bioinspirierte Mechanismen, die möglicherweise nützlich sind, um neuronale Netze für schnelles Lernen aus sehr wenigen Proben zu konstruieren, sagt das Team.

Die maschinellen Lernnetzwerke der Zukunft könnten also bald simulierte Versionen von Octopamin und anderen Neurotransmittern enthalten.

Natürlich sind Neurotransmitter nicht nur beim Lernen wichtig. Neurowissenschaftler sind sich der Rolle bewusst, die sie bei Emotionen, Stimmungsregulation und so weiter spielen. Darin liegt ein weiterer Forschungsweg, an dem Teams für maschinelles Lernen interessiert sein werden.

Ref: arxiv.org/abs/1802.02678 : Biologische Mechanismen für das Lernen: Ein Computermodell des olfaktorischen Lernens in der Manduca sexta Motte, mit Anwendungen auf neuronale Netze

verbergen