211service.com
Doomsday Grants werden wichtige KI-Forschung voranbringen
Auch wenn Sie den bevorstehenden Aufstieg superintelligenter Maschinen nicht fürchten, gibt es Grund, neue Mittel für die Erforschung des Themas zu begrüßen, da dies dazu beitragen könnte, künstliche Intelligenz in naher Zukunft praktischer zu machen.
Die jüngsten Fortschritte in der Informatik, insbesondere beim maschinellen Lernen, fielen mit einigen bemerkenswert offenen Spekulationen darüber zusammen, wohin uns die künstliche Intelligenz führen könnte. Im vergangenen Jahr warnte der milliardenschwere Unternehmer Elon Musk offen, dass die KI-Forschung riskiere, den Dämon zu beschwören, und die größte existenzielle Bedrohung für die Menschheit darstellen könnte. Andere prominente Persönlichkeiten, darunter Bill Gates und Stephen Hawking, haben ebenfalls Bedenken hinsichtlich der potenziellen Risiken bei der Entwicklung wirklich intelligenter Maschinen geäußert.
Der Institut Zukunft des Lebens , eine Organisation, die diese Woche in Cambridge, Massachusetts, gegründet wurde, um die potenziellen existenziellen Risiken der KI zu mindern kündigte Zuschüsse in Höhe von 7 Millionen US-Dollar an für Projekte, die darauf abzielen, KI robust und nützlich zu halten. Das Stipendium wurde zum großen Teil von Musk finanziert, der dem Institut 10 Millionen US-Dollar zur Verfügung gestellt hat.
Vielleicht ist es sinnvoll, solche unerwünschten Ergebnisse in Betracht zu ziehen, aber wir sind noch weit davon entfernt, etwas zu schaffen, was wir als wirklich intelligent betrachten könnten. Während einige der 37 Projekte, die vom Future of Life Institute finanziert werden, ziemlich weit entfernte Szenarien mit extrem leistungsfähiger KI erforschen, befassen sich andere mit wichtigen Bemühungen, Software zuverlässiger, rechenschaftspflichtiger und nützlicher in komplexen oder mehrdeutigen Kontexten zu machen.
Beispielsweise:
* Fuxin Li , ein Forschungswissenschaftler an der Georgia Tech, wird Möglichkeiten untersuchen, Fehler in Deep-Learning-Systemen zu verstehen und vorherzusagen. Dies ist eine sehr lohnende Anstrengung. Während diese fortschrittlichen neuronalen Netze in den letzten Jahren in Bereichen wie der Bild- und Spracherkennung spektakuläre Ergebnisse erzielt haben, können sie auf überraschende Weise versagen.
* Stefan Ermon , ein Assistenzprofessor an der Stanford University, wird Möglichkeiten untersuchen, autonome Agenten dazu zu bringen, sich in komplexen Situationen rational zu verhalten. Letztendlich könnte dies beispielsweise einem automatisierten Auto helfen, die Risiken verschiedener Handlungen in einer komplexen Situation abzuwägen, damit es letztendlich so handeln kann, wie wir es für verantwortungsvoller und ethisch vertretbarer halten.
* Seth Herde , ein Forscher an der University of Colorado, wird versuchen, neurowissenschaftliche Forschung zur menschlichen Entscheidungsfindung auf Bemühungen anzuwenden, Computerhardware mit sogenannten neuromorphen Systemen zu bauen, die vom Gehirn inspiriert sind. Dies könnte wichtige Einblicke in das Design dieser Systeme liefern und auf einige neuartige Anwendungen hinweisen.
* Manuela Veloso , Professor an der Carnegie Mellon University, wird sich bemühen, Wege zu entwickeln, mit denen Maschinen Menschen ihr Verhalten erklären können. Selbst für Experten kann es schwierig sein zu verstehen, warum sich eine Maschine auf unerwartete Weise verhält. Die Verbesserung dieser Situation könnte besonders wichtig sein, da Roboter beginnen, enger mit Menschen zusammenzuarbeiten.
Ironischerweise zeigen diese Forschungsprojekte auch, wie weit wir davon entfernt sind, etwas zu bauen, das möglicherweise die Welt erobern könnte. Und während es vielleicht sinnvoll ist, zukünftige Risiken zu berücksichtigen, solange noch genügend Zeit ist, hoffen wir, dass die Angst vor futuristischen Szenarien kein Risiko für sinnvollen technologischen Fortschritt darstellt.