211service.com
Werden uns Maschinen auslöschen?
Leute, die befürchten, dass wir auf dem Weg sind, gefährlich intelligente Maschinen zu erfinden, missverstehen den Stand der Informatik. 29. Januar 2016
Yoshua Bengio leitet eine der weltweit führenden Forschungsgruppen, die eine leistungsstarke KI-Technik namens Deep Learning entwickelt. Die erstaunlichen Fähigkeiten, die Deep Learning Computern in den letzten Jahren verliehen hat, von der Spracherkennung auf menschlicher Ebene und der Bildklassifizierung bis hin zu grundlegenden Konversationsfähigkeiten, haben zu Warnungen vor den Fortschritten geführt, die die KI macht, um die menschliche Intelligenz zu erreichen oder vielleicht sogar zu übertreffen. Prominente wie Stephen Hawking und Elon Musk haben sogar davor gewarnt, dass künstliche Intelligenz eine existenzielle Bedrohung für die Menschheit darstellen könnte. Musk und andere investieren Millionen von Dollar in die Erforschung der potenziellen Gefahren von KI sowie möglicher Lösungen. Aber die schlimmsten Aussagen klingen für viele der Leute, die die Technologie tatsächlich entwickeln, übertrieben. Bengio, Professor für Informatik an der Universität von Montreal, relativierte die Dinge in einem Interview mit MIT Technology Review Will Knight, Chefredakteur für KI und Robotik von .
Sollten wir uns Sorgen darüber machen, wie schnell sich künstliche Intelligenz entwickelt?
Diese Geschichte war Teil unserer Ausgabe März 2016
- Siehe den Rest des Problems
- Abonnieren
Es gibt Menschen, die die erzielten Fortschritte maßlos überschätzen. Hinter vielen dieser Dinge stehen viele, viele Jahre kleiner Fortschritte, einschließlich alltäglicher Dinge wie mehr Daten und Computerleistung. Der Hype dreht sich nicht darum, ob das, was wir tun, nützlich ist oder nicht – er ist es. Aber die Leute unterschätzen, wie viel mehr Wissenschaft getan werden muss. Und es ist schwierig, den Hype von der Realität zu trennen, weil wir diese großartigen Dinge sehen und sie mit bloßem Auge magisch aussehen.
Besteht die Gefahr, dass KI-Forscher den Dämon versehentlich entfesseln, wie Musk es formuliert hat?
Es ist nicht so, dass jemand plötzlich ein magisches Rezept gefunden hätte. Die Dinge sind viel komplizierter als die einfache Geschichte, die manche Leute gerne erzählen würden. Journalisten würden manchmal gerne die Geschichte erzählen, dass jemand in ihrer Garage diese erstaunliche Idee hat, und dann haben wir einen Durchbruch und haben KI. In ähnlicher Weise möchten Unternehmen eine nette kleine Geschichte erzählen: Oh, wir haben diese revolutionäre Technologie, die die Welt verändern wird – KI ist fast da, und wir sind das Unternehmen, das sie liefern wird. So funktioniert das überhaupt nicht.
Wir verpassen etwas Großes. Wir haben ziemlich schnelle Fortschritte gemacht, aber es ist immer noch nicht auf dem Niveau, auf dem wir sagen würden, dass die Maschine es versteht. Davon sind wir noch weit entfernt.
Was ist mit der Idee, die für diese Bedenken zentral ist, dass KI irgendwie anfangen könnte, sich selbst zu verbessern und dann schwer zu kontrollieren wäre?
So ist KI heutzutage nicht aufgebaut. Maschinelles Lernen bedeutet, dass Sie einen mühsamen, langsamen Prozess haben, um Informationen durch Millionen von Beispielen zu sammeln. Eine Maschine verbessert sich selbst, ja, aber sehr, sehr langsam und auf sehr spezielle Weise. Und die Art von Algorithmen, mit denen wir spielen, sind überhaupt nicht wie kleine Virendinger, die sich selbst programmieren. Das tun wir nicht.
Was sind einige der großen ungelösten Probleme mit KI?
Unüberwachtes Lernen ist wirklich, wirklich wichtig. Im Moment bringen wir Maschinen so bei, intelligent zu sein, dass wir dem Computer sagen müssen, was ein Bild ist, sogar auf Pixelebene. Beim autonomen Fahren beschriften Menschen eine große Anzahl von Bildern von Autos, um zu zeigen, welche Teile Fußgänger oder Straßen sind. Es ist überhaupt nicht so, wie Menschen lernen, und es ist überhaupt nicht, wie Tiere lernen. Wir verpassen etwas Großes. Das ist eine der Hauptaufgaben, die wir in meinem Labor machen, aber es gibt keine kurzfristigen Anwendungen – es wird wahrscheinlich nicht sinnvoll sein, morgen ein Produkt zu bauen.
Eine weitere große Herausforderung ist das Verstehen natürlicher Sprache. Wir haben in den letzten Jahren ziemlich schnelle Fortschritte gemacht, das ist also sehr ermutigend. Aber es ist immer noch nicht auf dem Niveau, wo wir sagen würden, dass die Maschine versteht. Das wäre, wenn wir einen Absatz lesen und dann irgendeine Frage dazu stellen könnten, und die Maschine würde im Grunde so vernünftig antworten, wie es ein Mensch tun würde. Davon sind wir noch weit entfernt.
Welche Ansätze jenseits von Deep Learning werden benötigt, um eine echte maschinelle Intelligenz zu schaffen?
Traditionelle Bestrebungen, einschließlich Argumentation und Logik – wir müssen diese Dinge mit Deep Learning verbinden, um uns in Richtung KI zu bewegen. Ich bin einer der wenigen Menschen, die der Meinung sind, dass Menschen mit maschinellem Lernen und insbesondere Menschen mit tiefem Lernen den Neurowissenschaften mehr Aufmerksamkeit schenken sollten. Gehirne funktionieren, und wir wissen in vielerlei Hinsicht immer noch nicht warum. Die Verbesserung dieses Verständnisses hat ein großes Potenzial, um die KI-Forschung zu unterstützen.
Und ich denke, dass Neurowissenschaftler sehr davon profitieren würden, wenn sie verfolgen würden, was wir tun, und versuchen würden, das, was sie am Gehirn beobachten, mit den Konzepten in Einklang zu bringen, die wir beim maschinellen Lernen entwickeln.
Hätten Sie jemals gedacht, Sie müssten den Leuten erklären, dass die KI nicht dabei ist, die Welt zu erobern? Das muss seltsam sein.
Es ist sicherlich ein neues Anliegen. KI war so viele Jahre lang eine Enttäuschung. Als Forscher kämpfen wir darum, die Maschine etwas intelligenter zu machen, aber sie sind immer noch so dumm. Früher dachte ich, wir sollten das Feld nicht künstliche Intelligenz nennen, sondern künstliche Dummheit. Wirklich, unsere Maschinen sind dumm, und wir versuchen nur, sie weniger dumm zu machen.
Nun, aufgrund dieser Fortschritte, die die Leute mit Demos sehen können, können wir jetzt sagen: Oh, Gott, es kann tatsächlich Dinge auf Englisch sagen, es kann den Inhalt eines Bildes verstehen. Nun, jetzt verbinden wir diese Dinge mit all der Science-Fiction, die wir gesehen haben, und es ist wie: Oh, ich fürchte!
Okay, aber sicherlich ist es trotzdem wichtig, jetzt über die möglichen Folgen von KI nachzudenken.
Absolut. Über diese Dinge sollten wir sprechen. Worüber ich mir in absehbarer Zeit mehr Sorgen mache, ist nicht, dass Computer die Welt erobern. Ich mache mir mehr Sorgen über den Missbrauch von KI. Dinge wie schlechte militärische Zwecke, Menschen manipulieren durch wirklich schlaue Werbung; auch die sozialen Auswirkungen, wie viele Menschen, die ihren Arbeitsplatz verlieren. Die Gesellschaft muss zusammenkommen und eine kollektive Antwort finden, und es nicht dem Gesetz des Dschungels überlassen, die Dinge zu regeln.