Nein, die Experten glauben nicht, dass superintelligente KI eine Bedrohung für die Menschheit darstellt

Wenn Sie alles glauben, was Sie lesen, sind Sie wahrscheinlich ziemlich besorgt über die Aussicht auf eine superintelligente Killer-KI. Der Wächter , eine britische Zeitung, gewarnt vor kurzem, dass wir wie Kinder sind, die mit einer Bombe spielen, und vor kurzem Nachrichtenwoche Die Schlagzeile lautet: Künstliche Intelligenz kommt und könnte uns auslöschen.

Zahlreiche solcher Schlagzeilen, die von Kommentaren von Leuten wie Elon Musk und Stephen Hawking angeheizt werden, sind stark von der Arbeit eines Mannes beeinflusst: Professor Nick Bostrom, Autor der philosophischen Abhandlung Superintelligenz: Wege, Gefahren und Strategien .

Bostrom ist ein Oxford-Philosoph, aber die quantitative Bewertung von Risiken ist die Domäne der Versicherungsmathematik. Er kann als der erste prominente Aktuarphilosoph der Welt bezeichnet werden, obwohl der Begriff ein Oxymoron zu sein scheint, da die Philosophie eine Arena für konzeptionelle Argumente und die Risikobewertung eine datengesteuerte statistische Übung ist.

Was sagen also die Daten? Bostrom aggregiert die Ergebnisse von vier verschiedenen Umfragen unter Gruppen wie Teilnehmern einer Konferenz namens Philosophy and Theory of AI, die 2011 in Thessaloniki, Griechenland, stattfand, und Mitgliedern der griechischen Vereinigung für künstliche Intelligenz (er gibt keine Rücklaufquoten oder Formulierungen an von Fragen, und er erklärt nicht, dass er sich auf in Griechenland erhobene Daten stützt).

Seine Ergebnisse werden als Wahrscheinlichkeiten dargestellt, dass KI auf menschlichem Niveau bis zu einem bestimmten Zeitpunkt erreicht wird:

Bis 2022: 10 Prozent.

Bis 2040: 50 Prozent.

Bis 2075: 90 Prozent.

Diese Zusammenfassung von vier Umfragen ist die Hauptdatenquelle über das Aufkommen der Intelligenz auf menschlicher Ebene in über 300 Seiten mit philosophischen Argumenten, Fabeln und Metaphern.

Um eine genauere Einschätzung der Meinung führender Forscher auf diesem Gebiet zu erhalten, habe ich mich an die Fellows der American Association for Artificial Intelligence gewandt, eine Gruppe von Forschern, die anerkanntermaßen bedeutende und nachhaltige Beiträge auf diesem Gebiet geleistet haben.

Anfang März 2016 verschickte AAAI in meinem Namen eine anonyme Umfrage, in der 193 Stipendiaten die folgende Frage gestellt wurde:

In seinem Buch definiert Nick Bostrom Superintelligenz als „einen Intellekt, der in praktisch allen Bereichen, einschließlich wissenschaftlicher Kreativität, allgemeiner Weisheit und sozialer Fähigkeiten, viel klüger ist als die besten menschlichen Gehirne“. Wann glauben Sie, werden wir Superintelligenz erreichen?

Im Laufe der nächsten Woche oder so antworteten 80 Stipendiaten (eine Rücklaufquote von 41 Prozent), und ihre Antworten sind unten zusammengefasst:

Im Wesentlichen ist Superintelligenz laut 92,5 Prozent der Befragten jenseits des vorhersehbaren Horizonts. Diese Interpretation wird auch durch schriftliche Kommentare gestützt, die von den Stipendiaten geteilt wurden.

Obwohl die Umfrage anonym war, entschieden sich 44 Stipendiaten dafür, sich zu identifizieren, darunter Geoff Hinton (Koryphäe des Deep Learning), Ed Feigenbaum (Stanford, Turing Award-Gewinner), Rodney Brooks (führender Robotiker) und Peter Norvig (Google).

Die Befragten teilten auch mehrere Kommentare mit, darunter die folgenden:

Weit, weit, weit mehr als 25 Jahre. Jahrhunderte höchstwahrscheinlich. Aber nicht nie.

Wir konkurrieren mit der Evolution des menschlichen Gehirns in Millionen von Jahren. Wir können Einzweckprogramme schreiben, die mit Menschen konkurrieren können und sich manchmal auszeichnen, aber die Welt ist nicht sauber in Einzelproblemfragen unterteilt.

Nick Bostrom ist ein professioneller Angstmacher. Die Rolle seines Instituts besteht darin, existenzielle Bedrohungen für die Menschheit zu finden. Er sieht sie überall. Ich bin versucht, ihn als den „Donald Trump“ der KI zu bezeichnen.

Umfragen haben natürlich einen begrenzten wissenschaftlichen Wert. Sie sind notorisch sensibel für die Frageformulierung, die Auswahl der Befragten usw. Es ist jedoch die einzige Datenquelle, an die sich Bostrom selbst wandte.

Eine andere Methode wäre, vom aktuellen Stand der KI auf die Zukunft zu extrapolieren. Dies ist jedoch schwierig, da wir keine quantitative Messung des aktuellen Zustands der menschlichen Intelligenz haben. Wir haben Superintelligenz in Brettspielen wie Schach und Go erreicht (siehe Googles AI Masters Go a Decade Earlyer than Expected ), und dennoch haben unsere Programme bei naturwissenschaftlichen Tests der achten Klasse nicht über 60 Prozent erzielt, wie die Forschung des Allen Institute gezeigt hat (siehe The Das beste KI-Programm fällt immer noch durch einen Wissenschaftstest der achten Klasse) oder über 48 Prozent bei der Begriffsklärung einfacher Sätze (siehe Härterer Turing-Test entlarvt die Dummheit von Chatbots).

Es gibt viele berechtigte Bedenken in Bezug auf KI, von ihren Auswirkungen auf Arbeitsplätze über ihre Verwendung in autonomen Waffensystemen bis hin zum potenziellen Risiko von Superintelligenz. Vorhersagen, dass Superintelligenz am absehbaren Horizont ist, werden jedoch nicht durch die verfügbaren Daten gestützt. Darüber hinaus berücksichtigen Unheilsvorhersagen oft nicht die potenziellen Vorteile der KI bei der Vermeidung medizinischer Fehler, der Reduzierung von Autounfällen und vielem mehr.

Schließlich ist es möglich, dass KI-Systeme mit Menschen zusammenarbeiten, um eine symbiotische Superintelligenz zu schaffen. Das würde sich sehr von der schädlichen und autonomen Art unterscheiden, die Professor Bostrom sich vorgestellt hat.

Oren Etzioni ist CEO des Allen Institute for Artificial Intelligence und Professor für Informatik an der University of Washington.

Aktualisiert am 2. November 2016:

Ich freue mich, dass die Professoren Dafoe & Russell, die auf meinen Artikel hier geantwortet haben, und ich scheine in drei kritischen Punkten einer Meinung zu sein. Erstens sollten wir Ad-hominem-Angriffe unterlassen. Hier muss ich mich entschuldigen: Ich hätte nicht den anonymen AAAI-Fellow zitieren sollen, der Dr. Bostrom mit Donald Trump verglich. Ich wollte diesem Vergleich nicht meine Stimme leihen; Ich habe mich aufrichtig per E-Mail bei Bostrom für diesen Fehltritt entschuldigt, eine Entschuldigung, die er gnädig angenommen hat. Zweitens müssen wir als Wissenschaftler Aussagen über das Risiko von KI bewerten basierend auf Daten. Das war der entscheidende Punkt meiner kurzer Artikel , und der Artikel bot einzigartige Daten zu diesem Thema. Drittens stimmen wir auch darin überein, dass die Medien die Implikationen von Bostroms Arbeit falsch dargestellt haben – ein Thema von großer Besorgnis, das bis zu einem gewissen Grad durch das entkräftet wurde Bericht des Weißen Hauses über KI . Natürlich unterscheiden wir uns in vielen Details und den Feinheiten der Argumente, aber die Zeit wird es zeigen.

verbergen