Wie kann man wissen, ob künstliche Intelligenz dabei ist, die Zivilisation zu zerstören?

mechanische kanarienillustration

mechanische kanarienillustration Frau Tech





Könnten wir eines Morgens fassungslos aufwachen, dass eine übermächtige KI aufgetaucht ist, mit katastrophalen Folgen? Bücher wie Superintelligenz von Nick Bostrom und Leben 3.0 von Max Tegmark, sowie neuere Artikel , argumentieren, dass böswillige Superintelligenz ein existenzielles Risiko für die Menschheit darstellt.

Aber man kann endlos spekulieren. Es ist besser, eine konkretere, empirische Frage zu stellen: Was würde uns warnen, dass die Superintelligenz tatsächlich um die Ecke ist?

Wir könnten solche Vorboten Kanarienvögel in den Kohleminen der KI nennen. Wenn ein Programm für künstliche Intelligenz eine grundlegende neue Fähigkeit entwickelt, ist das gleichbedeutend mit einem kollabierenden Kanarienvogel: eine Frühwarnung vor KI-Durchbrüchen am Horizont.



Könnte der berühmte Turing-Test als Kanarienvogel dienen? Der 1950 von Alan Turing erfundene Test geht davon aus, dass eine KI auf menschlicher Ebene erreicht wird, wenn eine Person die Unterhaltung mit einem Menschen nicht von der Unterhaltung mit einem Computer unterscheiden kann. Es ist ein wichtiger Test, aber es ist kein Kanarienvogel; es ist vielmehr ein Zeichen dafür, dass die KI auf menschlicher Ebene bereits angekommen ist. Viele Informatiker glauben, dass die Superintelligenz schnell folgen wird, wenn dieser Moment kommt. Wir brauchen mehr Zwischenziele.

Ist die Leistung von KI in Spielen wie z gehen , Poker oder Beben 3 , ein Kanarienvogel? Es ist nicht. Der Großteil der sogenannten künstlichen Intelligenz in diesen Spielen ist tatsächlich Mensch arbeiten, um das Problem zu formulieren und die Lösung zu entwerfen. Der Sieg von AlphaGo über die menschlichen Go-Champions war ein Verdienst des talentierten menschlichen Teams bei DeepMind, nicht der Maschine, die lediglich den von den Menschen erstellten Algorithmus ausführte. Dies erklärt, warum es jahrelanger harter Arbeit bedarf, den KI-Erfolg von einer engen Herausforderung zur nächsten zu übertragen. Selbst AlphaZero, das in wenigen Stunden Weltklasse-Go spielen lernte, hat seinen Anwendungsbereich seit 2017 nicht wesentlich erweitert. Methoden wie Deep Learning sind allgemein, aber ihre erfolgreiche Anwendung auf eine bestimmte Aufgabe erfordert umfangreiche menschliche Eingriffe.

Im weiteren Sinne ist maschinelles Lernen der Kern der Erfolge der KI in den letzten zehn Jahren. Doch der Begriff maschinelles Lernen ist eine Fehlbezeichnung. Maschinen besitzen nur einen schmalen Teil der reichen und vielseitigen Lernfähigkeiten des Menschen. Zu sagen, dass Maschinen lernen, ist wie zu sagen, dass Baby-Pinguine wissen, wie man fischt. Die Realität ist, erwachsene Pinguine schwimmen, fangen Fisch , verdauen es, würgen es in ihre Schnäbel und legen Bissen in den Mund ihrer Kinder. KI wird ebenfalls von menschlichen Wissenschaftlern und Ingenieuren gefüttert.



Im Gegensatz zum maschinellen Lernen bildet das menschliche Lernen eine persönliche Motivation (ich möchte unabhängig von meinen Eltern fahren) auf einen strategischen Lernplan ab (Fahrerausbildung machen und am Wochenende üben). Ein Mensch formuliert konkrete Lernziele (Beim Parallelparken besser werden), sammelt und kennzeichnet Daten (Der Winkel war diesmal falsch) und bezieht externes Feedback und Hintergrundwissen ein (Der Instruktor erklärte den Umgang mit den Seitenspiegeln). Menschen erkennen, gestalten und gestalten Lernprobleme. Keine dieser menschlichen Fähigkeiten wird auch nur annähernd von Maschinen nachgebildet. Maschinen können übermenschliche statistische Berechnungen durchführen, aber das ist nur die letzte Meile des Lernens.

Maschinen können übermenschliche statistische Berechnungen durchführen, aber das ist nur die letzte Meile des Lernens.

Die automatische Formulierung von Lernproblemen ist also unser erster Kanarienvogel. Es scheint nicht in der Nähe des Todes zu sein.



Selbstfahrende Autos sind ein zweiter Kanarienvogel. Sie sind weiter in der Zukunft als von Boostern wie erwartet erwartet Elon Musk . KI kann in atypischen Situationen katastrophal versagen, etwa wenn eine Person im Rollstuhl die Straße überquert. Das Fahren ist weitaus herausfordernder als frühere KI-Aufgaben, da es lebenskritische Entscheidungen in Echtzeit erfordert, die sowohl auf der unvorhersehbaren physischen Welt als auch auf der Interaktion mit menschlichen Fahrern, Fußgängern und anderen basieren. Natürlich sollten wir begrenzt selbstfahrende Autos einsetzen, sobald sie die Unfallraten senken, aber erst wenn das Fahren auf menschlichem Niveau erreicht ist, kann man sagen, dass dieser Kanarienvogel umgekippt ist.

KI-Ärzte sind ein dritter Kanarienvogel. KI kann medizinische Bilder bereits mit übermenschlicher Genauigkeit analysieren, aber das ist nur ein kleiner Teil der Arbeit eines menschlichen Arztes. Ein KI-Arzt müsste Patienten befragen, Komplikationen berücksichtigen, andere Ärzte konsultieren und vieles mehr. Dies sind anspruchsvolle Aufgaben, die ein Verständnis für Menschen, Sprache und Medizin erfordern. Ein solcher Arzt müsste einem Patienten nicht vorgaukeln, er sei ein Mensch – deshalb unterscheidet er sich vom Turing-Test. Aber es müsste die Fähigkeiten menschlicher Ärzte über ein breites Spektrum von Aufgaben und unvorhergesehenen Umständen hinweg annähern.

Und obwohl der Turing-Test selbst kein guter Kanarienvogel ist, könnten eingeschränkte Versionen des Tests als Kanarienvögel dienen. Bestehende KIs sind nicht in der Lage, Menschen und ihre Motivationen zu verstehen, oder sogar grundlegende physikalische Fragen wie Passt ein Jumbo-Jet durch ein Fenster? Wir können einen partiellen Turing-Test durchführen, indem wir uns ein paar Minuten lang mit einer KI wie Alexa oder Google Home unterhalten, was schnell ihr begrenztes Sprach- und Weltverständnis aufdeckt. Betrachten Sie ein sehr einfaches Beispiel, das auf den vom Informatiker Hector Levesque vorgeschlagenen Winograd-Schemata basiert. Ich sagte zu Alexa: Meine Trophäe passt nicht in mein Handgepäck, weil sie zu groß ist. Was sollte ich tun? Alexas Antwort war, dass ich das nicht kenne. Da Alexa nicht über die Größe von Objekten nachdenken kann, kann es nicht entscheiden, ob es sich um die Trophäe oder das Handgepäck handelt. Wenn die KI die Bedeutung davon nicht verstehen kann, ist es schwer zu glauben, dass sie bereit ist, die Welt zu übernehmen. Wenn Alexa in der Lage wäre, einen substanziellen Dialog zu einem reichhaltigen Thema zu führen, wäre das ein vierter Kanarienvogel.



Aktuelle KIs sind idiotische Gelehrte: erfolgreich bei engen Aufgaben wie dem Spielen von Go oder dem Kategorisieren von MRT-Bildern, aber es fehlt ihnen die Allgemeingültigkeit und Vielseitigkeit des Menschen. Jeder Idiot Savant wird manuell und separat konstruiert, und wir sind Jahrzehnte von den vielseitigen Fähigkeiten eines fünfjährigen Kindes entfernt. Die Kanarienvögel, die ich vorschlage, markieren dagegen Wendepunkte für das Feld der KI.

Oren Etzioni

Oren Etzioni Höflichkeitsfoto

Einige Theoretiker, wie Bostrom, argumentieren, dass wir dennoch Ereignisse mit sehr geringer Wahrscheinlichkeit, aber schwerwiegenden Folgen planen müssen, als ob sie unvermeidlich wären. Die Folgen, sagen sie, sind so tiefgreifend, dass unsere Schätzungen ihrer Wahrscheinlichkeit nicht wichtig sind. Das ist ein dummes Argument: Es kann verwendet werden, um so gut wie alles zu rechtfertigen. Es ist eine moderne Version des Arguments des Philosophen Blaise Pascal aus dem 17. Jahrhundert, dass es sich lohnt, so zu tun, als ob ein christlicher Gott existiert, weil Ihnen sonst eine ewige Hölle droht. Er benutzte die unendlichen Kosten eines Fehlers, um zu argumentieren, dass eine bestimmte Vorgehensweise rational ist, selbst wenn sie auf einer höchst unwahrscheinlichen Prämisse basiert. Aber Argumente, die auf unendlichen Kosten basieren, können widersprüchliche Überzeugungen stützen. Stellen Sie sich zum Beispiel einen antichristlichen Gott vor, der für jede christliche Tat die ewige Hölle verspricht. Auch das ist höchst unwahrscheinlich; Vom logischen Standpunkt aus gesehen ist es jedoch eine ebenso vernünftige Wette wie der Glaube an den Gott der Bibel. Dieser Widerspruch zeigt einen Fehler in Argumenten auf der Grundlage unendlicher Kosten.

Mein Katalog von Frühwarnsignalen oder Kanarienvögeln ist eher illustrativ als umfassend, aber er zeigt, wie weit wir von KI auf menschlicher Ebene entfernt sind. Wenn ein Kanarienvogel zusammenbricht, werden wir vor dem Aufkommen der KI auf menschlicher Ebene genügend Zeit haben, um robuste Ausschalter zu entwerfen und rote Linien zu identifizieren, die die KI nicht überschreiten soll. KI-Eschatologie ohne empirische Kanarienvögel ist eine Ablenkung von der Behandlung bestehender Probleme wie der Regulierung der Auswirkungen von KI auf die Beschäftigung oder der Sicherstellung, dass ihre Verwendung bei der strafrechtlichen Verurteilung oder Kreditwürdigkeitsprüfung bestimmte Gruppen nicht diskriminiert.

Wie Andrew Ng, einer der prominentesten KI-Experten der Welt, sagte: Sich Sorgen zu machen, dass KI böse wird, ist ein bisschen wie die Sorge um die Überbevölkerung auf dem Mars. Bis die Kanarienvögel sterben, hat er vollkommen recht.

Oren Etzioni ist CEO des gemeinnützigen Allen Institute for AI und Professor für Informatik an der University of Washington.

verbergen