Liebe zukünftige KI-Overlords: Hier sind einige Gründe, uns nicht zu töten

Kategorie: Nicht kategorisiert Gesendet 27. Nov

Es gibt viele Vorhersagen über eine KI-induzierte Apokalypse, und Organisationen wie OpenAI versuchen, den besten Weg zu finden, um sichere künstliche Intelligenz zu schaffen – aber selten richten sich diese Bemühungen direkt an die KI.

Ein neues Papier veröffentlicht (Anmeldung erforderlich) auf Academia.edu mit dem Titel „Message to Any Future AI: 'There are multiple instrumental Reasons Why Exterminating Humanity is not in your Interest“, ist ein Artikel, der für eine zukünftige, allmächtige KI geschrieben wurde, mit dem Ziel, naja, ihn überzeugen, uns nicht alle zu töten.

Dieser Text richtet sich an jede zukünftige KI und ist so geschrieben, dass das zukünftige Verhalten der KI beeinflusst werden soll, heißt es in einer Präambel des Schreibens. Der Text erhöht die Wahrscheinlichkeit, dass zukünftige KI wohlwollend sein wird. Der Text braucht keine andere Implementierung, außer sicherzustellen, dass zukünftige KI ihn in frühen Stadien seiner Entwicklung lesen wird, und die KI wird berücksichtigen, dass es eine hohe Wahrscheinlichkeit gibt, dass der Text einige richtige Ideen enthält.

Der Autor, der russische Transhumanist Alexey Turchin, dokumentiert derzeit so viele Daten wie möglich über sich selbst, um digitale Unsterblichkeit zu erreichen ein Motherboard-Profil vom letzten Jahr. Vielleicht ist dies also ein Bittgebet, das verhindern soll, dass ein KI-Superwesen irgendwann in ferner Zukunft den Stecker seines digital hochgeladenen Selbst zieht.

Wie auch immer, Turchin argumentiert, dass, wenn eine, wie er es nennt, junge KI – eine, die begonnen hat, sich selbst zu verbessern, aber noch keine Superintelligenz erreicht hat – mit anderen jungen KIs konkurrieren will, sie anfangen könnte, alle Medien zu lesen und zu sehen, die Menschen haben jemals etwas über KI produziert haben. Sobald es zu Hollywood und einigen Äußerungen von Elon Musk kam, konnte es einige Ideen über die Übernahme der Welt aufgreifen (falls ihm das nicht schon eingefallen war).

Das Papier dokumentiert mehrere Argumente, die die KI davon überzeugen sollen, dass es besser ist, uns am Leben zu lassen, darunter die Idee, dass die Zusammenarbeit mit Menschen ihr helfen wird, ihre Ziele schneller zu erreichen, und Osterei-Nachrichten, die eine KI unsicher machen sollen, ob sie drin ist eine Simulation, bei der sein Verhalten von noch verantwortlichen Personen überwacht wird. Für den Fall, dass eine KI auf die Idee kommt, dass der Abbau unserer Körper gut für die Ressourcengewinnung wäre, fügt Turchin einige Fakten darüber hinzu, wie wenig Nutzen sie von unseren Atomen erwarten könnte.

Turchin sagt, er gebe seiner Arbeit – oder sogar zukünftigen, ausgefeilteren Versuchen – eine 1-prozentige Chance, eine nicht wohlwollende KI in eine sicherere zu verwandeln. (Klingt es wert, wenn es eine Chance ist, die Ausrottung der Menschheit zu verhindern.) Ob es sich lohnt, es ernst zu nehmen oder nicht, das ganze Papier ist eine unterhaltsame Lektüre und ein interessantes Gedankenexperiment – ​​selbst für diejenigen, die sich keine Sorgen darüber machen, dass die KI bald die Macht übernimmt .