Warum KI-Forscher dem Militär nicht den Rücken kehren sollten

US-Armee

Mehr als 2.400 KI-Forscher haben kürzlich einen unterzeichnet Versprechen Versprechen, keine sogenannten autonomen Waffen zu bauen – Systeme, die selbst entscheiden würden, wen sie töten. Dies folgt auf die Entscheidung von Google, einen Vertrag zur Lieferung von KI für die Analyse von Drohnenaufnahmen an das Pentagon nicht zu verlängern, nachdem das Unternehmen von vielen Mitarbeitern unter Druck gesetzt wurde, die sich gegen seine Arbeit an einem Projekt namens Maven aussprachen.

Paul Scharre, der Autor eines neuen Buches, Army of None: Autonome Waffen und die Zukunft des Krieges , glaubt, dass KI-Forscher mehr tun müssen als auszusteigen, wenn sie etwas verändern wollen.

Paul Schare. Gewinnen Sie McNamee/Getty Images

Als Army Ranger im Irak und in Afghanistan und jetzt Senior Fellow am Center for a New American Security argumentiert Scharre, dass KI-Experten mit politischen Entscheidungsträgern und Militärs zusammenarbeiten sollten, um zu erklären, warum Forscher besorgt sind, und ihnen zu helfen, dies zu verstehen Einschränkungen von KI-Systemen.

Scharre sprach mit MIT Technologieüberprüfung Senior Editor Will Knight über den besten Weg, ein potenziell gefährliches KI-Wettrüsten zu stoppen.

paulscharre.com

Wie sehr ist das US-Militär daran interessiert, KI-Waffen zu entwickeln?

US-Verteidigungsführer haben wiederholt angegeben dass ihre Absicht ist es, einen Menschen auf dem Laufenden zu halten und für tödliche Entscheidungen verantwortlich zu machen. Nun, der Vorbehalt ist, dass sie auch anerkannt haben, dass andere Länder, wenn sie autonome Waffen bauen, gezwungen sein könnten, diesem Beispiel zu folgen. Und das ist das eigentliche Risiko – wenn ein Land diese Grenze überschreitet, könnten andere das Gefühl haben, dass sie gleich reagieren müssen, nur um wettbewerbsfähig zu bleiben.

Kann man diesen Versprechungen wirklich trauen?

Ich denke, dass hochrangige US-Verteidigungsbeamte aufrichtig wollen, dass Menschen für die Anwendung tödlicher Gewalt verantwortlich bleiben. Militärprofis wollen sicherlich nicht, dass ihre Waffen Amok laufen. Allerdings bleibt die Frage offen, wie man ein breites Konzept wie die menschliche Verantwortung für tödliche Gewalt in spezifische technische Leitlinien dazu übersetzen kann, welche Arten von Waffen erlaubt sind. Die Definition dessen, was eine autonome Waffe ausmacht, ist bereits umstritten, daher kann es unterschiedliche Ansichten darüber geben, wie diese Prinzipien in die Praxis umgesetzt werden können.

Warum müssen Technologen einbezogen werden?

KI-Forscher müssen Teil dieser Gespräche sein, da ihr technisches Fachwissen für die Gestaltung politischer Entscheidungen von entscheidender Bedeutung ist. Wir müssen KI-Voreingenommenheit, Transparenz, Erklärbarkeit, Sicherheit und andere Bedenken berücksichtigen. Die KI-Technologie hat heute diese beiden Funktionen – sie ist leistungsfähig, hat aber auch viele Schwachstellen, ähnlich wie Computer und Cyber-Risiken. Leider scheinen die Regierungen den ersten Teil dieser Botschaft verstanden zu haben (KI ist mächtig), aber nicht den zweiten (sie birgt Risiken). KI-Forscher können Regierungen und Militärs helfen, besser zu verstehen, warum sie so besorgt über die Folgen der Bewaffnung dieser Technologie sind. Um diesen Fall effektiv zu vertreten, müssen KI-Forscher Teil eines konstruktiven Dialogs sein.

Was halten Sie von dem kürzlich vom Future of Life Institute organisierten Versprechen gegen autonome Waffen?

Es ist nicht der erste Aufruf von KI-Wissenschaftlern zum Handeln; Es baut auf früheren Offenen Briefen zu autonomen Waffen auf 2015 und 2017 . Aber diese Briefe sind eine symbolische Geste und haben wahrscheinlich eine abnehmende Wirkung in ihrer Wirksamkeit. Seit 2014 diskutieren die Länder auch autonome Waffen bei den Vereinten Nationen, und der Druck von KI-Wissenschaftlern fügt dem Gespräch eine wichtige Dimension hinzu, muss aber die großen Militärmächte noch dazu bewegen, ein umfassendes Verbot zu unterstützen. Es wäre wirkungsvoller, wenn mehr KI-Forscher an den UN-Treffen teilnehmen und den politischen Entscheidungsträgern helfen würden, zu verstehen, warum KI-Wissenschaftler so besorgt sind.

Was ist mit der Entscheidung von Google, seinen Vertrag mit dem Pentagon nicht zu verlängern?

Es war ein bisschen überraschend, weil Maven nicht wirklich autonome Waffen oder Zielerfassung beinhaltete und mit den kürzlich veröffentlichten von Google konform zu sein schien KI-Prinzipien . Aber der Wettbewerb um die besten KI-Talente ist hart, und ich vermute, Google konnte es nicht riskieren, dass einige seiner besten Ingenieure aus Protest zurücktreten.

Glauben Sie, dass solche Gesten dazu beitragen werden, die Entwicklung autonomer Waffen zu verlangsamen?

Wenn es um Maven geht, war Google nicht einmal am Bau von von Menschen kontrollierten Waffen beteiligt, geschweige denn autonomen Waffen, daher gibt es dort keine direkte Verbindung. Der Pfandbrief zielt natürlich direkt auf autonome Waffen ab. Aber ich glaube nicht, dass beides wahrscheinlich einen großen Einfluss darauf haben wird, wie Militärs KI und Autonomie in ihre Waffen integrieren, da Waffen wahrscheinlich von Rüstungsunternehmen gebaut werden. Wenn große Technologieunternehmen wie Google auf die Zusammenarbeit mit dem Militär verzichten, könnte dies die Integration von KI-Technologie in wichtige Unterstützungsfunktionen wie die Datenanalyse, die Maven durchführte, verlangsamen. Aber irgendwann werden andere Unternehmen einspringen, um die Lücke zu füllen. Wir haben schon gesehen andere Firmen ganz öffentlich sagen, dass sie mit dem Militär zusammenarbeiten wollen.

Könnten diese Bemühungen auch unbeabsichtigte Folgen haben?

Viele legitime Anwendungen von KI als inakzeptabel abzustempeln, könnte einen weiteren Keil zwischen die technische und die politische Gemeinschaft treiben und einen vernünftigen Diskurs erschweren. Ingenieure sollten unbedingt davon absehen, an Projekten zu arbeiten, die sie nicht unterstützen können, aber wenn sich diese persönlichen Beweggründe dahingehend verschieben, andere davon abzuhalten, an wichtigen und legitimen nationalen Sicherheitsanwendungen zu arbeiten, schaden sie der öffentlichen Sicherheit und beeinträchtigen das Recht anderer Ingenieure, ihr eigenes Gewissen zu verfolgen. Demokratische Länder müssen KI-Technologie für eine Vielzahl wichtiger und rechtmäßiger Zwecke einsetzen nationale Sicherheit Zwecke – Geheimdienst, Terrorismusbekämpfung, Grenzsicherheit, Cybersicherheit und Verteidigung.

Befinden sich die USA bereits in einem KI-Waffenwettrüsten mit China?

China hat öffentlich seine Absicht bekundet, das zu werden Weltmarktführer in künstlicher Intelligenz bis 2030 und verstärkt seine Forschung und rekrutiert Top-Talente aus der ganzen Welt. Chinas Modell der militärisch-zivilen Fusion bedeutet auch, dass die KI-Forschung problemlos von Technologiefirmen in das Militär fließen wird, ohne die Art von Barrieren, die einige Google-Mitarbeiter in den Vereinigten Staaten errichten wollen. China hat schon begonnen um die Grundlagen für einen KI-gestützten Techno-Überwachungsstaat zu legen.

Wenn es den Taktiken von KI-Forschern nur gelingt, die Einführung von KI-Werkzeugen in offenen, demokratischen Gesellschaften zu verlangsamen, die ethisches Verhalten wertschätzen, könnte ihre Arbeit dazu beitragen, eine Zukunft einzuläuten, in der die mächtigste Technologie in den Händen von Regimen liegt, die sich am wenigsten um Ethik kümmern und Rechtsstaatlichkeit.

In Ihrem Buch weisen Sie darauf hin, dass die Definition von Autonomie schwierig sein kann. Wird dies die Diskussion über die militärische Nutzung von KI nicht erschweren?

Die Autoren des jüngsten Versprechens gegen autonome Waffen lehnen autonome Waffen ab, die eine Person töten würden, erkennen jedoch an, dass einige Arten von autonomen Systemen erforderlich wären, um sich gegen andere derartige Waffen zu verteidigen. Es ist die Grauzone, in der Autonomie erforderlich sein könnte, um sich gegen Waffen zu verteidigen, und eine Person immer noch an Bord ist, wie beim Zielen auf einen Kampfjet oder ein U-Boot, wo die eigentliche Herausforderung liegt. Es ist nicht einfach, konkurrierende Ziele in Einklang zu bringen, und die politischen Entscheidungsträger werden bei der Einführung dieser Technologie vor echte Entscheidungen gestellt.

KI-Ingenieure werden bei der Gestaltung dieser Entscheidungen am wirkungsvollsten sein, wenn sie in einen konstruktiven, kontinuierlichen Dialog mit politischen Entscheidungsträgern treten, anstatt abzulehnen. KI-Forscher, die sich darum kümmern, wie die Technologie eingesetzt wird, werden effektiver sein, wenn sie über Druckkampagnen hinausgehen und anfangen, politische Entscheidungsträger über die heutige KI-Technologie und ihre Grenzen aufzuklären.

verbergen