KI-Forscher wollen KI genauso untersuchen, wie Sozialwissenschaftler Menschen untersuchen

Eine konzeptionelle Illustration eines Forschers, der KI studiert Tsjisse Talsma

Es wurde viel über die Black-Box-Natur von KI-Systemen geschrieben – und wie es uns unangenehm ist, dass wir oft nicht verstehen können, warum sie die Entscheidungen treffen, die sie treffen. Da Algorithmen dazu gekommen sind, alles von unseren sozialen und kulturellen bis hin zu wirtschaftlichen und politischen Interaktionen zu vermitteln, haben Informatiker versucht, auf die steigenden Anforderungen an ihre Erklärbarkeit zu reagieren, indem sie technische Methoden zum Verständnis ihres Verhaltens entwickelten.

Aber eine Gruppe von Forschern aus Wissenschaft und Industrie argumentiert jetzt, dass wir diese Black Boxes nicht durchdringen müssen, um ihre Auswirkungen auf unser Leben zu verstehen und damit zu kontrollieren. Schließlich sind dies nicht die ersten unergründlichen Black Boxes, denen wir begegnen.

Wir haben seit Hunderten von Jahren wissenschaftliche Methoden entwickelt, um Black Boxes zu untersuchen, aber diese Methoden wurden bisher hauptsächlich auf [Lebewesen] angewendet, sagt Nick Obradovich, Forscher am MIT Media Lab und Mitautor von a neues Papier erschienen letzte Woche in Natur . Wir können viele der gleichen Tools nutzen, um die neuen Black-Box-KI-Systeme zu untersuchen.

Die Autoren des Papiers, eine vielfältige Gruppe von Forschern aus Industrie und Wissenschaft, schlagen vor, eine neue akademische Disziplin namens Maschinenverhalten zu schaffen. Es nähert sich der Untersuchung von KI-Systemen auf die gleiche Weise, wie wir immer Tiere und Menschen untersucht haben: durch empirische Beobachtung und Experimente.

Auf diese Weise ist ein Machine Behaviorist für einen Informatiker das, was ein Sozialwissenschaftler für einen Neurowissenschaftler ist. Ersteres versucht zu verstehen, wie sich ein Agent – ​​ob künstlich oder biologisch – in seinem Lebensraum verhält, wenn er in Gruppen koexistiert und wenn er mit anderen intelligenten Agenten interagiert. Letztere versucht, die Entscheidungsmechanismen hinter diesen Verhaltensweisen zu analysieren.

Wir sehen den Aufstieg von Maschinen mit Entscheidungsfreiheit, Maschinen, die Akteure sind, die Entscheidungen treffen und autonom handeln, sagte Iyad Rahwan, ein weiterer Media Lab-Forscher und Hauptautor des Papiers, in a Blogeintrag begleitend zur Veröffentlichung. Daher müssen sie als eine neue Klasse von Akteuren mit eigenen Verhaltensmustern und Ökologie untersucht werden.

Das bedeutet nicht, dass KI-Systeme eine Art freien Willen entwickelt haben. (Das haben sie sicherlich nicht; sie sind nur verherrlichte mathematische Modelle.) Aber es soll wegkommen von der Betrachtung von KI-Systemen als passive Werkzeuge, die nur anhand ihrer technischen Architektur, Leistung und Fähigkeiten bewertet werden können. Sie sollten stattdessen als aktive Akteure betrachtet werden, die ihre Umgebung und die Menschen und Maschinen um sie herum verändern und beeinflussen.

Also, wie würde das überhaupt aussehen? Ein Machine Behaviorist könnte zum Beispiel den Einfluss von Sprachassistenten auf die Persönlichkeitsentwicklung eines Kindes befragen. Oder sie könnten untersuchen, wie Online-Dating-Algorithmen die Art und Weise verändert haben, wie Menschen sich treffen und verlieben. Letztendlich würden sie die emergenten Eigenschaften untersuchen, die sich aus der Koexistenz und Zusammenarbeit vieler Menschen und Maschinen ergeben.

Wir sind alle ein riesiges Mensch-Maschine-System, sagt Obradovich. Wir müssen das anerkennen und anfangen, es auf diese Weise zu studieren.

Es ist wichtig zu beachten, dass die meisten dieser Ideen nicht neu sind. Robotiker haben sich zum Beispiel lange mit der Mensch-Computer-Interaktion beschäftigt. Und die Bereiche Wissenschaft, Technologie und Gesellschaft haben die so genannte Akteur-Netzwerk-Theorie, einen Rahmen, um alles in der sozialen und natürlichen Welt – sowohl Menschen als auch Algorithmen – als Akteure zu beschreiben, die irgendwie miteinander in Beziehung stehen. Aber zum größten Teil wurden diese Bemühungen in getrennten Disziplinen zusammengefasst. Sie unter einem Dach zusammenzubringen hilft dabei, ihre Ziele aufeinander abzustimmen, eine gemeinsame Sprache zu formalisieren und die interdisziplinäre Zusammenarbeit zu fördern. Es wird uns helfen, einander zu finden, sagt Obradovich.

Obwohl sie sich in einer anderen Disziplin als KI-Forscher befinden, sollten Maschinenverhaltensforscher dennoch eng mit ihnen zusammenarbeiten. Während letztere neue Wege entdecken, wie sich KI-Systeme verhalten und Menschen beeinflussen, können erstere diese Erkenntnisse in die Entwürfe des Systems einfließen lassen. Je mehr jede Disziplin von der Expertise der anderen profitieren kann, desto mehr können sie sicherstellen, dass künstliche Wirkstoffe den Menschen nützen, anstatt ihnen zu schaden.

Wir brauchen das Fachwissen von Wissenschaftlern aus allen Verhaltens- und Computerdisziplinen, sagt Obradovich. Herauszufinden, wie man mit Maschinen lebt, ist ein Problem, das zu groß ist, als dass es von einer Disziplin allein gelöst werden könnte.

verbergen