211service.com
KI kann für ihre Entscheidungen rechtlich zur Rechenschaft gezogen werden
Künstliche Intelligenz wird eine deutlich größere Rolle in der Gesellschaft spielen. Und das wirft die Frage der Verantwortlichkeit auf. Wenn wir uns auf Maschinen verlassen, um immer wichtigere Entscheidungen zu treffen, brauchen wir Rechtsmittel, falls sich die Ergebnisse als inakzeptabel oder schwer verständlich herausstellen sollten.
Aber KI-Systeme dazu zu bringen, ihre Entscheidungen zu erklären, ist nicht ganz einfach. Ein Problem ist, dass Erklärungen nicht kostenlos sind; sie erfordern erhebliche Ressourcen sowohl bei der Entwicklung des KI-Systems als auch bei der Art und Weise, wie es in der Praxis abgefragt wird.
Eine weitere Sorge ist, dass Erklärungen Geschäftsgeheimnisse enthüllen können, indem sie Entwickler dazu zwingen, das Innenleben des KI-Systems zu veröffentlichen. Darüber hinaus besteht ein Vorteil dieser Systeme darin, dass sie komplexe Daten auf eine Weise verstehen können, die für Menschen nicht zugänglich ist. Um ihre Erklärungen für Menschen verständlich zu machen, kann es also erforderlich sein, die Leistung zu reduzieren.
Erklärungssysteme müssen von KI-Systemen getrennt sein, sagt das Harvard-Team
Wie können wir also die KI für ihre Entscheidungen verantwortlich machen, ohne Innovationen zu ersticken?
Heute erhalten wir dank der Arbeit von Finale Doshi-Velez, Mason Kortz und anderen an der Harvard University in Cambridge, Massachusetts, eine Art Antwort. Diese Leute sind Informatiker, Kognitionswissenschaftler und Rechtswissenschaftler, die gemeinsam die rechtlichen Probleme untersucht haben, die KI-Systeme aufwerfen, Schlüsselprobleme identifiziert und mögliche Lösungen vorgeschlagen haben. Gemeinsam seien wir Experten für Erklärungen im Gesetz, für die Schaffung von KI-Systemen und für die Möglichkeiten und Grenzen des menschlichen Denkens, sagen sie.
Sie beginnen mit der Definition der Erklärung. Wenn wir von einer Erklärung für eine Entscheidung sprechen, meinen wir im Allgemeinen die Gründe oder Rechtfertigungen für dieses bestimmte Ergebnis und nicht eine Beschreibung des Entscheidungsprozesses im Allgemeinen, heißt es.
Die Unterscheidung ist wichtig. Doshi-Velez und Co weisen darauf hin, dass es möglich ist, zu erklären, wie ein KI-System Entscheidungen trifft, in demselben Sinne, wie es möglich ist, zu erklären, wie die Schwerkraft funktioniert oder wie man einen Kuchen backt. Dies geschieht, indem die Regeln festgelegt werden, denen das System folgt, ohne sich auf ein bestimmtes fallendes Objekt oder einen Kuchen zu beziehen.
Das ist die Befürchtung von Industriellen, die die Funktionsweise ihrer KI-Systeme geheim halten wollen, um ihren kommerziellen Vorteil zu schützen.
Aber diese Art von Transparenz ist in vielen Fällen nicht notwendig. Um beispielsweise zu erklären, warum ein Gegenstand bei einem Arbeitsunfall heruntergefallen ist, ist normalerweise keine Erklärung der Schwerkraft erforderlich. Stattdessen sind in der Regel Erklärungen erforderlich, um Fragen wie diese zu beantworten: Was waren die Hauptfaktoren für eine Entscheidung? Hätte die Änderung eines bestimmten Faktors die Entscheidung geändert? Warum führten zwei ähnlich aussehende Fälle zu unterschiedlichen Entscheidungen?
Die Beantwortung dieser Fragen erfordert nicht unbedingt eine detaillierte Erklärung der Funktionsweise eines KI-Systems.
Wann sollten also Erklärungen gegeben werden? Im Wesentlichen dann, wenn der Nutzen die Kosten überwiegt. Wir stellen fest, dass es drei Bedingungen gibt, die Situationen charakterisieren, in denen die Gesellschaft einen Entscheidungsträger für verpflichtet hält – moralisch, sozial oder rechtlich –, eine Erklärung abzugeben, sagen Doshi-Velez und Co.
Das Team sagt, dass die Entscheidung Auswirkungen auf eine andere Person als den Entscheidungsträger haben muss. Es muss einen Wert haben zu wissen, ob die Entscheidung falsch getroffen wurde. Und es muss Grund zu der Annahme geben, dass im Entscheidungsprozess ein Fehler aufgetreten ist (oder auftreten wird).
Beobachter könnten zum Beispiel vermuten, dass eine Entscheidung durch einen irrelevanten Faktor beeinflusst wurde, wie zum Beispiel die Weigerung eines Chirurgen, eine Operation wegen der Mondphase durchzuführen. Oder sie misstrauen einem System, wenn es unter zwei völlig unterschiedlichen Umständen dieselbe Entscheidung getroffen hat. In diesem Fall könnten sie vermuten, dass ein wichtiger Faktor nicht berücksichtigt wurde. Eine weitere Sorge entsteht bei Entscheidungen, die scheinbar einer Gruppe ungerechterweise zugutekommen, wie wenn Unternehmensvorstände Entscheidungen treffen, die ihnen auf Kosten ihrer Aktionäre zugute kommen.
Mit anderen Worten, es muss einen guten Grund geben, eine Entscheidung für unangemessen zu halten, bevor eine Erklärung verlangt wird. Aber es kann auch andere Gründe geben, Erklärungen abzugeben, wie zum Beispiel der Versuch, das Vertrauen der Verbraucher zu stärken.
Doshi-Velez und Co schauen sich also konkrete Rechtslagen an, in denen Erklärungsbedarf besteht. Sie weisen darauf hin, dass vernünftige Köpfe sich darüber unterscheiden können und tun, ob es moralisch vertretbar oder sozial wünschenswert ist, eine Erklärung zu verlangen. Gesetze hingegen sind kodifiziert, und obwohl man darüber streiten könnte, ob ein Gesetz richtig ist, wissen wir zumindest, was das Gesetz ist, sagen sie.
Nach US-amerikanischem Recht sind Erklärungen in den unterschiedlichsten Situationen und in unterschiedlichem Detaillierungsgrad erforderlich. Beispielsweise sind Erklärungen erforderlich in Fällen von verschuldensunabhängiger Haftung, Scheidung oder Diskriminierung; für Verwaltungsentscheidungen; und für Richter und Geschworene. Aber der Detaillierungsgrad ist sehr unterschiedlich.
All das hat wichtige Implikationen für KI-Systeme. Doshi-Velez und Co kommen zu dem Schluss, dass rechtlich vertretbare Erklärungen für KI-Systeme möglich sind. Denn die Begründung einer Entscheidung kann getrennt von einer Beschreibung ihres Innenlebens erfolgen. Darüber hinaus sagt das Team, dass ein Erklärungssystem vom KI-System getrennt betrachtet werden sollte.
Das ist ein beachtliches Ergebnis. Das bedeutet nicht, dass zufriedenstellende Erklärungen immer leicht zu finden sind. Wie können wir beispielsweise zeigen, dass ein Sicherheitssystem, das Bilder eines Gesichts als Eingabe verwendet, nicht aufgrund des Geschlechts diskriminiert? Das geht nur mit einem alternativen Gesicht, das bis auf das Geschlecht in jeder Hinsicht ähnlich ist, sagt das Team.
Aber Erklärungen für die Entscheidungen von KI-Systemen sind grundsätzlich möglich. Und das führt das Team zu einem klaren Schluss. Wir empfehlen, dass KI-Systeme vorerst auf einem ähnlichen Erklärungsstandard gehalten werden können und sollten, wie es Menschen derzeit sind, heißt es.
Aber unsere Nutzung und unser Verständnis von KI wird sich wahrscheinlich auf eine Weise ändern, die wir noch nicht verstehen (und vielleicht nie verstehen werden). Aus diesem Grund muss dieser Ansatz überdacht werden. In Zukunft möchten wir vielleicht eine KI auf einem anderen Standard halten, sagen Doshi-Velez und Co.
Ziemlich!
Ref: arxiv.org/abs/1711.01134 : Rechenschaftspflicht von KI nach dem Gesetz: Die Rolle der Erklärung