Was ist ein Algorithmus? Es hängt davon ab, wen Sie fragen

Getty

Die Beschreibung eines Entscheidungsfindungssystems als Algorithmus ist oft eine Möglichkeit, die Verantwortlichkeit für menschliche Entscheidungen abzulenken. Für viele impliziert der Begriff eine Reihe von Regeln, die objektiv auf empirischen Beweisen oder Daten basieren. Es deutet auch auf ein hochkomplexes System hin – vielleicht so komplex, dass ein Mensch Schwierigkeiten hätte, sein Innenleben zu verstehen oder sein Verhalten im Einsatz vorherzusehen.

Aber ist diese Charakterisierung zutreffend? Nicht immer.

Ende Dezember wurde beispielsweise die Fehlzuweisung von Covid-19-Impfstoffen durch das Stanford Medical Center einem Verteilungsalgorithmus angelastet, der hochrangige Administratoren gegenüber Ärzten an vorderster Front bevorzugte. Das Krankenhaus behauptete, sich mit Ethikern beraten zu haben, um seinen sehr komplexen Algorithmus zu entwerfen, von dem ein Vertreter sagte, dass er eindeutig nicht richtig funktionierte, da MIT Technology Review damals gemeldet. Während viele Menschen die Verwendung des Begriffs so interpretierten, dass es sich um KI oder maschinelles Lernen handelte, handelte es sich bei dem System tatsächlich um einen medizinischen Algorithmus, der funktional anders ist. Es ähnelte eher einer sehr einfachen Formel oder einem Entscheidungsbaum, der von einem menschlichen Komitee entworfen wurde.

Diese Trennung hebt ein wachsendes Problem hervor. Mit zunehmender Verbreitung von Vorhersagemodellen wird die Öffentlichkeit misstrauischer, wenn es darum geht, kritische Entscheidungen zu treffen. Aber wenn die politischen Entscheidungsträger beginnen, Standards für zu entwickeln bewerten und auditieren Algorithmen müssen sie zunächst die Klasse von Entscheidungsfindungs- oder Entscheidungsunterstützungsinstrumenten definieren, für die ihre Richtlinien gelten sollen. Wenn der Begriff Algorithmus offen für Interpretationen bleibt, könnten einige der Modelle mit den größten Auswirkungen außerhalb der Reichweite von Richtlinien liegen, die sicherstellen sollen, dass solche Systeme Menschen nicht verletzen.

So identifizieren Sie einen Algorithmus

Ist Stanfords Algorithmus also ein Algorithmus? Das kommt darauf an, wie man den Begriff definiert. Obwohl es keine allgemein akzeptierte Definition gibt, kommt eine gemeinsame her ein Lehrbuch von 1971 geschrieben von dem Informatiker Harold Stone, der feststellt: Ein Algorithmus ist eine Reihe von Regeln, die eine Abfolge von Operationen genau definieren. Diese Definition umfasst alles von Rezepten bis hin zu komplexen neuronalen Netzen: Eine darauf basierende Audit-Richtlinie wäre lächerlich weit gefasst.

In der Statistik und beim maschinellen Lernen stellen wir uns den Algorithmus normalerweise als eine Reihe von Anweisungen vor, die ein Computer ausführt, um aus Daten zu lernen. In diesen Bereichen werden die resultierenden strukturierten Informationen typischerweise als Modell bezeichnet. Die Informationen, die der Computer über den Algorithmus aus den Daten lernt, können wie Gewichte aussehen, mit denen jeder Eingabefaktor zu multiplizieren ist, oder es kann viel komplizierter sein. Die Komplexität des Algorithmus selbst kann ebenfalls variieren. Und die Auswirkungen dieser Algorithmen hängen letztendlich von den Daten ab, auf die sie angewendet werden, und dem Kontext, in dem das resultierende Modell eingesetzt wird. Derselbe Algorithmus könnte einen positiven Nettoeffekt haben, wenn er in einem Kontext angewendet wird, und einen ganz anderen Effekt, wenn er in einem anderen angewendet wird.

Verwandte Geschichte

Dies ist der Stanford-Impfstoffalgorithmus, der Ärzte an vorderster Front ausließ Die Universitätsklinik machte einen sehr komplexen Algorithmus für ihren ungleichen Impfstoffverteilungsplan verantwortlich. Hier ist, was schief gelaufen ist.

In anderen Bereichen wird das, was oben als Modell beschrieben wurde, selbst als Algorithmus bezeichnet. Obwohl das verwirrend ist, ist es im weitesten Sinne auch genau: Modelle sind Regeln (die vom Trainingsalgorithmus des Computers erlernt werden, anstatt direkt von Menschen angegeben zu werden), die eine Abfolge von Operationen definieren. Zum Beispiel beschrieben die Medien im vergangenen Jahr in Großbritannien das Scheitern eines Algorithmus Studenten, die wegen Covid-19 nicht an ihren Prüfungen teilnehmen konnten, faire Punktzahlen zuzuweisen. Was in diesen Berichten diskutiert wurde, war sicherlich das Modell – der Satz von Anweisungen, die Eingaben (die frühere Leistung eines Schülers oder die Bewertung eines Lehrers) in Ergebnisse (eine Punktzahl) umwandelten.

Was anscheinend in Stanford passiert ist, ist, dass sich Menschen – einschließlich Ethiker – hingesetzt und festgelegt haben, welche Reihe von Operationen das System verwenden sollte, um auf der Grundlage von Eingaben wie dem Alter und der Abteilung eines Mitarbeiters festzustellen, ob diese Person zu den ersten gehören sollte einen Impfstoff zu bekommen. Soweit wir wissen, basierte diese Sequenz nicht auf einem Schätzverfahren, das für ein quantitatives Ziel optimiert war. Es war eine Reihe normativer Entscheidungen darüber, wie Impfstoffe priorisiert werden sollten, formalisiert in der Sprache eines Algorithmus. Dieser Ansatz gilt in der medizinischen Terminologie und unter der breiten Definition als Algorithmus, obwohl die einzige beteiligte Intelligenz die menschliche war.

Konzentrieren Sie sich auf die Wirkung, nicht auf den Input

Auch der Gesetzgeber wägt ab, was ein Algorithmus ist. 2019 im US-Kongress eingeführt, HR2291 , oder der Algorithmic Accountability Act, verwendet den Begriff automatisiertes Entscheidungsfindungssystem und definiert ihn als einen Rechenprozess, einschließlich eines aus maschinellem Lernen, Statistiken oder anderen Datenverarbeitungs- oder künstlichen Intelligenztechniken abgeleiteten Prozesses, der eine Entscheidung trifft oder die menschliche Entscheidungsfindung erleichtert wirkt sich auf die Verbraucher aus.

Verwandte Geschichte

Wirtschaftsprüfer testen Einstellungsalgorithmen auf Voreingenommenheit, aber es gibt keine einfache Lösung

KI-Audits können bestimmte Arten von Voreingenommenheit übersehen, und sie bestätigen nicht unbedingt, dass ein Einstellungstool die besten Kandidaten für eine Stelle auswählt.

Ähnliches erwägt New York City Int. 1894 , ein Gesetz, das obligatorische Audits von automatisierten Instrumenten zur Einstellungsentscheidung einführen würde, definiert als alle Systeme, deren Funktion von der statistischen Theorie bestimmt wird, oder Systeme, deren Parameter von solchen Systemen definiert werden. Bemerkenswert ist, dass beide Gesetzentwürfe Audits vorschreiben, aber nur grobe Richtlinien dazu enthalten, was ein Audit ist.

Da Entscheidungsträger sowohl in der Regierung als auch in der Industrie Standards für algorithmische Audits erstellen, sind Meinungsverschiedenheiten darüber, was als Algorithmus gilt, wahrscheinlich. Anstatt zu versuchen, sich auf eine gemeinsame Definition von „Algorithmus“ oder eine bestimmte universelle Prüfungstechnik zu einigen, schlagen wir vor, automatisierte Systeme hauptsächlich auf der Grundlage ihrer Auswirkungen zu bewerten. Indem wir uns auf das Ergebnis statt auf den Input konzentrieren, vermeiden wir unnötige Debatten über technische Komplexität. Was zählt, ist das Schadenspotenzial, unabhängig davon, ob wir über eine algebraische Formel oder ein tiefes neuronales Netzwerk sprechen.

Impact ist ein kritischer Bewertungsfaktor in anderen Bereichen. Es ist in den Klassiker eingebaut FURCHT Framework in der Cybersicherheit, das erstmals Anfang der 2000er Jahre von Microsoft populär gemacht wurde und immer noch in einigen Unternehmen verwendet wird. Das A in DREAD fordert Bedrohungsbewerter auf, betroffene Benutzer zu quantifizieren, indem sie fragen, wie viele Personen unter den Auswirkungen einer identifizierten Schwachstelle leiden würden. Folgenabschätzungen sind auch in Menschenrechts- und Nachhaltigkeitsanalysen üblich, und wir haben gesehen, dass einige frühe Entwickler von KI-Folgenabschätzungen ähnliche Rubriken erstellt haben. Zum Beispiel Kanadas Algorithmische Folgenabschätzung liefert eine Punktzahl basierend auf qualitativen Fragen, wie z. B. Sind Kunden in dieser Branche besonders gefährdet? (ja oder Nein).

Was zählt, ist das Schadenspotenzial, unabhängig davon, ob wir über eine algebraische Formel oder ein tiefes neuronales Netzwerk sprechen.

Es ist sicherlich schwierig, einen locker definierten Begriff wie Auswirkung in eine Bewertung einzuführen. Das DREAD-Framework wurde später durch STRIDE ergänzt oder ersetzt, teilweise wegen Herausforderungen mit der Vereinbarkeit unterschiedlicher Überzeugungen darüber, was Bedrohungsmodellierung mit sich bringt. Microsoft hat die Verwendung von DREAD im Jahr 2008 eingestellt.

Im KI-Bereich haben Konferenzen und Zeitschriften bereits Impact Statements mit unterschiedlichem Erfolg und Kontroversen veröffentlicht. Es ist alles andere als idiotensicher: Folgenabschätzungen, die rein formelhaft sind, können leicht gespielt werden, während eine zu vage Definition zu willkürlichen oder unmöglich langen Bewertungen führen kann.

Trotzdem ist es ein wichtiger Schritt nach vorn. Der Begriff Algorithmus, wie auch immer definiert, sollte kein Schutzschild sein, um die Menschen, die ein System entworfen und eingesetzt haben, von der Verantwortung für die Folgen seiner Verwendung freizusprechen. Aus diesem Grund fordert die Öffentlichkeit zunehmend algorithmische Verantwortlichkeit – und das Konzept der Wirkung bietet eine nützliche gemeinsame Grundlage für verschiedene Gruppen, die daran arbeiten, dieser Forderung gerecht zu werden.

Kristian Lum ist wissenschaftlicher Assistenzprofessor am Institut für Computer- und Informationswissenschaften an der University of Pennsylvania.

Rumman Chowdhury ist Leiterin des Teams für Maschinenethik, Transparenz und Rechenschaftspflicht (META) bei Twitter. Zuvor war sie CEO und Gründerin von Parity, einer algorithmischen Audit-Plattform, und globale Leiterin für verantwortungsbewusste KI bei Accenture.

verbergen