Dies ist der Stanford-Impfstoffalgorithmus, der Ärzte an vorderster Front ausließ

Yichuan Cao/Sipa USA

Als niedergelassene Ärzte des Stanford Medical Center – von denen viele an vorderster Front der Covid-19-Pandemie arbeiten – herausfanden, dass nur sieben von über 1.300 von ihnen für die ersten 5.000 Dosen des Covid-Impfstoffs priorisiert worden waren, waren sie schockiert . Als sie dann sahen, wer sonst noch auf der Liste stand, darunter Verwaltungsbeamte und Ärzte, die Patienten von zu Hause aus betreuten, waren sie wütend.

Bei einem geplanten Fototermin zur Feier der ersten Impfungen am Freitag, 18. mindestens 100 Einwohner erschien, um zu protestieren. Die Krankenhausleitung entschuldigte sich dafür, dass sie sie nicht priorisiert hatte, und machte einen sehr komplexen Algorithmus für die Fehler verantwortlich.

Unser Algorithmus, an dem die Ethiker und Experten für Infektionskrankheiten wochenlang gearbeitet haben … hat eindeutig nicht richtig funktioniert, sagte Tim Morrison, der Direktor des ambulanten Pflegeteams, den Bewohnern der Veranstaltung in einem geposteten Video online .

Einwohner von Stanford protestieren gegen einen Fototermin, um die Ankunft eines Impfstoffs zu feiern.

MIT FREUNDLICHER GENEHMIGUNG VON WILLIAM FITZGERALD

Viele sahen das als Ausrede an, zumal die Krankenhausleitung hatte wurde am Dienstag auf das Problem aufmerksam gemacht – als nur fünf Einwohner auf die Liste kamen – und reagierte nicht, indem sie den Algorithmus korrigierte, sondern indem sie zwei weitere Einwohner hinzufügte, also insgesamt sieben.

Eine der Hauptattraktionen von Algorithmen besteht darin, dass sie es den Mächtigen ermöglichen, eine Black Box für politisch unattraktive Ergebnisse verantwortlich zu machen, für die sie sonst verantwortlich wären, schrieb Roger McNamee, ein prominenter Insider aus dem Silicon Valley, der zum Kritiker wurde auf Twitter. Aber *Leute* entschieden, wer den Impfstoff bekommen würde, getwittert Veena Dubal, Rechtsprofessorin an der University of California, Hastings, die Technologie und Gesellschaft erforscht. Der Algorithmus hat einfach ihren Willen ausgeführt.

Aber was genau war Stanfords Wille? Wir haben uns den Algorithmus angesehen, um herauszufinden, was er tun sollte.

Wie der Algorithmus funktioniert

Die Folie, die den Algorithmus beschreibt, stammte von Bewohnern, die sie von ihrem Abteilungsleiter erhalten hatten. Es handelt sich nicht um einen komplexen maschinellen Lernalgorithmus (die oft als Black Boxes bezeichnet werden), sondern um eine regelbasierte Formel zur Berechnung, wer in Stanford zuerst den Impfstoff erhalten würde. Es berücksichtigt drei Kategorien: mitarbeiterbezogene Variablen, die mit dem Alter zu tun haben; berufsbezogene Variablen; und Richtlinien des kalifornischen Gesundheitsministeriums. Für jede Kategorie erhielten die Mitarbeiter eine bestimmte Anzahl von Punkten, mit einer möglichen Gesamtpunktzahl von 3,48. Vermutlich gilt: Je höher die Punktzahl, desto höher die Priorität der Person in der Warteschlange. (Das Stanford Medical Center hat am Wochenende nicht auf mehrere Anfragen nach Kommentaren zum Algorithmus geantwortet.)

Die Mitarbeitervariablen erhöhen die Punktzahl einer Person linear mit dem Alter, und Personen über 65 oder unter 25 werden zusätzliche Punkte hinzugefügt. Dadurch erhalten die ältesten und jüngsten Mitarbeiter Vorrang, was Bewohner und andere Mitarbeiter an vorderster Front benachteiligt, die normalerweise im mittleren Alter sind Palette.

Jobvariablen tragen am meisten zum Gesamtscore bei. Der Algorithmus zählt die Prävalenz von Covid-19 in den Arbeitsrollen und Abteilungen der Mitarbeiter auf zwei verschiedene Arten, aber der Unterschied zwischen ihnen ist nicht ganz klar. Weder die Bewohner noch zwei unabhängige Experten, die wir um die Überprüfung des Algorithmus gebeten hatten, verstanden, was diese Kriterien bedeuteten, und das Stanford Medical Center antwortete nicht auf eine Bitte um Stellungnahme. Sie berücksichtigen auch den Anteil der durchgeführten Tests nach Berufsrolle als Prozentsatz der Gesamtzahl der gesammelten Tests des medizinischen Zentrums.

Verwandte Geschichte

Wir haben möglicherweise nur Wochen Zeit, um zu handeln, bevor eine Variante des Coronavirus die USA dominiert. Ein Covid-19-Stamm, der sich anscheinend schneller verbreitet, kollidiert mit der Kampagne zur Impfung der Amerikaner.

Was diese Faktoren nicht berücksichtigen, ist die Exposition gegenüber Patienten mit Covid-19, sagen Anwohner. Das bedeutet, dass der Algorithmus nicht zwischen denen unterschied, die Covid von Patienten bekommen hatten, und denen, die es von der Verbreitung in der Gemeinschaft bekommen hatten – einschließlich Mitarbeitern, die remote arbeiteten. Und wie zuerst gemeldet von ProPublica wurde den Einwohnern gesagt, dass sie, weil sie zwischen den Abteilungen rotieren, anstatt eine einzige Zuweisung beizubehalten, Punkte verlieren, die mit den Abteilungen verbunden sind, in denen sie arbeiteten.

Die dritte Kategorie des Algorithmus bezieht sich auf die Impfstoffzuteilungsrichtlinien des kalifornischen Gesundheitsministeriums . Diese konzentrieren sich auf das Expositionsrisiko als höchsten Einzelfaktor für die Priorisierung von Impfstoffen. Die Richtlinien sind in erster Linie für Bezirks- und Kommunalverwaltungen gedacht, um zu entscheiden, wie der Impfstoff priorisiert werden soll, und nicht, wie zwischen den Abteilungen eines Krankenhauses Prioritäten gesetzt werden sollen. Aber sie beziehen speziell die Bewohner zusammen mit den Abteilungen, in denen sie arbeiten, in die höchste Prioritätsstufe ein.

Es kann sein, dass der CDPH-Bereichsfaktor den Bewohnern eine höhere Punktzahl gibt, aber immer noch nicht hoch genug ist, um den anderen Kriterien entgegenzuwirken.

Warum haben sie das so gemacht?

Stanford versuchte, viel mehr Variablen als andere medizinische Einrichtungen einzubeziehen, aber Jeffrey Kahn, der Direktor des Johns Hopkins Berkman Institute of Bioethics, sagt, der Ansatz sei zu kompliziert. Je mehr es unterschiedliche Gewichtungen für verschiedene Dinge gibt, desto schwieriger wird es zu verstehen – „Warum haben sie das so gemacht?“, sagt er.

Kahn, der im 20-köpfigen Ausschuss von Johns Hopkins für die Impfstoffzuteilung saß, sagt, seine Universität habe Impfstoffe einfach auf der Grundlage der Arbeit und des Risikos einer Exposition gegenüber Covid-19 zugeteilt.

Er sagt, dass diese Entscheidung auf Diskussionen beruhte, die bewusst verschiedene Perspektiven einschlossen – einschließlich derjenigen der Bewohner – und in Abstimmung mit anderen Krankenhäusern in Maryland. Anderswo, der Plan der University of California San Francisco basiert auf einer ähnlichen Bewertung des Risikos einer Exposition gegenüber dem Virus. Laut einer internen E-Mail, die von MIT Technology Review überprüft wurde, kategorisiert Mass General Brigham in Boston Mitarbeiter basierend auf Abteilung und Arbeitsplatz in vier Gruppen.

Es gibt so wenig Vertrauen in Bezug auf die Pandemie, dass wir es nicht verschwenden können.

Es ist wirklich wichtig, dass jeder Ansatz wie dieser transparent und öffentlich ist … und nicht wirklich schwer herauszufinden, sagt Kahn. Es gibt so wenig Vertrauen in Bezug auf die Pandemie, dass wir es nicht verschwenden können.

Algorithmen werden im Gesundheitswesen häufig verwendet, um Patienten nach Risikograd einzustufen, um Pflege und Ressourcen gerechter zu verteilen. Aber je mehr Variablen verwendet werden, desto schwieriger ist es zu beurteilen, ob die Berechnungen fehlerhaft sein könnten.

Zum Beispiel im Jahr 2019, eine in Science veröffentlichte Studie zeigten, dass 10 weit verbreitete Algorithmen zur Verteilung der Pflege in den USA letztendlich dazu führten, dass weiße Patienten gegenüber schwarzen Patienten bevorzugt wurden. Wie sich herausstellte, bestand das Problem darin, dass die Designer der Algorithmen annahmen, dass Patienten, die mehr für die Gesundheitsversorgung ausgeben, kränker seien und mehr Hilfe benötigten. In Wirklichkeit sind diejenigen, die mehr Geld ausgeben, auch reicher und eher weiß. Infolgedessen wies der Algorithmus schwarzen Patienten mit den gleichen Erkrankungen weniger Pflege zu als weißen.

Irene Chen, eine MIT-Doktorandin, die die Verwendung fairer Algorithmen im Gesundheitswesen untersucht, vermutet, dass dies in Stanford passiert ist: Die Designer der Formel wählten Variablen aus, von denen sie glaubten, dass sie als gute Näherungswerte für das Covid-Risiko eines bestimmten Mitarbeiters dienen würden. Sie haben jedoch nicht überprüft, ob diese Proxys zu vernünftigen Ergebnissen geführt haben, oder auf die Beiträge der Community sinnvoll reagiert, als der Impfplan am Dienstag letzter Woche ans Licht kam. Es ist keine schlechte Sache, dass sich die Leute danach Gedanken darüber gemacht haben, sagt Chen. Es gab keinen Mechanismus, um das Problem zu beheben.

Ein Kanarienvogel in der Kohlemine?

Nach den Protesten gab Stanford ein Formular heraus Entschuldigung , sagend, dass es seinen Verteilungsplan revidieren würde.

Krankenhausvertreter antworteten nicht auf Fragen, wen sie in neue Planungsprozesse einbeziehen würden oder ob der Algorithmus weiterhin verwendet werde. Eine interne E-Mail, die die Antwort der medizinischen Fakultät zusammenfasst und mit MIT Technology Review geteilt wurde, besagt, dass weder Programmleiter, Abteilungsleiter, behandelnde Ärzte noch Pflegepersonal am ursprünglichen Algorithmusdesign beteiligt waren. Jetzt drängen einige Fakultäten jedoch darauf, eine größere Rolle zu spielen, indem sie die Ergebnisse der Algorithmen vollständig eliminieren und stattdessen den Abteilungsleitern und Vorsitzenden die Befugnis geben, Entscheidungen für ihre eigenen Teams zu treffen.

Andere Abteilungsleiter haben die Bewohner ermutigt, sich zuerst impfen zu lassen. Einige haben sogar die Fakultät gebeten, die Bewohner mitzubringen, wenn sie geimpft werden, oder ihre Impfungen zu verschieben, damit andere zuerst beginnen können.

Einige Einwohner umgehen das universitäre Gesundheitssystem vollständig. Nuriel Moghavem, ein Neurologe, der als erster die Probleme in Stanford öffentlich machte, twitterte am Freitagnachmittag, dass er endlich seinen Impfstoff erhalten habe – nicht in Stanford, sondern in einem öffentlichen Bezirkskrankenhaus in Santa Clara County.
Ich habe mich heute impfen lassen, um mich, meine Familie und meine Patienten zu schützen. er hat getwittert . Aber ich hatte nur die Gelegenheit, weil mein öffentliches Bezirkskrankenhaus glaubt, dass die Bewohner wichtige Versorger an vorderster Front sind. Dankbar.

verbergen