Wie ein KI-Tool zur Bekämpfung von Todesfällen in Krankenhäusern tatsächlich in der realen Welt funktionierte

Getty

Im November 2018 ging in der Notaufnahme des Gesundheitssystems der Duke University ein neues Deep-Learning-Tool online. Es heißt Sepsis Watch und wurde entwickelt, um Ärzten dabei zu helfen, frühe Anzeichen einer der weltweit häufigsten Todesursachen in Krankenhäusern zu erkennen.

Eine Sepsis tritt auf, wenn eine Infektion eine Ganzkörperentzündung auslöst und schließlich dazu führt, dass Organe abschalten. Es kann behandelt werden, wenn es früh genug diagnostiziert wird, aber das ist eine notorisch schwierige Aufgabe, weil seine Symptome leicht mit Anzeichen von etwas anderem verwechselt werden können.

Sepsis Watch versprach, das zu ändern. Das Produkt von dreieinhalb Jahren Entwicklung (einschließlich der Digitalisierung von Patientenakten, der Analyse von 32 Millionen Datenpunkten und der Gestaltung einer einfachen Benutzeroberfläche in Form einer iPad-App) bewertet Patienten stündlich nach ihrer Wahrscheinlichkeit, an der Kondition. Anschließend werden diejenigen mit mittlerem oder hohem Risiko und diejenigen, die die Kriterien bereits erfüllen, gekennzeichnet. Sobald ein Arzt die Diagnose bestätigt, werden die Patienten sofort behandelt.

In den zwei Jahren seit der Einführung des Tools haben anekdotische Beweise von Krankenhausmanagern und Klinikern von Duke Health darauf hingewiesen, dass Sepsis Watch wirklich funktioniert. Es hat die Sepsis-induzierten Todesfälle von Patienten drastisch reduziert und ist nun Teil einer staatlich registrierten klinischen Studie, deren Ergebnisse voraussichtlich 2021 veröffentlicht werden.

Auf den ersten Blick ist dies ein Beispiel für einen großen technischen Sieg. Durch sorgfältige Entwicklung und Tests verbesserte ein KI-Modell erfolgreich die Fähigkeit von Ärzten, Krankheiten zu diagnostizieren. Aber ein neuer Bericht vom Forschungsinstitut Data & Society sagt, dies sei nur die halbe Wahrheit. Die andere Hälfte ist die Menge an qualifizierter Sozialarbeit, die die Kliniker, die das Projekt leiten, leisten mussten, um das Tool in ihre täglichen Arbeitsabläufe zu integrieren. Dazu gehörte nicht nur das Entwerfen neuer Kommunikationsprotokolle und das Erstellen neuer Schulungsmaterialien, sondern auch das Navigieren in Arbeitsplatzpolitik und Machtdynamik.

Die Fallstudie spiegelt ehrlich wider, was KI-Tools wirklich brauchen, um in der realen Welt erfolgreich zu sein. Es war wirklich komplex, sagt Coauhtor Madeleine Clare Elish, eine Kulturanthropologin, die die Auswirkungen von KI untersucht.

Innovationen reparieren

Innovation soll disruptiv sein. Es rüttelt alte Vorgehensweisen auf, um bessere Ergebnisse zu erzielen. Aber selten wird in Gesprächen über technologische Disruption anerkannt, dass Disruption auch eine Form von Bruch ist. Bestehende Protokolle werden obsolet; soziale Hierarchien geraten durcheinander. Damit die Innovationen in bestehenden Systemen funktionieren, ist das erforderlich, was Elish und ihre Co-Autorin Elizabeth Anne Watkins Reparaturarbeit nennen.

Während der zweijährigen Studie der Forscher zu Sepsis Watch bei Duke Health dokumentierten sie zahlreiche Beispiele dieser Störung und Reparatur. Ein großes Problem war die Art und Weise, wie das Tool die tief verwurzelte Machtdynamik zwischen Ärzten und Krankenschwestern in der medizinischen Welt herausforderte.

In den frühen Stadien des Werkzeugdesigns wurde klar, dass Pflegekräfte des Rapid Response Teams (RRT) die Hauptnutzer sein müssten. Obwohl behandelnde Ärzte in der Regel für die Beurteilung von Patienten und die Erstellung von Sepsis-Diagnosen zuständig sind, haben sie keine Zeit, zusätzlich zu ihren bestehenden Aufgaben in der Notaufnahme eine andere App kontinuierlich zu überwachen. Im Gegensatz dazu ist die Hauptaufgabe einer RRT-Pflegekraft ist um das Wohlbefinden der Patienten kontinuierlich zu überwachen und bei Bedarf zusätzliche Unterstützung zu leisten. Das Überprüfen der Sepsis Watch-App fügte sich ganz natürlich in ihren Arbeitsablauf ein.

Aber hier kam die Herausforderung. Sobald die App einen Patienten als Hochrisikopatient gekennzeichnet hat, muss eine Krankenschwester den behandelnden Arzt anrufen (im medizinischen Sprachgebrauch als ED-Betreuung bekannt). Diese Krankenschwestern und Pfleger hatten nicht nur oft keine vorherige Beziehung, weil sie ihre Tage in völlig anderen Abteilungen des Krankenhauses verbrachten, sondern das Protokoll stellte eine vollständige Umkehrung der typischen Befehlskette in jedem Krankenhaus dar. Willst du mich verarschen? Eine Krankenschwester erinnerte sich, dass sie gedacht hatte, nachdem sie erfahren hatte, wie die Dinge funktionieren würden. Wir werden anrufen ED-Besuche ?

Aber das war in der Tat die beste Lösung. Also machte sich das Projektteam daran, die Störung auf verschiedene große und kleine Weise zu beheben. Die leitenden Krankenschwestern veranstalteten informelle Pizza-Partys, um bei ihren Kolleginnen und Krankenschwestern Begeisterung und Vertrauen in Bezug auf Sepsis Watch aufzubauen. Sie entwickelten auch Kommunikationstaktiken, um ihre Anrufe mit den Teilnehmern zu glätten. Sie beschlossen beispielsweise, nur einen Anruf pro Tag zu tätigen, um mehrere Hochrisikopatienten gleichzeitig zu besprechen, und zwar zeitlich dann, wenn die Ärzte am wenigsten beschäftigt waren.

Darüber hinaus begannen die Projektleiter, der klinischen Leitung regelmäßig über die Auswirkungen von Sepsis Watch zu berichten. Das Projektteam stellte fest, dass nicht alle Krankenhausmitarbeiter glaubten, dass ein Sepsis-bedingter Tod ein Problem bei Duke Health sei. Vor allem Ärzte, die keinen Überblick über die Statistiken des Krankenhauses hatten, waren viel mehr mit den Notfällen beschäftigt, mit denen sie täglich zu tun hatten, wie Knochenbrüche und schwere psychische Erkrankungen. Infolgedessen empfanden einige Sepsis Watch als störend. Aber für die klinische Leitung war Sepsis eine große Priorität, und je mehr sie Sepsis Watch arbeiten sahen, desto mehr halfen sie, die Zahnräder der Operation zu schmieren.

Normen ändern

Elish identifiziert zwei Hauptfaktoren, die letztendlich zum Erfolg von Sepsis Watch beigetragen haben. Zunächst wurde das Tool für einen hyperlokalen, hyperspezifischen Kontext angepasst: Es wurde für die Notaufnahme bei Duke Health und nirgendwo sonst entwickelt. Diese wirklich maßgeschneiderte Entwicklung war der Schlüssel zum Erfolg, sagt sie. Dies widerspricht typischen KI-Normen.

Zweitens holte das Team während des gesamten Entwicklungsprozesses regelmäßig Feedback von Krankenschwestern, Ärzten und anderen Mitarbeitern auf und ab in der Krankenhaushierarchie ein. Dadurch wurde das Tool nicht nur benutzerfreundlicher, sondern es entstand auch eine kleine Gruppe engagierter Mitarbeiter, die sich für seinen Erfolg einsetzen. Es machte auch einen Unterschied, dass das Projekt von den eigenen Klinikern von Duke Health geleitet wurde, sagt Elish, und nicht von Technologen, die von einem Softwareunternehmen mit dem Fallschirm abgesprungen waren. Wenn Sie keinen erklärbaren Algorithmus haben, sagt sie, müssen Sie auf andere Weise Vertrauen aufbauen.

Diese Lektionen sind Marzyeh Ghassemi, einer angehenden Assistenzprofessorin am MIT, die maschinelle Lernanwendungen für das Gesundheitswesen untersucht, sehr vertraut. Alle maschinellen Lernsysteme, die jemals an Menschen evaluiert oder von Menschen verwendet werden sollen, müssen sozio-technische Einschränkungen berücksichtigen, sagt sie. Besonders in klinischen Umgebungen, die von menschlichen Entscheidungsträgern geleitet werden und sich um die am stärksten gefährdeten Menschen kümmern, sind die Einschränkungen, derer sich die Menschen bewusst sein müssen, wirklich menschliche und logistische Einschränkungen, fügt sie hinzu.

Elish hofft, dass ihre Fallstudie zu Sepsis Watch Forscher davon überzeugt, die Herangehensweise an die medizinische KI-Forschung und die KI-Entwicklung im Allgemeinen zu überdenken. Ein Großteil der Arbeit, die derzeit geleistet wird, konzentriert sich auf die KI Macht sein oder tun könnten in der Theorie , Sie sagt. Es gibt zu wenig Informationen darüber, was tatsächlich vor Ort passiert. Aber damit KI hält, was sie verspricht, müssen die Menschen über die soziale Integration genauso nachdenken wie über die technische Entwicklung.

Ihre Arbeit wirft auch ernsthafte Fragen auf. Eine verantwortungsvolle KI muss die Aufmerksamkeit auf den lokalen und spezifischen Kontext erfordern, sagt sie. Meine Lektüre und mein Training haben mich gelehrt, dass man nicht einfach eine Sache an einem Ort entwickeln und dann woanders ausrollen kann.

Die Herausforderung besteht also darin, herauszufinden, wie wir diese lokale Besonderheit beibehalten und gleichzeitig versuchen, in großem Maßstab zu arbeiten, fügt sie hinzu. Das ist die nächste Grenze für die KI-Forschung.

verbergen