Wir sind nicht bereit für KI, sagt der Gewinner eines neuen 1-Millionen-Dollar-Preises für KI

Rachel Wu / MIT CSAIL

Regina Barzilay , Professor am Computer Science and Artificial Intelligence Laboratory (CSAIL) des MIT, ist der erste Gewinner des Squirrel AI Award for Artificial Intelligence for the Benefit of Humanity, eines neuen Preises für herausragende KI-Forschung. Barzilay begann ihre Karriere mit der Verarbeitung natürlicher Sprache. Nachdem sie 2014 den Brustkrebs überstanden hatte, verlagerte sie ihren Fokus auf Algorithmen für maschinelles Lernen zur Erkennung von Krebs und zur Entwicklung neuer Medikamente . Die Auszeichnung wird im Februar 2021 von der Association for the Advancement of Artificial Intelligence (AAAI) verliehen.

Das Preisgeld von 1 Million US-Dollar, bereitgestellt von Chinesisches Online-Bildungsunternehmen Squirrel AI , über die wir bereits geschrieben haben, stellt den Preis auf die gleiche finanzielle Ebene wie den Nobelpreis und den Turing Award in der Informatik. Ich habe mit Barzilay am Telefon über den Preis gesprochen – und über das Versprechen und die Frustrationen der KI.

Unser Gespräch wurde aus Gründen der Länge und Klarheit bearbeitet.

Herzlichen Glückwunsch zu dieser Auszeichnung. Was bedeutet es für Sie und für KI im Allgemeinen?

Danke schön. Wissen Sie, es gibt viele Bereiche, in denen KI noch keinen Unterschied macht, aber es werden könnte. Wir verwenden ständig maschinelle Übersetzungs- oder Empfehlungssysteme, aber niemand hält diese für eine ausgefallene Technologie, niemand fragt danach. Aber in anderen Bereichen unseres Lebens, die für unser Wohlbefinden entscheidend sind, wie zum Beispiel im Gesundheitswesen, hat KI noch keine gesellschaftliche Akzeptanz. Ich hoffe, dass diese Auszeichnung und die damit verbundene Aufmerksamkeit dazu beitragen, die Meinung der Menschen zu ändern und sie die Chancen erkennen lassen – und die KI-Community dazu anregen, die nächsten Schritte zu unternehmen.

Was für Schritte?

Als die Technologie von der Dampfkraft zur Elektrizität überging, waren die ersten Versuche, Elektrizität in die Industrie zu bringen, nicht sehr erfolgreich, weil die Leute einfach versuchten, Dampfmaschinen nachzubauen. Ich denke, etwas Ähnliches passiert jetzt mit KI. Wir müssen ausarbeiten, wie wir es in viele verschiedene Bereiche integrieren können: nicht nur in die Gesundheitsversorgung, sondern auch in Bildung, Materialdesign, Stadtplanung und so weiter. Natürlich gibt es auf der Technologieseite noch mehr zu tun, einschließlich der Entwicklung besserer Algorithmen, aber wir bringen diese Technologie in stark regulierte Umgebungen und haben uns nicht wirklich angesehen, wie das geht.

Derzeit floriert KI an Orten, an denen die Fehlerkosten sehr gering sind. Wenn Google eine falsche Übersetzung findet oder Ihnen einen falschen Link gibt, ist das in Ordnung; Sie können einfach zum nächsten gehen. Aber das hilft einem Arzt nicht. Wenn Sie Patienten die falsche Behandlung geben oder eine Diagnose übersehen, hat dies wirklich schwerwiegende Folgen. Viele Algorithmen können Dinge tatsächlich besser als Menschen. Aber wir vertrauen immer unserer eigenen Intuition, unserem eigenen Verstand, mehr als etwas, das wir nicht verstehen. Wir müssen Ärzten Gründe geben, KI zu vertrauen. Die FDA befasst sich mit diesem Problem, aber ich denke, dass es in den USA oder anderswo auf der Welt noch lange nicht gelöst ist.

2014 wurde bei Ihnen Brustkrebs diagnostiziert. Hat das Ihre Einstellung zu Ihrer Arbeit verändert?

Oh ja, absolut. Eines der Dinge, die passierten, als ich die Behandlung durchlief und übermäßig viel Zeit im Krankenhaus verbrachte, war, dass sich die Dinge, an denen ich gearbeitet hatte, jetzt trivial anfühlten. Ich dachte: Die Menschen leiden. Wir können etwas tun.

Als ich mit der Behandlung anfing, fragte ich, was mit Patienten wie mir passiert, mit meiner Art von Tumor und meinem Alter und dieser Behandlung. Sie würden sagen: Oh, es gab diese klinische Studie, aber Sie passen nicht wirklich genau dazu. Und ich dachte, Brustkrebs ist eine sehr häufige Krankheit. Es gibt so viele Patienten mit so vielen gesammelten Daten. Wie kommt es, dass wir es nicht verwenden? Aber in US-Krankenhäusern bekommt man diese Informationen nicht so einfach aus dem System. Es ist da, aber es ist im Text. Und so fing ich an, NLP zu verwenden, um darauf zuzugreifen. Ich könnte mir keinen anderen Bereich vorstellen, in dem Menschen freiwillig die verfügbaren Daten wegwerfen. Aber so war es in der Medizin.

Haben Krankenhäuser die Chance ergriffen, diese Daten stärker zu nutzen?

Es hat einige Zeit gedauert, einen Arzt zu finden, der mit mir arbeiten würde. Ich habe den Leuten gesagt, wenn Sie ein Problem haben, werde ich versuchen, es zu lösen. Ich brauche keine Finanzierung. Geben Sie mir einfach ein Problem und die Daten. Aber es dauerte eine Weile, bis ich Mitstreiter fand. Weißt du, ich war kein besonders beliebter Charakter.

Von dieser NLP-Arbeit ging ich dann zur Vorhersage des Patientenrisikos durch Mammographien über, indem ich Bilderkennung verwendete, um vorherzusagen, ob Sie Krebs bekommen würden oder nicht – wie Ihre Krankheit wahrscheinlich fortschreiten wird.

Hätten diese Tools einen Unterschied gemacht, wenn sie Ihnen bei der Diagnose zur Verfügung gestanden hätten?

Absolut. Wir können dieses Zeug auf meinen Mammogrammen von vor meiner Diagnose laufen lassen, und es war bereits da – Sie können es deutlich erkennen. Es ist kein Wunder – Krebs wächst nicht von gestern auf heute. Es ist ein ziemlich langer Prozess. Es gibt Anzeichen im Gewebe, aber das menschliche Auge kann nur sehr kleine Muster erkennen. In meinem Fall wäre es zwei Jahre vorher sichtbar gewesen.

Warum hat der Arzt das nicht gesehen?

Es ist eine schwere Aufgabe. Jede Mammographie hat weiße Flecken, die Krebs sein können oder nicht, und ein Arzt muss entscheiden, welcher dieser weißen Flecken biopsiert werden muss. Der Arzt muss abwägen, ob er nach Intuition handelt oder einem Patienten Schaden zufügt, indem er Biopsien durchführt, die nicht erforderlich sind. Aber das ist genau die Art von Entscheidung, die uns die datengesteuerte KI dabei helfen kann, sie viel systematischer zu treffen.

Womit wir wieder beim Vertrauensproblem wären. Brauchen wir eine technische Lösung, um Tools erklärbarer zu machen, oder müssen wir die Menschen, die sie verwenden, schulen?

Das ist eine großartige Frage. Manche Entscheidungen wären einem Menschen wirklich leicht zu erklären. Wenn eine KI Krebs in einem Bild erkennt, können Sie in den Bereich hineinzoomen, den das Modell betrachtet, wenn es die Vorhersage trifft. Aber wenn Sie eine Maschine, wie wir es zunehmend tun, bitten, Dinge zu tun, die ein Mensch nicht kann, was genau wird Ihnen die Maschine zeigen? Es ist wie mit einem Hund, der viel besser riechen kann als wir und erklärt, wie er etwas riechen kann. Diese Kapazität haben wir einfach nicht. Ich denke, dass dies die große Frage ist, da die Maschinen immer fortschrittlicher werden. Welche Erklärung würde Sie überzeugen, wenn Sie diese Aufgabe nicht alleine lösen können?

Sollen wir also warten, bis sich die KI vollständig erklären kann?

Nein. Denken Sie darüber nach, wie wir jetzt Fragen auf Leben und Tod beantworten. Die meisten medizinischen Fragen, z. B. wie Sie auf diese Behandlung oder dieses Medikament ansprechen, werden mit statistischen Modellen beantwortet, die zu Fehlern führen können. Keine von ihnen ist perfekt.

Dasselbe gilt für KI. Ich denke nicht, dass es gut ist zu warten, bis wir die perfekte KI entwickelt haben. Ich glaube nicht, dass das in absehbarer Zeit passieren wird. Die Frage ist, wie man seine Stärken nutzt und seine Schwächen vermeidet.

Warum hat KI noch keinen großen Einfluss auf Covid-19?

KI wird nicht alle großen Probleme lösen, die wir haben. Aber es gab einige kleine Beispiele. Als Anfang dieses Jahres alle nicht wesentlichen klinischen Dienstleistungen reduziert wurden, haben wir ein KI-Tool verwendet, um zu ermitteln, welche Onkologiepatientinnen in Boston noch zu ihrer jährlichen Mammographie gehen sollten.

Aber der Hauptgrund, warum KI nicht nützlicher war, ist nicht der Mangel an Technologie, sondern der Mangel an Daten. Weißt du, ich bin im Führungsteam der J-Clinic des MIT, einem Zentrum für KI im Gesundheitswesen, und viele von uns sagten im April: Wir wollen wirklich etwas tun – woher können wir die Daten bekommen? Aber wir konnten es nicht bekommen. Es war unmöglich. Selbst jetzt, sechs Monate später, ist nicht klar, wie wir an Daten kommen.

Der zweite Grund ist, dass wir nicht bereit waren. Selbst unter normalen Umständen, wenn Menschen nicht unter Stress stehen, ist es schwierig, KI-Tools in einen Prozess zu integrieren und sicherzustellen, dass alles richtig geregelt ist. In der aktuellen Krise haben wir diese Kapazität einfach nicht.

Weißt du, ich verstehe, warum Ärzte konservativ sind: Menschenleben stehen auf dem Spiel. Aber ich hoffe, dass dies ein Weckruf dafür sein wird, wie unvorbereitet wir sind, schnell auf neue Bedrohungen zu reagieren. So sehr ich denke, dass KI die Technologie der Zukunft ist, wenn wir nicht herausfinden, wie wir ihr vertrauen können, werden wir keine Fortschritte sehen.

verbergen