Maschinen können psychische Probleme erkennen – wenn Sie Ihre persönlichen Daten preisgeben

Neguine Razaii

Jake Belcher





Als Neguine Rezaii vor einem Jahrzehnt zum ersten Mal in die Vereinigten Staaten zog, zögerte sie, den Leuten zu sagen, dass sie Iranerin war. Stattdessen würde sie Persisch verwenden. Ich dachte mir, dass die Leute wahrscheinlich nicht wissen würden, was das ist, sagt sie.

Die sprachliche Zweideutigkeit war nützlich: Sie konnte ihre Verlegenheit über das Regime von Mahmoud Ahmadinejad verbergen und sich selbst treu bleiben. Früher hätten sie nur gelächelt und seien weggegangen, sagt sie. Heute sagt sie gerne wieder Iranisch.

Wir verwenden Sprache nicht alle so bewusst wie Rezaii – aber die Worte, die wir verwenden, sind wichtig. Dichter, Detektive und Anwälte haben lange die Sprache der Menschen nach Hinweisen durchforstet, um nach ihren Motiven und inneren Wahrheiten zu suchen. Psychiater auch: Psychiater vielleicht besonders. Denn während die Medizin heute über eine Reihe von Tests und technischen Hilfsmitteln zur Diagnose körperlicher Beschwerden verfügt, ist das Hauptinstrument der Psychiatrie das gleiche, das vor Jahrhunderten verwendet wurde: die Frage „Wie fühlen Sie sich heute? Einfach zu fragen vielleicht – aber nicht zu beantworten.



In der Psychiatrie haben wir nicht einmal ein Stethoskop, sagt Rezaii, der jetzt Neuropsychiatrie-Stipendiat am Massachusetts General Hospital ist. Es sind 45 Minuten, mit einem Patienten zu sprechen und dann auf der Grundlage dieses Gesprächs eine Diagnose zu stellen. Es gibt keine objektiven Maßnahmen. Keine Zahlen.

Es gibt keinen Bluttest, um Depressionen zu diagnostizieren, keinen Gehirnscan, der Angstzustände lokalisieren kann, bevor sie auftreten. Selbstmordgedanken können nicht durch eine Biopsie diagnostiziert werden, und selbst wenn Psychiater zutiefst besorgt sind, dass die Covid-19-Pandemie schwerwiegende Auswirkungen auf die psychische Gesundheit haben wird, haben sie keine einfache Möglichkeit, dies zu verfolgen. In der Sprache der Medizin gibt es keinen einzigen zuverlässigen Biomarker, der zur Diagnose eines psychiatrischen Zustands verwendet werden kann. Die Suche nach Abkürzungen zum Auffinden von Gedankenverfälschungen führt immer wieder ins Leere – sie hält einen Großteil der Psychiatrie in der Vergangenheit und blockiert den Weg zum Fortschritt. Es macht die Diagnose zu einem langsamen, schwierigen, subjektiven Prozess und hindert Forscher daran, die wahre Natur und die Ursachen des Spektrums psychischer Erkrankungen zu verstehen oder bessere Behandlungen zu entwickeln.

Aber was wäre, wenn es andere Wege gäbe? Was wäre, wenn wir Worten nicht nur zuhören, sondern sie messen würden? Könnte das Psychiatern helfen, den verbalen Hinweisen zu folgen, die zu unserem Geisteszustand zurückführen könnten?



Das ist im Grunde das, wonach wir suchen, sagt Rezaii. Finden einiger Verhaltensmerkmale, denen wir Zahlen zuordnen können. Um sie zuverlässig nachverfolgen zu können und sie zur potenziellen Erkennung oder Diagnose von psychischen Störungen zu nutzen.

Im Juni 2019 veröffentlichte Rezaii ein Papier über einen radikal neuen Ansatz, der genau das tat. Ihre Forschung zeigte, dass die Art und Weise, wie wir sprechen und schreiben, frühe Anzeichen einer Psychose erkennen lassen kann und dass Computer uns helfen können, diese Anzeichen mit beunruhigender Genauigkeit zu erkennen. Sie folgte den Brotkrümeln der Sprache, um zu sehen, wohin sie führten.

Rezaii fand heraus, dass die Sprachanalyse mit einer Genauigkeit von mehr als 90 % vorhersagen konnte, welche Patienten wahrscheinlich Schizophrenie entwickeln würden, bevor typische Symptome auftraten.



Menschen, die dazu neigen, Stimmen zu hören, neigen dazu, über sie zu sprechen. Sie erwähnen diese akustischen Halluzinationen nicht explizit, aber sie verwenden die damit verbundenen Wörter – klingen, hören, singen, laut – häufiger in normalen Gesprächen. Das Muster ist so subtil, dass Sie die Stacheln mit bloßem Ohr nicht erkennen könnten. Aber ein Computer kann sie finden. Und in Tests mit Dutzenden von psychiatrischen Patienten fand Rezaii heraus, dass die Sprachanalyse mit über 90-prozentiger Genauigkeit vorhersagen konnte, welche von ihnen wahrscheinlich Schizophrenie entwickeln würden, bevor typische Symptome auftraten. Es versprach einen großen Sprung nach vorne.

In der Vergangenheit beruhte das Erfassen von Informationen über jemanden oder das Analysieren der Aussagen einer Person, um eine Diagnose zu stellen, auf den Fähigkeiten, Erfahrungen und Meinungen einzelner Psychiater. Aber dank der Omnipräsenz von Smartphones und sozialen Medien war die Sprache der Menschen noch nie so einfach zu erfassen, zu digitalisieren und zu analysieren. Und eine wachsende Zahl von Forschern sichtet die Daten, die wir produzieren – von unserer Sprachwahl oder unseren Schlafgewohnheiten bis hin dazu, wie oft wir unsere Freunde anrufen und was wir auf Twitter und Facebook schreiben –, um nach Anzeichen von Depressionen, Angstzuständen oder bipolaren Störungen zu suchen , und andere Syndrome.

Für Rezaii und andere ist die Fähigkeit, diese Daten zu sammeln und zu analysieren, der nächste große Fortschritt in der Psychiatrie. Sie nennen es digitale Phänotypisierung.



Ihre Worte abwägen

1908 gab der Schweizer Psychiater Eugen Bleuler den Namen für eine Erkrankung bekannt, die er und seine Kollegen untersuchten: Schizophrenie. Er merkte an, wie die Symptome der Erkrankung ihren Ausdruck in der Sprache finden, fügte aber hinzu: Die Anomalie liegt nicht in der Sprache selbst, sondern in dem, was sie zu sagen hat.

Bleuler war einer der ersten, der sich auf die sogenannten negativen Symptome der Schizophrenie konzentrierte, das Fehlen von etwas, das bei gesunden Menschen beobachtet wird. Diese sind weniger auffällig als die sogenannten Positivsymptome, die auf das Vorhandensein von Extras wie Halluzinationen hinweisen. Eines der häufigsten negativen Symptome ist Alogie oder Spracharmut. Die Patienten sprechen entweder weniger oder sagen weniger, wenn sie sprechen, indem sie vage, sich wiederholende, stereotype Sätze verwenden. Das Ergebnis ist das, was Psychiater als niedrige semantische Dichte bezeichnen.

Eine niedrige semantische Dichte ist ein verräterisches Zeichen dafür, dass ein Patient psychosegefährdet sein könnte. Schizophrenie, eine häufige Form der Psychose, entwickelt sich tendenziell im späten Teenageralter bis Anfang 20 bei Männern und Ende 20 bis Anfang 30 bei Frauen – aber ein Vorstadium mit milderen Symptomen geht normalerweise dem ausgewachsenen Zustand voraus. An Menschen in dieser Prodromalphase wird viel geforscht, und Psychiater wie Rezaii verwenden Sprache und andere Verhaltensmaßstäbe, um herauszufinden, welche Prodromalpatienten später eine vollständige Schizophrenie entwickeln und warum. Aufbauend auf anderen Forschungsprojekten, die zum Beispiel darauf hindeuten, dass Menschen mit hohem Psychoserisiko dazu neigen, weniger Possessivpronomen wie my, his oder ours zu verwenden, wollten Rezaii und ihre Kollegen sehen, ob ein Computer eine niedrige semantische Dichte erkennen kann.

Neguine RazaiJAKE BELCHER

Die Forscher verwendeten Aufzeichnungen von Gesprächen, die in den letzten zehn Jahren mit zwei Gruppen von Schizophrenie-Patienten an der Emory University geführt wurden. Sie zerlegten jeden gesprochenen Satz in eine Reihe von Kernideen, damit ein Computer die semantische Dichte messen konnte. Der Satz Nun, ich glaube, ich habe starke Gefühle zur Politik erhält eine hohe Punktzahl, dank der Wörter stark, Politik und Gefühle.

Aber ein Satz wie Jetzt, jetzt weiß ich, wie man cool mit Leuten ist, weil es so ist, als würde man nicht reden, ist wie, Sie wissen, wie man cool mit Leuten ist, es ist wie jetzt, ich weiß, wie man das macht, hat eine sehr geringe semantische Dichte.

In einem zweiten Test ließen sie den Computer zählen, wie oft jeder Patient Wörter benutzte, die mit Geräuschen in Verbindung gebracht wurden – und nach Hinweisen auf Stimmen suchten, die sie möglicherweise hörten, aber geheim hielten. In beiden Fällen gaben die Forscher dem Computer eine Grundlinie normaler Sprache, indem sie ihn mit Online-Gesprächen fütterten, die von 30.000 Benutzern von Reddit gepostet wurden.

Wenn Psychiater Menschen in der Prodromalphase treffen, verwenden sie eine Reihe von Standardinterviews und kognitiven Tests, um vorherzusagen, wer später eine Psychose entwickeln wird. Sie machen es normalerweise zu 80% der Zeit richtig. Durch die Kombination der beiden Analysen von Sprachmustern erzielte Rezaiis Computer mindestens 90 %.

Sie sagt, dass es noch ein langer Weg ist, bis die Entdeckung in der Klinik genutzt werden könnte, um vorherzusagen, was mit Patienten passieren wird. Die Studie untersuchte die Rede von nur 40 Personen; Der nächste Schritt wäre, die Stichprobengröße zu erhöhen. Aber sie arbeitet bereits an einer Software, die ihre Gespräche mit Patienten schnell analysieren könnte. Sie drücken also den Knopf und es gibt Ihnen Zahlen. Wie ist die semantische Dichte der Sprache des Patienten? Was waren die subtilen Merkmale, über die der Patient sprach, die er aber nicht unbedingt explizit ausdrückte? Sie sagt. Wenn es eine Möglichkeit wäre, in die tieferen, unterbewussteren Schichten zu gelangen, wäre das sehr cool.

Die Ergebnisse haben auch eine offensichtliche Implikation: Wenn ein Computer solche subtilen Veränderungen zuverlässig erkennen kann, warum nicht die gefährdeten Personen kontinuierlich überwachen?

Mehr als nur Schizophrenie

Etwa jeder vierte Mensch weltweit erkrankt im Laufe seines Lebens an einem psychiatrischen Syndrom. Zwei von vier besitzen mittlerweile ein Smartphone. Die Verwendung der Gadgets zur Erfassung und Analyse von Sprach- und Textmustern könnte als Frühwarnsystem fungieren. Das würde den Ärzten Zeit geben, bei den am stärksten gefährdeten Personen einzugreifen, sie vielleicht genauer zu beobachten – oder sogar Therapien auszuprobieren, um die Wahrscheinlichkeit eines psychotischen Ereignisses zu verringern.

Patienten könnten auch Technologie verwenden, um ihre eigenen Symptome zu überwachen. Psychisch Kranke sind oft unzuverlässige Erzähler, wenn es um ihre Gesundheit geht – unfähig oder unwillig, ihre Symptome zu identifizieren. Sogar die digitale Überwachung grundlegender Messungen wie der Anzahl der Schlafstunden, die jemand bekommt, kann helfen, sagt Kit Huckvale, ein Postdoktorand, der am Black Dog Institute in Sydney an digitaler Gesundheit arbeitet, weil es Patienten warnen kann, wenn sie am anfälligsten sind zu einer Verschlechterung ihres Zustands.

Es ist nicht nur Schizophrenie, die mit einer Maschine entdeckt werden könnte. Durch das Studium der Telefone von Menschen konnten Psychiater die subtilen Anzeichen erkennen, die einer bipolaren Episode vorausgehen.

Mit diesen Computern, die wir alle mit uns herumtragen, haben wir vielleicht Zugang zu Informationen über Verhaltens-, Kognitions- oder Erfahrungsänderungen, die robuste Signale für zukünftige psychische Erkrankungen liefern, sagt er. Oder tatsächlich nur die frühesten Stadien der Not.

Und es ist nicht nur Schizophrenie, die mit einer Maschine entdeckt werden könnte. Die wahrscheinlich fortschrittlichste Anwendung der digitalen Phänotypisierung ist die Vorhersage des Verhaltens von Menschen mit bipolarer Störung. Durch das Studium der Telefone der Menschen konnten Psychiater die subtilen Anzeichen erkennen, die einer Episode vorausgehen. Wenn ein Stimmungsumschwung bevorsteht, zeigen die GPS-Sensoren in den Telefonen bipolarer Patienten, dass sie tendenziell weniger aktiv sind. Sie nehmen eingehende Anrufe weniger entgegen, tätigen weniger ausgehende Anrufe und verbringen im Allgemeinen mehr Zeit damit, auf den Bildschirm zu schauen. Vor einer manischen Phase hingegen bewegen sie sich mehr, verschicken mehr SMS und telefonieren länger.

Ab März 2017 wurden Hunderten von Patienten, die aus psychiatrischen Krankenhäusern in der Umgebung von Kopenhagen entlassen wurden, maßgeschneiderte Telefone ausgeliehen, damit Ärzte ihre Aktivitäten aus der Ferne beobachten und auf Anzeichen von Niedergeschlagenheit oder Manie prüfen können. Wenn die Forscher ungewöhnliche oder besorgniserregende Muster entdecken, werden die Patienten eingeladen, mit einer Krankenschwester zu sprechen. Indem auf diese Weise auf Frühwarnzeichen geachtet und darauf reagiert wird, zielt die Studie darauf ab, die Zahl der Patienten zu verringern, die einen schweren Rückfall erleiden.

Solche Projekte holen die Zustimmung der Teilnehmer ein und verpflichten sich, die Daten vertraulich zu behandeln. Aber da Details zur psychischen Gesundheit in die Welt der Big Data einfließen, haben Experten Bedenken hinsichtlich des Datenschutzes geäußert.

Die Einführung dieser Technologie übertrifft definitiv die gesetzliche Regulierung. Es übertrifft sogar die öffentliche Debatte, sagt Piers Gooding, der am Melbourne Social Equity Institute in Australien Gesetze und Richtlinien zur psychischen Gesundheit studiert. Es muss eine ernsthafte öffentliche Debatte über den Einsatz digitaler Technologien im Kontext der psychischen Gesundheit geführt werden.

Verwandte Geschichte

Werde ich verrückt oder werde ich verfolgt? In der verstörenden Online-Welt des Gangstalking

Foren, in denen Menschen darüber diskutieren, wie sie von Gangstalkern belästigt werden, sind chaotisch und verwirrend – und sie führen einige auf einen dunklen Pfad.

Wissenschaftler haben bereits Videos verwendet, die von Familien auf YouTube gepostet wurden – ohne eine ausdrückliche Zustimmung einzuholen Computer trainieren, um charakteristische Körperbewegungen von Kindern mit Autismus zu erkennen . Andere haben Twitter-Beiträge gesichtet, um Verhaltensweisen im Zusammenhang mit dem zu verfolgen Übertragung von HIV , während Versicherungsgesellschaften in New York sind offiziell erlaubt die Instagram-Feeds der Leute zu studieren, bevor sie ihre Lebensversicherungsprämien berechnen.

Da die Technologie unser Verhalten und unseren Lebensstil immer präziser verfolgt und analysiert – manchmal mit unserem Wissen und manchmal ohne – wachsen die Möglichkeiten für andere, unseren mentalen Zustand aus der Ferne zu überwachen, schnell.

Datenschutz

Theoretisch sollten Datenschutzgesetze verhindern, dass Daten zur psychischen Gesundheit weitergegeben werden. In den USA regelt das 24 Jahre alte HIPAA-Statut den Austausch medizinischer Daten, und das europäische Datenschutzgesetz, die DSGVO, sollte es theoretisch auch stoppen. Aber ein 2019-Bericht des Überwachungswächters Privacy International fanden heraus, dass beliebte Websites über Depressionen in Frankreich, Deutschland und Großbritannien Benutzerdaten mit Werbetreibenden, Datenbrokern und großen Technologieunternehmen austauschten, während einige Websites, die Depressionstests anbieten, Antworten und Testergebnisse an Dritte weitergaben.

Gooding weist darauf hin, dass seit mehreren Jahren die kanadische Polizei Details über Selbstmordversuche an US-Grenzbeamte weitergeben, die ihnen dann die Einreise verweigern würden . Im Jahr 2017 kam eine Untersuchung zu dem Schluss, dass die Praxis illegal war, und sie wurde eingestellt.

Nur wenige würden bestreiten, dass dies eine Verletzung der Privatsphäre war. Medizinische Informationen sind schließlich sakrosankt. Auch bei Diagnosen psychischer Erkrankungen sollen Gesetze weltweit Diskriminierung am Arbeitsplatz und anderswo verhindern.

Einige Ethiker befürchten jedoch, dass die digitale Phänotypisierung die Grenzen dessen verwischt, was als medizinische Daten eingestuft, reguliert und geschützt werden könnte oder sollte.

Wenn die Kleinigkeiten unseres täglichen Lebens nach Hinweisen auf unsere psychische Gesundheit durchsucht werden, dann ist unsere digitale Erschöpfung – Daten darüber, welche Wörter wir wählen, wie schnell wir auf SMS und Anrufe reagieren, wie oft wir nach links wischen, welche Beiträge wir mögen – könnten anderen mindestens so viel über unseren Gemütszustand sagen wie das, was in unseren vertraulichen Krankenakten steht. Und es ist fast unmöglich, sich zu verstecken.

Die Technologie hat uns über die traditionellen Paradigmen hinausgebracht, die bestimmte Arten von Informationen schützen sollten, sagt Nicole Martinez-Martin, Bioethikerin in Stanford. Wenn es sich bei allen Daten um potenzielle Gesundheitsdaten handelt, stellt sich die Frage, ob diese Art von Gesundheitsinformations-Exzeptionalismus überhaupt noch Sinn macht.

Gesundheitsinformationen, fügt sie hinzu, waren früher einfach zu klassifizieren – und daher zu schützen – weil sie von Gesundheitsdienstleistern erstellt und in Gesundheitseinrichtungen aufbewahrt wurden, von denen jede ihre eigenen Vorschriften hatte, um die Bedürfnisse und Rechte von zu schützen seine Patienten. Jetzt werden viele Möglichkeiten zur Verfolgung und Überwachung der psychischen Gesundheit mithilfe von Signalen aus unserem täglichen Handeln von kommerziellen Unternehmen entwickelt, die dies nicht tun.

Facebook zum Beispiel behauptet, KI-Algorithmen zu verwenden, um suizidgefährdete Personen zu finden , indem die Sprache in Posts und besorgten Kommentaren von Freunden und Familie überprüft wird. Das Unternehmen sagt, es habe die Behörden alarmiert, um Menschen in mindestens 3.500 Fällen zu helfen. Aber unabhängige Forscher beschweren sich, dass es nicht offenbart hat, wie sein System funktioniert oder was es mit den gesammelten Daten macht.

Verwandte Geschichte

Facebook will den Selbstmord von Teenagern bekämpfen. Experten sind sich nicht sicher, ob sie es richtig machen Selbstmord unter jungen Menschen nimmt zu, und viele weisen auf soziale Medien als Ursache hin.

Obwohl Bemühungen zur Suizidprävention von entscheidender Bedeutung sind, ist dies nicht die Antwort, sagt Gooding. Es gibt weder Untersuchungen zur Genauigkeit, zum Umfang oder zur Wirksamkeit der Initiative noch Informationen darüber, was genau das Unternehmen mit den Informationen nach jeder offensichtlichen Krise macht. Es ist im Grunde hinter einem Vorhang von Gesetzen zum Geschäftsgeheimnis verborgen.

Die Probleme liegen nicht nur im privaten Bereich. Obwohl Forscher, die an Universitäten und Forschungsinstituten arbeiten, einem Netz von Genehmigungen unterliegen, um Zustimmung, Datenschutz und ethische Zustimmung zu gewährleisten, könnten einige akademische Praktiken den Missbrauch digitaler Phänotypisierung tatsächlich fördern und ermöglichen, betont Rezaii.

Als ich mein Papier über die Vorhersage von Schizophrenie veröffentlichte, wollten die Herausgeber, dass der Code offen zugänglich ist, und ich sagte, gut, weil ich auf liberale und freie Sachen stehe. Aber was ist, wenn jemand damit eine App baut und Dinge über seltsame Teenager vorhersagt? Das sei riskant, sagt sie. Fachzeitschriften plädieren für eine kostenlose Veröffentlichung der Algorithmen. Es wurde bisher 1.060 Mal heruntergeladen. Ich weiß nicht, zu welchem ​​Zweck, und das ist mir unangenehm.

Abgesehen von Datenschutzbedenken befürchten einige, dass die digitale Phänotypisierung einfach überbewertet wird.

Serife Tekin, die Philosophie der Psychiatrie an der University of Texas in San Antonio studiert, sagt, dass Psychiater seit langem auf die neueste Technologie setzen, um zu versuchen, ihre Diagnosen und Behandlungen evidenzbasierter erscheinen zu lassen. Von Lobotomien bis hin zu den farbenfrohen Versprechungen von Gehirnscans tendiert das Feld dazu, sich mit großen Wellen unkritischen Optimismus zu bewegen, der sich später als unbegründet herausstellt, sagt sie – und die digitale Phänotypisierung könnte einfach das neueste Beispiel sein.

Die zeitgenössische Psychiatrie befindet sich in einer Krise, sagt sie. Aber ob die Lösung der Krise in der psychischen Gesundheitsforschung in der digitalen Phänotypisierung liegt, ist fraglich. Wenn wir immer alle Eier in einen Korb legen, wird das der Komplexität des Problems nicht wirklich gerecht.

Psychische Gesundheit moderner machen?

Neguine Rezaii weiß, dass sie und andere, die an der digitalen Phänotypisierung arbeiten, manchmal vom glänzenden Potenzial der Technologie geblendet sind. Es gibt Dinge, über die ich nicht nachgedacht habe, weil wir so aufgeregt sind, so viele Daten wie möglich über dieses versteckte Signal in der Sprache zu bekommen, sagt sie.

Aber sie weiß auch, dass sich die Psychiatrie zu lange auf wenig mehr als fundierte Vermutungen verlassen hat. Wir wollen keine fragwürdigen Schlussfolgerungen darüber ziehen, was der Patient gesagt oder gemeint haben könnte, wenn es eine Möglichkeit gibt, dies objektiv herauszufinden, sagt sie. Wir wollen sie aufzeichnen, einen Knopf drücken und ein paar Zahlen bekommen. Am Ende des Termins liegen uns die Ergebnisse vor. Das ist das Ideal. Daran arbeiten wir.

Für Rezaii ist es selbstverständlich, dass moderne Psychiater Smartphones und andere verfügbare Technologien verwenden möchten. Diskussionen über Ethik und Datenschutz sind wichtig, sagt sie, aber auch das Bewusstsein, dass Technologiefirmen bereits Informationen über unser Verhalten sammeln und sie – ohne unsere Zustimmung – für weniger edle Zwecke verwenden, wie zum Beispiel zu entscheiden, wer mehr für identische Taxifahrten bezahlt oder länger auf Abholung warten.

Wir leben in einer digitalen Welt. Dinge können immer missbraucht werden, sagt sie. Sobald ein Algorithmus da draußen ist, können die Leute ihn nehmen und auf andere anwenden. Es gibt keine Möglichkeit, das zu verhindern. Zumindest in der medizinischen Welt bitten wir um Zustimmung.

verbergen