Eine KI bildet Berater aus, um mit Teenagern in Krisen umzugehen

Frau Technik | Unsplash, Pexels

Berater, die sich freiwillig beim Trevor-Projekt engagieren, müssen auf ihr erstes Gespräch mit einem LGBTQ-Teenager vorbereitet sein, der möglicherweise an Selbstmord denkt. Also üben sie zuerst. Dazu sprechen sie unter anderem mit fiktiven Persönlichkeiten wie Riley, einem 16-Jährigen aus North Carolina, der sich etwas niedergeschlagen und deprimiert fühlt. Mit einem Teammitglied, das Rileys Rolle spielt, können die Auszubildenden nachvollziehen, was passiert: Sie können aufdecken, dass der Teenager Angst hat, sich vor der Familie zu outen, kürzlich Freunden erzählt hat, dass es nicht gut gelaufen ist, und schon einmal Selbstmordgedanken hatte, wenn nicht sogar jetzt der Moment.

Jetzt wird Riley jedoch nicht von einem Trevor Project-Mitarbeiter gespielt, sondern von KI angetrieben.

Genau wie die ursprüngliche Persona muss diese Version von Riley – die auf Tausenden von früheren Transkripten von Rollenspielen zwischen Beratern und den Mitarbeitern der Organisation trainiert wurde – noch ein wenig überredet werden, sich zu öffnen und eine Situation darzustellen, die testen kann, was die Auszubildenden gelernt haben über die besten Möglichkeiten, LGBTQ-Teenagern zu helfen.

Berater sollten Riley nicht unter Druck setzen, sich zu outen. Das Ziel ist stattdessen, Rileys Gefühle zu bestätigen und bei Bedarf bei der Entwicklung eines Plans für die Sicherheit zu helfen.

Krisen-Hotlines und Chat-Dienste geben ihnen ein grundlegendes Versprechen: Wenden Sie sich an uns, und wir verbinden Sie mit einem echten Menschen, der Ihnen helfen kann. Aber der Bedarf kann die Kapazität selbst der erfolgreichsten Dienste übersteigen. Das Trevor Project geht davon aus, dass jedes Jahr 1,8 Millionen LGBTQ-Jugendliche in Amerika ernsthaft an Selbstmord denken. Die bestehenden 600 Berater für seine chatbasierten Dienste können diesen Bedarf nicht bewältigen. Aus diesem Grund wandte sich die Gruppe – wie eine zunehmende Zahl von Organisationen für psychische Gesundheit – KI-gestützten Tools zu, um die Nachfrage zu befriedigen. Eine Entwicklung, die sehr sinnvoll ist und gleichzeitig die Frage aufwirft, wie gut die aktuelle KI-Technologie in Situationen funktionieren kann, in denen das Leben gefährdeter Menschen auf dem Spiel steht.

Risiken eingehen – und sie einschätzen

Das Trevor Project glaubt, dieses Gleichgewicht zu verstehen – und betont, was Riley nicht tut.

Wir wollten und wollen kein KI-System entwerfen, das einen Berater ersetzt oder direkt mit einer Person interagiert, die sich möglicherweise in einer Krise befindet, sagt Dan Fichter, Leiter der KI- und KI-Abteilung der Organisation Ingenieurwesen. Diese menschliche Verbindung ist in allen psychiatrischen Diensten wichtig, aber sie könnte besonders wichtig für die Menschen sein, denen das Trevor-Projekt dient. Laut eigenen Recherchen der Organisation im Jahr 2019 waren LGBTQ-Jugendliche mit mindestens einem akzeptierenden Erwachsenen in ihrem Leben 40 % weniger wahrscheinlich einen Suizidversuch im Vorjahr zu melden.

Das KI-gestützte Trainings-Rollenspiel, das als Krisenkontaktsimulator bezeichnet wird und durch Geld und technische Hilfe von Google unterstützt wird, ist das zweite Projekt, das die Organisation auf diese Weise entwickelt hat: Es verwendet auch einen maschinellen Lernalgorithmus, um festzustellen, wer am stärksten gefährdet ist der Gefahr. (Es wurden mehrere andere Ansätze getestet, darunter viele, die keine KI verwendeten, aber der Algorithmus gab einfach die genauesten Vorhersagen darüber, wer den dringendsten Bedarf hatte.)

KI-gestützte Risikobewertung ist für Suizidpräventionsdienste nichts Neues: Das Ministerium für Veteranenangelegenheiten verwendet auch maschinelles Lernen, um gefährdete Veteranen in seinen klinischen Praxen zu identifizieren Das berichtete die New York Times Ende letzten Jahres.

Die Meinungen über den Nutzen, die Genauigkeit und das Risiko eines solchen Einsatzes von KI gehen auseinander. In bestimmten Umgebungen kann KI bei der Einschätzung des Suizidrisikos von Menschen genauer sein als Menschen, argumentiert Thomas Joiner, ein Psychologieprofessor an der Florida State University, der Suizidverhalten untersucht. In der realen Welt, mit mehr Variablen, scheint die KI ungefähr so ​​gut zu funktionieren wie der Mensch. Was es jedoch tun kann, ist, mehr Menschen schneller zu bewerten.

Daher wird es am besten verwendet, um menschlichen Beratern zu helfen, nicht um sie zu ersetzen. Das Trevor-Projekt verlässt sich immer noch auf Menschen, um vollständige Risikobewertungen für junge Menschen durchzuführen, die seine Dienste nutzen. Und nachdem die Berater ihre Rollenspiele mit Riley beendet haben, werden diese Transkripte von einem Menschen überprüft.

Wie das System funktioniert

Der Krisenkontakt-Simulator wurde entwickelt, weil die Durchführung von Rollenspielen viel Personalzeit in Anspruch nimmt und auf die normale Arbeitszeit beschränkt ist, obwohl ein Großteil der Berater einen freiwilligen Einsatz in Nacht- und Wochenendschichten vorsieht. Aber selbst wenn das Ziel darin bestand, mehr Berater schneller auszubilden und die Zeitpläne für Freiwillige besser zu berücksichtigen, war Effizienz nicht das einzige Ziel. Die Entwickler wollten immer noch, dass sich das Rollenspiel natürlich anfühlt und dass sich der Chatbot flink an die Fehler eines Freiwilligen anpasst. Algorithmen zur Verarbeitung natürlicher Sprache , die in letzter Zeit wirklich gut darin geworden war, menschliche Gespräche nachzuahmen, schien für die Herausforderung gut geeignet zu sein. Nach dem Testen mehrerer Optionen entschied sich das Trevor-Projekt Der GPT-2-Algorithmus von OpenAI .

Verwandte Geschichte

OpenAIs neuer Sprachgenerator GPT-3 ist erschreckend gut – und völlig geistlos

Die KI ist das größte Sprachmodell, das jemals geschaffen wurde, und kann bei Bedarf erstaunliche menschenähnliche Texte generieren, bringt uns aber der wahren Intelligenz nicht näher.

Der Chatbot verwendet GPT-2 für seine grundlegenden Konversationsfähigkeiten. Dieses Modell wird auf 45 Millionen Seiten aus dem Internet trainiert, wodurch es die grundlegende Struktur und Grammatik der englischen Sprache lernt. Das Trevor-Projekt trainierte ihn dann weiter mit allen Transkripten früherer Riley-Rollenspielgespräche, wodurch der Bot die Materialien erhielt, die er benötigte, um die Persona nachzuahmen.

Während des gesamten Entwicklungsprozesses war das Team von der Leistungsfähigkeit des Chatbots überrascht. Es gibt keine Datenbank, in der Details zu Rileys Biografie gespeichert sind, aber der Chatbot blieb konsistent, da jedes Transkript dieselbe Handlung widerspiegelt.

Aber es gibt auch Kompromisse beim Einsatz von KI, insbesondere in sensiblen Kontexten mit gefährdeten Gemeinschaften. GPT-2 und ähnliche natürliche Sprachalgorithmen sind dafür bekannt, tief rassistische, sexistische und homophobe Ideen zu verankern . Mehr als ein Chatbot wurde auf diese Weise katastrophal in die Irre geführt, zuletzt ein südkoreanischer Chatbot namens Lee Luda, der die Rolle eines 20-jährigen Universitätsstudenten hatte. Nachdem es schnell an Popularität gewonnen und mit immer mehr Benutzern interagiert hatte, begann es, Beleidigungen zu verwenden, um die queeren und behinderten Gemeinschaften zu beschreiben.

Das Trevor-Projekt ist sich dessen bewusst und hat Wege entwickelt, um das Potenzial für Probleme zu begrenzen. Während Lee Luda dazu gedacht war, sich mit Benutzern über alles Mögliche zu unterhalten, ist Riley sehr eng fokussiert. Freiwillige weichen nicht zu weit von den Konversationen ab, für die sie trainiert wurden, was die Wahrscheinlichkeit von unvorhersehbarem Verhalten minimiert.

Dies erleichtert auch das umfassende Testen des Chatbots, was das Trevor Project nach eigenen Angaben tut. Diese Anwendungsfälle, die hochspezialisiert und genau definiert und inklusiv gestaltet sind, stellen kein sehr hohes Risiko dar, sagt Nenad Tomasev, Forscher bei DeepMind.

Mensch zu Mensch

Dies ist nicht das erste Mal, dass der Bereich der psychischen Gesundheit versucht, das Potenzial von KI zu nutzen, um integrative, ethische Unterstützung zu leisten, ohne die Menschen zu verletzen, denen sie helfen soll. Forscher vielversprechende Wege entwickelt haben Depression anhand einer Kombination aus visuellen und auditiven Signalen zu erkennen. Therapie-Bots sind zwar nicht gleichbedeutend mit einem menschlichen Fachmann, aber werden aufgeschlagen als Alternativen für diejenigen, die keinen Zugang zu einem Therapeuten haben oder sind unbequem sich einer Person anvertrauen.

Jede dieser und ähnliche Entwicklungen erfordert Überlegungen darüber, wie viel Agentur-KI-Tools haben sollten, wenn es um die Behandlung gefährdeter Menschen geht. Und der Konsens scheint zu sein, dass die Technologie derzeit nicht wirklich geeignet ist, menschliche Hilfe zu ersetzen.

Joiner, der Psychologieprofessor, sagt jedoch, dass sich dies im Laufe der Zeit ändern könnte. Während es derzeit eine schlechte Idee ist, menschliche Berater durch KI-Kopien zu ersetzen, bedeutet dies nicht, dass es sich um eine dauerhafte Einschränkung handelt, sagt er. Menschen, haben künstliche Freundschaften und Beziehungen bereits mit KI-Diensten . Solange die Leute nicht dazu verleitet werden, zu glauben, dass sie eine Diskussion mit einem Menschen führen, wenn sie mit einer KI sprechen, könnte dies später eine Möglichkeit sein, sagt er.

In der Zwischenzeit wird Riley nie mit den Jugendlichen konfrontiert, die tatsächlich an das Trevor-Projekt schreiben: Es wird immer nur als Trainingswerkzeug für Freiwillige dienen. Die menschliche Verbindung zwischen unseren Beratern und den Menschen, die sich an uns wenden, ist für alles, was wir tun, von entscheidender Bedeutung, sagt Kendra Gaunt, die Daten- und KI-Produktleiterin der Gruppe. Ich denke, das macht uns wirklich einzigartig und etwas, von dem ich glaube, dass keiner von uns es ersetzen oder ändern möchte.

Korrektur: Wir haben einen Satz geändert, der besagt, dass das Trevor-Projekt zwei Algorithmen für seinen Chatbot getestet hat. Es hat mehrere getestet.

verbergen