Ein KI-Verbündeter zur Bekämpfung von Mobbing in virtuellen Welten

Saiman Chow

In jedem fiktiven Universum kann die Unterscheidung zwischen spielerischem Antagonismus und ernsthafter Belästigung schwer zu erkennen sein. Namensrufe zwischen Freunden, die zusammen ein Videospiel spielen, sind oft eine Form der Kameradschaft. Zwischen Fremden nehmen ähnliche Wörter jedoch eine andere, unangenehmere Qualität an. In der Lage zu sein, zwischen den beiden zu unterscheiden, ist entscheidend für jeden Videospielhersteller, der eine einladende Community fördern möchte.

Spirit AI hofft, Entwicklern helfen zu können, Spieler zu unterstützen und Mobbing-Verhalten mit einem Missbrauchserkennungs- und Interventionssystem namens Ally zu unterbinden. Die Software überwacht Interaktionen zwischen Spielern – was Menschen zueinander sagen und wie sie sich verhalten – durch die verfügbaren Aktionen innerhalb eines Spiels oder einer sozialen Plattform. Es ist in der Lage, verbale Belästigung und auch nonverbale Provokation zu erkennen – zum Beispiel, wenn ein Spieler den Avatar eines anderen verfolgt oder Meldetools missbraucht.

Wir betrachten Interaktionsmuster in Kombination mit natürlichsprachlichen Klassifikatoren, anstatt uns auf eine Liste einzelner Schlüsselwörter zu verlassen, erklärt Ruxandra Dariescu, eine der Entwicklerinnen von Ally. Belästigung ist ein differenziertes Problem.

Wenn Ally potenziell missbräuchliches Verhalten identifiziert, überprüft es, ob der potenzielle Missbraucher und der andere Spieler zuvor Interaktionen hatten. Ally unterscheidet sich von bestehender Moderationssoftware darin, dass es nicht einfach eine Benachrichtigung an die Entwickler des Spiels sendet, sondern in der Lage ist, einen computergesteuerten virtuellen Charakter zu senden, um sich beim Spieler anzumelden – einer, der durch die natürlichen Sprachwerkzeuge von Spirit AI ist in der Lage, sich im Ton und Stil des Spiels zu unterhalten (siehe Ein Videospielalgorithmus zur Lösung von Online-Missbrauch).

Verwandte Geschichte

Lesen Sie weiter Wie ein Team von Psychologen und Wissenschaftlern bei Riot Games das Geheimnis entschlüsselt, um Missbrauch in einem Online-Videospiel zu beseitigen.

Allys Bot könnte sagen: Ich habe bemerkt, dass Sie und Spieler 42 Fremde zu sein scheinen. Sie haben vielleicht etwas Unangemessenes zu dir gesagt, also wollte ich nur nachsehen, ob es dir gut geht? Der Spieler kann dann dem Bot antworten, sagt Dariescu. Wenn die Interaktion als freundliches Geplänkel abgetan wird, registriert das System dies und aktualisiert seine Regeln, damit es in Zukunft nicht mehr bei ähnlichem Verhalten eingreift. Fühlt sich der Nutzer missbraucht, interveniert das System beim Täter.

Ally ist mit allen Online-Spielen kompatibel, und Spirit AI arbeitet daran, dem Polizeiverhalten in Virtual-Reality-Spielen Fähigkeiten hinzuzufügen (siehe The War on the Disturbingly Real Trolls in Virtual Reality). Das Tool kann auf verschiedene Arten konfiguriert werden, um mit Spielern zu interagieren und verschiedene Arten von Aktionen auszuführen. Spirit AI sieht Ally als eine Möglichkeit, das Community-Management-Team eines Spiels zu erweitern, das die Aktivitäten in einem Dashboard überwachen kann.

Das Unternehmen, das 2016 offiziell gegründet wurde und derzeit 15 Mitarbeiter beschäftigt, gibt nicht bekannt, mit welchen Spieleentwicklern es derzeit zusammenarbeitet, aber die Software hat in der Spielewelt Aufmerksamkeit erregt. Auf der einfachsten Ebene können KI-unterstützte Community-Management-Tools die Reichweite des Teams vergrößern, sagt Imre Jele, ein erfahrener Designer umfangreicher Online-Multiplayer-Spiele wie RuneScape. Aber was mich am meisten begeistert, sind KI-Systeme, die über das Erkennen und Bestrafen von regelwidrigem Verhalten hinausgehen. Letztendlich sollte das Ziel dieser KI-Teammitglieder darin bestehen, aus der Polizeiarbeit herauszukommen und positive Interaktionen zu gestalten und gesündere Gemeinschaften aufzubauen.

Verwandte Geschichte

Lesen Sie weiter Wenn Sie das Gefühl haben, wirklich in einem virtuellen Körper zu sein, ist es wichtig, Ihren persönlichen Bereich zu schützen.

Spirit beabsichtigt sicherlich, dass die Software mehr bietet als eine bloße digitalisierte Polizei, die in Online-Spiele gerufen werden kann. Wir haben das Potenzial dieser Technologie identifiziert, nicht nur schlechtes Verhalten zu verhindern, sondern auch gutes, prosoziales Verhalten zu fördern, sagt Dariescu. Die Software könnte auch Umgebungsüberwachung verwenden, um allgemeinere Probleme zu identifizieren, die Spieler möglicherweise mit dem Design eines Spiels haben, und dem Entwickler Einblicke geben, wie das allgemeine Spielerlebnis verbessert werden könnte.

Laut Jele gibt es jedoch Einschränkungen, wenn es um KI-Interventionen in Fällen von Belästigung geht. Viele Interaktionen zwischen Community-Management und Spieler-Support-Teams erfordern tiefe Empathie und Sympathie, sagt er: Die Spieler unterstützten die Entwickler mit ihrem Geld und verdienten die bestmögliche Fürsorge, die derzeit nur Menschen leisten können.

verbergen