Facebook verwendet Bots, um zu simulieren, was seine Benutzer tun könnten

Kategorie: Künstliche Intelligenz Gesendet 15. April

Facebook hat eine neue Methode entwickelt, um die Konsequenzen seines Codes auszuspielen.

Der Kontext: Wie jedes Softwareunternehmen muss der Technologieriese sein Produkt jedes Mal testen, wenn er Updates veröffentlicht. Aber die Art von Debugging-Methoden, die Unternehmen normaler Größe verwenden, reicht bei 2,5 Milliarden Benutzern nicht wirklich aus. Solche Methoden konzentrieren sich normalerweise darauf, zu überprüfen, wie ein einzelner Benutzer die Plattform erleben könnte und ob die Software wie erwartet auf die Aktionen dieser einzelnen Benutzer reagiert. Im Gegensatz dazu treten bis zu 25 % der Hauptprobleme von Facebook erst dann auf, wenn Benutzer beginnen, miteinander zu interagieren. Es kann schwierig sein zu erkennen, wie sich die Einführung einer Funktion oder die Aktualisierung einer Datenschutzeinstellung auf Milliarden von Benutzerinteraktionen auswirken könnte.

SimCity: Als Antwort Facebook baute eine abgespeckte Version seiner Plattform Benutzerverhalten zu simulieren. Unter dem Namen WW hilft es Ingenieuren, die unerwünschten Folgen neuer Updates zu erkennen und zu beheben, bevor sie bereitgestellt werden. Es empfiehlt auch automatisch Änderungen, die an der Plattform vorgenommen werden können, um das Community-Erlebnis zu verbessern.

Bot-Doppelgänger: Facebook simuliert Hunderte bis Tausende seiner Benutzer gleichzeitig mit einer Mischung aus fest codierten und auf maschinellem Lernen basierenden Bots. Letztere werden mit einem Reinforcement-Learning-Algorithmus trainiert, der durch Versuch und Irrtum lernt, ihr Verhalten im Hinblick auf ein bestimmtes Ziel zu optimieren. Die Bots werden dann dazu gebracht, verschiedene Szenarien durchzuspielen, wie z. B. einen Betrüger, der versucht, andere Benutzer auszunutzen, oder einen Hacker, der versucht, auf die privaten Fotos einer Person zuzugreifen. In einem Betrugsszenario haben die Betrüger-Bots beispielsweise das Ziel, die besten Ziele für Betrug zu finden. Im Gegensatz dazu sind die Ziel-Bots mit den häufigsten anfälligen Verhaltensweisen von Benutzern hartcodiert. Jedes Szenario kann nur von wenigen Bots ausgeführt werden, aber das System ist so konzipiert, dass Tausende verschiedener Szenarien parallel ausgeführt werden.

Automatisches Design: Während die Szenarien abgespielt werden, passt das System automatisch verschiedene Parameter in der Simulation an, wie z. B. die Datenschutzeinstellungen der Bots oder die Einschränkungen für ihre Aktionen. Bei jeder Anpassung bewertet es, welche Kombination von Parametern das gewünschte Community-Verhalten erzielt, und empfiehlt dann den Plattformentwicklern von Facebook die beste Version.

Ausgeblendet: Um eine möglichst realistische Simulation zu erstellen, wird WW tatsächlich direkt auf der Live-Plattform erstellt und nicht als separate Testversion – ein weiterer wesentlicher Unterschied zu den meisten Testschemata. Die Bots bleiben jedoch hinter den Kulissen. Während ein typischer Benutzer mit Facebook über eine Front-End-Benutzeroberfläche wie ein Profil und andere Website-Funktionen interagiert, können gefälschte Bot-Benutzer direkt mit dem Back-End-Code interagieren. Dadurch können sie mit echten Benutzern koexistieren und verschiedene Szenarien auf der Plattform genauer simulieren, ohne dass diese Benutzer fälschlicherweise auch mit ihnen interagieren.

Zukunft perfekt: Im Moment nutzt das Unternehmen es, um Funktionen zu testen und zu verbessern, die es für schlechte Akteure viel schwieriger machen würden, gegen die Community-Richtlinien der Plattform zu verstoßen. Aber es sieht auch andere potenzielle Anwendungen für das System, z. B. das Testen, wie sich Plattformaktualisierungen auf das Engagement und andere Metriken auswirken könnten.