Zukünftige Wahlen könnten von intelligenten, bewaffneten Chatbots beeinflusst werden

Magoz

Der Kampf gegen Propaganda-Bots ist ein Wettrüsten für unsere Demokratie. Es ist eine, die wir vielleicht verlieren werden. Bots – einfache Computerskripte – wurden ursprünglich entwickelt, um sich wiederholende Aufgaben wie das Organisieren von Inhalten oder die Durchführung von Netzwerkwartungen zu automatisieren und so den Menschen stundenlange Langeweile zu ersparen. Unternehmen und Medien nutzen Bots auch, um Social-Media-Konten zu betreiben, Benutzer sofort auf aktuelle Nachrichten aufmerksam zu machen oder neu veröffentlichtes Material zu bewerben.

Sie können aber auch dazu verwendet werden, eine große Anzahl gefälschter Konten zu betreiben, was sie ideal für die Manipulation von Menschen macht. Unsere Forschung am Computational Propaganda Project untersucht die unzähligen Möglichkeiten, wie politische Bots, die Big Data und Automatisierung einsetzen, verwendet wurden, um Desinformationen zu verbreiten und den Online-Diskurs zu verzerren.

Diese Geschichte war Teil unserer Ausgabe vom September 2018

• Siehe den Rest des Problems
• Abonnieren

Bots haben sich als eine der besten Möglichkeiten erwiesen, extremistische Standpunkte in sozialen Medien zu verbreiten, aber auch solche Ansichten von anderen, echten Konten zu verstärken, indem sie sie liken, teilen, retweeten, herzeln und folgen, so wie es ein Mensch tun würde. Auf diese Weise spielen sie die Algorithmen aus und belohnen die Posts, mit denen sie interagiert haben, indem sie ihnen mehr Sichtbarkeit verleihen.

Dies wird im Vergleich zu dem, was auf dem Weg liegt, zahm erscheinen.

Stärke in Zahlen

Nach Russlands Einmischung in die US-Wahlen 2016 kam es zu einer Welle von Diskussionen darüber, wie die Politik vor Propaganda geschützt werden kann. Twitter hat in diesem Jahr verdächtige Konten, einschließlich Bots, in zweistelliger Millionenhöhe gelöscht, während Regulierungsbehörden Bot-Verbote und Transparenzmaßnahmen vorgeschlagen und eine bessere Zusammenarbeit mit Internetplattformen gefordert haben.

Es mag also so aussehen, als würden wir die Oberhand gewinnen. Und das ist teilweise wahr – die Taktiken der Bots haben ihre Neuheit verloren und waren nie raffiniert. Früher lag ihre Stärke in der Zahl. Propagandisten würden Armeen von ihnen mobilisieren, um das Internet mit Beiträgen und Antworten zu überfluten, um zu versuchen, einen echten demokratischen Diskurs zu überwältigen. Da wir technische Gegenmaßnahmen entwickelt haben, die Bot-ähnliches Verhalten besser erkennen, ist es einfacher geworden, sie abzuschalten. Auch die Menschen sind wachsamer und effektiver darin geworden, sie zu entdecken. Der durchschnittliche Bot tut wenig, um seinen Robotercharakter zu verbergen, und ein kurzer Blick auf seine Tweetmuster oder sogar sein Profilbild kann ihn verraten.

Die nächste Generation von Bots entwickelt sich jedoch schnell. Zum großen Teil dank der Fortschritte bei der Verarbeitung natürlicher Sprache – dieselbe Technologie, die sprachgesteuerte Schnittstellen wie Amazons Alexa, Google Assistant und Microsofts Cortana ermöglicht – werden sich diese Bots viel mehr wie echte Menschen verhalten.

Zugegeben, diese Konversationsschnittstellen sind immer noch holprig, aber sie werden immer besser, und die Vorteile der erfolgreichen Entschlüsselung menschlicher Sprache sind enorm. Digitale Assistenten sind nur eine Anwendung davon – Marken betreiben Konversations-Chatbots für den Kundenservice, und Verlage wie CNN verwenden sie, um personalisierte Medieninhalte zu verbreiten.

Solche Chatbots erklären sich offen als automatisiert, aber die Propaganda-Bots werden es nicht tun. Sie präsentieren sich als menschliche Benutzer, die an Online-Gesprächen in Kommentarbereichen, Gruppenchats und Message Boards teilnehmen.

Entgegen der landläufigen Meinung ist dies noch nicht der Fall. Die meisten Bots reagieren lediglich auf Schlüsselwörter, die eine Boilerplate-Antwort auslösen, die selten in den Kontext oder die Syntax einer bestimmten Konversation passt. Diese Antworten sind oft leicht zu erkennen.

Aber es wird schwieriger. Einige einfache vorprogrammierte Bot-Skripte waren bereits erfolgreich bei der Irreführung von Benutzern. Wenn Bots lernen, Kontext und Absicht zu verstehen, werden sie geschickter darin, sich an Gesprächen zu beteiligen, ohne ihre Tarnung aufzugeben.

In ein paar Jahren könnten Konversations-Bots anfällige Benutzer ausfindig machen und sie über private Chat-Kanäle ansprechen. Sie werden eloquent durch Gespräche navigieren und die Daten eines Benutzers analysieren, um maßgeschneiderte Propaganda zu liefern. Bots weisen Menschen im Gespräch auf extremistische Standpunkte und Gegenargumente hin.

Anstatt Propaganda an alle zu senden, werden diese Bots ihre Aktivitäten auf einflussreiche Personen oder politische Dissidenten richten. Sie greifen Personen mit geskripteten Hassreden an, überhäufen sie mit Spam oder lassen ihre Konten schließen, indem sie ihre Inhalte als missbräuchlich melden.

Großartig für Google, großartig für Bots

Es lohnt sich, einen genauen Blick darauf zu werfen, wie die KI-Techniken, die diese Art von Bots antreiben, immer besser werden, denn die von Technologieunternehmen eingesetzten Methoden eignen sich auch hervorragend, um die Fähigkeiten politischer Bots zu steigern.

Damit die Verarbeitung natürlicher Sprache funktioniert, sind erhebliche Datenmengen erforderlich. Technologieunternehmen wie Google und Amazon erhalten solche Daten, indem sie ihre Sprachverarbeitungsalgorithmen über Anwendungsprogrammierschnittstellen oder APIs der Öffentlichkeit zugänglich machen. Dritte – wie zum Beispiel eine Bank – die Gespräche mit ihren Kunden automatisieren möchten, können Rohdaten wie Audio- oder Textskripte von Telefonanrufen an diese APIs senden. Algorithmen verarbeiten die Sprache und geben maschinenlesbare Daten zurück, die bereit sind, Befehle auszulösen. Im Gegenzug erhalten die Technologieunternehmen, die diese APIs bereitstellen, Zugriff auf große Mengen an Konversationsbeispielen, mit denen sie ihr maschinelles Lernen und ihre Algorithmen verbessern können.

Darüber hinaus stellen fast alle großen Technologieunternehmen Entwicklern Open-Source-Algorithmen für die Verarbeitung natürlicher Sprache zur Verfügung. Damit können die Entwickler neue, eigene Anwendungen bauen – zum Beispiel Software für einen sprachgesteuerten Roboter. Während die Entwickler die ursprünglichen Algorithmen weiterentwickeln und verfeinern, profitieren die Technologieunternehmen von ihrem Feedback.

Das Problem ist, dass solche Dienste für fast jeden zugänglich sind – einschließlich der Leute, die politische Bots bauen. Durch die Bereitstellung eines Toolkits zur Automatisierung von Gesprächen bringen Technologieunternehmen der Propaganda unwissentlich das Sprechen bei.

Das Schlimmste kommt noch

Bots, die der menschlichen Sprache mächtig sind, bleiben vorerst Ausreißer. Es erfordert immer noch erhebliches Fachwissen, Rechenleistung und Trainingsdaten, um Bots mit modernsten Sprachverarbeitungsalgorithmen auszustatten. Aber es ist nicht unerreichbar. Seit 2010 haben politische Parteien und Regierungen mehr als eine halbe Milliarde Dollar für die Manipulation sozialer Medien ausgegeben und daraus einen hochprofessionellen und gut finanzierten Sektor gemacht.

Es ist noch ein langer Weg, bis ein Bot in der Lage sein wird, einen Menschen in einem persönlichen Gespräch zu täuschen. Doch wenn sich die Algorithmen weiterentwickeln, werden diese Fähigkeiten entstehen.

Wie bei jeder anderen Innovation werden diese KI-Techniken, sobald sie einsatzbereit sind, unweigerlich von den begrenzten Anwendungen befreit, für die sie ursprünglich entwickelt wurden.

Lisa-Maria Neudert ist Doktorandin am Oxford Internet Institute und Forscherin im Computational Propaganda Project.

verbergen