Wir bekämpfen KI-Bots für gefälschte Nachrichten, indem wir mehr KI einsetzen. Das ist ein Fehler.

Foto des Buchcovers

• Samuel Woolley ist Assistenzprofessor an der Moody School of Communication der University of Texas-Austin. Dies ist ein angepasster Auszug aus seinem kommenden Buch Das Realitätsspiel .

Jedes Mal, wenn Sie sich bei Twitter anmelden und einen beliebten Beitrag ansehen, werden Sie wahrscheinlich Bot-Konten finden, die ihn mögen oder kommentieren. Wenn Sie sich durchklicken, können Sie sehen, dass sie viele Male getwittert haben, oft in kurzer Zeit. Manchmal verkaufen ihre Beiträge Müll oder verbreiten digitale Viren. Andere Konten, insbesondere die Bots, die verstümmeltes Vitriol als Reaktion auf bestimmte Nachrichtenartikel oder offizielle Erklärungen posten, sind rein politisch.

Es ist leicht anzunehmen, dass dieses gesamte Phänomen von fortschrittlicher Informatik angetrieben wird. Tatsächlich habe ich mit vielen Menschen gesprochen, die glauben, dass maschinelle Lernalgorithmen, die von maschinellem Lernen oder künstlicher Intelligenz angetrieben werden, politischen Bots die Möglichkeit geben, von ihrer Umgebung zu lernen und auf raffinierte Weise mit Menschen zu interagieren.

Bei Ereignissen, bei denen Forscher heute glauben, dass politische Bots und Desinformation eine Schlüsselrolle gespielt haben – das Brexit-Referendum, der Trump-Clinton-Wettbewerb 2016, die Krim-Krise – ist die Überzeugung weit verbreitet, dass intelligente KI-Tools es Computern ermöglichten, sich als Menschen auszugeben und bei der Manipulation zu helfen das öffentliche Gespräch.

Experten und Journalisten haben dies angeheizt: Es gab sehr provokative geschichten über den Aufstieg einer bewaffneten KI-Propagandamaschine und Geschichten behaupten dass künstliche Intelligenz die Demokratie erobert hat. Sogar meine eigene Forschung darüber, wie soziale Medien genutzt werden, um die öffentliche Meinung zu formen, die Wahrheit zu hacken und Proteste zum Schweigen zu bringen – was als computergestützte Propaganda bekannt ist – wurde in Artikeln zitiert, die darauf hindeuten, dass unsere Roboteroberherren bereits hier sind.

Die Realität ist jedoch, dass komplexe Mechanismen wie künstliche Intelligenz in den bisherigen Rechenkampagnen kaum eine Rolle gespielt haben. Alle Beweise, die ich auf Cambridge Analytica gesehen habe, deuten darauf hin, dass die Firma die psychografischen Marketinginstrumente, die sie angeblich während der US-Wahlen 2016 besaß, nie auf den Markt gebracht hat – obwohl sie sagte, dass sie Personen mit spezifischen Botschaften ansprechen könnte, die auf Persönlichkeitsprofilen basieren, die aus ihrer umstrittenen Facebook-Datenbank stammen.

Als ich am Oxford Internet Institute war, haben wir uns unterdessen damit befasst, wie und ob Twitter-Bots während der Brexit-Debatte eingesetzt wurden. Wir fanden heraus, dass viele der automatisierten Konten zwar dazu dienten, Nachrichten über die Leave-Kampagne zu verbreiten, aber sehr einfach waren. Sie wurden entwickelt, um die Online-Konversation mit Bots zu verändern, die nur dazu gedacht waren, Likes und Follows zu steigern, Links zu verbreiten, Spieltrends zu erkennen oder Gegner zu trollen. Es wurde von kleinen Gruppen menschlicher Benutzer gespielt, die die Magie von Memen und Viralität verstanden, Verschwörungen online säten und zusahen, wie sie wachsen. Konversationen wurden durch einfachen Bot-generierten Spam und Rauschen blockiert, die absichtlich an bestimmte Hashtags angehängt wurden, um Online-Konversationen zu demobilisieren. Links zu Nachrichtenartikeln, die einen Politiker in einem bestimmten Licht zeigten, wurden durch gefälschte oder Proxy-Konten hochgespielt, die erstellt wurden, um immer und immer wieder denselben Müll zu posten und erneut zu posten. Diese Kampagnen wurden ziemlich unverblümt durchgeführt: Diese Bots wurden nicht für funktionale Konversation entwickelt. Sie nutzten keine KI.

Dumm nicht mehr

Es gibt jedoch Anzeichen dafür, dass KI-gestützte rechnergestützte Propaganda und Desinformation allmählich eingesetzt werden. Hacker und andere Gruppen haben bereits damit begonnen, die Wirksamkeit gefährlicherer KI-Bots über soziale Medien zu testen. Ein 2017er Stück von Gizmodo berichteten, dass zwei Datenwissenschaftler einer künstlichen Intelligenz beigebracht haben, eine eigene Phishing-Kampagne zu entwerfen: Der künstliche Hacker war in Tests wesentlich besser als seine menschlichen Konkurrenten, verfasste und verbreitete mehr Phishing-Tweets als Menschen und hatte eine wesentlich bessere Conversion-Rate.

Problematische Inhalte werden nicht nur von maschinell lernenden politischen Bots verbreitet. Auch werden problematische Verwendungen oder Designs von Technologie nicht nur von Social-Media-Unternehmen generiert. Forscher haben darauf hingewiesen, dass maschinelles Lernen durch Giftangriffe – böswillige Akteure, die Trainingsdaten beeinflussen, um die Ergebnisse eines bestimmten Algorithmus zu verändern – beeinträchtigt werden kann, bevor die Maschine überhaupt veröffentlicht wird.

Kalev Leetaru, Senior Fellow an der George Washington University, schlägt vor, dass die ersten Angriffe von KI-Bots möglicherweise nicht auf soziale Medien abzielen, sondern einen sogenannten verteilten Denial-of-Service-Angriff beinhalten würden, bei dem gezielte Webserver heruntergefahren werden indem sie mit Verkehr überflutet werden.

Stellen Sie sich für einen Moment vor, Sie hätten dieses Botnetz der Kontrolle eines Deep-Learning-Systems übergeben und diesem KI-Algorithmus die vollständige Kontrolle über jeden Knopf und jeden Regler dieses Botnetzes gegeben. Leetaru schreibt .

Diese Bemühungen sind nicht darauf ausgerichtet, Nachrichtenorganisationen dabei zu helfen, die Berge von Inhalten zu überprüfen. Vielmehr helfen sie einem milliardenschweren Unternehmen, sein eigenes Haus sauber zu halten.

Sie geben ihm auch Live-Feeds mit globalen Internetstatusinformationen von großen Cybersicherheits- und Überwachungsanbietern auf der ganzen Welt, damit es Sekunde für Sekunde beobachten kann, wie das Opfer und der Rest des Internets insgesamt auf den Angriff reagieren. Vielleicht kommt das alles, nachdem Sie den Algorithmus mehrere Wochen damit verbracht haben, das Ziel bis ins kleinste Detail zu überwachen, um die Gesamtheit und Nuancen seiner Verkehrsmuster und Verhaltensweisen zu verstehen und sich seinen Weg durch seine äußeren Verteidigungsschichten zu graben.

Jenseits der Verteidigung

Im April 2018 erschien Mark Zuckerberg vor dem Kongress: Er stand wegen des Missbrauchs von Benutzerinformationen während der Wahlen 2016 unter der politischen Lupe. In seiner zweiteiligen Aussage erwähnte er künstliche Intelligenz mehr als 30 Mal und deutete an, dass KI die Lösung für das Problem der digitalen Desinformation sein würde, indem sie Programme bereitstellte, die das schiere Volumen der Computerpropaganda bekämpfen würden. Er prognostizierte, dass KI im nächsten Jahrzehnt der Retter für die massiven Größenprobleme sein würde, auf die Facebook und andere stoßen, wenn es um die globale Verbreitung von Junk-Inhalten und Manipulationen geht.

Gibt es also eine Möglichkeit, KI oder automatisierte Bot-Technologie einzusetzen, um die Manipulation der öffentlichen Meinung online zu bekämpfen? Können wir KI einsetzen, um KI zu bekämpfen?

Das Observatorium für soziale Medien an der Indiana University hat öffentliche Tools gebaut die maschinelles Lernen nutzen, um Bots zu erkennen, indem sie anhand von 1.200 Merkmalen feststellen, ob es sich eher um einen Menschen oder einen Bot handelt.

Und Facebook-Produktmanagerin Tessa Lyons sagte in einer Ankündigung von 2018 dass maschinelles Lernen uns hilft, Duplikate entlarvter Geschichten zu identifizieren. Zum Beispiel hat ein Faktenprüfer in Frankreich die Behauptung widerlegt, dass man eine Person mit einem Schlaganfall retten kann, indem man ihnen mit einer Nadel in den Finger sticht und Blut abnimmt. Dadurch konnten wir über 20 Domains und über 1.400 Links identifizieren, die denselben Anspruch verbreiten.

In solchen Fällen können Social-Media-Unternehmen maschinelles Lernen nutzen, um Faktenchecks aus der ganzen Welt zu erfassen und sogar zu verifizieren, und diese evidenzbasierten Korrekturen verwenden, um gefälschte Inhalte zu kennzeichnen.

In der akademischen Gemeinschaft wird jedoch viel darüber diskutiert, ob die passive Identifizierung potenziell falscher Informationen für Social-Media-Nutzer tatsächlich effektiv ist. Einige Forscher deuten darauf hin, dass die Überprüfung von Fakten sowohl online als auch offline in ihrer derzeitigen Form nicht sehr effektiv funktioniert. Anfang 2019 stellte die Faktenprüfungs-Website Snopes, die sich mit Facebook bei solchen Korrekturbemühungen zusammengetan hatte, brach die Beziehung ab . In einem (n Interview Vinny Green, Vice President of Operations bei Snopes vom Poynter Institute, sagte: „Es scheint nicht so, als ob wir danach streben, die Überprüfung von Fakten durch Dritte für Publisher praktischer zu gestalten – es scheint, als ob wir danach streben, es für Facebook einfacher zu machen.

Organisationen wie Facebook verlassen sich weiterhin auf kleine, in der Regel gemeinnützige Organisationen, um Inhalte zu überprüfen. Potenziell falsche Artikel oder Videos werden oft ohne Hintergrundinformationen darüber, wie oder warum sie überhaupt gemeldet wurden, an diese Gruppen weitergegeben.

Diese Bemühungen zielen nicht darauf ab, Nachrichtenagenturen dabei zu helfen, die Berge von Inhalten oder Hinweisen, die sie täglich erhalten, zu überprüfen, um unterversorgten Reportern zu helfen, bessere Arbeit zu leisten. Vielmehr helfen sie einem Multimilliarden-Dollar-Unternehmen, sein eigenes Haus post hoc sauber zu halten. Es ist an der Zeit, dass Facebook intern die Verantwortung für die Überprüfung von Fakten übernimmt, anstatt die Aufgabe der Überprüfung oder Entlarvung von Nachrichtenmeldungen an andere Gruppen abzugeben. Facebook und andere Social-Media-Unternehmen müssen auch aufhören, sich nachträglich auf Faktenchecks zu verlassen – das heißt, erst nachdem ein falscher Artikel viral geworden ist. Diese Unternehmen müssen eine Art Frühwarnsystem für Computerpropaganda generieren.

Facebook, Google und andere wie sie beschäftigen Leute, um Inhalte zu finden und zu entfernen, die Gewalt oder Informationen von Terrorgruppen enthalten. Sie sind jedoch viel weniger eifrig in ihren Bemühungen, Desinformationen loszuwerden. Die Fülle unterschiedlicher Kontexte, in denen falsche Informationen online fließen – von einer Wahl in Indien bis zu einem großen Sportereignis in Südafrika – macht es für die KI schwierig, auf ihrem eigenen, fehlenden menschlichen Wissen zu operieren. Aber in den kommenden Monaten und Jahren wird es Horden von Menschen auf der ganzen Welt brauchen, um die riesigen Mengen an Inhalten unter den unzähligen Umständen, die auftreten werden, effektiv zu überprüfen.

Es gibt einfach keine einfache Lösung für das Problem der Computerpropaganda in den sozialen Medien. Es liegt jedoch in der Verantwortung der Unternehmen, einen Weg zu finden, das Problem zu beheben. Bisher scheint sich Facebook viel mehr auf Öffentlichkeitsarbeit zu konzentrieren als darauf, den Fluss von Computerpropaganda oder grafischen Inhalten zu regulieren. Laut The Rand , verbringt das Unternehmen mehr Zeit damit, seine Bemühungen zu zelebrieren, bestimmte Häme oder Gewalt loszuwerden, als seine Moderationsprozesse systematisch zu überarbeiten.

Jenseits des Faktenchecks

Es wird eine Kombination aus menschlicher Arbeit und KI sein, die letztendlich erfolgreich die Computerpropaganda bekämpfen kann, aber wie dies geschehen wird, ist einfach nicht klar. KI-gestützte Faktenprüfung ist nur ein Weg nach vorne. Maschinelles Lernen und Deep Learning können im Zusammenspiel mit menschlichen Arbeitern computergestützte Propaganda, Desinformation und politische Belästigung auf mehrere andere Arten bekämpfen.

Jigsaw, der Google-basierte Technologie-Inkubator, in dem ich ein Jahr lang als wissenschaftlicher Mitarbeiter tätig war, entwarf und baute ein KI-basiertes Tool namens Perspective, um Online-Trolling und Hassreden zu bekämpfen. Dieses Tool (an dem ich nicht selbst gearbeitet habe) ist eine API, die es Entwicklern ermöglicht, toxische Sprache automatisch zu erkennen.

Es ist umstritten, weil es nicht nur das Risiko von Fehlalarmen birgt – das Markieren von Posts, die nicht wirklich Trolling oder Missbrauch enthalten –, sondern auch die Rede moderiert. Gemäß Verdrahtet wurde das Tool mit maschinellem Lernen trainiert, aber jedes solche Tool wird auch mit Eingaben von Menschen trainiert, die ihre eigenen Vorurteile haben. Könnte also ein Tool, das zur Erkennung rassistischer oder hasserfüllter Sprache entwickelt wurde, aufgrund fehlerhafter Schulung versagen?

2016 brachte Facebook Deeptext auf den Markt, ein KI-Tool, das Googles Perspective ähnelt. Das sagt das Unternehmen Es half, über 60.000 hasserfüllte Posts pro Woche zu löschen. Facebook räumte jedoch ein, dass sich das Tool immer noch auf einen großen Pool menschlicher Moderatoren stützte, um schädliche Inhalte tatsächlich loszuwerden. Twitter unternahm unterdessen Ende 2017 endlich Schritte, um sorgfältiger daran zu arbeiten, ähnlich bedrohliche oder gewalttätige Beiträge zu verbieten. Aber während es damit begonnen hat, dieses problematische Material einzudämmen – und auch Horden von politischen Bot-Konten löscht – hat Twitter keine klaren Hinweise darauf gegeben, wie es Konten erkennt und löscht. Meine Forschungsmitarbeiter und ich finden weiterhin fast jeden Monat massive manipulative Botnets auf Twitter.

Hinter dem Horizont

Es überrascht nicht, dass ein Technologe wie Zuckerberg eine technologische Lösung vorschlagen würde, aber KI allein ist nicht perfekt. Der kurzsichtige Fokus von Technologieführern auf computerbasierte Lösungen spiegelt die Naivität und Arroganz wider, die Facebook und andere dazu veranlasst haben, Benutzer überhaupt angreifbar zu machen.

Es gibt noch keine Armeen intelligenter KI-Bots, die daran arbeiten, die öffentliche Meinung während umstrittener Wahlen zu manipulieren. Wird es in Zukunft geben? Womöglich. Aber es ist wichtig zu beachten, dass selbst Armeen intelligenter politischer Bots nicht alleine funktionieren werden: Sie werden immer noch menschliche Aufsicht benötigen, um zu manipulieren und zu täuschen. Wir haben es hier nicht mit einer Online-Version von The Terminator zu tun. Koryphäen aus den Bereichen Informatik und KI, darunter der Turing-Preisträger Ed Feigenbaum und Geoff Hinton, der Pate des Deep Learning, haben sich nachdrücklich gegen die Befürchtungen ausgesprochen, dass die Singularität – das unaufhaltsame Zeitalter intelligenter Maschinen – in absehbarer Zeit kommen wird. In einer Umfrage unter Stipendiaten der American Association of Artificial Intelligence gaben über 90 % an, dass Superintelligenz jenseits des vorhersehbaren Horizonts liegt. Die meisten dieser Experten waren sich auch einig, dass, wenn und falls superintelligente Computer auftauchen, sie keine Bedrohung für die Menschheit darstellen werden.

Stanford-Forscher arbeiten daran, den Stand der Technik in der KI zu verfolgen empfehlen dass unsere Maschinenherren derzeit noch nicht den gesunden Menschenverstand oder die allgemeine Intelligenz eines 5-Jährigen zeigen können. Wie werden diese Werkzeuge also die menschliche Herrschaft untergraben oder, sagen wir, äußerst menschliche soziale Probleme wie politische Polarisierung und einen Mangel an kritischem Denken lösen? Das Wall Street Journal 2017 kurz und bündig formuliert : Ohne Menschen ist künstliche Intelligenz immer noch ziemlich dumm.

Grady Booch, ein führender Experte für KI-Systeme, ist ebenfalls skeptisch gegenüber dem Aufstieg superintelligenter Schurkenmaschinen, aber aus einem anderen Grund. In einem TED-Talk im Jahr 2016 , sagte er, dass es in vielerlei Hinsicht eine gefährliche Ablenkung sei, sich jetzt über den Aufstieg einer Superintelligenz Sorgen zu machen, da der Aufstieg der Computer selbst eine Reihe von menschlichen und gesellschaftlichen Problemen mit sich bringt, denen wir uns jetzt widmen müssen.

Noch wichtiger, betonte Booch, können aktuelle KI-Systeme alle möglichen erstaunlichen Dinge tun, von der Unterhaltung mit Menschen in natürlicher Sprache bis zur Erkennung von Objekten – aber diese Dinge werden von Menschen entschieden und mit menschlichen Werten kodiert. Sie werden nicht programmiert, aber ihnen wird beigebracht, wie sie sich verhalten sollen.

Wissenschaftlich gesehen nennen wir das Ground Truth, sagt Booch, und hier kommt der entscheidende Punkt: Mit der Herstellung dieser Maschinen vermitteln wir ihnen also ein Gefühl für unsere Werte. Dabei vertraue ich einer künstlichen Intelligenz genauso, wenn nicht mehr, wie einem gut ausgebildeten Menschen.

Ich würde Boochs Idee noch weiterführen. Um das Problem der computergestützten Propaganda anzugehen, müssen wir uns auf die Menschen hinter den Tools konzentrieren.

Ja, die sich ständig weiterentwickelnde Technologie kann die Verbreitung von Desinformation und Trolling automatisieren. Es kann Täter anonym und ohne Angst vor Entdeckung agieren lassen. Aber diese Reihe von Instrumenten als Mittel der politischen Kommunikation konzentriert sich letztendlich darauf, das menschliche Ziel der Kontrolle zu erreichen. Propaganda ist eine menschliche Erfindung, und sie ist so alt wie die Gesellschaft. Wie mir ein Experte für Robotik einmal sagte, sollten wir Maschinen, die intelligent wie Menschen sind, nicht so sehr fürchten wie Menschen, die nicht schlau darüber sind, wie sie Maschinen bauen.

Auszug aus The Reality Game: How the Next Wave of Technology Will Break the Truth, von Samuel Woolley. Copyright 2020. Erhältlich bei PublicAffairs, einem Imprint der Hachette Book Group, Inc.

verbergen