Eine KI, die überzeugende Prosa schreibt, riskiert die Massenproduktion von Fake News

Frau Tech

Hier sind einige gefälschte Nachrichten …

Russland hat den USA den Krieg erklärt, nachdem Donald Trump versehentlich eine Rakete in die Luft abgefeuert hatte.

Russland sagte, es habe die Flugbahn der Rakete identifiziert und werde die notwendigen Maßnahmen ergreifen, um die Sicherheit der russischen Bevölkerung und der strategischen Nuklearstreitkräfte des Landes zu gewährleisten. Das Weiße Haus zeigte sich äußerst besorgt über die russische Verletzung eines Abkommens zum Verbot ballistischer Mittelstreckenraketen.

Die USA und Russland haben seit 2014, als Moskau die ukrainische Krimregion annektierte und Separatisten in der Ostukraine unterstützte, eine angespannte Beziehung.

Diese Geschichte ist in der Tat nicht nur eine Fälschung, sondern ein beunruhigendes Beispiel dafür, wie gut KI uns zum Narren hält.

Das liegt daran, dass es nicht von einer Person geschrieben wurde; Es wurde automatisch von einem Algorithmus generiert, der mit den Worten gespeist wurde, dass Russland den Vereinigten Staaten den Krieg erklärt hat, nachdem Donald Trump versehentlich …

Den Rest der Geschichte hat sich das Programm selbst ausgedacht. Und es kann realistisch wirkende Nachrichtenberichte zu jedem Thema erstellen, das Sie ihm geben. Das Programm wurde von einem Team des Forschungsinstituts OpenAI mit Sitz in San Francisco entwickelt.

Die Forscher machten sich daran, einen Allzweck-Sprachalgorithmus zu entwickeln, der mit einer großen Menge an Text aus dem Internet trainiert wurde und in der Lage wäre, Text zu übersetzen, Fragen zu beantworten und andere nützliche Aufgaben auszuführen. Aber sie machten sich bald Sorgen über das Potenzial für Missbrauch. Wir begannen mit dem Testen und stellten schnell fest, dass es möglich ist, böswillige Inhalte ganz einfach zu generieren, sagt Jack Clark, Policy Director bei OpenAI.

Clark sagt, dass das Programm Hinweise darauf gibt, wie KI verwendet werden könnte, um die Generierung überzeugender gefälschter Nachrichten, Social-Media-Beiträge oder anderer Textinhalte zu automatisieren. Ein solches Tool könnte während einer Wahl klimaleugnende Nachrichten oder skandalöse Exposés ausspucken. Gefälschte Nachrichten sind bereits ein Problem, aber wenn sie automatisiert wären, könnte es schwieriger sein, sie auszuschalten. Vielleicht könnte es für bestimmte demografische Gruppen – oder sogar Einzelpersonen – optimiert werden.

Laut Clark kann es nicht mehr lange dauern, bis KI zuverlässig gefälschte Geschichten, gefälschte Tweets oder doppelte Kommentare produzieren kann, die noch überzeugender sind. Es ist sehr klar, dass diese Technologie, wenn sie ausgereift ist – und ich würde ihr ein oder zwei Jahre geben –, sie für Desinformation oder Propaganda verwendet werden könnte, sagt er. Wir versuchen, dem zuvorzukommen.

Eine solche Technologie könnte nützliche Anwendungen haben, einschließlich der Zusammenfassung von Text oder der Verbesserung der Konversationsfähigkeiten von Chatbots. Clark sagt, er habe das Tool sogar verwendet, um mit überraschendem Erfolg Passagen in kurzen Science-Fiction-Geschichten zu generieren.

OpenAI betreibt grundlegende KI-Forschung, spielt aber auch eine aktive Rolle dabei, die potenziellen Risiken der künstlichen Intelligenz aufzuzeigen. Die Organisation war an einem Bericht aus dem Jahr 2018 über die Risiken der KI beteiligt, einschließlich der Möglichkeiten für Fehlinformationen (siehe Dies sind die „Black Mirror“-Szenarien, die einige Experten dazu veranlassen, die Geheimhaltung der KI zu fordern).

Der OpenAI-Algorithmus kann den anspruchsvollen Leser nicht immer überzeugen. Wenn eine Eingabeaufforderung gegeben wird, produziert es oft oberflächlich zusammenhängendes Kauderwelsch oder Text, der eindeutig von Online-Nachrichtenquellen abgekupfert zu sein scheint.

Es ist jedoch oft bemerkenswert gut darin, realistischen Text zu produzieren, und es spiegelt die jüngsten Fortschritte bei der Anwendung des maschinellen Lernens auf Sprache wider.

OpenAI stellte das Textgenerierungstool dem MIT Technology Review zum Testen zur Verfügung, wird aber aufgrund von Bedenken hinsichtlich eines möglichen Missbrauchs der Technologie nur eine vereinfachte Version öffentlich zugänglich machen. Das Institut veröffentlicht ein Forschungspapier, das die Arbeit skizziert.

Fortschritte in der künstlichen Intelligenz verhelfen Maschinen nach und nach zu einem besseren Sprachverständnis. Jüngste Arbeiten haben Fortschritte gemacht, indem sie Allzweck-Algorithmen für maschinelles Lernen mit sehr großen Textmengen füttern. Das OpenAI-Programm hebt dies auf eine neue Ebene: Das System wurde mit 45 Millionen Seiten aus dem Web gefüttert, ausgewählt über die Website Reddit. Und im Gegensatz zu den meisten Sprachalgorithmen benötigt das OpenAI-Programm keinen gekennzeichneten oder kuratierten Text. Es lernt einfach, Muster in den Daten zu erkennen, mit denen es gefüttert wird.

Richard Söcher , ein Experte für die Verarbeitung natürlicher Sprache und leitender Wissenschaftler bei Salesforce, sagt, dass die OpenAI-Arbeit ein gutes Beispiel für ein universelleres Sprachlernsystem ist. Ich denke, diese allgemeinen Lernsysteme sind die Zukunft, schrieb er in einer E-Mail.

Andererseits ist Socher weniger besorgt über das Potenzial für Täuschung und Fehlinformationen. Man brauche keine KI, um Fake News zu erstellen, sagt er. Leute können es leicht tun :)

verbergen