Ein neues Tool nutzt KI, um von KI geschriebenen Text zu erkennen

Kategorie: Künstliche Intelligenz Gesendet 26. Juli

KI-Algorithmen können Texte generieren, die überzeugend genug sind, um den Durchschnittsmenschen zu täuschen – und damit möglicherweise eine Möglichkeit bieten, gefälschte Nachrichten, gefälschte Rezensionen und gefälschte soziale Konten in Massenproduktion zu produzieren. Glücklicherweise kann KI jetzt auch verwendet werden, um gefälschten Text zu identifizieren.

Die Nachrichten: Forscher aus Harvard Universität und das MIT-IBM Watson AI Lab verfügen über ein neues Werkzeug entwickelt zum Erkennen von Text, der mit KI generiert wurde. Es heißt Giant Language Model Test Room (GLTR) und nutzt die Tatsache aus, dass sich KI-Textgeneratoren auf statistische Muster im Text verlassen, im Gegensatz zur tatsächlichen Bedeutung von Wörtern und Sätzen. Mit anderen Worten, das Tool kann erkennen, ob die Wörter, die Sie lesen, zu vorhersehbar erscheinen, um von Menschenhand geschrieben worden zu sein.

Der Kontext: Fehlinformationen werden zunehmend automatisiert, und die Technologie, die zum Generieren gefälschter Texte und Bilder erforderlich ist, entwickelt sich schnell . KI-gestützte Tools wie dieses können zu wertvollen Waffen im Kampf gegen Fake News, Deepfakes und Twitter-Bots werden.

Es fälschen: Forscher von OpenAI demonstrierten kürzlich einen Algorithmus in der Lage, überraschend realistische Passagen zu erfinden . Sie fütterten riesige Textmengen in ein großes maschinelles Lernmodell, das lernte, statistische Muster in diesen Wörtern zu erkennen. Das Harvard-Team entwickelte sein Tool unter Verwendung einer öffentlich veröffentlichten Version des OpenAI-Codes.

Wie vorhersehbar: GLTR hebt Wörter hervor, die statistisch wahrscheinlich nach dem vorhergehenden Wort im Text erscheinen. Wie in der obigen Passage gezeigt (von Unendlich ist) , die vorhersehbarsten Wörter sind grün; weniger vorhersehbar sind gelb und rot; und am wenigsten vorhersehbar sind lila. Beim Testen an Textschnipseln, die vom OpenAI-Algorithmus geschrieben wurden, findet es viel Vorhersehbarkeit. Echte Nachrichtenartikel und wissenschaftliche Abstracts enthalten weitere Überraschungen.

Geist und Maschine: Die Forscher hinter GLTR führten noch ein weiteres Experiment durch. Sie baten Harvard-Studenten, KI-generierten Text zu identifizieren – zuerst ohne das Tool und dann mit Hilfe seiner Hervorhebung. Die Studierenden konnten nur die Hälfte aller Fälschungen alleine erkennen, aber 72 %, wenn sie das Tool erhielten. Unser Ziel ist es, Systeme für die Zusammenarbeit zwischen Mensch und KI zu schaffen, sagt Sebastian Gehrmann, ein an der Arbeit beteiligter Doktorand.

Wenn Sie interessiert sind, können Sie Probieren Sie es selbst aus .