Der gefälschte, KI-generierte Blog eines College-Kids hat Zehntausende getäuscht. So hat er es gemacht.

Frau Technik | Getty

Anfang der Woche hatte Liam Porr nur von GPT-3 gehört. Am Ende hatte der College-Student das KI-Modell zum Produzieren verwendet ein komplett gefälschter Blog unter falschem Namen.

Es war als lustiges Experiment gedacht. Aber dann erreichte einer seiner Posts den ersten Platz bei Hacker News. Nur wenige Leute bemerkten, dass sein Blog vollständig von KI generiert wurde. Einige haben sogar auf Abonnieren geklickt.

Während viele darüber spekuliert haben, wie sich GPT-3, das bisher leistungsstärkste sprachgenerierende KI-Tool, auf die Inhaltsproduktion auswirken könnte, ist dies einer der wenigen bekannten Fälle, der das Potenzial veranschaulicht. Was an dieser Erfahrung am meisten aufgefallen ist, sagt Porr, der Informatik an der University of California in Berkeley studiert: Es war eigentlich super einfach, und das war der beängstigende Teil.

GPT-3 ist von OpenAI neueste und größte Sprach-KI Modell, das das in San Francisco ansässige Forschungslabor Mitte Juli mit der Tropffütterung begann. Im Februar letzten Jahres machte OpenAI Schlagzeilen mit GPT-2, einer früheren Version des Algorithmus, die angekündigt wurde zurückhalten aus Angst, es könnte missbraucht werden. Die Entscheidung löste sofort eine Gegenreaktion aus, da die Forscher dem Labor vorwarfen, einen Stunt gemacht zu haben. Bis November hatte das Labor seine Position geändert und das Modell freigegeben , und sagte, es habe bisher keine starken Beweise für Missbrauch entdeckt.

Das Labor verfolgte mit GPT-3 einen anderen Ansatz; sie hat sie weder zurückgehalten noch der Öffentlichkeit zugänglich gemacht. Stattdessen gab es den Algorithmus an ausgewählte Forscher weiter, die sich für eine private Beta beworben hatten, mit dem Ziel, ihr Feedback zu sammeln und die Technologie bis Ende des Jahres zu kommerzialisieren.

Porr hat einen Antrag gestellt. Er füllte ein Formular mit einem einfachen Fragebogen über seinen Verwendungszweck aus. Aber er wartete auch nicht. Nachdem er sich an mehrere Mitglieder der Berkeley-KI-Community gewandt hatte, fand er schnell einen Doktoranden, der bereits Zugang hatte. Nachdem der Doktorand der Zusammenarbeit zugestimmt hatte, schrieb Porr ein kleines Skript, das er ausführen sollte. Es gab GPT-3 die Überschrift und Einleitung für einen Blogbeitrag und ließ es mehrere fertige Versionen ausspucken. Porrs erster Post (der in Hacker News veröffentlicht wurde) und alle Posts danach wurden aus einem der Outputs mit wenig oder gar keiner Bearbeitung kopiert und eingefügt.

Von der Idee und dem Kontakt mit dem Doktoranden bis zur eigentlichen Erstellung des Blogs und dem ersten viralen Blog – es hat vielleicht ein paar Stunden gedauert, sagt er.

Porrs gefälschter Blogpost, geschrieben unter dem falschen Namen „adolos“, erreicht Platz 1 bei Hacker News. Porr sagt, er habe drei separate Konten verwendet, um seine Posts bei Hacker News einzureichen und zu bewerten, um sie höher zu treiben. Der Administrator sagte, dass diese Strategie nicht funktioniert, aber seine Click-Baity-Schlagzeilen funktionierten.

SCREENSHOT / LIAM PORR

Der Trick zum Generieren von Inhalten ohne großen Bearbeitungsaufwand bestand darin, die Stärken und Schwächen von GPT-3 zu verstehen. Es ist ziemlich gut darin, schöne Sprache zu machen, und es ist nicht sehr gut darin, logisch und rational zu sein, sagt Porr. Also wählte er eine beliebte Blog-Kategorie, die keiner strengen Logik bedarf: Produktivität und Selbsthilfe.

Von dort aus schrieb er seine Schlagzeilen nach einer einfachen Formel: Er scrollte auf Medium und Hacker News herum, um zu sehen, was in diesen Kategorien abschneidet, und stellte etwas relativ Ähnliches zusammen. Fühlen Sie sich unproduktiv? Vielleicht solltest du aufhören, zu viel nachzudenken, schrieb er für einen. Kühnheit und Kreativität übertrumpfen Intelligenz, schrieb er für einen anderen. Bei einigen Gelegenheiten funktionierten die Schlagzeilen nicht. Aber solange er bei den richtigen Themen blieb, war der Prozess einfach.

Nach zwei Wochen nahezu täglicher Posts zog er sich mit dem Projekt zurück eine letzte, kryptische, selbstgeschriebene Nachricht . Unter dem Titel What I would do with GPT-3 if I have no ethics beschrieb es seinen Prozess als hypothetisch. Am selben Tag postete er auch noch ein weiteres klares Geständnis auf seinem echten Blog.

Die wenigen Leute, die gegenüber Porrs gefälschtem Blog misstrauisch wurden, wurden von anderen Mitgliedern der Community herabgestuft.

SCREENSHOT / LIAM PORR

Porr sagt, er wollte beweisen, dass GPT-3 als menschlicher Schreiber ausgegeben werden kann. Tatsächlich äußerten trotz des etwas seltsamen Schreibmusters des Algorithmus und gelegentlicher Fehler nur drei oder vier der Dutzenden von Leuten, die seinen Top-Post auf Hacker News kommentierten, den Verdacht, dass er von einem Algorithmus generiert worden sein könnte. Alle diese Kommentare wurden sofort von anderen Community-Mitgliedern abgelehnt.

Für Experten ist dies seit langem die Sorge, die solche sprachgenerierenden Algorithmen aufwerfen. Seit OpenAI GPT-2 zum ersten Mal angekündigt hat, wurde spekuliert, dass es anfällig für Missbrauch sei. In einem eigenen Blogbeitrag konzentrierte sich das Labor auf das Potenzial des KI-Tools, als Waffe eingesetzt zu werden Massenproduzent von Fehlinformationen . Andere haben sich gefragt, ob es verwendet werden könnte, um am laufenden Band zu produzieren Spam-Posts voller relevanter Keywords für das Google-Spiel.

Porr sagt, sein Experiment zeige auch eine banalere, aber immer noch beunruhigende Alternative: Die Leute könnten das Tool verwenden, um viele Clickbait-Inhalte zu generieren. Es ist möglich, dass es nur eine Flut von mittelmäßigen Blog-Inhalten gibt, weil die Eintrittsbarriere jetzt so einfach ist, sagt er. Ich denke, der Wert von Online-Inhalten wird stark sinken.

Porr plant weitere Experimente mit GPT-3. Aber er wartet immer noch darauf, Zugang von OpenAI zu bekommen. Es ist möglich, dass sie verärgert sind, dass ich das getan habe, sagt er. Ich meine, es ist ein bisschen albern.

Aktualisieren: Dem Text und den Bildunterschriften wurden zusätzliche Details hinzugefügt, um zu erklären, wie Liam Porr seinen Blog erstellt und an die Spitze der Hacker News gebracht hat.

verbergen