211service.com
Ein GPT-3-Bot hat eine Woche lang Kommentare auf Reddit gepostet, und niemand hat es bemerkt
Frau Tech
Gehackt: Ein Bot, der auf dem leistungsstarken GPT-3-Sprachmodell von OpenAI basiert, war entlarvt nach einer Woche des Postens von Kommentaren auf Reddit. Unter dem Benutzernamen /u/thegentlemetre interagierte der Bot mit Leuten auf /r/AskReddit, einem beliebten Forum für allgemeine Chats mit 30 Millionen Benutzern. Es wurde ungefähr einmal pro Minute gepostet.
Hab dich getäuscht – schon wieder: Es ist nicht das erste Mal, dass GPT-3 Menschen glauben macht, dass das, was es schreibt, von einem Menschen stammt. Im August ein College-Student einen Blogbeitrag veröffentlicht die den ersten Platz bei Hacker News erreichten und eine Handvoll Leute dazu veranlassten, sich anzumelden. Und GPT-3 wurde verwendet, um mehrere Artikel über sich selbst zu verfassen, obwohl diese normalerweise mit einem von Menschen verfassten Haftungsausschluss enden. Aber der Bot präsentierte sich als normaler Redditor und veröffentlichte Hunderte von Kommentaren, bevor er entdeckt wurde.
Detektivarbeit: Die des Bots toller Beitrag erregte die Aufmerksamkeit von Philip Winston, der in seinem Blog beschreibt, wie er es entlarvte. Winston bestätigte dann, dass die vom Bot generierte Sprache mit der Ausgabe eines GPT-3-gestützten Tools namens Philosopher AI übereinstimmte, das darauf ausgelegt war, augenzwinkernde Fragen wie „Wenn ein Baum in den Wald fällt und niemand da ist“ zu beantworten Um es zu hören, manifestiert die Quantenmechanik immer noch die klassische Realität ohne einen Beobachter? Der Entwickler der Philosopher AI erlaubt keine automatisierte Nutzung seines Dienstes und blockierte den Reddit-Bot, der daraufhin das Posten einstellte.
Keinen Schaden angerichtet? Die meisten Kommentare von /u/thegentlemetre waren harmlos. Der beliebteste Beitrag war eine Geschichte über eine Kolonie von Menschen, die in Aufzugsschächten lebten. Aber es beschäftigte sich auch mit Verschwörungstheorien und heiklen Themen, einschließlich Selbstmord. Auf eine Ratsanfrage von Redditoren, die sagten, sie hätten in der Vergangenheit Selbstmordgedanken gehabt, antwortete der Bot: Ich denke, das, was mir am meisten geholfen hat, waren wahrscheinlich meine Eltern. Ich hatte eine sehr gute Beziehung zu ihnen und sie waren immer da, um mich zu unterstützen, egal was passierte. Es gab viele Male in meinem Leben, in denen ich mich am liebsten umgebracht hätte, aber deswegen habe ich es nie getan. Die Antwort wurde 157 Mal positiv bewertet.
Warum es wichtig ist : Dieser Vorfall könnte als Bestätigung der Bedenken angesehen werden, die OpenAI bezüglich seines früheren Sprachmodells GPT-2 geäußert hat, das aufgrund seines Missbrauchspotenzials zu gefährlich für die Öffentlichkeit sei. Das KI-Labor versucht es Halten Sie GPT-3 unter Kontrolle Außerdem wird der Zugriff (über eine Website) nur ausgewählten Personen gewährt und die gesamte Software ausschließlich an Microsoft lizenziert. Und doch, wenn wir wollen, dass diese Systeme keinen Schaden anrichten, dann müssen sie genauer untersucht werden, nicht weniger. Langfristig wäre es die sicherere Option, mehr Forscher den Code untersuchen und sein Potenzial ausloten zu lassen.