Die Fiktion spuckende KI von OpenAI lernt, Bilder zu erzeugen

Ben Barry / OpenAI

Im Februar letzten Jahres hat das in San Francisco ansässige Forschungslabor OpenAI angekündigt dass sein KI-System jetzt überzeugende Passagen auf Englisch schreiben konnte. Geben Sie den Anfang eines Satzes oder Absatzes in GPT-2 ein, wie es genannt wurde, und es konnte den Gedanken so lange wie ein Essay mit fast menschenähnlicher Kohärenz fortsetzen.

Jetzt erforscht das Labor, was passieren würde, wenn derselbe Algorithmus stattdessen mit einem Teil eines Bildes gefüttert würde. Die Ergebnisse , die auf der dieswöchigen International Conference on Machine Learning mit einer ehrenvollen Erwähnung für das beste Paper ausgezeichnet wurden, eröffnen einen neuen Weg für die Bildgenerierung, der reich an Möglichkeiten und Konsequenzen ist.

Im Kern ist GPT-2 eine leistungsstarke Vorhersage-Engine. Es lernte, die Struktur der englischen Sprache zu verstehen, indem es sich Milliarden von Beispielen für Wörter, Sätze und Absätze ansah, die aus den Ecken des Internets gekratzt wurden. Mit dieser Struktur könnte es dann Wörter in neue Sätze manipulieren, indem es die Reihenfolge, in der sie erscheinen sollten, statistisch vorhersagt.

Daher beschlossen die Forscher von OpenAI, die Wörter gegen Pixel auszutauschen und denselben Algorithmus auf Bildern in ImageNet, der beliebtesten Bilddatenbank für Deep Learning, zu trainieren. Da der Algorithmus darauf ausgelegt war, mit eindimensionalen Daten (d. h. Textfolgen) zu arbeiten, entrollten sie die Bilder zu einer einzigen Pixelfolge. Sie fanden heraus, dass das neue Modell mit dem Namen iGPT immer noch in der Lage war, die zweidimensionalen Strukturen der visuellen Welt zu erfassen. Angesichts der Pixelsequenz für die erste Hälfte eines Bildes könnte es die zweite Hälfte auf eine Weise vorhersagen, die ein Mensch für vernünftig halten würde.

Unten sehen Sie einige Beispiele. Die Spalte ganz links ist die Eingabe, die Spalte ganz rechts ist das Original und die mittleren Spalten sind die vorhergesagten Vervollständigungen von iGPT. (Siehe weitere Beispiele Hier .)

OPENAI

Die Ergebnisse sind verblüffend beeindruckend und zeigen einen neuen Weg für die Nutzung von unüberwachtem Lernen, das auf unbeschrifteten Daten trainiert, bei der Entwicklung von Computer-Vision-Systemen. Während frühe Computer-Vision-Systeme Mitte der 2000er Jahre solche Techniken bereits erprobten, gerieten sie in Ungnade, da überwachtes Lernen, das gekennzeichnete Daten verwendet, sich als weitaus erfolgreicher erwies. Der Vorteil des unüberwachten Lernens besteht jedoch darin, dass es einem KI-System ermöglicht, ohne menschliche Filter etwas über die Welt zu lernen, und die manuelle Arbeit der Kennzeichnung von Daten erheblich reduziert wird.

Die Tatsache, dass iGPT denselben Algorithmus wie GPT-2 verwendet, zeigt auch seine vielversprechende Anpassungsfähigkeit. Dies steht im Einklang mit Das ultimative Ziel von OpenAI verallgemeinerbare Maschinenintelligenz zu erreichen.

Gleichzeitig stellt die Methode eine besorgniserregende neue Möglichkeit dar, Deepfake-Bilder zu erstellen. Generative gegnerische Netzwerke , die häufigste Kategorie von Algorithmen, die in der Vergangenheit zur Erstellung von Deepfakes verwendet wurden, müssen mit hochgradig kuratierten Daten trainiert werden. Wenn Sie beispielsweise ein GAN dazu bringen möchten, ein Gesicht zu generieren, sollten seine Trainingsdaten nur Gesichter enthalten. Im Gegensatz dazu lernt iGPT einfach genug über die Struktur der visuellen Welt aus Millionen und Milliarden von Beispielen, um Bilder auszuspucken, die möglicherweise darin existieren könnten. Während das Training des Modells immer noch rechenintensiv ist und eine natürliche Barriere für seinen Zugang darstellt, wird dies möglicherweise nicht lange der Fall sein.

OpenAI hat einer Interviewanfrage nicht stattgegeben, aber in einem internen Policy-Team-Meeting, an dem MIT Technology Review letztes Jahr teilnahm, dachte sein Policy Director, Jack Clark, über die zukünftigen Risiken der Generierung im GPT-Stil nach, einschließlich dessen, was passieren würde, wenn es angewendet würde Bilder. Das Video kommt, sagte er und projiziert, wohin er die Forschungsbahn des Feldes gehen sah. In wahrscheinlich fünf Jahren werden Sie eine bedingte Videogenerierung über einen Horizont von fünf bis zehn Sekunden haben.“ Dann fuhr er fort, zu beschreiben, was er sich vorgestellt hatte: Sie würden ein Foto von einem Politiker und einer Explosion daneben einspeisen, und es würde eine wahrscheinliche Ausgabe des getöteten Politikers erzeugen.

Aktualisieren: Dieser Artikel wurde aktualisiert, um den Namen des Politikers in dem am Ende beschriebenen hypothetischen Szenario zu entfernen.

verbergen