Der GAN-Vater: Der Mann, der Maschinen die Gabe der Vorstellungskraft gegeben hat

Christie dort Klok

Eines Nachts im Jahr 2014 ging Ian Goodfellow mit einem Doktoranden, der gerade seinen Abschluss gemacht hatte, etwas trinken, um zu feiern. Bei Les 3 Brasseurs (Die drei Brauer), einer beliebten Kneipe in Montreal, baten einige Freunde um seine Hilfe bei einem heiklen Projekt, an dem sie arbeiteten: einem Computer, der selbst Fotos erstellen konnte.

Forscher nutzten bereits neuronale Netze, Algorithmen, die lose dem Netz von Neuronen im menschlichen Gehirn nachempfunden sind, als generative Modelle, um eigene plausible neue Daten zu erstellen. Doch die Ergebnisse waren oft nicht sehr gut: Bilder eines computergenerierten Gesichts waren tendenziell verschwommen oder hatten Fehler wie fehlende Ohren. Der Plan, den Goodfellows Freunde vorschlugen, bestand darin, eine komplexe statistische Analyse der Elemente, aus denen ein Foto besteht, zu verwenden, um Maschinen dabei zu helfen, selbst Bilder zu erstellen. Dies hätte eine enorme Menge an Zahlenverarbeitung erfordert, und Goodfellow sagte ihnen, dass es einfach nicht funktionieren würde.

Diese Geschichte war Teil unserer März-Ausgabe 2018

• Siehe den Rest des Problems
• Abonnieren

Aber als er bei seinem Bier über das Problem nachdachte, kam ihm eine Idee. Was wäre, wenn Sie zwei neuronale Netze gegeneinander ausspielen würden? Seine Freunde waren skeptisch, also beschloss er, als er nach Hause kam, wo seine Freundin bereits fest schlief, es zu versuchen. Goodfellow hat bis in die frühen Morgenstunden codiert und dann seine Software getestet. Beim ersten Mal hat es funktioniert.

Was er in dieser Nacht erfand, wird heute als GAN oder Generative Adversarial Network bezeichnet. Die Technik hat auf dem Gebiet des maschinellen Lernens große Aufregung ausgelöst und ihren Schöpfer zu einer KI-Berühmtheit gemacht.

Christie dort Klok

In den letzten Jahren haben KI-Forscher mit einer Technik namens Deep Learning beeindruckende Fortschritte gemacht. Versorgen Sie ein Deep-Learning-System mit genügend Bildern, und es lernt beispielsweise, einen Fußgänger zu erkennen, der im Begriff ist, eine Straße zu überqueren. Dieser Ansatz hat Dinge wie selbstfahrende Autos und die Konversationstechnologie ermöglicht, die Alexa, Siri und andere virtuelle Assistenten antreibt.

Aber während tief lernende KIs lernen können, Dinge zu erkennen, waren sie nicht gut darin, sie zu erschaffen. Das Ziel von GANs ist es, Maschinen so etwas wie eine Vorstellungskraft zu geben.

In Zukunft werden Computer viel besser darin werden, sich an Rohdaten zu erfreuen und herauszufinden, was sie daraus lernen müssen.

Damit könnten sie nicht nur schöne Bilder zeichnen oder Musik komponieren; es würde sie weniger abhängig von Menschen machen, die sie über die Welt und ihre Funktionsweise informieren. Heutzutage müssen KI-Programmierer einer Maschine oft genau mitteilen, was in den Trainingsdaten enthalten ist, mit denen sie gefüttert wird – welche von einer Million Bildern einen Fußgänger zeigen, der eine Straße überquert, und welche nicht. Dies ist nicht nur kostspielig und arbeitsintensiv; es schränkt ein, wie gut das System mit sogar geringfügigen Abweichungen von dem, worauf es trainiert wurde, umgeht. In Zukunft werden Computer viel besser darin werden, sich an Rohdaten zu erfreuen und herauszufinden, was sie daraus lernen müssen, ohne dass ihnen etwas gesagt wird.

Das wird einen großen Sprung nach vorne in dem bedeuten, was in der KI als unüberwachtes Lernen bekannt ist. Ein selbstfahrendes Auto könnte sich über viele verschiedene Straßenverhältnisse informieren, ohne die Garage zu verlassen. Ein Roboter könnte die Hindernisse vorhersehen, auf die er in einem geschäftigen Lager stoßen könnte, ohne um ihn herumgeführt werden zu müssen.

Das wird einen großen Sprung nach vorne in dem bedeuten, was in der KI als unüberwachtes Lernen bekannt ist.

Unsere Fähigkeit, uns viele verschiedene Szenarien vorzustellen und darüber nachzudenken, ist Teil dessen, was uns menschlich macht. Und wenn zukünftige Technologiehistoriker zurückblicken, werden sie GANs wahrscheinlich als einen großen Schritt in Richtung der Schaffung von Maschinen mit einem menschenähnlichen Bewusstsein sehen. Yann LeCun, Chef-KI-Wissenschaftler von Facebook, hat GANs als die coolste Idee im Bereich Deep Learning der letzten 20 Jahre bezeichnet. Eine andere KI-Koryphäe, Andrew Ng, der ehemalige Chefwissenschaftler von Chinas Baidu, sagt, dass GANs einen bedeutenden und grundlegenden Fortschritt darstellen, der eine wachsende globale Gemeinschaft von Forschern inspiriert hat.

Der GANfather, Teil II: KI-Kampfclub

Goodfellow ist jetzt wissenschaftlicher Mitarbeiter im Google Brain-Team am Hauptsitz des Unternehmens in Mountain View, Kalifornien. Als ich ihn kürzlich dort traf, schien er immer noch überrascht von seinem Superstar-Status und nannte ihn ein wenig surreal. Vielleicht nicht weniger überraschend ist, dass er, nachdem er seine Entdeckung gemacht hat, nun einen Großteil seiner Zeit damit verbringt, gegen diejenigen zu arbeiten, die sie für böse Zwecke verwenden wollen.

Die Magie von GANs liegt in der Rivalität zwischen den beiden neuronalen Netzen. Es ahmt das Hin und Her zwischen einem Bilderfälscher und einem Kunstdetektiv nach, die immer wieder versuchen, sich gegenseitig zu überlisten. Beide Netze werden auf demselben Datensatz trainiert. Der erste, Generator genannt, hat die Aufgabe, möglichst realistische künstliche Ausgaben wie Fotos oder Handschriften zu erzeugen. Der zweite, Diskriminator genannt, vergleicht diese mit echten Bildern aus dem Originaldatensatz und versucht festzustellen, welche echt und welche gefälscht sind. Auf der Grundlage dieser Ergebnisse passt der Generator seine Parameter zum Erstellen neuer Bilder an. Und so geht es weiter, bis der Diskriminator nicht mehr unterscheiden kann, was echt und was falsch ist.

Ein GAN, der mit Fotos von echten Prominenten trainiert wurde, entwickelte seine eigene Reihe imaginärer Stars. In den meisten Fällen sahen die Fälschungen ziemlich realistisch aus. NVIDIA

In einem weithin publizierten Beispiel trainierten Forscher von Nvidia, einem Chipunternehmen, das stark in KI investierte, im vergangenen Jahr ein GAN, um Bilder von imaginären Prominenten zu erstellen, indem sie echte untersuchten. Nicht alle gefälschten Sterne, die es produzierte, waren perfekt, aber einige waren beeindruckend realistisch. Im Gegensatz zu anderen Ansätzen des maschinellen Lernens, die Zehntausende von Trainingsbildern erfordern, können GANs mit ein paar Hundert kompetent werden.

Verwandte Geschichte

Verwandte Geschichte

Diese Vorstellungskraft ist noch begrenzt. Sobald es mit vielen Hundefotos trainiert wurde, kann ein GAN ein überzeugendes gefälschtes Bild eines Hundes erzeugen, das beispielsweise ein anderes Fleckenmuster aufweist; aber es kann sich kein völlig neues Tier ausdenken. Auch die Qualität der ursprünglichen Trainingsdaten hat einen großen Einfluss auf die Ergebnisse. In einem aufschlussreichen Beispiel begann ein GAN, Bilder von Katzen mit zufälligen Buchstaben zu produzieren, die in die Bilder integriert wurden. Da die Trainingsdaten Katzen-Meme aus dem Internet enthielten, hatte sich die Maschine selbst beigebracht, dass Worte Teil dessen sind, was es bedeutet, eine Katze zu sein.

Es kann schwierig sein, GANS zum Funktionieren zu bringen. Wenn es Störungen gibt, können die Ergebnisse bizarr sein. Alec Radford

GANs sind auch temperamentvoll, sagt Pedro Domingos, ein Forscher für maschinelles Lernen an der University of Washington. Wenn der Diskriminator zu leicht zu täuschen ist, sieht die Ausgabe des Generators nicht realistisch aus. Und die Kalibrierung der beiden sich duellierenden neuronalen Netze kann schwierig sein, was erklärt, warum GANs manchmal bizarre Dinge ausspucken, wie z. B. Tiere mit zwei Köpfen.

Dennoch haben die Herausforderungen die Forscher nicht abgeschreckt. Seit Goodfellow und einige andere im Jahr 2014 die erste Studie über seine Entdeckung veröffentlichten, wurden Hunderte von GAN-bezogenen Artikeln verfasst. Ein Fan der Technologie hat sogar eine Webseite namens GAN Zoo erstellt, die sich der Verfolgung der verschiedenen Versionen der Technik widmet, die entwickelt wurden.

Die naheliegendsten unmittelbaren Anwendungen liegen in Bereichen, in denen viele Bilder verwendet werden, wie Videospiele und Mode: Wie könnte beispielsweise eine Spielfigur aussehen, wenn sie durch den Regen läuft? Aber mit Blick auf die Zukunft glaubt Goodfellow, dass GANs bedeutendere Fortschritte erzielen werden. Es gebe viele Bereiche in Wissenschaft und Technik, in denen wir etwas optimieren müssten, sagt er und nennt Beispiele wie Medikamente, die effektiver sein müssten, oder Batterien, die effizienter werden müssten. Das wird die nächste große Welle.

In der Hochenergiephysik verwenden Wissenschaftler leistungsstarke Computer, um die wahrscheinlichen Wechselwirkungen von Hunderten von subatomaren Teilchen in Maschinen wie dem Large Hadron Collider am CERN in der Schweiz zu simulieren. Diese Simulationen sind langsam und erfordern eine enorme Rechenleistung. Forscher der Yale University und des Lawrence Berkeley National Laboratory haben ein GAN entwickelt, das nach dem Training mit vorhandenen Simulationsdaten lernt, ziemlich genaue Vorhersagen darüber zu treffen, wie sich ein bestimmtes Teilchen verhalten wird, und das viel schneller.

Goodfellows Kreation kann verwendet werden, um sich alle möglichen Dinge vorzustellen, einschließlich neuer Innendesigns. Ian Goodfellow

Die medizinische Forschung ist ein weiteres vielversprechendes Feld. Datenschutzbedenken führen dazu, dass Forscher manchmal nicht genug echte Patientendaten erhalten, um beispielsweise zu analysieren, warum ein Medikament nicht gewirkt hat. GANs können helfen, dieses Problem zu lösen, indem sie gefälschte Aufzeichnungen erstellen, die fast so gut sind wie die echten, sagt Casey Greene von der University of Pennsylvania. Diese Daten könnten weiter verbreitet werden, um die Forschung voranzutreiben, während die echten Aufzeichnungen streng geschützt sind.

Der GANfather, Teil III: Böse Kerle

Es gibt jedoch eine dunklere Seite. Eine Maschine, die zur Erstellung realistischer Fälschungen entwickelt wurde, ist eine perfekte Waffe für Anbieter von gefälschten Nachrichten, die alles von Aktienkursen bis hin zu Wahlen beeinflussen wollen. KI-Tools werden bereits verwendet, um Bilder von Gesichtern anderer Menschen auf die Körper von Pornostars zu bringen und Politikern Worte in den Mund zu legen. GANs haben dieses Problem nicht verursacht, aber sie werden es noch schlimmer machen.

Hany Farid, der am Dartmouth College digitale Forensik studiert, arbeitet an besseren Methoden, um gefälschte Videos zu erkennen, wie z. B. die Erkennung geringfügiger Veränderungen in der Farbe von Gesichtern, die durch Ein- und Ausatmen verursacht werden und die GANs nur schwer genau nachahmen können. Aber er warnt davor, dass sich die GANs ihrerseits anpassen werden. Wir sind grundsätzlich in einer schwachen Position, sagt Farid.

Dieses Katz-und-Maus-Spiel wird sich auch in der Cybersicherheit abspielen. Forscher weisen bereits auf das Risiko von Black-Box-Angriffen hin, bei denen GANs verwendet werden, um die maschinellen Lernmodelle herauszufinden, mit denen viele Sicherheitsprogramme Malware erkennen. Nachdem er erraten hat, wie der Algorithmus eines Verteidigers funktioniert, kann ein Angreifer ihn umgehen und Rogue-Code einfügen. Derselbe Ansatz könnte auch verwendet werden, um Spam-Filter und andere Abwehrmaßnahmen zu umgehen.

Es gibt viele Bereiche in Wissenschaft und Technik, in denen wir etwas optimieren müssen. Das wird die nächste große Welle.

Goodfellow ist sich der Gefahren bewusst. Er leitet jetzt ein Team bei Google, das sich darauf konzentriert, maschinelles Lernen sicherer zu machen, und warnt davor, dass die KI-Community die Lektion aus früheren Innovationswellen lernen muss, in denen Technologen Sicherheit und Datenschutz als nachträglich betrachteten. Als sie sich der Risiken bewusst wurden, hatten die Bösewichte einen deutlichen Vorsprung. Natürlich haben wir den Anfang bereits hinter uns gelassen, sagt er, aber hoffentlich können wir erhebliche Fortschritte bei der Sicherheit erzielen, bevor wir zu weit drin sind.

Dennoch glaubt er nicht, dass es eine rein technologische Lösung für Fälschungen geben wird. Stattdessen, so glaubt er, müssen wir uns auf gesellschaftliche Faktoren verlassen, wie z. B. darauf, Kindern kritisches Denken beizubringen, indem wir sie dazu bringen, Dinge wie Rede- und Debattierunterricht zu nehmen. In Rede und Debatte konkurrieren Sie mit einem anderen Studenten, sagt er, und Sie denken darüber nach, wie man irreführende Behauptungen aufstellt oder wie man korrekte Behauptungen aufstellt, die sehr überzeugend sind. Er mag Recht haben, aber seine Schlussfolgerung, dass Technologie das Problem der gefälschten Nachrichten nicht lösen kann, wird nicht viele hören wollen.

verbergen