In der Welt der KI, die wunderschöne Kunst und erschreckende Deepfakes schmiedet

NVIDIA





In den letzten drei Wochen haben wir die Grundlagen der KI gelegt. Zur Erinnerung:

  • Die meisten KI-Fortschritte und -Anwendungen basieren auf einer Art von Algorithmus, der als maschinelles Lernen bekannt ist und Muster in Daten findet und erneut anwendet.
  • Deep Learning, eine leistungsstarke Teilmenge des maschinellen Lernens, verwendet neuronale Netze, um selbst kleinste Muster zu finden und zu verstärken.
  • Neuronale Netze sind Schichten einfacher Rechenknoten, die zusammenarbeiten, um Daten zu analysieren, ähnlich wie Neuronen im menschlichen Gehirn.

Jetzt kommen wir zum lustigen Teil. Die Verwendung eines neuronalen Netzwerks ist wirklich großartig, um Muster zu lernen; Die Verwendung von zwei ist wirklich großartig, um sie zu erstellen. Willkommen in der magischen, erschreckenden Welt der Generative Adversarial Networks oder GANs.

GANs haben einen kleinen kulturellen Moment. Sie sind verantwortlich für die erstes KI-generiertes Kunstwerk bei Christie’s verkauft sowie die Kategorie gefälschter digitaler Bilder, die als Deepfakes bekannt sind.



Ihr Geheimnis liegt in der Art und Weise, wie zwei neuronale Netze zusammenarbeiten – oder besser gesagt, gegeneinander. Sie füttern beide neuronalen Netze zunächst mit einer ganzen Menge Trainingsdaten und geben jedem eine eigene Aufgabe. Das erste Netzwerk, bekannt als Generator, muss künstliche Ausgaben wie Handschriften, Videos oder Stimmen erzeugen, indem es sich die Trainingsbeispiele ansieht und versucht, sie nachzuahmen. Der zweite, der als Diskriminator bekannt ist, bestimmt dann, ob die Ausgaben echt sind, indem er sie mit denselben Trainingsbeispielen vergleicht.

Verwandte Geschichte

Verwandte Geschichte Indem er neuronale Netze gegeneinander ausspielt, hat Ian Goodfellow ein leistungsstarkes KI-Tool geschaffen. Jetzt müssen er und wir alle die Konsequenzen tragen.

Jedes Mal, wenn der Diskriminator die Ausgabe des Generators erfolgreich zurückweist, kehrt der Generator zurück, um es erneut zu versuchen. Um eine Metapher meines Kollegen Martin Giles auszuleihen, ahmt der Prozess das Hin und Her zwischen einem Bilderfälscher und einem Kunstdetektiv nach, die immer wieder versuchen, sich gegenseitig zu überlisten. Schließlich kann der Diskriminator den Unterschied zwischen den Ausgabe- und Trainingsbeispielen nicht erkennen. Mit anderen Worten, die Nachahmung ist von der Realität nicht zu unterscheiden.

Sie können sehen, warum eine Welt mit GANs gleichermaßen schön und hässlich ist. Einerseits kann die Fähigkeit, Medien zu synthetisieren und andere Datenmuster nachzuahmen, bei der Fotobearbeitung, Animation usw. nützlich sein Medizin (z. B. zur Verbesserung der Qualität medizinischer Bilder und zur Überwindung der Knappheit von Patientendaten). Es bringt uns auch fröhliche Kreationen wie diese:



Und das:

Andererseits können GANs auch auf ethisch verwerfliche und gefährliche Weise verwendet werden: zu Überlagern Sie die Gesichter von Prominenten auf den Körpern von Pornostars , um Barack Obama dazu zu bringen, zu sagen, was Sie wollen, oder um den Fingerabdruck und andere biometrische Daten von jemandem zu fälschen, eine Fähigkeit, die Forscher an der NYU und im Bundesstaat Michigan kürzlich entwickelt haben zeigte in einem Papier .



Glücklicherweise haben GANs immer noch Einschränkungen, die einige Leitplanken setzen. Sie brauchen ziemlich viel Rechenleistung und eng begrenzte Daten, um etwas wirklich Glaubwürdiges zu produzieren. Um beispielsweise ein realistisches Bild eines Frosches zu erzeugen, benötigt ein solches System Hunderte von Bildern von Fröschen einer bestimmten Art, die vorzugsweise in eine ähnliche Richtung zeigen. Ohne diese Spezifikationen erhalten Sie einige wirklich verrückte Ergebnisse , wie diese Kreatur aus deinen dunkelsten Alpträumen:

(Du solltest mir danken, dass ich dir die Spinnen nicht gezeigt habe.)



Experten befürchten jedoch, dass wir nur die Spitze des Eisbergs gesehen haben. Da die Algorithmen immer ausgefeilter werden, gehören fehlerhafte Videos und Picasso-Tiere der Vergangenheit an. Wie Hany Farid, ein Experte für digitale Bildforensik, mir einmal sagte, sind wir schlecht darauf vorbereitet, dieses Problem zu lösen.

Dies erschien ursprünglich in unserem KI-Newsletter The Algorithm. Um es direkt in Ihren Posteingang geliefert zu bekommen, abonnieren Sie es hier kostenlos.

verbergen