Eine KI-App, die Sie in einen Filmstar verwandelt, hat die Privatsphäre von Millionen aufs Spiel gesetzt

Kategorie: Künstliche Intelligenz Gesendet 04.09

ZAO, eine virale chinesische App, die KI verwendet, um Benutzer und berühmte Schauspieler auszutauschen, ist jetzt in eine große Datenschutzkontroverse verwickelt.

Die Nachrichten: Am Freitag wurde eine neue App von Momo, einem Social-Media-Entwickler, in den chinesischen sozialen Medien sofort viral. Es ermöglicht Benutzern, ein einzelnes Porträt hochzuladen und innerhalb von Sekunden sehen ihr Gesicht überlagert auf Schauspieler in ikonischen Filmszenen. Bis Sonntag war es soweit werden die am häufigsten heruntergeladenen kostenlose Unterhaltungs-App im chinesischen Apple Store.

KI-Fälschung: Es ist die neueste – und vielleicht beeindruckendste – Anwendung von Generative Adversarial Networks oder GANs, den KI-Algorithmen hinter Deepfakes. Während GANs schon früher für die Gesichtsbearbeitung und den Gesichtstausch verwendet wurden (zunehmend in Hollywood-Filmen), zeigt ZAOs Verwendung eines einzelnen Fotos, gepaart mit der Geschwindigkeit und dem reibungslosen Austausch, wie weit der Stand der Technik in der Medienfälschung ist fortgeschritten ist.

Die Kontroverse: Innerhalb weniger Stunden nach seiner Veröffentlichung begann ZAO, Datenschutzbedenken auszulösen, insbesondere wegen einer Klausel in der Benutzervereinbarung, die Entwicklern das Recht gab, alle hochgeladenen Fotos auf Dauer kostenlos zu verwenden. Es erlaubte ihnen auch, dieses Recht ohne Benutzererlaubnis an Dritte zu übertragen. Rechtsexperten in China sagten, das sei nicht legal, und am Samstag hatte der Entwickler der App dem Druck nachgegeben und die Klausel entfernt. WeChat, Chinas führende Social-Networking-App, verbot auch jegliches Teilen von Filmmaterial oder Fotos von ZAO.

Schon gesehen: Die Episode wiederholte eine ähnliche Kontroverse über FaceApp, eine Fotobearbeitungs-App, die im Juli viral wurde. Die App verwendete auch GANs, um die Porträts von Personen zu retuschieren, und hatte seit ihrer Einführung über 150 Millionen Fotos von Gesichtern gesammelt. ZAO erhielt eine viel schnellere und schärfere Gegenreaktion, aber es war wahrscheinlich auch bereits von Millionen von Benutzern verwendet worden, als es seine Richtlinie überarbeitete. Einerseits zeigt die Häufigkeit solcher Vorfälle, wie einfach die personenbezogenen Daten eines Benutzers jetzt kooptiert und außerhalb seiner Kontrolle zweckentfremdet werden können. Andererseits zeigt es, dass die Menschen auch sensibler für die Privatsphäre geworden sind und weniger bereit sind, sie kampflos aufzugeben.

Um mehr Geschichten wie diese direkt in Ihren Posteingang zu bekommen, melden Sie sich für unseren von Webby nominierten KI-Newsletter The Algorithm an. Es ist kostenlos.