211service.com
Dieses Startup behauptet, dass seine Deepfakes Ihre Privatsphäre schützen werden
TAT TAT
Wie das Sprichwort sagt: Wenn es aussieht wie eine Ente, schwimmt wie eine Ente und quakt wie eine Ente, ist es wahrscheinlich eine Ente. Nun, wenn jemand in einem Videoclip die gleiche Rasse, das gleiche Geschlecht und das gleiche Alter wie Sie hat, die gleichen Gesten und emotionalen Ausdrücke hat wie Sie – und tatsächlich auf Ihnen basiert –, aber nicht genau so aussieht wie Sie … ist es immer noch du?
Nein, sagt Gil Perry, Mitbegründer der israelischen Datenschutzfirma TAT . Und deshalb, so behauptet er, funktioniert sein Startup. D-ID nimmt Videomaterial auf – das beispielsweise von einer Kamera in einem Geschäft aufgenommen wird – und verwendet Computer Vision und Deep Learning, um eine Alternative zu schaffen, die die Identität des Subjekts schützt. Der Prozess verwandelt Sie im Video in einen Avatar, der dieselben Attribute hat, aber ein wenig anders aussieht.
Der Vorteil für Unternehmen besteht darin, dass dieses neue, anonymisierte Video nicht mehr die genaue Identität eines Kunden preisgibt – was laut Perry bedeutet, dass Unternehmen, die D-ID verwenden, dies können Zustimmungserfordernis beseitigen und das Filmmaterial für Geschäfts- und Marketingzwecke analysieren. Ein Geschäft könnte beispielsweise ein Video einer glücklich aussehenden weißen Frau an einen Algorithmus weiterleiten, der ihr in Echtzeit die effektivste Werbung anzeigen kann. (Es ist erwähnenswert, dass die Legitimität der Emotionserkennung in Frage gestellt wurde, wobei eine prominente KI-Forschungsgruppe kürzlich ein vollständiges Verbot ihrer Verwendung forderte.)
Beispiele für den intelligenten Anonymisierungsdienst von D-ID zeigen unterschiedliche Erfolge bei der Verschleierung der Identität in Videos. In eine Vorführung , der ehemalige britische Premierminister David Cameron sieht ein bisschen aus wie David Cameron mit Schnurrbart. In ein weiteres Standbild , sieht eine Frau etwas anders aus, aber die beiden Bilder wirken dennoch beunruhigend ähnlich. In einem dritten, Brad Pitt wird unkenntlich.
D-ID würde keine bestimmten Kunden nennen, die seine Technologie verwenden, aber Perry sagte, das Unternehmen arbeite hauptsächlich mit Einzelhändlern, Autofirmen und großen Konglomeraten zusammen, die Videoüberwachung in Europa einsetzen. Ann Cavoukian, Mitglied des Beirats von D-ID und ehemalige Datenschutzbeauftragte der kanadischen Provinz Ontario, sagt, die Lösung sei eine absolute Win-Win-Situation.
Andere Experten sagen jedoch, dass das Unternehmen die europäische Datenschutzgrundverordnung falsch interpretiert, nicht das tut, was es tun soll, und – selbst wenn es das tun sollte – es wahrscheinlich sowieso nicht tun sollte.
DSGVO-Verstoß?
Drei führende europäische Datenschutzexperten, die mit MIT Technology Review sprachen, äußerten ihre Besorgnis über die Technologie von D-ID und ihre Absichten. Alle sagen, dass D-ID ihrer Meinung nach tatsächlich gegen die DSGVO verstößt. (Es könnte jedoch in Nicht-EU-Gebieten legal sein.)
Rasse ist eine besondere Kategorie unter der DSGVO, was bedeutet, dass die Verarbeitung von Daten, die auf Rasse schließen, ohne ausdrückliche Zustimmung illegal ist, erklärt Gaëtan Goldberg, Datenschutzanwalt bei der DSGVO-Aufsichtsbehörde NOYB. Verstöße gegen die DSGVO-Regeln können Bußgelder in Höhe von 20 Millionen Euro oder 4 % des Jahresumsatzes eines Unternehmens nach sich ziehen, je nachdem, welcher Betrag höher ist.
Als David Mirchin, ein Datenschutzanwalt, der D-ID berät, mit diesen Bedenken konfrontiert wurde, widersprach er den Experten. Er behauptet, dass es niemals einen Punkt gibt, an dem die intelligente Anonymisierungslösung von D-ID diese Art von sensiblen Daten analysiert, offenlegt oder speichert. Perry fügt hinzu, dass D-ID auch ethnische Daten gerne anonymisiert. Die externen Anwälte behaupten jedoch, dass das bloße Erkennen der Gesichter, egal ob sie anonymisiert werden sollen oder nicht, eine Verletzung darstellt.
Perry und Mirchin argumentieren auch, dass es in Ordnung ist, anonymisierte biometrische Daten an Algorithmen zu füttern. Aber während die DSGVO nicht für anonyme Daten gilt, anonymisiert das Startup das Video in keinem Fall, sagt Michael Veale, Datenschutzexperte am University College London. Das verschlüsselte Video würde gemäß DSGVO nicht als anonym angesehen. Bei wirklich anonymen Daten kann eine Information nicht mit einer bestimmten Person in Verbindung gebracht werden, selbst wenn sie mit anderen Daten kombiniert wird. Das ist eine hohe Messlatte.
Aber selbst wenn verändertes Filmmaterial nicht genau wie Sie aussieht, kann es mit anderen Informationen – beispielsweise Standortdaten aus sozialen Medien oder Kreditkartendaten – kombiniert und zurückverfolgt werden. Außerdem, sagt Veale, würde die Technologie Unternehmen immer noch nicht automatisch einen Freibrief geben, CCTV für ziemlich frivole Geschäftszwecke umzufunktionieren, die kein ernsthaftes öffentliches Interesse haben, wie etwa die Verbrechensbekämpfung.
Geist des Gesetzes
Dass sich D-ID als Privacy-Lösung positioniert, ist aufschlussreich. Da Elemente neuer Datenschutzgesetze wie die DSGVO und der California Consumer Privacy Act noch offen für Interpretationen sind, erweisen sich einige Unternehmen als genial, wenn es darum geht, sich selbst zu vermarkten. Diese Technologien erfüllen die Vorschriften auf eine Weise, von der die Unternehmen profitieren, die mit Daten Geld verdienen wollen, und nicht die Personen, deren Daten erfasst werden. Das verstoße gegen den Geist des Gesetzes, sagen Kritiker. Britt Paris, Informatikwissenschaftlerin an der Rutgers University, nennt D-ID ausbeuterisch und ein Beispiel für einen weiteren Eingriff in die Datafizierung des Alltags.
Aber Cavoukian, das Vorstandsmitglied von D-ID, sagt, sie sei keine Datenschutz-Fundamentalistin und der Meinung, dass nichts falsch daran sei, Daten zu sammeln, solange die genaue Identität der Menschen verschleiert werde.
Wenn Sie überhaupt nicht wollen, dass irgendwelche Daten über Sie gesammelt werden, werden Sie in der heutigen Zeit, obwohl es kein Datenschutzproblem gibt, weil Ihre Identifikatoren entfernt wurden, nicht in der Lage sein, Ihr Haus sehr weit zu verlassen, sie sagt. Das sind die Realitäten des Tages.
Überwachung findet immer mehr Verbreitung. Eine kürzlich durchgeführte Pew-Studie ergab, dass die meisten Amerikaner denken, dass sie ständig verfolgt werden, aber nicht viel dagegen tun können, und der Markt für Gesichtserkennung wird voraussichtlich von rund 4,5 Milliarden US-Dollar im Jahr 2018 auf wachsen 9 Milliarden Dollar bis 2024 . Dennoch hält die Realität der Überwachung Aktivisten nicht davon ab, sich zu wehren. D-ID mag sich als Mittelweg zwischen Datenschutzpurismus und dem Aufsaugen von Rohdaten verstehen, aber ohne die Technologie würden Unternehmen, die von der DSGVO abgedeckt sind, diese Videodaten vielleicht überhaupt nicht verwenden.
Diese Regeln sind für einen Zweck da, richtig? sagt Lilian Edwards, DSGVO-Expertin an der Newcastle Law School. [D-ID] sagt „Sammeln Sie visuelle Daten unter Einhaltung der Datenschutzbestimmungen“ und was es wirklich bedeutet, ist „Sammeln Sie visuelle Daten unter Umgehung der Datenschutzbestimmungen“. Wissen Sie, das Gesetz ist eigentlich nicht ganz dumm.