Der Photoscraping-Skandal von IBM zeigt, in was für einer seltsamen Blase KI-Forscher leben

Kategorie: Künstliche Intelligenz Gesendet 15. März

Am Dienstag veröffentlichte NBC eine Geschichte mit einer packenden Überschrift: Das „schmutzige kleine Geheimnis“ der Gesichtserkennung: Millionen von Online-Fotos ohne Zustimmung geschabt. ich verknüpft dazu in unserer letzten Algorithmus-Ausgabe, aber es ist heute einen erneuten Besuch wert.

Die Geschichte beleuchtet einen kürzlich von IBM veröffentlichten Datensatz mit 1 Million Bildern von Gesichtern, der dazu beitragen soll, gerechtere Gesichtserkennungsalgorithmen zu entwickeln. (Ich habe damals auch über die Neuigkeiten geschrieben.) Es stellt sich heraus, wie NBC herausfand, dass diese Gesichter direkt von der Online-Foto-Hosting-Site Flickr abgekratzt wurden, ohne die Erlaubnis der Subjekte oder Fotografen.

Für einige von Ihnen wird sich diese Praxis sofort gruselig und seltsam anfühlen. Für andere wird es völlig normal erscheinen. Was diese Geschichte enthüllte, war nicht so sehr ein schmutziges kleines Geheimnis, sondern vielmehr die kulturelle Kluft zwischen der Öffentlichkeit und der KI-Community.

Wirklich, für Brancheninsider hat IBM nichts Außergewöhnliches getan. KI-Forscher saugen ständig Daten aus verschiedenen Ecken des Internets auf, um die immer hungrigen maschinellen Lernalgorithmen zu füttern, die riesige Mengen davon zum Trainieren benötigen. Instagram-Fotos sind beispielsweise eine gängige Quelle für Bilddaten; Die Hashtags entsprechen oft praktischerweise dem Inhalt der Fotos, wodurch es besonders einfach ist, beschriftete Daten zu generieren. Artikel der New York Times und des Wall Street Journal sind ebenfalls eine gängige Datenquelle für gut geschriebene, lektorierte Sätze. Noch besser, dass sie nach Themen geordnet sind: Technik, Wirtschaft, Sport.

Tatsächlich ist das Scraping von Daten aus öffentlich zugänglichen Quellen so sehr ein Industriestandard, dass es in den meisten Schulungen zu Data Science und maschinellem Lernen als grundlegende Fähigkeit (ohne Ethik) gelehrt wird. Inzwischen sind die meisten Technologieplattformen so konzipiert, dass sie zu einem solchen Scraping einladen, indem sie APIs mit direktem Zugriff auf ihre Daten anbieten. Bis vor kurzem geschah dies ohne weiteres Nachdenken. (Hallo Facebook.)

All dies soll nicht heißen, dass das Scraping von Daten richtig oder falsch ist. Es gibt einige völlig harmlose oder legitime Möglichkeiten, wie die Praxis verwendet werden kann (siehe Wir haben 16.625 Papiere analysiert, um herauszufinden, wohin die KI als nächstes steuert ); es kommt wirklich auf den Kontext an. Vielmehr unterstreicht diese Geschichte die Notwendigkeit für die Technologiebranche, ihre kulturellen Normen und Standardpraktiken anzupassen, um mit der schnellen Entwicklung der Technologie selbst Schritt zu halten, sowie das Bewusstsein der Öffentlichkeit dafür, wie ihre Daten verwendet werden.

Es gibt heute Möglichkeiten, unsere Daten zu nutzen, die wir vor fünf oder zehn Jahren noch nicht kannten, sagt Rumman Chowdhury, Global Lead for Responsible AI bei Accenture Applied Intelligence. Wie hätten wir [die Öffentlichkeit] möglicherweise einer Fähigkeit zustimmen können, die es nicht gab?

Mit anderen Worten, es mag einst eine praktikable Praxis gewesen sein, die Daten von Menschen unbekümmert zu kratzen, und es mag einst Zustimmung genug gewesen sein, diese Daten zu verwenden, solange sie öffentlich verfügbar waren, aber das Aufkommen von KI und das beispiellose Ausmaß von Die Datenmonopolisierung und Monetarisierung im Silicon Valley haben die Gleichung verändert. Technologen tragen die Verantwortung, sich mit ihr zu ändern und sicherzustellen, dass es einen breiten, informierten gesellschaftlichen Konsens für ihre Praktiken gibt.

Chowdhurys Tipp für diejenigen, die Schwierigkeiten haben, sich in den Grauzonen des Datenschutzes zurechtzufinden? Denken Sie darüber nach, ob die Art und Weise, wie Sie Daten verwenden, dem Geist entspricht, in dem sie ursprünglich generiert und weitergegeben wurden. Wenn Sie es völlig tangential verwenden, ist es an der Zeit, innezuhalten und es sich noch einmal zu überlegen.

Diese Geschichte erschien ursprünglich in unserem KI-Newsletter The Algorithm. Um es direkt in Ihren Posteingang geliefert zu bekommen, melden Sie sich hier kostenlos an.