Die Online-Fotos von Personen werden ohne Zustimmung verwendet, um die Gesichtserkennungs-KI zu trainieren

Kategorie: Künstliche Intelligenz Gesendet 13. März

Fotos von Gesichtern von Personen werden routinemäßig von Websites aufgenommen, um bei der Entwicklung von Gesichtserkennungsalgorithmen zu helfen, ohne die Zustimmung der Probanden, ein Bericht von ABC offenbart.

Das neuste Beispiel: Im Januar IBM hat einen Datensatz veröffentlicht von fast einer Million Fotos, die von der Foto-Sharing-Website Flickr geschabt und dann mit Informationen zu Details wie Hautfarbe kommentiert wurden. Das Unternehmen stellte dies als Teil der Bemühungen zur Verringerung des (sehr realen) Problems der Voreingenommenheit bei der Gesichtserkennung vor. Es wurde jedoch von niemandem die Zustimmung dazu eingeholt, und es ist fast unmöglich, die Fotos entfernen zu lassen.

Schmutziges Geheimnis: IBM ist bei weitem nicht allein. Während Unternehmen sich bemühen, ihre Gesichtserkennungstechnologie zu verbessern, benötigen sie Zugriff auf eine große Anzahl von Bildern, um ihre Algorithmen zu füttern. Einfach Bilder zu nehmen, die bereits ins Internet hochgeladen wurden, ist ein sehr schneller – aber ethisch fragwürdiger – Weg, dies zu tun.

Schneller Fortschritt: Die Gesichtserkennung kann praktisch sein, um Ihr Telefon zu entsperren, aber sie könnte auch ein leistungsstarkes Überwachungstool sein. Seine Nutzung breitet sich praktisch ohne Aufsicht schnell aus, was zu wachsenden Forderungen nach einer Regulierung der Technologie führt.

Eine Spannung: Gesichtserkennungsalgorithmen haben eine schlechte Genauigkeitsbilanz, wenn es darum geht, nicht weiße Gesichter zu identifizieren, und Systeme können dies misgender Menschen beispielsweise anhand der Haarlänge. Eine Möglichkeit, dem entgegenzuwirken, besteht darin, den Trainingsdaten mehr Bilder von beispielsweise schwarzen Frauen oder Männern mit langen Haaren hinzuzufügen. Aber wenn Sie dies tun, ohne die Zustimmung der Menschen einzuholen, bevor Sie ihre Fotos verwenden, werden sich viele zutiefst unwohl fühlen.

Melden Sie sich hier für unseren täglichen Newsletter The Download an, um Ihre Dosis der neuesten Nachrichten aus der Welt der aufstrebenden Technologien zu erhalten, die Sie unbedingt lesen müssen.