Die radioaktiven Daten von Facebook verfolgen die Bilder, die zum Trainieren einer KI verwendet werden

Kategorie: Künstliche Intelligenz Gesendet 06. Feb

Die Nachrichten: Ein Team von Facebook AI Research hat einen Weg entwickelt um genau zu verfolgen, welche Bilder in einem Datensatz wurden verwendet, um ein maschinelles Lernmodell zu trainieren. Indem sie unmerkliche Änderungen an Bildern vornahmen und eine Art Wasserzeichen erstellten, waren sie in der Lage, winzige entsprechende Änderungen an der Funktionsweise eines auf diese Bilder trainierten Bildklassifizierers vorzunehmen, ohne die Gesamtgenauigkeit zu beeinträchtigen. Auf diese Weise konnten sie später Modelle mit den Bildern abgleichen, mit denen sie trainiert wurden.

Warum es wichtig ist: Facebook nennt die Technik radioaktive Daten, weil sie analog zur Verwendung von radioaktiven Markern in der Medizin ist, die sich beim Röntgen im Körper zeigen. Das Hervorheben, welche Daten zum Trainieren einer KI verwendet wurden, macht Modelle transparenter , zeigt potenzielle Verzerrungsquellen auf – wie z. B. ein Modell, das mit einem nicht repräsentativen Satz von Bildern trainiert wurde – oder zeigt auf, wenn ein Datensatz ohne Erlaubnis oder für unangemessene Zwecke verwendet wurde.

Mach keinen Fehler: Eine große Herausforderung bestand darin, die Bilder zu ändern, ohne das resultierende Modell zu beschädigen. Winzige Änderungen an den Eingaben einer KI können manchmal dazu führen, dass sie dumme Fehler macht, z. B. eine Schildkröte als Waffe oder ein Faultier als Rennwagen zu identifizieren. Facebook hat darauf geachtet, seine Wasserzeichen so zu gestalten, dass dies nicht passiert. Das Team testete seine Technik auf ImageNet, einem weit verbreiteten Datensatz mit mehr als 14 Millionen Bildern, und stellte fest, dass es die Verwendung radioaktiver Daten mit hoher Zuverlässigkeit in einem bestimmten Modell erkennen konnte, selbst wenn nur 1 % der Bilder markiert worden waren.