Menschliche Gehirne und KIs können mit diesen seltsamen, optimierten Fotos gehackt werden

Kategorie: Künstliche Intelligenz Gesendet 01. März

Computer-Vision-Algorithmen sind nicht die einzigen Formen der Intelligenz, die durch manipulierte Fotos ausgetrickst werden können.

Oh-oh: Forscher haben eine KI verwendet, um die ersten Fotos zu entwerfen, die sowohl Menschen als auch Computer-Vision-Algorithmen täuschen, wie das obige: ein unverändertes Bild einer Katze auf der linken Seite neben einer Version, die so optimiert wurde, dass sie seltsam wie ein Hund aussieht.

Für die Wissenschaft! Das Auffinden menschlicher Schwächen auf diese Weise könnte unsere KI-Systeme verbessern. In der Zeitung die diese manipulierten Fotos beschreibt – mitverfasst von Ian Goodfellow, dem Schöpfer von Generative Adversarial Networks (GANs) – weisen die Forscher darauf hin, dass, wenn wir eine bestimmte Klasse von veränderten Bildern finden, die den menschlichen Verstand nicht täuschen können, dies auf einen ähnlichen Mechanismus hindeutet könnte im maschinellen Lernen existieren. Die meisten KI-Systeme basieren schließlich lose auf dem menschlichen Gehirn.

Warum es wichtig ist: Jetzt wo es sie gibt Aufkleber, die angebracht werden können physische Objekte, die Computer-Vision-Systeme verwirren, so genannte kontradiktorische Beispiele sind ein reales Problem. Und wenn autonome Fahrzeuge nicht sicherstellen können, dass ihre Systeme jedes Stoppschild erkennen können, werden sie in absehbarer Zeit nicht straßentauglich sein.