So verstecken Sie sich mit einem Farbausdruck vor dem KI-Überwachungszustand

Kategorie: Künstliche Intelligenz Gesendet 23. Apr

KI-gestützte Videotechnologie wird allgegenwärtig und verfolgt unsere Gesichter und Körper in Geschäften, Büros und öffentlichen Räumen. In einigen Ländern bildet die Technologie eine mächtige neue Ebene der Polizeiarbeit und staatlichen Überwachung.

Zum Glück, wie einige Forscher der belgischen Universität KU Leuven habe gerade gezeigt können Sie sich oft mit Hilfe eines einfachen Farbausdrucks vor einem KI-Videosystem verstecken.

Wer hat das gesagt? Die Forscher zeigten, dass das von ihnen entworfene Bild eine ganze Person vor einem KI-gestützten Computer-Vision-System verbergen kann. Sie demonstrierten es auf einem beliebten Open-Source-Objekterkennungssystem namens YoLo (v2) .

Versteck spiel: Der Trick könnte es Gaunern ermöglichen, sich vor Überwachungskameras zu verstecken, oder Dissidenten eine Möglichkeit bieten, sich der Kontrolle der Regierung zu entziehen. Was unsere Arbeit beweist, ist, dass es möglich ist, Kameraüberwachungssysteme mit gegnerischen Patches zu umgehen, sagt er Wiebe Van Ranst , einer der Autoren.

Hau ab: Van Ranst sagt, es sollte nicht allzu schwer sein, den Ansatz an handelsübliche Videoüberwachungssysteme anzupassen. Im Moment müssen wir auch wissen, welcher Detektor verwendet wird. In Zukunft möchten wir einen Patch generieren, der auf mehreren Detektoren gleichzeitig funktioniert, sagte er gegenüber MIT Technology Review. Wenn dies funktioniert, stehen die Chancen gut, dass der Patch auch auf dem Detektor funktioniert, der im Überwachungssystem verwendet wird.

Narren Besorgung: Die vom belgischen Team demonstrierte Täuschung nutzt das sogenannte kontradiktorische maschinelle Lernen aus. Die meisten Computervisionen beruhen darauf, ein (konvolutionelles) neuronales Netzwerk darauf zu trainieren, verschiedene Dinge zu erkennen, indem es mit Beispielen gefüttert und seine Parameter angepasst werden, bis es Objekte korrekt klassifiziert. Indem Beispiele in ein trainiertes tiefes neuronales Netz eingespeist und die Ausgabe überwacht werden, ist es möglich abzuleiten, welche Arten von Bildern das System verwirren oder täuschen.

Augen überall: Die Arbeit ist erheblich, da KI zunehmend in alltäglichen Überwachungskameras und Software zu finden ist. Es wird sogar verwendet, um die Notwendigkeit einer Kassenschlange in einigen experimentellen Geschäften, einschließlich der von Amazon betriebenen, zu umgehen. Und in China entwickelt sich die Technologie zu einem mächtigen neuen Mittel, um Kriminelle zu fangen sowie, was noch beunruhigender ist, Verfolgung bestimmter ethnischer Gruppen .