AI Fight Club könnte uns dabei helfen, uns vor einer Zukunft superintelligenter Cyberangriffe zu bewahren

Johannes Malta

Ein neuer Wettbewerb kündigt an, was wahrscheinlich die Zukunft der Cybersicherheit und Cyberkriegsführung werden wird, bei der offensive und defensive KI-Algorithmen gegeneinander antreten.

Der Wettbewerb , das sich in den nächsten fünf Monaten abspielen wird, wird von betrieben Kaggle , eine Plattform für Data-Science-Wettbewerbe. Es wird die Algorithmen der Forscher gegeneinander ausspielen, um sich gegenseitig zu verwirren und auszutricksen, in der Hoffnung, dass dieser Kampf Erkenntnisse darüber liefert, wie maschinelle Lernsysteme gegen zukünftige Angriffe gehärtet werden können.

Es ist eine brillante Idee, die Forschung sowohl zum Täuschen tiefer neuronaler Netze als auch zum Entwerfen tiefer neuronaler Netze, die nicht getäuscht werden können, zu katalysieren, sagt er Jeff Clune , ein Assistenzprofessor an der University of Wyoming, der die Grenzen des maschinellen Lernens untersucht.

Der Wettbewerb besteht aus drei Komponenten. Eine Herausforderung besteht darin, einfach zu versuchen, ein maschinelles Lernsystem so zu verwirren, dass es nicht richtig funktioniert. Ein anderer besteht darin, zu versuchen, ein System dazu zu zwingen, etwas falsch zu klassifizieren. Und ein drittes wird die Entwicklung der robustesten Verteidigung beinhalten. Die Ergebnisse werden später in diesem Jahr auf einer großen KI-Konferenz präsentiert.

Maschinelles Lernen und insbesondere Deep Learning wird in vielen Branchen schnell zu einem unverzichtbaren Werkzeug. Die Technologie besteht darin, Daten in eine spezielle Art von Computerprogramm einzuspeisen, ein bestimmtes Ergebnis zu spezifizieren und eine Maschine ihren eigenen Algorithmus entwickeln zu lassen, um das Ergebnis zu erzielen. Deep Learning tut dies, indem es die Parameter eines riesigen, miteinander verbundenen Netzes mathematisch simulierter Neuronen optimiert.

Dass sich maschinell lernende Systeme austricksen lassen, ist schon lange bekannt. Spammer können beispielsweise moderne Spamfilter umgehen, indem sie herausfinden, auf welche Muster der Algorithmus des Filters trainiert wurde, um sie zu erkennen.

In den letzten Jahren haben Forscher jedoch gezeigt, dass selbst die intelligentesten Algorithmen manchmal auf überraschende Weise in die Irre geführt werden können. Zum Beispiel Deep-Learning-Algorithmen mit nahezu menschlicher Fähigkeit, Objekte in Bildern zu erkennen lässt sich täuschen durch scheinbar abstrakte oder zufällige Bilder, die die Low-Level-Muster ausnutzen, nach denen diese Algorithmen suchen (siehe Das dunkle Geheimnis im Herzen der KI).

Kontradiktorisches maschinelles Lernen ist schwieriger zu untersuchen als herkömmliches maschinelles Lernen – es ist schwer zu sagen, ob Ihr Angriff stark oder Ihre Verteidigung tatsächlich schwach ist, sagt Ian Goodfellow, ein Forscher bei Google-Gehirn , eine Abteilung von Google, die sich der Erforschung und Anwendung von maschinellem Lernen verschrieben hat und die den Wettbewerb organisiert hat.

Da maschinelles Lernen allgegenwärtig wird, besteht die Befürchtung, dass solche Angriffe für Profit oder reinen Unfug eingesetzt werden könnten. Hacker könnten Sicherheitsmaßnahmen umgehen, um beispielsweise Malware zu installieren.

Computersicherheit bewegt sich definitiv in Richtung maschinelles Lernen, sagt Goodfellow. Die Bösewichte werden maschinelles Lernen verwenden, um ihre Angriffe zu automatisieren, und wir werden maschinelles Lernen verwenden, um uns zu verteidigen.

Theoretisch könnten Kriminelle auch Sprach- und Gesichtserkennungssysteme täuschen oder sogar Plakate aufhängen, um die Sichtsysteme in selbstfahrenden Autos zu täuschen und sie zum Absturz zu bringen.

Kaggle ist zu einem unschätzbaren Nährboden für die Entwicklung von Algorithmen und zu einer Brutstätte für talentierte Datenwissenschaftler geworden. Das Unternehmen wurde im März von Google übernommen und ist nun Teil der Google Cloud-Plattform. Goodfellow und ein weiterer Google Brain-Forscher, Alexey Kurakin, reichten die Idee für die Herausforderung vor der Übernahme ein.

Benjamin Hamner, Mitbegründer und CTO von Kaggle, hofft, dass der Wettbewerb die Aufmerksamkeit auf ein drohendes Problem lenken wird. Mit zunehmender Verbreitung von maschinellem Lernen wird es immer wichtiger, die Probleme und Risiken des kontradiktorischen Lernens zu verstehen, sagt er.

Die Vorteile des offenen Wettbewerbs überwiegen alle Risiken, die mit der Veröffentlichung neuer Arten von Angriffen verbunden sind, fügt er hinzu: Wir glauben, dass diese Forschung am besten offen erstellt und geteilt wird, anstatt hinter verschlossenen Türen.

Clune sagt unterdessen, er sei scharf auf den Wettbewerb, um Algorithmen zu testen, die angeblich Angriffen standhalten können. Mein Geld wird auf absehbare Zeit weiterhin in den Netzen verarscht, sagt er.

verbergen