KI für die Cybersicherheit ist eine heiße neue Sache – und ein gefährliches Wagnis

Bild des Codes überlagert auf einem Foto von Händen auf einer Laptoptastatur Unsplash

Als ich diese Woche auf der großen Black Hat-Cybersicherheitskonferenz in Las Vegas durch die Ausstellungsfläche ging, war ich beeindruckt von der Anzahl der Unternehmen, die damit prahlten, wie sie maschinelles Lernen und künstliche Intelligenz einsetzen, um die Welt zu einem sichereren Ort zu machen.

Einige Experten befürchten jedoch, dass die Anbieter den Risiken, die mit der starken Abhängigkeit von diesen Technologien verbunden sind, nicht genug Aufmerksamkeit schenken. Was passiert, ist ein wenig besorgniserregend und in einigen Fällen sogar gefährlich, warnt Raffael Marty von der Sicherheitsfirma Forcepoint.

Der Hunger der Sicherheitsindustrie nach Algorithmen ist verständlich. Es ist mit einem Tsunami von Cyberangriffen konfrontiert, während die Zahl der Geräte, die mit dem Internet verbunden sind, explodiert. Gleichzeitig gibt es einen massiven Mangel an qualifizierten Cyber-Arbeitskräften (siehe Die heimtückische neue Bedrohung der Cybersicherheit: Arbeitskräftestress ).

Der Einsatz von maschinellem Lernen und KI zur Automatisierung der Erkennung und Reaktion auf Bedrohungen kann die Belastung der Mitarbeiter verringern und potenziell dazu beitragen, Bedrohungen effizienter zu identifizieren als andere softwaregesteuerte Ansätze.

Datengefahren

Aber Marty und einige andere, die bei Black Hat sprechen, sagen, dass viele Unternehmen jetzt auf maschinellem Lernen basierende Produkte einführen, weil sie das Gefühl haben, dass sie dies tun müssen, um ein Publikum mit Kunden zu erreichen, die sich für den KI-Hype-Zyklus entschieden haben. Und es besteht die Gefahr, dass sie Wege übersehen, auf denen die maschinellen Lernalgorithmen ein falsches Sicherheitsgefühl erzeugen könnten.

Viele Produkte, die eingeführt werden, beinhalten überwachtes Lernen, bei dem Unternehmen Datensätze auswählen und kennzeichnen müssen, auf denen Algorithmen trainiert werden – zum Beispiel durch Markieren von Code, der Malware ist, und Code, der sauber ist.

Marty sagt, dass ein Risiko darin besteht, dass Unternehmen in der Eile, ihre Produkte auf den Markt zu bringen, Schulungsinformationen verwenden, die nicht gründlich von anomalen Datenpunkten bereinigt wurden. Das könnte dazu führen, dass dem Algorithmus einige Angriffe entgehen. Ein weiterer Grund ist, dass Hacker, die sich Zugang zu den Systemen einer Sicherheitsfirma verschaffen, Daten beschädigen könnten, indem sie Labels wechseln, sodass einige Malware-Beispiele als sauberer Code gekennzeichnet werden.

Die Bösewichte müssen die Daten nicht einmal manipulieren; Stattdessen könnten sie die Funktionen des Codes ausarbeiten, die ein Modell verwendet, um Malware zu kennzeichnen, und diese dann aus ihrem eigenen bösartigen Code entfernen, damit der Algorithmus sie nicht abfängt.

Einer gegen viele

In einer Sitzung auf der Konferenz wiesen Holly Stewart und Jugal Parikh von Microsoft auf das Risiko hin, sich zu sehr auf einen einzigen Master-Algorithmus zu verlassen, um ein Sicherheitssystem zu steuern. Die Gefahr besteht darin, dass, wenn dieser Algorithmus kompromittiert wird, es kein anderes Signal gibt, das auf ein Problem hinweisen würde.

Um sich davor zu schützen, bietet der Bedrohungsschutzdienst Windows Defender von Microsoft Schutz verwendet eine Vielzahl von Algorithmen mit unterschiedlichen Trainingsdatensätzen und Features. Wenn also ein Algorithmus gehackt wird, werden die Ergebnisse der anderen – vorausgesetzt, ihre Integrität wurde nicht ebenfalls kompromittiert – die Anomalie im ersten Modell hervorheben.

Jenseits dieser Probleme. Marty von Forcepoint merkt an, dass es bei einigen sehr komplexen Algorithmen wirklich schwierig sein kann herauszufinden, warum sie bestimmte Antworten tatsächlich ausspucken. Dieses Erklärbarkeitsproblem kann es schwierig machen, die Ursache für auftretende Anomalien einzuschätzen (siehe Das dunkle Geheimnis im Herzen der KI).

Nichts davon bedeutet, dass KI und maschinelles Lernen keine wichtige Rolle in einem Verteidigungsarsenal spielen sollten. Die Botschaft von Marty und anderen lautet, dass es für Sicherheitsunternehmen – und ihre Kunden – wirklich wichtig ist, die mit algorithmischen Modellen verbundenen Risiken zu überwachen und zu minimieren.

Das ist keine kleine Herausforderung, da Menschen mit der idealen Kombination aus tiefem Fachwissen in Cybersicherheit und Data Science immer noch so selten sind wie ein kühler Tag in einem Sommer in Las Vegas.

verbergen