Software, die Wörter austauscht, kann jetzt die KI hinter Alexa und Siri täuschen

Kategorie: Künstliche Intelligenz Gesendet 07.02

Die Nachrichten: Eine Software namens TextFooler kann Systeme zur Verarbeitung natürlicher Sprache (NLP) dazu verleiten, Text falsch zu verstehen, indem sie einfach bestimmte Wörter in einem Satz durch Synonyme ersetzt. In Tests konnte es die Genauigkeit von drei hochmodernen NLP-Systemen dramatisch senken. Beispielsweise war das leistungsstarke neuronale Netz BERT von Google um den Faktor fünf bis sieben schlechter darin, festzustellen, ob Bewertungen auf Yelp positiv oder negativ waren.

Sie testeten den Angriff auf NLP-Systeme, die für Aufgaben wie das Identifizieren von Nachrichtenthemen, das Erkennen von Fake News und das Analysieren von Stimmungen trainiert wurden. In allen Fällen ist die KI wurde deutlich schlechter .

Wie es funktioniert: Die von einem Team am MIT entwickelte Software sucht nach den Wörtern in einem Satz, die für einen NLP-Klassifikator am wichtigsten sind, und ersetzt sie durch ein Synonym, das ein Mensch natürlich finden würde. Zum Beispiel macht die Änderung des Satzes Die Charaktere, besetzt in unmöglich erfundenen Situationen, sind völlig entfremdet von der Realität in Die Charaktere, besetzt in unmöglich konstruierten Umständen, sind völlig entfremdet von der Realität, keinen wirklichen Unterschied in der Art, wie wir ihn lesen. Aber die Optimierungen führten dazu, dass eine KI die Sätze völlig anders interpretierte.

Warum es wichtig ist: Wir haben viele Beispiele für solche gegnerischen Angriffe gesehen, meistens bei Bilderkennungssystemen, bei denen winzige Änderungen an der Eingabe eine KI durcheinander bringen und dazu bringen können, das, was sie sieht, falsch zu klassifizieren. TextFooler zeigt, dass dieser Angriffsstil auch NLP, die KI hinter virtuellen Assistenten – wie Siri, Alexa und Google Home – sowie andere Sprachklassifikatoren wie Spam-Filter und Hassreden-Detektoren bricht. Die Forscher sagen, dass Tools wie TextFooler helfen können, NLP-Systeme robuster zu machen, indem sie ihre Schwächen aufdecken.