Ein neuer Trick kann jedes Mal eine Spracherkennungs-KI fälschen

Kategorie: Künstliche Intelligenz Gesendet 10. Januar

Ausgehend von einer Audio-Wellenform können Forscher nun eine praktisch identische Version erstellen, die Spracherkennungssoftware dazu bringt, etwas völlig anderes zu transkribieren.

Hintergrundgeschichte: Widersprüchliche Beispiele haben viele Computer-Vision-Algorithmen getäuscht. Während alle neuronalen Netze für solche Angriffe anfällig sind, hatten Forscher mit Audio weniger Erfolg. Frühere Angriffe konnten nur subtile Änderungen an dem vornehmen, was die Software hört.

Was gibt's Neues: Berkeley-Forscher zeigte dass sie eine Wellenform nehmen und eine Rauschschicht hinzufügen können, die DeepSpeech, eine hochmoderne Sprache-zu-Text-KI, jedes Mal täuscht. Die Technik kann Musik für die KI wie willkürliche Sprache klingen lassen oder Stimmen verschleiern, damit sie nicht transkribiert werden.

Machen Sie sich auf Ärger gefasst: Stellen Sie sich vor, Sie spielen ein Musikvideo von YouTube auf Ihren Lautsprechern ab und Alexa hört eine Bestellung für zwei Tonnen Rahmmais . Willkommen in der KI-Angriffshölle.