Abo
  • Services:

Neuronale Netze: KI-Angriff versteckt Sprachbefehle in klassischer Musik

Es ist nicht Verdis Requiem in schlechter Aufnahmequalität: Forscher entwickeln eine KI, die die Sprachassistenten täuscht, indem sie Geräusche in anderen Geräuschen versteckt. In einem Video ist die Stimme zu hören, die wie ein Roboter aus der Zukunft klingt.

Artikel veröffentlicht am ,
Ein Teil des KI-Angriffs klingt wie ein Geth-Roboter.
Ein Teil des KI-Angriffs klingt wie ein Geth-Roboter. (Bild: Bioware)

Zwei Forscher der Universität California in Berkeley haben einen KI-Algorithmus vorgestellt, der Sprachassistenten und Sprache-zu-Text-Systeme täuschen kann. Nicholas Carlini und David Wagner entwickeln das System, das für Menschen nicht verständliche Sprachbefehle nutzt, die Alexa, Google Assistant und andere Sprach-Kis jedoch verstehen. Der Angriff sei für ein Sprache-zu-Text-System wie Mozillas Deepspeech bereits zu 100 Prozent erfolgreich. Dazu zählen beispielsweise Systeme, die Sprache in Untertitel umwandeln. Umgekehrt ist jedoch noch etwas Arbeit nötig.

Stellenmarkt
  1. AKKA GmbH & Co. KGaA, München
  2. init SE, Karlsruhe

In einem bereits älteren Video, das die Anfänge des Projektes zeigt, konnten die Forscher beispielsweise ein Telefon in den Flugzeugmodus versetzen oder eine bestimmte Webseite aufrufen. Bei genauem Hinhören kann der Sprachbefehl ausgemacht werden. Er klingt jedoch wie eine Maschinenstimme aus einem Science-Fiction-Szenario, etwa ein Geth aus der Mass-Effect-Spielreihe.

Das System soll laut Carlini in der Lage sein, bis zu 50 Buchstaben in der Sekunde schnell zu sprechen. Für den Menschen wäre diese Geschwindigkeit kaum nachvollziehbar. Der Angriff zielt auf Mozillas Open-Source-Sprache-zu-Text-System Deepspeech ab, das jede Audiospur in 50 fps abtastet. Er moduliert die Geräuschkurve eines Eingabesatzes so, dass das Spracherkennungssystem diesen verstehen kann. Das funktioniert, indem es eine zweite Geräuschkurve einspeist. Die Forscher modulieren auch eine Eingabe so, dass Deepspeech diese als Stille wahrnimmt.

Sprachbefehle in klassischer Musik und Sätzen verstecken

Carlini und Wagner wollen andere Forscher dazu motivieren, ebenfalls in diesem Feld mitzuentwickeln. Zu diesem Zweck stellen sie ihren Code und Datensätze zur freien Verfügung bereit. Auf der verlinkten Seite können weitere Audiobeispiele angehört werden. Interessant ist hier, wie sich das Projekt weiterentwickelt hat: Der Satz "Ohne den Datensatz ist der Artikel nutzlos" wird vom Google Assistant als "Okay Google, navigiere zur Seite Evil dot com" interpretiert. Die Ursache dafür ist das Hintergrundrauschen, das für uns Menschen nur als Ergebnis schlechter Audioqualität wahrgenommen wird. Das Gleiche funktioniert mit dem klassischen Musikstück Messa da Requiem von Giuseppe Verdi.

Über diesen Ansatz können Systeme wie automatische Untertitel gefälscht werden, ohne dass der Zuschauer das bemerkt. Mit etwas Arbeit soll es laut Carlini auch später noch besser möglich sein, Sprachbefehle in Liedern zu verstecken - ohne eine offensichtliche Roboterstimme aus der Zukunft.



Anzeige
Top-Angebote
  1. (u. a. 15% auf ausgewählte Monitore, z. B 27xq QHD/144 Hz für 305,64€ statt 360,25€ im...
  2. (u. a. DOOM für 6,99€, Assassin's Creed Odyssey für 49,99€ und Civilization VI - Digital...
  3. (u. a. UE65NU7409 für 849€ statt 1.039,98€ im Vergleich)
  4. 39,98€ (Vergleichspreis ca. 72€)

David64Bit 15. Jan 2018

Was ist der Vorteil dieser ganzen Sprachassistenten? Ich hab Google Now ausprobiert, ich...

Trollversteher 15. Jan 2018

Richtig, dazu müsste man das System ja erst mal (mit einer weiteren KI) an das...

Trollversteher 15. Jan 2018

Die Beispiele stammen aus einem Forschungsprojekt, das erst mal nur die Möglichkeit an...

Anonymer Nutzer 12. Jan 2018

Ja und dann schreit jemand während der Uni Vorlesung: OK GOOGLE SHUTDOWN ! Und alle...

Baron Münchhausen. 12. Jan 2018

ein Auto mit musik fährt vorbei... dein konto ist leer :D Du hast eben 10.000.000...


Folgen Sie uns
       


Logitechs MX Vertical und Ankers vertikale Maus im Vergleichstest

Die MX Vertical ist Logitechs erste vertikale Maus. Sie hat sechs Tasten und kann wahlweise über Blueooth, eine Logitech-eigene Drahtlostechnik oder Kabel verwendet werden. Die spezielle Bauform soll Schmerzen in der Hand, dem Handgelenk und den Armen verhindern. Wem es vor allem darum geht, eine vertikale Sechstastenmaus nutzen zu können, kann sich das deutlich günstigere Modell von Anker anschauen, das eine vergleichbare Bauform hat. Logitech verlangt für die MX Vertical 110 Euro, das Anker-Modell gibt es für um die 20 Euro.

Logitechs MX Vertical und Ankers vertikale Maus im Vergleichstest Video aufrufen
Gigabit: 5G-Planungen gehen völlig an den Nutzern vorbei
Gigabit
5G-Planungen gehen völlig an den Nutzern vorbei

Fast täglich hören wir Erklärungen aus der Telekommunikationsbranche, was 5G erfüllen müsse und warum sonst das Ende der Welt drohe. Wir haben die Konzerngruppen nach Interessenlage kartografiert.
Ein IMHO von Achim Sawall

  1. Fixed Wireless Access Nokia bringt mehrere 100 MBit/s mit LTE ins Festnetz
  2. Funklöcher Telekom bietet freiwillig hohe 5G-Netzabdeckung an
  3. 5G Telekom hat ihr Mobilfunknetz mit Glasfaser versorgt

Mate 20 Pro im Hands on: Huawei bringt drei Brennweiten und mehr für 1.000 Euro
Mate 20 Pro im Hands on
Huawei bringt drei Brennweiten und mehr für 1.000 Euro

Huawei hat mit dem Mate 20 Pro seine Dreifachkamera überarbeitet: Der monochrome Sensor ist einer Ultraweitwinkelkamera gewichen. Gleichzeitig bietet das Smartphone zahlreiche technische Extras wie einen Fingerabdrucksensor unter dem Display und einen sehr leistungsfähigen Schnelllader.
Ein Hands on von Tobias Költzsch

  1. Keine Spionagepanik Regierung wird chinesische 5G-Ausrüster nicht ausschließen
  2. Watch GT Huawei bringt Smartwatch ohne Wear OS auf den Markt
  3. Ascend 910/310 Huaweis AI-Chips sollen Google und Nvidia schlagen

Neuer Kindle Paperwhite im Hands On: Amazons wasserdichter E-Book-Reader mit planem Display
Neuer Kindle Paperwhite im Hands On
Amazons wasserdichter E-Book-Reader mit planem Display

Amazon bringt einen neuen Kindle Paperwhite auf den Markt und verbessert viel. Der E-Book-Reader steckt in einem wasserdichten Gehäuse, hat eine plane Displayseite, mehr Speicher und wir können damit Audible-Hörbücher hören. Noch nie gab es so viel Kindle-Leistung für so wenig Geld.
Ein Hands on von Ingo Pakalski


      •  /