Apple: Auch Siri-Anfragen werden von Menschen geprüft

Nachdem bereits bei Amazons Alexa und dem Google Assistant bekannt wurde, dass auch echte Menschen zahlreiche Anfragen an die digitalen Assistenten prüfen, wurde dies jetzt auch bei Apples Siri bekannt. Die Mitarbeiter hören sich dabei die gestellten Fragen an und prüfen, ob Siri, Alexa oder der Google Assistant den Nutzer richtig verstanden hat.

Problematisch wird das aber vor allem dann, wenn man die Assistenten gar nicht mit ihrem „Wake Word“ gerufen hat: Auch bei Fehlerkennung schicken sie aufgenommene Audio-Daten an die Rechenzentren der Hersteller, die dort geprüft werden. Neben automatischen Programmen werden die Sound-Schnipsel dort aber auch von Menschen geprüft, die sich die Unterhaltungen anhören.

Laut diesem Bericht des Guardian sollen die Mitarbeiter darin auch intime Details oder Drogen-Deals mitbekommen haben. Der Guardian zitiert in dem Bericht außerdem ein Apple Statement dazu:

“A small portion of Siri requests are analysed to improve Siri and dictation. User requests are not associated with the user’s Apple ID. Siri responses are analysed in secure facilities and all reviewers are under the obligation to adhere to Apple’s strict confidentiality requirements.”

Laut einem nicht genannten Mitarbeiter, der die Tonschnipsel überprüft, reagiert Siri allerdings nicht nur auf sein Wake-Word „Hey Siri“, sondern auch auf zahlreiche andere Geräusche. Problematisch sei auch die Siri-Funktion in der Apple Watsch, bei der Siri automatisch aktiviert wird, wenn man den Arm hebt und anschließend spricht. Laut dem Mitarbeiter gäbe es unzählige Fälle von Aufnahmen mit privaten Gesprächen, unter anderem zwischen Ärzten und Patienten, Geschäftsabschlüssen, scheinbar kriminellen Geschäften, oder auch sexuellen Begegnungen. In vielen Fälle lägen dazu auch Benutzerdaten mit Standort, Kontaktdaten und weiteren App-Daten vor.

Anders als bei Amazon und Google kann man die manuelle Auswertung der Daten aber nicht einfach abschalten oder die bisher gespeicherten Sprach-Aufnahmen löschen. Jan Kaiser hat auf Github allerdings ein spezielles Kommunikations-Profil veröffentlicht, mit dem sich das Aufnehmen der Daten stoppen lassen soll. Das kann für manche Nutzer wichtig sein: Laut dem Guardian-Artikel sei es für die Leute, die die Aufnahmen zur Überprüfung anhören, möglich, eine Person zu identifizieren.