Siri: Sprachauswertung künftig nur durch Apple-Mitarbeiter

Update: 29. August 2019

Siri: Sprachauswertung künftig nur durch Apple-Mitarbeiter

In einem Statement hat sich Apple für die bisherige Praxis zur Auswertung von Audioaufnahmen entschuldigt. Gleichzeitig hat der Konzern angekündigt, das Programm zur Verbesserung von Siri unter anderen Vorzeichen wieder zu starten.

Dabei sollen standardmäßig keine Audioaufnahmen von Interaktionen mit Siri mehr gespeichert werden. Computergenerierte Transkripte finden aber weiterhin Verwendung, um Siri zu verbessern. Nutzer können außerdem über ein Opt-in erlauben, dass Apple auch Sprachaufnahmen auswertet, um Siri weiter zu trainieren.

Dies soll dann nur durch Mitarbeiter geschehen, die direkt bei Apple angestellt sind, also nicht mehr durch externe Dienstleister. Außerdem sollen Aufnahmen gelöscht werden, wenn festgestellt wird, dass diese durch eine versehentliche Aktivierung entstanden sind. Nutzer können ihre Zustimmung zur Verwendung ihrer Aufnahmen auch jederzeit wieder zurückziehen.

Apple will mit der Auswertung von Transkripten und Sprachaufnahmen zur Verbesserung von Siri im Herbst wieder starten, nachdem ein Software-Update an die Nutzer ausgerollt wurde. Dabei handelt es sich vermutlich um iOS 13, das im September erwartet wird. Dieses enthält dann wahrscheinlich die neue Opt-in-Option.

Update: 2. August 2019

Siri: Apple stoppt Stimmauswertung durch Dienstleister

Nach der Kritik an Apples Praxis, Siri-Aufnahmen von Dienstleistern auswerten zu lassen, um den Sprachassistenten zu trainieren, hat der Konzern nun Veränderungen angekündigt. Gegenüber The Verge sagte Apple, man werde die Siri-Bewertungen weltweit aussetzen, während eine gründliche Überprüfung stattfinde.

Mit einem künftigen Software-Update sollen Nutzer außerdem die Möglichkeit erhalten, der Auswertung ihrer Audioaufnahmen zu widersprechen. Andere Hersteller wie Amazon und Google nutzen zwar ähnliche Methoden, um ihre Sprachassistenten zu verbessern, bieten dabei aber in den Einstellungen eine Option zum Widerspruch. Dies will Apple nun offenbar nachrüsten.

Originalmeldung vom 29. Juli 2019

Siri: Apple-Dienstleister hören intime Gespräche mit

Mitarbeiter von Apple-Dienstleistern sollen von Siri aufgezeichnete Audioaufnahmen abhören und auswerten. Das berichtet der Guardian unter Berufung auf einen Insider, der selbst anonym bleiben möchte. Wie Amazon und Google, die bereits ähnliche Praktiken zugeben mussten, hat auch Apple die Aufnahmen eingeräumt. Der Konzern nennt dafür den gleichen Grund wie die Konkurrenten: Der Sprachassistent soll dadurch trainiert werden, um künftig Befehle besser verstehen zu können.

Wie Apple gegenüber dem Guardian bestätigte, werde ein kleiner Teil der Siri-Anfragen analysiert, um Siri und die Diktierfunktion zu verbessern. Bei den Auswertungen gehe es darum zu beurteilen, ob die Aktivierung von Siri bewusst oder unabsichtlich erfolgte, ob Siri in der Lage sein müsste, die Anfrage zu beantworten und ob die gegebene Antwort angemessen war.

Dabei handele es sich um weniger als ein Prozent der täglichen Siri-Aktivierungen. Die Aufzeichnungen seien in der Regel nur wenige Sekunden lang und werden nicht mit der Apple-ID des Nutzers verknüpft. Apple betonte außerdem, dass die Gutachter den Vertraulichkeitsanforderungen von Apple unterlägen.

Apple-Mitarbeiter hören sehr intime Details

Der Insider, der vom Guardian zitiert wird, gibt aber zu bedenken, dass die Mitarbeiter zusammen mit der Tonaufnahme auch Informationen wie den Ort, Kontaktdaten und Daten aus Apps sehen können. Diese sollen wohl dazu dienen, die Antwort von Siri zu bewerten. Allerdings sei es anhand der Informationen nicht besonders schwer, Rückschlüsse auf die Person zu ziehen, auch wenn die Aufnahmen relativ kurz seien.

Dies sei auch deshalb problematisch, da bei unbeabsichtigten Aktivierungen teils sehr intime Gespräche aufgezeichnet werden. So könnten die Mitarbeiter etwa mithören, wenn Arzt und Patient über medizinische Details reden, im Hintergrund Drogendeals ablaufen oder Personen Sex hätten. Falsche Aktivierungen von Siri entstehen demnach nicht nur durch Worte, die dem Kommando „Hey Siri“ ähnlich sind, sondern etwa auch durch das Öffnen eines Reißverschlusses. Auf der Apple Watch könne Siri auch aktiviert werden, wenn die Uhr angehoben und in der Nähe gesprochen werde. So gehen die meisten fehlerhaften Aktivierungen auf Apple Watch und HomePod zurück.

Während es für Apple wohl hauptsächlich um den technischen Aspekt gehe, um Probleme bei der Nutzung von Siri zu erkennen, sei für die Mitarbeiter nicht klar, wie sie mit den Inhalten umgehen sollen. Viele empfänden es als unangenehm, solche intimen Gespräche zu hören. Außerdem sei es möglich, die Informationen zu missbrauchen, wenn zufällig private Details aufgezeichnet werden. In den Firmen, die die Auswertungen vornehmen, gäbe es eine hohe Fluktuation und die Mitarbeiter werden nicht intensiv geprüft, so der Insider.

Ein Opt-out ist nicht möglich

Der Guardian kritisiert auch, dass aus den Nutzungsbedingungen von Apple nicht hervorgehe, dass derartige Auswertungen durch Menschen erfolgen. Im Gegensatz zu Amazon oder Google biete Apple den Nutzern außerdem keine Möglichkeit, bestimmten Aufnahmen oder Auswertungen gezielt zu widersprechen. Man könne Siri höchstens komplett abschalten. Das Thema ist auch deshalb brisant, weil Apple großen Wert auf Datensicherheit legt und immer wieder den Schutz der Nutzerdaten betont.