Alexa, Siri und Co. – Sind Sprachassistenten im Büro eine Gefahr für den Datenschutz? (aktualisiert)

Mittwoch, 31. Juli 2019


Die Meldungen zu Alexa, Siri und anderen Sprachassistenten reißen nicht ab. Wie unter anderem heise online berichtet, bekommen Mitarbeiter von Apple, Amazon und Google regelmäßig Einblicke ins Privatleben ihrer Kunden. Selbst hochsensible und intime Themen werden über Handys und Smart Speaker mitgehört, auf denen Sprachassistenten aktiviert sind.

Assistenten hören mit
Dahinter steckt keine böse Absicht. Das Problem ist technisch bedingt. Geräte, auf denen Sprachassistenten aktiviert sind, verbinden sich regelmäßig mit den Rechenzentren ihrer Anbieter. Aufgezeichnete Fragen oder Befehle werden als Audiodatei in die Cloud des Anbieters geschickt und dort verarbeitet, um eine passende Antwort zu liefern bzw. den entsprechenden Befehl auszuführen. Diese Audioaufzeichnungen werden in der Cloud aufbewahrt und zur Qualitätskontrolle und -verbesserung teilweise sogar transkribiert.

KI ist noch Handarbeit
Dass Menschen bei Amazon, Apple und Google Audiodateien transkribieren, also verschriftlichen, ist kein Sonderfall. Denn die KI der Assistenzsysteme muss mit menschlicher Unterstützung trainiert werden, um richtige Antworten zu liefern.

Immer wieder Fehlauslösungen
Ein weiteres Problem: Wie die Verbraucherzentrale schon 2017 festgestellt hat, reagieren digitale Sprachsysteme auch ungefragt. So reagierte Amazons Alexa nicht nur auf das Signalwort, sondern auch auf ähnlich klingende Begriffe. Alexa aktivierte sich z.B. ungewollt, wenn die Testpersonen "Alexander" anstelle von "Alexa" am Satzanfang verwendet haben. Aber auch wenn ähnlich klingende Worte mitten im Satz genutzt wurden – etwa bei der Aussage "Ich möchte unbedingt Urlaub am Amazonas machen" – schaltete Alexa sich ein. In Einzelfällen hat der Sprachassistent sogar auf starke Abwandlungen wie "komm Peter" statt "Computer" reagiert, berichten die Verbraucherschützer. Auch Apples Sprachassistent schaltet sich unerwünscht ein – schon das Geräusch eines Reißverschlusses könne Siri aktivieren, verriet ein Insider

Alexa im Büro
Sprachassistenten finden hauptsächlich privat Anwendung. Aber zunehmend findet man die smarten Helfer auch in Büros. Geht es nach Amazon, soll "Alexa for Business" viele organisatorische Aufgaben im Büro übernehmen. Alexa kann etwa freie Konferenzräume buchen, Termine vereinbaren oder die Gebäudesteuerung übernehmen, etwa für smarte Lampen und Jalousien.

Hohe Risiken für sensible Informationen
Die neue smarte Welt hat nur einen Haken. Gerade bei sensiblen Informationen und Geschäftsgeheimnissen kann nicht ausgeschlossen werden, dass diese von den Sprachassistenten mitgehört und sogar aufgeschrieben werden. Dabei ist es um die Vertraulichkeit der gespeicherten Daten offenbar schlecht bestellt.

Das Beispiel Apple zeigt, dass sich die betreffenden Mitarbeiter zwar formal an Apples "strikte Vertraulichkeitsvereinbarungen" halten müssen. Praktisch werden aber auch Drittfirmen mit der Auswertung der gespeicherten Audiodaten beauftragt und es soll laut Medienberichten eine hohe Fluktuation bei den Mitarbeitern geben. Es sind also ernsthafte Zweifel angebracht, dass Apple die Einhaltung seiner Vertraulichkeitsvereinbarungen tatsächlich garantieren kann. Bei Amazon und Google dürfte die Situation nicht besser sein. 

Laut Apple sollen zwar nur "weniger als 1% der täglichen Siri-Aktivierungen" betroffen sein. Außerdem verknüpfe man die Daten nicht mit der Apple-ID, so dass die Daten nicht personenbeziehbar seien. Doch schon der Inhalt der Gespräche kann ausreichen, um die Betroffenen zu identifizieren. Laut Guardian reichert Apple die Aufzeichnungen zudem mit Metadaten an, damit die Mitarbeiter Siris Reaktion besser bewerten können. Zu den Daten sollen unter anderem die geografische Position und Kontaktinformationen gehören.

Datenschutzrechtliche Grauzone
Unternehmen bewegen sich auch datenschutzrechtlich in einer Grauzone, wenn sie Sprachassistenten im Büroalltag verwenden. Denn wenn Alexa, Siri und Co. personenbezogene Daten mithören, muss der Arbeitgeber zuvor die Einwilligung der betroffenen Mitarbeiter und Gäste einholen. Laut Rechtsanwalt Christian Solmecke von der Kölner Medienrechtskanzlei WILDE BEUGER SOLMECKE dürfte eine Einwilligung nicht wirksam eingeholt werden können, was zu einem Datenschutzverstoß führen würde. Im Zweifel könne das für Unternehmen teure Folgen haben.

Fazit
Aufgrund der Risiken raten wir derzeit davon ab, einen Sprachassistenten wie Amazons Echo oder Apples HomePod im Büro aufzustellen, da nicht ausgeschlossen werden kann, dass Gesprächsinhalte permanent aufgezeichnet und über einen gewissen Zeitraum gespeichert und transkribiert werden. Auch bei der Nutzung von (privaten) Handys im Büro sollte darauf geachtet werden, dass die Sprachsteuerung deaktiviert ist.

Update:
Google hat die Auswertung von Audioaufnahmen seines Sprachassistenten vorübergehend gestoppt. Der Internetkonzern reagiert damit auf ein Verwaltungsverfahren, das der Hamburgische Datenschutzbeauftragte Johannes Caspar eingeleitet hat. Auch Apple reagierte auf die massive Kritik durch Datenschützer und stellte die Auswertung der Aufnahmen ein. Beide Konzerne überlegen nun, die Nutzer explizit nach der Erlaubnis dafür zu fragen.

Auch Amazon reagierte: Künftig können alle Nutzer selbst bestimmen, ob ihre Daten manuell ausgewertet werden dürfen. Eine Anleitung dazu veröffentlichte Amazon auf seiner Homepage. Unterdessen wurde bekannt, dass Amazon die Audioaufzeichnungen der deutschen Alexa-Sprachbefehle in Polen auswerten lässt – verschiedenen Medienberichten zufolge offenbar auch im Home-Office. (fl)

Quellen:

handelsblatt.com vom 04.08.2019: Amazon lässt polnische Heimarbeiter deutsche Alexa-Sprachbefehle abhören

SPIEGEL ONLINE vom 02.08.2019: Apple stoppt Auswertung von Siri-Sprachaufnahmen

heise online vom 01.08.2019: Sprachassistent: Google hat Datenschutzverfahren wegen Mitschriften am Hals

heise online vom 27.07.2019: Indiskrete Sprachassistentin: Auch bei Siri hören Menschen zu

theguardian.com vom 26.07.2019: Apple contractors 'regularly hear confidential details' on Siri recordings

businessinsinsider.de vom 12.10.2018: Kollegin Alexa: Sprachassistenten ziehen ins Büro ein — doch Experten warnen vor einem Risiko

Verbraucherzentrale.de vom 20.12.2017: Digitaler Sprachassistent: Alexa reagiert auch ungefragt