
Sie haben es alle getan: Mitarbeiter hörten zur Kontrolle Mitschnitte von Nutzern ab.
Amazon, Google, Apple, Microsoft und Facebook – die Enthüllungen der letzten Monate haben gezeigt: Wo sogenannte „künstliche Intelligenz“ zur Spracherkennung eingesetzt wird, haben auch menschliche Mitarbeiter zugehört. Kein Wunder: Maschinelles Lernen basiert auch auf menschlicher Arbeit. Doch wirft die Praxis Fragen zum Datenschutz auf.
Eine Kette von Enthüllungen
Als erste hatte es im Frühjahr Amazons Sprachassistentin Alexa getroffen: Die Nachrichtenagentur Bloomberg berichtete, dass Amazon weltweit Mitschnitte von Alexa-Geräten abhören ließ, um die Qualität der Spracherkennung zu verbessern. Im Laufe des Sommers enthüllten dann Journalisten, dass auch Google, Apple, Microsoft und Facebook Audioaufnahmen ihrer Nutzer von menschlichen Helfern analysieren ließen. Ob für Sprachassistenten wie Alexa, Google Assistant und Siri, oder für Übersetzungsfunktionen wie die von Skype: Wo „künstliche Intelligenz“ (K.I.) gesprochene Sprache in Text übersetzt, waren auch menschliche Ohren im Spiel.
Lernende Maschinen brauchen menschliche Lehrer
Wer sich die zugrunde liegende Technik näher anschaut, wird das wenig verwunderlich finden: Was von Anbietern als künstliche Intelligenz verkauft wird, basiert in aller Regel tatsächlich auf maschinellem Lernen. Die neuronalen Netze, die dabei zum Einsatz kommen, müssen von Menschen und mit von Menschen vorsortiertem Datenmaterial trainiert werden. Die vermeintliche „Intelligenz“, mit der Computeralgorithmen etwa Bildinhalte erkennen oder Sprache in Text übertragen, ist nichts weiter als eine Methode, menschliche Fähigkeiten zur Mustererkennung mit Hilfe statistischer Verfahren zu automatisieren. Und so braucht es eben auch Menschen, um die Ergebnisse dieser Verfahren zu beurteilen und zu verbessern: Wenn zum Beispiel Siri mal wieder etwas nicht verstanden hat, muss ihr eben ein menschlicher Hörer auf die Sprünge helfen.
Anonymisieren wirkt nicht immer
Vielen Nutzern dürfte die Vorstellung unsympathisch sein, dass irgendwelche Fremden ihre Gespräche mit Alexa oder gar ihre Skype-Telefonate belauschen. Wohl auch deshalb haben die Anbieter den menschlichen Beitrag zur angeblichen Intelligenz der Maschinen bisher nicht an die große Glocke gehängt. Entsprechend groß war dann die Aufregung über die Enthüllungen. Die Anbieter wiegelten indes ab: Nur ein winziger Teil der Sprachaufnahmen würde von Menschen abgehört, und die wüssten dann nicht, von wem die Aufnahmen stammen. Wie Audiobeispiele zeigen, die dem belgischen Sender VRT zugespielt wurden, lässt sich die Identität der Betroffenen zuweilen aber aus den Inhalten der Aufnahmen ableiten.
Anbieter reagieren unterschiedlich
Apple, Facebook und Google haben die kritisierte Praxis nach eigenen Angaben inzwischen erst einmal ausgesetzt. Damit reagieren sie wohl auch auf entsprechende Forderungen etwa des Hamburger Datenschutzbeauftragten an Google. Microsoft wiederum ergänzte seine Datenschutzerklärung um Hinweise auf die „manuelle Überprüfung“: In der Fassung vom August ist nun unter anderem zu lesen: „Um die Genauigkeit unserer automatisierten Verarbeitungsmethoden (einschließlich KI) zu trainieren und zu verbessern, überprüfen wir manuell einige der Vorhersagen und Schlussfolgerungen (...). Beispielsweise überprüfen wir manuell kurze Ausschnitte kleiner Stichproben aus Sprachdaten (...).“
Amazon führt Ausschalter ein

Bei Amazon lässt sich das Mithören durch Menschen abschalten. © Screenshot Amazone.de

Amazon lässt seinen Nutzern mittlerweile die Wahl – zumindest denen, die wissen, wo sie danach suchen müssen: In den „Alexa-Datenschutz“-Einstellungen, die in der Alexa-App oder auch auf der Amazon-Website zu finden sind, lässt sich nun unter dem Titel „Legen Sie fest, wie Ihre Daten Alexa verbessern sollen“ die Option „Bei der Verbesserung von Amazon Services und beim Entwickeln neuer Funktionen mithelfen“ ausschalten. Amazon warnt an gleicher Stelle allerdings auch, dass dann „die Spracherkennung und neue Funktionen möglicherweise nicht ordnungsgemäß“ arbeiten.
[Update 29.08.2019] Apple setzt ab Herbst auf Opt-In
Inzwischen hat sich auch Apple zum weiteren Vorgehen bei der Qualitätskontrolle von Siri geäußert. Demnach will das Unternehmen die Kontrolle von Siri-Aufnahmen im Herbst wieder aufnehmen – aber mit einigen Änderungen gegenüber der bisherigen Praxis: Zum einen will Apple solche Aufnahmen dann nur noch mit ausdrücklicher Zustimmung der Nutzer abhören. Hierfür will auch Apple eine neue Datenschutz-Einstellung einführen, die anders als bei Amazon standardmäßig deaktiviert sein soll („Opt-In“). Zudem sollen in Zukunft nur noch Apples eigene Mitarbeiter die Aufnahmen abhören und nicht wie bisher auch externe Dienstleister. [Ende Update]
Datenschutzprobleme auch ohne Mitlauscher
Bei allem berechtigten Ärger über die Kommunikationspolitik der Anbieter sollte sich allerdings jeder Nutzer auch fragen, was schwerer wiegt: Dass einzelne Mitarbeiter irgendwo auf der Welt einzelne Audioschnipsel zu hören kriegen? Oder was der jeweilige Anbieter durch eine systematische maschinelle Analyse alles Gesagten über jeden einzelnen Nutzer herausfinden und in seinen Datenbanken speichern kann – auch ohne dass jemals ein Mensch mitlauscht? Wer cloudbasierte Spracherkennung nutzt, verrät durch den Inhalt des Gesagten wie durch biometrische Informationen seiner Stimme sehr viel über sich und seine Vorlieben und Abneigungen, seine Gefühle und seine Gesundheit. Auch wenn sich das menschliche Mitlauschen abschalten lässt, wird es darum für Nutzer, denen Datenschutz am Herzen liegt, weiterhin gute Gründe geben, von derlei Diensten nur sehr vorsichtigen Gebrauch zu machen.
Newsletter: Bleiben Sie auf dem Laufenden
Mit den Newslettern der Stiftung Warentest haben Sie die neuesten Nachrichten für Verbraucher immer im Blick. Sie haben die Möglichkeit, Newsletter aus verschiedenen Themengebieten auszuwählen.
-
- App-Tracking-Transparenz (ATT): So heißt die neue Funktion, mit der Apple iPhone-Besitzer vor Datenkraken schützen will. Leider hilft der Tracking-Schutz nur begrenzt.
-
- WhatsApp, Signal, Telegram & Co sind aus dem Alltag nicht mehr wegzudenken. Unser Messenger-Vergleich zeigt, welche der 16 Chat-Dienste im Test besonders sicher sind.
-
- Einen Tag lang haben wir alles erfasst, was unser Redakteur Martin Gobbin online am Handy macht. Wir waren nicht allein: 128 Tracker haben ihn ebenfalls ausspioniert.
Diskutieren Sie mit
Nur registrierte Nutzer können Kommentare verfassen. Bitte melden Sie sich an. Individuelle Fragen richten Sie bitte an den Leserservice.
Nutzerkommentare können sich auf einen früheren Stand oder einen älteren Test beziehen.
Wer Lesen kann, tatsächlich liest, versteht und danach handelt, ist klar im Vorteil .-)
.
Juristisch-rhetorisch verschwurbelt stand es zumindest schon ewig in den Bedingungen bei Google und facebook.
Grob umgangssprachlich übersetzt habe ich seit Jahren immer etwa Folgendes gelesen.
GOOGLE, facebook/Whatsapp sinngemäß:
.
"Du gibst uns die Rechte an allen Informationen, die wir uns über deine verbundenen Geräte aneignen können, wir dürfen alles für jeden Zweck unbegrenzt verwenden und haften nicht. Wenn dadurch die Rechte Anderer verletzt werden (Adressen- o.a. Daten-Freigabe), bist du schuld. Dieses System wird von uns ständig verbessert.
Du darfst in die von uns nach Gutdünken und zugunsten unserer Aktionäre freigegebenen und nach diesen Interessen manipulierten Daten über ein paar (bis auf alle deine Daten in EUR) kostenlose und kostenpflichtige (in Daten und EUR) Dienste reinschnuppern."
Mein Fazit:
Ist nix Besonderes passiert.
Wissen ist Macht. Und eine neue Währung.