Bloomberg berichtete kürzlich, dass Amazon ein Projekt hat, bei dem einige seiner Mitarbeiter einige Audioaufnahmen von Alexa-Lautsprechern anhören, wenn Benutzer mit ihnen interagieren, aber es scheint, dass diese Leute auch Zugriff auf die Privatadressen der Kunden haben.
In einem neuen Bloomberg-Bericht von heute Morgen werden fünf anonyme Mitarbeiter des Alexa Data Services-Teams von Amazon als Bestätigung dafür angeführt, dass sie die Privatadresse eines Kunden leicht finden können, indem sie ihre Breiten- und Längengradinformationen in Kartierungssoftware wie Google Maps eingeben.
Obwohl es keine Anzeichen dafür gibt, dass Amazon-Mitarbeiter mit Zugriff auf die Daten versucht haben, einzelne Benutzer aufzuspüren, äußerten zwei Mitglieder des Alexa-Teams Bedenken gegenüber Bloomberg, dass Amazon unnötig breiten Zugriff auf Kundendaten gewährt, um den Besitzer eines Geräts leichter identifizieren zu können.
Das klingt sicher nicht vielversprechend.
Einige der Mitarbeiter, die mit der Analyse von Aufzeichnungen von Alexa-Kunden beauftragt sind, verwenden ein Amazon-Tool, das neben Daten zu dem Gerät, mit dem die Aufzeichnung aufgenommen wurde, auch Audioclips anzeigt. Ein Großteil der in der Software gespeicherten Informationen, einschließlich einer Geräte-ID und einer Kundenidentifikationsnummer, kann nicht einfach mit einem Benutzer verknüpft werden.
Das ist wie es sein sollte.
Amazon sammelt jedoch auch Standortdaten, damit Alexa Anfragen genauer beantworten kann, z. B. Vorschläge für ein lokales Restaurant oder die Angabe des Wetters im nahe gelegenen Ashland, Oregon, anstatt im fernen Ashland, Michigan.
Es war nichts Falsches daran, dass Alexa Standortdaten von Benutzern zusammenstellte, um den Service zu verbessern, ohne dass es einigen Mitarbeitern überhaupt gestattet war, diese zu sehen.
In einer Demonstration, die Bloomberg gesehen hat, hat ein Amazon-Teammitglied die Koordinaten eines Benutzers, die im System als Breiten- und Längengrad gespeichert sind, in Google Maps eingefügt. In weniger als einer Minute war der Mitarbeiter von einer Aufzeichnung des Alexa-Befehls einer Person zu einem Bild ihres Hauses und der entsprechenden Adresse gesprungen.
Das ist sicherlich beunruhigend, aber jeder kann den Standort einer Person in Google Maps nachschlagen, solange sie ihren Breiten- und Längengrad hat. Das ist nichts Besonderes. Was stört, ist die Tatsache, dass einigen Amazon-Mitarbeitern Benutzerkoordinaten zur Verfügung stehen.
Ein weiteres internes Tool, das sie verwenden, speichert mehr persönliche Daten.
Nach Eingabe einer Kunden-ID-Nummer können diese Mitarbeiter, die als Kommentatoren und Prüfer bezeichnet werden, die Privat- und Geschäftsadressen sowie die Telefonnummern der Kunden sehen, die bei der Einrichtung des Geräts in die Alexa-App eingegeben wurden. Wenn ein Benutzer festgelegt hat, dass seine Kontakte für Alexa freigegeben werden sollen, werden auch seine Namen, Nummern und E-Mail-Adressen im Dashboard angezeigt.
Ja, aber warum all diese Informationen im Dashboard anzeigen??
Diese Daten befinden sich im System. Wenn ein Kunde "Senden Sie eine Nachricht an Laura" sagt, können menschliche Prüfer sicherstellen, dass die Transkriptoren den Namen richtig geschrieben haben, damit die Software lernt, diese Anfrage mit der Laura in der Kontaktliste zu koppeln.
Aus dem Bericht geht nicht hervor, wie viele Mitarbeiter und Auftragnehmer auf diese Funktionen zugreifen können. Zwei Amazon-Mitarbeiter gaben an, dass die überwiegende Mehrheit der Mitarbeiter der Alexa Data Services-Gruppe vor etwa einem Jahr in der Lage war, diese Software zu verwenden.
Ein anderer Mitarbeiter sagte, dass das System „bis vor kurzem“ vollständige Telefonnummern mit einigen verdeckten Ziffern angezeigt habe. "Bis vor kurzem", das heißt nachdem Bloomberg darüber berichtet hat, richtig?
Amazon hat nach dem Bericht von Bloomberg vom 10. April den Zugriff auf Daten weiter eingeschränkt, sagten zwei der Mitarbeiter. Einige Mitarbeiter von Data Associates, die Audioaufnahmen transkribieren, kommentieren und überprüfen, kamen zur Arbeit und stellten fest, dass sie keinen Zugriff mehr auf Software-Tools hatten, die sie zuvor für ihre Arbeit verwendet hatten.
Zum Zeitpunkt der Drucklegung war ihr Zugang nicht wiederhergestellt worden.
Besorgniserregenderweise enthielt der ursprüngliche Bericht eine Aussage, die einem Sprecher von Amazon zugeschrieben wurde, der bestritt, dass die Leute, die Alexa-Aufzeichnungen hören, Zugang zu anderen Informationen haben.
Mitarbeiter haben keinen direkten Zugriff auf Informationen, die die Person oder das Konto als Teil dieses Workflows identifizieren können. Alle Informationen werden mit hoher Vertraulichkeit behandelt und wir verwenden eine Multifaktorauthentifizierung, um den Zugriff, die Dienstverschlüsselung und die Prüfungen unserer Kontrollumgebung zu beschränken und diese zu schützen.
In einer neuen Stellungnahme zu der Geschichte hat Amazon jedoch seine Position geändert und nennt den Zugriff auf interne Tools nun "hochgradig kontrolliert":
Der Zugriff auf interne Tools ist streng kontrolliert und wird nur einer begrenzten Anzahl von Mitarbeitern gewährt, die diese Tools benötigen, um den Service durch die Verarbeitung einer äußerst kleinen Stichprobe von Interaktionen zu schulen und zu verbessern.
Unsere Richtlinien verbieten den Mitarbeitern den Zugriff auf oder die Verwendung von Kundendaten aus anderen Gründen und wir haben eine Null-Toleranz-Richtlinie für den Missbrauch unserer Systeme. Wir prüfen regelmäßig den Zugriff der Mitarbeiter auf interne Tools und beschränken den Zugriff, wann und wo immer dies möglich ist.
Bevor wir zu vorzeitigen Schlussfolgerungen gelangen, sollte wiederholt werden, dass dies kein geheimes Projekt ist. Amazon verbirgt nicht die Tatsache, dass es sich lohnt, Kundengespräche mitzuhören. Wie Apple und andere Technologieunternehmen speichert Amazon für einen bestimmten Zeitraum anonymisierte Ausschnitte von Audioaufzeichnungen auf seinen Servern, um die Spracherkennung und KI zu verbessern.
"Wir verwenden Ihre Anfragen an Alexa, um unsere Spracherkennungs- und Sprachverstehenssysteme zu trainieren", heißt es in einer Liste mit häufig gestellten Fragen.
Es ist eine Tatsache in der Technologiewelt, dass Systeme mit künstlicher Intelligenz, die Maschinen helfen, die Bedeutung hinter gesprochenen Wörtern zu verstehen, regelmäßig unter Verwendung realer Aufzeichnungen trainiert werden müssen. Dies ist der einzige zuverlässige Weg, um ihre Genauigkeit zu verbessern.
Wie Amazon-Sprecher Bloomberg erklärte:
Wir kommentieren nur eine extrem kleine Auswahl von Alexa-Sprachaufnahmen, um das Kundenerlebnis zu verbessern. Diese Informationen helfen uns, unsere Spracherkennungs- und Sprachverstehenssysteme zu trainieren, damit Alexa Ihre Anforderungen besser verstehen und sicherstellen kann, dass der Service für alle gut funktioniert.
Apple macht genau dasselbe - Siri hat menschliche Helfer, die sich einige der Clips anhören, an eine zufällige Kennung gebunden und sechs Monate lang auf Servern gespeichert.
Danach wird die Zufallskennung vollständig entfernt, die Daten bleiben jedoch für längere Zeiträume erhalten, um die Spracherkennung von Siri zu verbessern. Ja, Google hat auch Prüfer beauftragt, einige der Ausschnitte von Assistant anzuhören, um den Service zu trainieren und zu verbessern. Die Aufzeichnungen von Google enthalten keine personenbezogenen Daten, und der Ton selbst ist verzerrt.
Wie Florian Schaub, Professor an der Universität von Michigan, der Datenschutzfragen im Zusammenhang mit intelligenten Lautsprechern untersucht hat, gut formuliert:
Sie müssen nicht unbedingt an einen anderen Menschen denken, der in der Intimität Ihres Zuhauses zuhört, was Sie Ihrem intelligenten Lautsprecher sagen. Ich denke, wir wurden auf die Annahme konditioniert, dass diese Maschinen nur magisches maschinelles Lernen betreiben.
Fakt ist aber, dass es sich immer noch um manuelle Bearbeitung handelt.
Ob dies ein Problem der Privatsphäre ist oder nicht, hängt davon ab, wie vorsichtig Amazon und andere Unternehmen sind, welche Art von Informationen sie manuell kommentiert haben und wie sie diese Informationen jemandem präsentieren.
Zum Kontext hier ein Auszug aus der ursprünglichen Geschichte:
Einige Alexa-Rezensenten haben die Aufgabe, die Befehle der Benutzer zu transkribieren, die Aufzeichnungen beispielsweise mit dem automatisierten Transkript von Alexa zu vergleichen oder die Interaktion zwischen Benutzer und Maschine zu kommentieren. Was hat die Person gefragt? Hat Alexa eine effektive Antwort geliefert??
Andere bemerken alles, was der Sprecher aufnimmt, einschließlich Hintergrundgesprächen - auch wenn Kinder sprechen. Manchmal hören Zuhörer, wie Benutzer private Details wie Namen oder Bankdaten besprechen. In solchen Fällen müssen sie ein Dialogfeld ankreuzen, das die kritischen Daten angibt. Sie wechseln dann zur nächsten Audiodatei.
Laut Amazon-Website wird kein Audio gespeichert, es sei denn, Echo erkennt das Weckwort oder wird per Knopfdruck aktiviert. Aber manchmal scheint Alexa überhaupt ohne Aufforderung mit der Aufnahme zu beginnen, und die Audiodateien beginnen mit einem dröhnenden Fernseher oder unverständlichen Geräuschen. Unabhängig davon, ob die Aktivierung fehlerhaft ist oder nicht, müssen die Prüfer sie transkribieren. Einer der Befragten sagte, dass die Auditoren jeweils bis zu 100 Aufzeichnungen pro Tag transkribieren, wenn Alexa keinen Weckbefehl erhält oder versehentlich ausgelöst wird.
In der ursprünglichen Berichterstattung von Bloomberg wurde behauptet, dass „die Tausenden von Mitarbeitern“, die an diesem Projekt arbeiten, manchmal auch Clips überprüfen müssen, die ziemlich beunruhigend sein können - und sogar einige, die möglicherweise kriminell sind. In einem gemeldeten Fall hörten zwei Amazon-Mitarbeiter, was sie für sexuelle Übergriffe hielten, wurden jedoch von ihrem Arbeitgeber angewiesen, den Vorfall nicht zu melden, da es „nicht die Aufgabe von Amazon war, sich einzumischen“.
In solch extremen Fällen ist es eine große Aufgabe von Amazon, sich einzumischen.
Warum würde das Unternehmen nicht zulassen, dass die Mitarbeiter, die Alexa-Aufzeichnungen anhören, diese Vorfälle den Strafverfolgungsbehörden melden und möglicherweise Leben retten? Wenn jemand in mein Haus einbricht und mich mit vorgehaltener Waffe festhält, möchte ich, dass jeder, der zuhört, meine Privatadresse sehen und gegebenenfalls die Polizei alarmieren kann.
Gedanken?
