Een team bij Amazon dat luistert naar opgenomen spraakcommando’s van Amazon Alexa-gebruikers, zou in sommige gevallen kunnen achterhalen waar een gebruiker woont. Dat stellen vijf werknemers die bekend zijn met het programma tegenover Bloomberg.
Het team heeft als belangrijkste doel om de verbale verzoeken aan Alexa om te zetten in tekst, en die tekst en data te analyseren. Aan de hand daarvan moet de spraakassistent bepaalde verzoeken beter leren begrijpen en er beter op kunnen reageren. Het team werkt op drie verschillende continenten.
De vijf werknemers die met Bloomberg spraken, hebben echter zorgen over de toegang tot gebruikersdata door het team. Het team zou namelijk toegang hebben tot locatiegegevens van gebruikers. En met toegang tot geografische coördinaten is het mogelijk om ze in te voeren in kaartsoftware van derde partijen, om huisadressen te vinden. De bronnen van Bloomberg zijn bang dat Amazon onnodig brede toegang biedt tot gebruikersdata.
Amazon stelt in een verklaring dat toegang tot interne tools “sterk gecontroleerd is, en alleen gegeven wordt aan een klein aantal werknemers die deze tools nodig hebben om de dienst te trainen en te verbeteren, door een extreem klein deel van interacties te verwerken”. Ook zegt het bedrijf een zero tolerance-beleid te hebben over misbruik van de gegevens, en regelmatig de toegang van werknemers te controleren.
Verzamelen gegevens
Een aantal werknemers die opnames van Alexa-klanten analyseren, gebruiken een Amazon-tool die audioclips naast data over het apparaat dat de opname maakte toont. Veel informatie die opgeslagen is door de software – zoals een ID-nummer van een apparaat – kan niet zomaar teruggelinkt worden aan een gebruiker. De locatiedata wordt echter verzameld als er bijvoorbeeld gevraagd wordt om een lokaal restaurant of om het weerbericht van een stad in de buurt.
Bloomberg heeft een demonstratie gezien van de software, waarbij een teamlid van Amazon de coördinaten van een gebruiker in Google Maps plakte. In minder dan een minuut ging de werknemer daardoor van de opname van een commando van een gebruiker naar een foto van het huis van die gebruiker en het bijbehorende adres.
Hoeveel mensen toegang hebben tot dat systeem, is onduidelijk. Twee werknemers zeggen te denken dat het overgrote meerderheid van werknemers in de Alexa Data Services-groep tot voor kort toegang had tot de software.
Persoonlijke data
Een tweede interne software-tool van Amazon slaat meer persoonlijke data op, aldus een werknemer. Die tool is voor een kleinere groep werknemers beschikbaar, die transcripts van gespreksopnames taggen om Alexa te helpen om verzoeken te categoriseren. Na het intypen van een ID-nummer van een klant kunnen die werknemers het huis- en werkadres en telefoonnummers van klanten zien, die toegevoegd zijn aan de Alexa-app toen het apparaat ingesteld werd.
Heeft een gebruiker gekozen om zijn gegevens te delen met Alexa, dan verschijnt zijn naam, telefoonnummer en e-mailadres ook in het dashboard. De data zit in het systeem zodat wanneer een klant zegt “stuur een bericht naar Laura”, menselijke reviewers kunnen controleren dat de transcribers de naam goed hebben opgeschreven. Aan de hand daarvan leert de software het verzoek te koppelen aan de Laura in de contactenlijst.
Het lijkt er op dat de toegang die werknemers tot het systeem hebben, heeft gelimiteerd. Een jaar geleden stonden er bijvoorbeeld nog volledige telefoonnummers, maar nu zijn een paar cijfers verduisterd, aldus een werknemer.
10 minuten geleden
