Amazon-werknemers luisteren naar huiskamerconversaties

Achter de 'slimme speakers' van Amazon, zoals deze Echo Dot, schuilt een team van duizenden mensen die soms meeluisteren naar de conversaties van klanten. ©AFP

Een team van duizenden Amazon-werknemers luistert mee naar opnames die de spraakcomputer Alexa maakt van alledaagse huiskamerconversaties. Dat blijkt uit getuigenissen die het nieuwsagentschap Bloomberg verzamelde.

De geluidsopnames worden gemaakt door Alexa, de ‘slimme assistent’ van Amazon  die onder meer ingebouwd zit in zijn Echo-speakers en in de mobiele Alexa-app. Wereldwijd wordt dergelijke software – zoals ook Siri van Apple of Cortana van Microsoft – door tientallen miljoenen mensen gebruikt om informatie op te zoeken, snel muzieknummers te vinden of spelletjes te spelen.

Wat ze niet altijd beseffen, is dat er misschien ook iemand anders meeluistert. En dan hebben we het niet over hackers of spionagediensten, maar over de bedrijven zelf die de slimme assistenten op de markt brengen. Amazon stelt een team van duizenden mensen te werk die voortdurend opnames beluisteren, transcriberen en voorzien van extra opmerkingen. Die informatie wordt vervolgens weer ‘gevoed’ aan het Alexa-algoritme, zodat het systeem leert de menselijke spraak beter te begrijpen.

Het gaat, voor alle duidelijkheid, alleen om opnames die er komen op initiatief van de gebruiker, omdat hij Alexa een bepaald commando heeft gegeven. Het is dus niet zo dat Amazon ook meeluistert als u niet met de computer praat.

Twee Amazon-werknemers vertelden aan Bloomberg dat in één van hun opnames duidelijk een verkrachting te horen was.

Bloomberg vernam van zeven ingewijden hoe het ‘Alexa voice review process’ er precies uitziet. De geluidsopnames worden verdeeld over een grote groep reviewers, zowel voltijdse werknemers als freelancers. Ze zitten verspreid over de hele wereld, van Boston, tot Costa Rica, India en Roemenië.

De getuigenissen bieden meer inzicht in de ‘menselijke factor’ bij het verbeteren van de algoritmes achter slimme assistenten. Bedrijven als Apple en Amazon lieten het altijd uitschijnen dat het ‘zelflerende proces’ grotendeels geautomatiseerd verliep, dat de computer dus vooral van zichzelf leerde. Maar nu blijkt dat veel van het werk door mensen van vlees en bloed wordt gedaan.

Boekarest

De afluisteraars van Amazon kloppen werkdagen van negen uur waarin ze soms tot duizend opnames beluisteren, zeggen twee Roemeense werknemers van Amazon. Ze werken in een gloednieuw kantoor in de hoofdstad Boekarest. Amazon bezet er drie verdiepingen van het gebouw, maar langs de buitenkant is er niets dat daarop wijst.

Meestal zijn de opnames erg banaal, maar soms pikken de werknemers gesprekken op die de Echo-eigenaars wellicht liever voor zichzelf hadden gehouden. Zoals een vrouw die onder de douche vals staat te zingen, of een kind dat plots om hulp schreeuwt. De werknemers wisselen de opnames soms uit via de chat, als het om grappige fragmenten gaat of als ze een woord niet goed begrepen hebben.

De Amazon-werknemers wisselen de opnames soms uit via de chat, als het om grappige fragmenten gaat of als ze een woord niet goed begrepen hebben.

Maar soms zijn er ook vermoedens van criminele feiten. Twee werknemers vertelden aan Bloomberg dat in één van hun opnames duidelijk een verkrachting te horen was.

Amazon zegt dat het procedures heeft om met zo’n gevoelige opnames om te gaan. Maar de twee Roemeense werknemers zeggen dat ze van het bedrijf daarover geen enkele sturing krijgen. Integendeel: ze kregen te horen dat het niet de taak van Amazon is om zich in zo’n zaken te moeien.

'Niet moeien'

In een gemailde reactie zegt Amazon dat het ‘de veiligheid en privacy van zijn gebruikers ernstig neemt’. Volgens een woordvoerder wordt slechts een zeer klein staal van de Alexa-opnames door mensen beluisterd en uitgeschreven, en kunnen de werknemers niet achterhalen van wie de opnames afkomstig zijn.

Volgens screenshots die Bloomberg te zien kreeg, krijgen de werknemers echter wel een accountnummer te zien, evenals de voornaam van de gebruiker en het serienummer van het toestel dat de opname maakte.

In zijn officiële communicatie heeft Amazon nooit gemeld dat zijn mensen naar Alexa-conversaties kunnen luisteren. Het bedrijf zegt alleen dat opnames gebruikt kunnen worden om de software te verbeteren. Gebruikers kunnen er in hun instellingen wel voor kiezen om het doorgeven van geluidsfragmenten uit te schakelen.

Lees verder

Advertentie
Advertentie

Tijd Connect