apple-medewerkers-luisteren-mee-met-nederlandstalige-siri-fragmenten

Medewerkers van een bedrijf dat door Apple wordt ingezet, luisteren mee met Nederlandstalige opnames van de stemassistent Siri. Het werk wordt uitgevoerd door werknemers van het Ierse bedrijf GlobeTech, blijkt uit verklaringen van een klokkenluider en documenten die in handen van NU.nl zijn.

Apple laat vrijdagochtend aan NU.nl weten dat het bedrijf voorlopig wereldwijd stopt met het laten beluisteren van Siri-fragmenten door mensen. Dat gebeurde na een publicatie van The Guardian en nadat NU.nl vragen over de praktijken aan het bedrijf voorlegde.

De fragmenten die beluisterd werden, waren meestal spraakopnames die zijn gemaakt nadat een gebruiker ‘Hé Siri’ zei of de Siri-knop indrukte om de assistent een commando te geven. De medewerkers krijgen in een klein deel van de gevallen echter ook onbedoelde opnames, waarin bijvoorbeeld delen van gesprekken terugkomen, te horen.

Apple maakt Siri-gebruikers tot op de dag van vandaag niet expliciet duidelijk dat opnames door mensen beluisterd kunnen worden. De Nederlandse oud-medewerker van GlobeTech die een paar jaar geleden voor het bedrijf Siri-fragmenten beluisterde en transcripten controleerde, zegt tegen NU.nl dit “niet de meest nette manier van zakendoen” te vinden.

NU.nl kwam in contact met de klokkenluider nadat VRT NWS en de NOS in juli onthulden dat Nederlandse opnames van de Google-stemassistent door mensen beluisterd kunnen worden. “Eigenlijk dacht ik dat het algemene kennis was. Het verbaasde me dat in dat artikel stond dat onbekend is of Apple het ook doet.”

Duizenden fragmenten per dag

De klokkenluider beschrijft in gesprek met NU.nl hoe hij en tientallen GlobeTech-medewerkers dagelijks in totaal duizenden fragmenten te horen kregen om deze te analyseren. “Ik werkte met een groep van zo’n twintig Nederlanders, maar er zaten ook mensen die aan andere talen werkten. Het was een vrij internationale groep.”

“We werkten in een grote ruimte met allemaal bureaus tegenover elkaar. De ramen waren afgeplakt met papier. Op de bureaus stonden MacBooks waarop ik geluidsfragmenten kon afspelen, terugspoelen, noem maar op. Die fragmenten duurden van enkele seconden tot veertig seconden. Er zaten niet veel echt langere bij.”

“Daaronder stond een tekstvak waarin ik de uitgeschreven audio-opname kon verbeteren. Soms klopte de zin wel ongeveer, maar moesten er taaltechnisch één of twee dingen aan gebeuren. En soms klopte er weer helemaal niets van.”

“Op die manier moest ik vierhonderd fragmenten per dag verwerken. Soms hoorde je delen van gesprekken waarbij je veel moest typen, of dingen die moeilijk te verstaan waren, waardoor je veel moest terugluisteren. Maar in het algemeen was het goed te doen. Als je een beetje doorwerkte, had je de vierhonderd fragmenten op drie kwart van de dag klaar.”

‘Apple reageert hetzelfde als Google’

In een reactie aan NU.nl zegt Apple dat “een klein deel” van de Siri-verzoeken wordt geanalyseerd om Siri te verbeteren. “De verzoeken worden niet gekoppeld aan de Apple ID van de gebruiker.”

Apple laat verder weten dat minder dan 1 procent van de dagelijkse Siri-uitlatingen door mensen wordt beluisterd en beoordeeld. Dat is volgens het bedrijf ook nodig om vast te kunnen stellen dat de opname onbedoeld is gebeurd.

“Hier gebeurt hetzelfde als wat we een paar weken geleden bij Google zagen”, constateert David Korteweg van privacyorganisatie Bits of Freedom. “Ze zeggen allebei dat het om minder dan 1 procent van de opnames gaat. Ik weet niet hoeveel fragmenten er per dag worden verwerkt, maar dan zullen er miljoenen zijn. In dat geval gaat het al om tienduizenden opnames per dag.”

Ook aan de analyse van onbedoelde opnames kleven risico’s, zegt Korteweg. “De mensen die dit werk uitvoeren, komen bij per ongeluk opgenomen fragmenten wel in aanraking met potentieel gevoelige gesprekken. Ook in een fragment dat niet aan jouw Apple ID is gekoppeld, kan heel onthullende informatie zitten.”

“Het is de optelsom die dit problematisch maakt”, concludeert hij. “Apple is er niet transparant over: gebruikers weten niet dat het gebeurt. Blijkbaar wordt Siri ten onrechte nog vaak geactiveerd. Bovendien wordt het werk uitbesteed: het zijn geen directe medewerkers van Apple. Zij hebben een heel andere relatie met het bedrijf dan vaste werknemers.”

Apple zegt dat de medewerkers moeten voldoen aan de “strenge vertrouwelijkheidseisen” van het bedrijf, maar het is onduidelijk hoe die gehandhaafd worden. Google maakte donderdag eveneens bekend dat het bedrijf voorlopig stopt met het transcriberen van audiofragmenten van de Google Assistent.

Analyse in meerdere talen

NU.nl heeft GlobeTech maandag per e-mail vragen gesteld over het werk dat het bedrijf voor Apple uitvoert, maar heeft geen reactie ontvangen. Ook herhaaldelijke pogingen om voor publicatie iemand telefonisch te spreken te krijgen, draaiden op niets uit.

Op LinkedIn-profielen schrijven meerdere mensen als taalanalist bij GlobeTech te werken. In enkele gevallen wordt ook vermeld dat de taken bij het bedrijf namens Apple worden uitgevoerd, of wordt Siri genoemd.

Huidige openstaande GlobeTech-vacatures voor vergelijkbare posities als die van de klokkenluider wijzen erop dat het bedrijf naast Nederlandse analisten momenteel ook mensen met kennis van het Duits, Frans, Deens, Fins, Zweeds, Arabisch en Hebreeuws zoekt.

LAAT EEN REACTIE ACHTER

Vul alstublieft uw commentaar in!
Vul hier uw naam in