Apps kunnen meeluisteren, maar doen ze dat wel?

15 april 2019

Je spreekt af met je vriendinnen en iemand praat vol lof over een nieuw restaurant waar je zeker eens naartoe moet gaan, de volgende dag scroll je door Facebook en Instagram en zie je reclame voor datzelfde restaurant. Dat kan toch geen toeval zijn? Komt dat gevoel je bekend voor? Je bent niet alleen. Op het internet circuleren er tal van berichten dat apps je kunnen afluisteren. Wat is ervan waar?

Technisch mogelijk

Volgens Bart Preneel, beveiligingsspecialist en professor aan de KU Leuven, zijn apps op technisch vlak zeker in staat om je af te luisteren. “Denk aan toepassingen zoals Siri of Google Assistant, die gehoor geven aan je spraakbevelen. Vanaf dat je ‘Hey Siri’ of ‘Oké Google’ zegt, nemen ze het gesprek verder op. Het kan dus zeker dat het systeem per ongeluk ‘Hey Google’ hoort en dan het gesprek daarna opneemt en in functie daarvan iets doet. Maar voortdurend afluisteren kan het niet: dat zou je batterij leegzuigen want het vraagt veel energie en rekenkracht om zo’n signaal te analyseren. Apps zouden ook het spraakbericht kunnen doorsturen via ICloud om het dan later te analyseren, maar dat zou je snel merken aan je dataverbruik. Slimme speakers kunnen dit systeem wel gebruiken, omdat ze altijd in het stopcontact zitten.”

“Wij hebben enkel toegang tot je microfoon als je onze app daarvoor toestemming hebt gegeven en als je actief een specifieke functie gebruikt, die audio vereist. Bijvoorbeeld als je een video opneemt of met de optionele functie die we twee jaar geleden hebben toegevoegd waarmee je muziek of andere audio aan je statusupdate kan voegen,” zei Facebook in 2016 in een blogpost.

“Audio afluisteren is geen efficiënte manier om data van gebruikers te verzamelen”, vertelt Preneel. Dat klopt natuurlijk: er zijn makkelijkere en goedkopere methodes, zoals via zoekgeschiedenis, posts, likes, locaties, tags… Die zijn allemaal veel accurater en minder dubbelzinnig dan geluidsfragmenten, die vaak in dialect zijn en overlopen van ironie en hints die moeilijk te begrijpen zijn voor spraakherkenningssystemen.

Onderzoek

“Gesprekken afluisteren om die informatie te gebruiken om advertenties te tonen? Dat doen we niet, dat is een complottheorie”, zei Mark Zuckerberg vorig jaar tijdens de hoorzittingen in de Amerikaanse Senaat. Onderzoek van het VRT-programma ‘Facebook en ik’ deed een test om te na te gaan of Zuckerberg hierover de waarheid sprak. De VRT-redactie bedacht een fictief gezin dat gedurende 26 dagen met elkaar communiceerde en actief was op Facebook, Messenger, Instagram en Whatsapp. In een geluidsdichte studio lagen zes gsm’s, één voor elk lid van het gezin. Via een computerstem werd er dagelijks een woordenlijst afgespeeld met verschillende onderwerpen en merken, afgewisseld door de redactie die in groep over dezelfde woorden praatte. In die periode verscheen slechts één keer een advertentie van een merknaam uit de vaste woordenlijst. Dat is niet significant, bovendien is er een link tussen het fictieve profiel van de eigenaar van de gsm en de advertentie. Een vriend van de eigenaar vond de pagina van de adverteerder leuk.

Het Britse tijdschrift News Statesman deed een soortgelijk onderzoek en vond ook geen significant bewijs dat Facebook ons zou afluisteren.

Baader-Meinhoffenomeen

Hoe kan het dan dat Facebook producten aanbiedt waarvan je voor dat ene gesprek nog nooit had gehoord? Mensen merken een advertentie vaak pas op als ze onlangs met het product in contact zijn gekomen. Dit heet het Baader-Meinhoffenomeen: je leert iets nieuws kennen waarna dat nieuwe ineens overal opduikt terwijl je het daarvoor nooit had gezien. Met andere woorden als je de dag ervoor niet over dat nieuwe restaurant had gepraat, was de reclame je waarschijnlijk niet opgevallen. Een andere verklaring is dat apps op basis van je andere interesses en je profiel bepaalde berichten naar voren schuiven. Nemen we weer het voorbeeld van het restaurant. Het is niet verwonderlijk dat Facebook vermoedt dat jij ook geïnteresseerd bent in dat restaurant omdat je je in dezelfde buurt bevindt of omdat je wel vaker op restaurant gaat.

Toestemming

Het is dus technisch mogelijk en het gebeurt wel degelijk, maar je hebt er ook toestemming voor gegeven. “Zeventig à tachtig procent van de apps heeft toestemming om je microfoon te gebruiken,” zegt professor Preneel. Veel keuze heb je wel niet, in de praktijk gaat het vaak zo: je downloadt een app, gaat ermee aan de slag en krijgt de vraag of je microfoon gebruikt mag worden. Het is vaak alles of niets: de app gebruiken en je microfoon laten afluisteren of geen toegang tot de app. “Je moet weten dat het hele verdienmodel van apps gebaseerd is op de data die ze via hun apps bekomen en staat dus recht tegenover de privacy,” legt Preneel uit.

Slimme speakers

Spraakcommando’s opnemen en afluisteren is soms op het randje van de ethische grens. Zo kwam het Amerikaans persagentschap Bloomberg erachter dat Amazon-medewerkers soms meeluisteren naar de spraakcommando’s van de slimme speaker Alexa. Die fragmenten schrijven ze op om “de klantervaring te verbeteren,” zo verantwoordt Amazon het. In principe hebben de gebruikers hiervoor hun toestemming gegeven. Amazon liegt er niet om dat ze data gebruiken om de artificiële intelligentie te verbeteren. Om spraak te herkennen en natuurlijke taal te begrijpen, hebben die systemen enorm veel data nodig. De spraakherkenning moet getraind worden: de ingesproken commando’s moeten gekoppeld worden aan geschreven woorden. Door zoveel mogelijk commando’s te toetsen stijgt de herkenningsgraad en de betrouwbaarheid van het systeem. Dat wil zeggen dat de commando’s sneller begrepen en juister beantwoord worden .

In de gebruiksvoorwaarden van Alexa staat dat wanneer je tegen Alexa praat, een opname van je vraag naar Amazons cloud wordt gestuurd, om je vraag en andere informatie te verwerken en te kunnen antwoorden. Audio wordt alleen opgeslagen of doorgestuurd naar de cloud als het toestel het activatiewoord heeft waargenomen. Wanneer audio naar de cloud wordt verzonden brandt er een lichtje op het toestel. Je kan je toestel ook zo instellen dat er een kort geluidje afspeelt wanneer audio wordt verzonden. De Echo toestellen zijn voorzien van een uitknop voor de microfoon. Wanneer je op die knop drukt, staat de microfoon uit en gaat er een rood lichtje aan. Dan kan het toestel geen audio naar de cloud sturen, ook niet als je het activatiewoord uitspreekt. Je kan je geluidsopnames beluisteren en ze een voor een of allemaal tegelijk wissen. Ook Google Home biedt die mogelijkheid.

Maar zo onschuldig is het niet. Soms pikken de werknemers dingen op die niet voor hun oren bedoeld zijn, bijvoorbeeld als de speaker ten onrechte het activatiewoord hoort. Medewerkers spreken over gevallen waarbij ze luisterden naar een vrouw die aan het zingen was onder de douche en naar een gesprek over een mogelijke aanranding.

“We nemen de veiligheid en privacy van de persoonlijke informatie van onze klanten serieus,” zegt Amazon. De geluidsopnames die de werknemers te horen krijgen, tonen geen volledige namen of adressen van de gebruikers, maar zijn wel gekoppeld aan hun rekeningnummer, voornaam en het serienummer van het apparaat. Zo moeilijk is het dus niet om de eigenaar ervan te achterhalen. Er zijn al vergissingen mee gebeurd. Op 20 december 2018 kreeg een Alexa-gebruiker in Duitsland toegang tot 17000 audiofragmenten toen hij zijn eigen opnames opvroeg. “Een menselijke fout” noemde Amazon het, maar het beklemtoont wel dat je nooit honderd procent zeker bent wat er met je gegevens zal gebeuren.

Wettelijke gevolgen

Naast hen die paranoïde zijn over het stijgende gebrek aan privacy, heb je de mensen die luid verkondigen dat het allemaal niet zo erg is, dat ze toch niets te verbergen hebben. Wat zijn de gevaren van apps die meeluisteren? Het probleem is dat je niet weet waar die informatie naartoe gaat. In 2015 gaf Amazon data vrij in het kader van een moordonderzoek. Victor Collins werd toen dood aangetroffen in de Amerikaanse staat Arkansas. De politie wilde zich beroepen op het geheugen van de Echo van de verdachte. Amazon stemde toe de data over te dragen, maar pas nadat de verdachte zijn toestemming had gegeven.

Naast onderzoek bij een reeds gepleegde misdaad, kan de politie bij vermoedens van een misdaad aan techbedrijven vragen toegang te krijgen tot een live feed bij iemand thuis. Het bedrijf kan dat verzoek accepteren of weigeren. De meeste staan hier weigerachtig tegenover om hun privacy-imago niet te schaden.

Conclusie

Het is waar dat er apps en toestellen bestaan die technisch gezien in staat zijn om mee te luisteren om zo gerichter te kunnen adverteren. Toch zijn er voorlopig onvoldoende bewijzen dat ze dat effectief doen. Verschillende onderzoeken die de claim hebben getest, leverden geen significante resultaten op.

Wat wel klopt is dat spraakcommando’s die je aan Siri, Amazon Echo of Google Assistant geeft, in de cloud worden bijgehouden. Die data kan je in de meeste gevallen makkelijk raadplegen via hun website en zelf ten allen tijde wissen. Het is ook goed mogelijk dat medewerkers van die bedrijven de verzamelde audiofragmenten beluisteren. In principe doen ze dit louter om hun artificiële intelligentie te optimaliseren, niet om mee te luisteren met privégesprekken.

Geraadpleegde bronnen

1, 2, 3, 4, 5, 6, 7, 8, 9

✻

Geraadpleegde Bronnen

Marie Fabri

✻

Steun ons!

Lees ook...

jun 2020

Leef je gezonder met fitnessapps en wearables?