Online activiteit wordt in toenemende mate beïnvloed door algoritmische aanbevelingen op basis van gegevens die zijn verzameld over consumentengedrag door bedrijven die vaak terughoudend zijn om bekend te maken welke gegevens ze verzamelen of hoe ze deze gebruiken.

Onderzoekers van de Universiteit van Auckland hebben geprobeerd meer te weten te komen over hoe deze algoritmen werken door de gebruiksvoorwaarden en het privacybeleid van Spotify en Tinder te analyseren. Het onderzoek, gepubliceerd in het Journal of the Royal Society of New Zealand , werd uitgevoerd door Dr. Fabio Morreale, School of Music, en Matt Bartlett en Gauri Prabhakar, School of Law.

De bedrijven die consumentengegevens verzamelen en gebruiken (meestal voor hun eigen financiële gewin) zijn met name bestand tegen academisch onderzoek, vonden de onderzoekers. "Ondanks hun krachtige invloed zijn er weinig concrete details over hoe deze algoritmen precies werken, dus moesten we creatieve manieren gebruiken om erachter te komen", zegt Dr. Morreale.

Het team keek naar de juridische documenten van Tinder en Spotify omdat beide platforms gebaseerd zijn op aanbevelingsalgoritmen die gebruikers ertoe aanzetten om naar specifieke nummers te luisteren of om een ​​romantische relatie met een andere gebruiker aan te gaan. "Ze zijn grotendeels over het hoofd gezien in vergelijking met grotere technologiebedrijven zoals Facebook, Google, Tik Tok enz. Die meer controle hebben gekregen", zegt hij. "Mensen denken misschien dat ze goedaardiger zijn, maar ze hebben nog steeds veel invloed."

De onderzoekers analyseerden iteraties van de juridische documenten van het afgelopen decennium. Bedrijven worden steeds vaker verplicht om gebruikers te laten weten welke gegevens worden verzameld, maar de lengte en taal van de juridische documenten kunnen niet als gebruiksvriendelijk worden omschreven.

"Ze neigen naar het legalistische en vage, waardoor het vermogen van buitenstaanders om de algoritmen van de bedrijven en hun relatie met gebruikers goed te onderzoeken, wordt belemmerd. Het maakt het moeilijk voor academische onderzoekers en zeker voor de gemiddelde gebruiker", zegt Dr. Morreale. Uit hun onderzoek kwamen verschillende inzichten naar voren. Het privacybeleid van Spotify laat bijvoorbeeld zien dat het bedrijf veel meer persoonlijke informatie verzamelt dan in de beginjaren, inclusief nieuwe soorten gegevens.

"In de herhaling van het privacybeleid van Spotify in 2012 bevatten de gegevenspraktijken van Spotify alleen basisinformatie:de nummers die een gebruiker speelt, afspeellijsten die een gebruiker maakt en persoonlijke basisinformatie zoals het e-mailadres, wachtwoord, leeftijd, geslacht en locatie van de gebruiker", zegt Dr. Morereale. Na verschillende herhalingen van het privacybeleid, stelt het bestaande beleid voor 2021 het bedrijf in staat om foto's, locatiegegevens, spraakgegevens, achtergrondgeluidsgegevens en andere soorten persoonlijke informatie van gebruikers te verzamelen.

De evolutie in de gebruiksvoorwaarden van Spotify stelt nu ook dat "de inhoud die u bekijkt, inclusief de selectie en plaatsing, kan worden beïnvloed door commerciële overwegingen, inclusief overeenkomsten met derden." Dit biedt voldoende ruimte voor het bedrijf om content legaal onder de aandacht te brengen van een specifieke gebruiker op basis van een commerciële overeenkomst, zegt Dr. Morreale.

"Spotify belooft dat de 'afspeellijst speciaal voor jou is gemaakt, gebaseerd op de muziek waar je al van houdt', maar de gebruiksvoorwaarden van Spotify geven aan hoe een algoritme kan worden beïnvloed door factoren die buiten de gebruiker liggen, zoals commerciële deals met artiesten en labels."

"In hun aanbevelingen (en afspeellijsten, wat dat betreft) zal Spotify waarschijnlijk ook artiesten pushen van labels die Spotify-aandelen bezitten - dit is concurrentieverstorend en we zouden hiervan op de hoogte moeten zijn."

En waarschijnlijk in tegenstelling tot de perceptie van de meeste gebruikers, is de dating-app Tinder "één groot algoritme", zegt Matt Bartlett. "Tinder heeft eerder verklaard dat het mensen matchte op basis van 'wenselijkheidsscores' berekend door een algoritme. Ik denk niet dat gebruikers volledig begrijpen of weten hoe het algoritme van Tinder werkt, en Tinder doet er alles aan om het ons niet te vertellen."

"Dat wil niet zeggen dat dit een slechte zaak is - het probleem is dat ze niet transparant zijn over hoe de matching plaatsvindt. Naar mijn mening zouden de gebruiksvoorwaarden dat moeten specificeren." Hoewel de onderzoekers niet volledig konden vaststellen hoe de algoritmen van de platforms werken, bracht hun onderzoek juist dat probleem aan het licht:dat de bedrijven niet transparant zijn over hun verzameling van onze gegevens of hoe ze deze gebruiken.

"Met deze krachtige digitale platforms die aanzienlijke invloed hebben in de hedendaagse samenleving, verdienen hun gebruikers en de samenleving in het algemeen meer duidelijkheid over hoe aanbevelingsalgoritmen werken", zegt Dr. Morreale. "Het is gek dat we er niet achter kunnen komen; ik denk dat we in de toekomst terugkijken en dit zien als het Wilde Westen van de big tech."