Sociale media en de deeleconomie hebben nieuwe kansen gecreëerd door gebruik te maken van onlinenetwerken om vertrouwen op te bouwen en marktbelemmeringen weg te nemen. Maar een groeiend aantal onderzoeken suggereert dat oude gender- en raciale vooroordelen blijven bestaan, van de grotere populariteit van mannen op Twitter tot de lagere acceptatiegraad van Afro-Amerikanen op Airbnb.

Nutsvoorzieningen, de fotodeelsite Instagram gebruiken als testcase, Columbia-onderzoekers laten zien hoe twee gemeenschappelijke aanbevelingsalgoritmen een netwerkeffect versterken dat bekend staat als homofilie, waarin gelijkgestemde of gelijkgestemde mensen samenkomen. Ze laten verder zien hoe algoritmen die losgelaten zijn op een netwerk met homofilie vrouwen effectief minder zichtbaar maken; ze ontdekten dat de vrouwen in hun dataset, wiens foto's iets minder snel 'geliked' of becommentarieerd werden, werd nog minder populair toen aanbevelingsalgoritmen werden geïntroduceerd.

Door uit te rekenen hoe dit gebeurt, de onderzoekers hopen dat hun werk, te presenteren op 25 april op de webconferentie in Lyon, kan de weg vrijmaken voor algoritmen die homofilie corrigeren.

"We laten gewoon zien hoe bepaalde algoritmen patronen in de gegevens oppikken, " zei de hoofdauteur van de studie, Ana-Andreea Stoica, een afgestudeerde student aan Columbia Engineering. "Dit wordt een probleem wanneer informatie die via het netwerk wordt verspreid een baanadvertentie of andere kans is. Algoritmen kunnen vrouwen nog meer benadeeld maken."

De onderzoekers schraapten hun data in 2014 van Instagram, nadat Facebook het bedrijf had gekocht, maar voordat geautomatiseerde prompts het gemakkelijker maakten om contact te maken met vrienden van vrienden. Hoewel er meer vrouwen waren dan mannen in hun steekproef van 550, 000 Instagram-gebruikers (54 procent tot 46 procent), de onderzoekers ontdekten dat mannenfoto's over het algemeen beter werden ontvangen:52 procent van de mannen kreeg minstens 10 'likes' of opmerkingen vergeleken met 48 procent van de vrouwen.

Zoals verwacht, homofilie een rol gespeeld. De onderzoekers ontdekten dat mannen 1,2 keer meer kans hadden om foto's van andere mannen te 'liken' of erop te reageren dan op die van vrouwen, terwijl vrouwen slechts 1,1 keer meer kans hadden om met andere vrouwen om te gaan.

Toen ze twee veelgebruikte aanbevelingsalgoritmen gebruikten - Adamic-Adar en Random Walk (vrienden-van-vrienden) - ontdekten de onderzoekers dat het percentage vrouwen verbonden met, of waarvan wordt voorspeld dat het wordt aanbevolen om, ten minste 10 andere Instagram-gebruikers daalden van 48 procent in de oorspronkelijke dataset, tot respectievelijk 36 procent en 30 procent. Zoals voorspeld in een reeks wiskundige bewijzen in de krant, de onderzoekers ontdekten ook dat de ongelijkheid het grootst was onder de super-influencers van Instagram - mensen zoals Instagram-CEO Kevin Systrom, wiens populaire berichten en 1,5 miljoen volgers hem in de top tiende van een procent voor betrokkenheid plaatsen.

Toen algoritmen werden losgelaten op dit exclusieve netwerk van uiterst boeiende individuen, de zichtbaarheid van vrouwen kelderde. Hoewel vrouwen in de top 0,1 procent voor betrokkenheid (met ten minste 320 connecties) in de minderheid waren dan mannen (54 procent tot 46 procent), de mannen werden veel vaker voorgesteld aan nieuwe gebruikers en breidden hun netwerken snel uit. Slechts 26 procent en 28 procent van de vrouwen in de top 0,1 procent werden waarschijnlijk onder de respectievelijke Adamic-Adar- en Random Walk-algoritmen minstens 23 keer en 12 keer aanbevolen, vonden de onderzoekers.

"Algoritmen pikken subtiele patronen op en versterken ze, " zei de senior auteur van de studie, Augustin Chaintreau, een computerwetenschapper bij Columbia Engineering en een lid van Columbia's Data Science Institute. "We vragen niet dat algoritmen blind zijn voor de gegevens, alleen dat ze hun eigen neiging corrigeren om de vooringenomenheid die er al is te vergroten."

De studie is de laatste die aantoont dat aanbevelingsalgoritmen, naast het filteren van inhoud, kan de langetermijnstructuur van een sociaal netwerk beïnvloeden. "Het is opmerkelijk dat een simpele aanname van homofilie ertoe leidt dat algoritmen verschillen in sociale status versterken, " zei Amit Sharma, een onderzoeker bij Microsoft Research India die niet betrokken was bij het onderzoek, maar onlangs in Columbia sprak over zijn eigen werk op het gebied van aanbevelingsmotoren en sociale invloed.

Algoritmische interventies die gemak en ethische doelen in evenwicht brengen, kunnen een manier zijn om het probleem aan te pakken, hij voegde toe. "Door dit soort onderzoeken we leren dat de praktijk van het uitsluitend optimaliseren van een enkele statistiek, bijvoorbeeld, aantal nieuwe vrienden toegevoegd, is niet de juiste manier. Helaas, het alternatief is onduidelijk. We krabben nog steeds aan het oppervlak om te begrijpen hoe algoritmen het menselijk gedrag op de lange termijn beïnvloeden."