Mobiele dating-apps waarmee gebruikers hun zoekopdrachten op ras kunnen filteren - of kunnen vertrouwen op algoritmen die mensen van hetzelfde ras koppelen - versterken raciale verdeeldheid en vooroordelen, volgens een nieuw artikel van Cornell-onderzoekers.

Naarmate meer en meer relaties online beginnen, dating- en hookup-apps moeten discriminatie ontmoedigen door gebruikers andere categorieën dan ras en etniciteit aan te bieden om zichzelf te beschrijven, het plaatsen van inclusieve communityberichten, en het schrijven van algoritmen die niet discrimineren, zeiden de auteurs.

"Serendipiteit gaat verloren wanneer mensen andere mensen eruit kunnen filteren, " zei Jevan Hutson '16, MPS '17, hoofdauteur van "Debiasing Desire:Addressing Bias and Discrimination on Intimate Platforms, " mede geschreven met Jessie G. Taft '12, MPS '18, een onderzoekscoördinator bij Cornell Tech, en Solon Barocas en Karen Levy, assistent-professoren in de informatiewetenschappen. "Datingplatforms hebben de mogelijkheid om bepaalde sociale structuren te verstoren, maar je verliest die voordelen als je ontwerpfuncties hebt waarmee je mensen kunt verwijderen die anders zijn dan jij."

De krant, die de auteurs zullen presenteren op de ACM Conference on Computer-Supported Cooperative Work and Social Computing op 6 november, citeert bestaand onderzoek naar discriminatie in dating-apps om te laten zien hoe eenvoudige ontwerpbeslissingen vooroordelen tegen mensen van alle gemarginaliseerde groepen kunnen verminderen, inclusief gehandicapten of transgenders. Hoewel partnervoorkeuren uiterst persoonlijk zijn, de auteurs stellen dat cultuur onze voorkeuren vormt, en dating-apps beïnvloeden onze beslissingen.

"Het is echt een ongekende tijd voor online daten en ontmoeten. Meer mensen gebruiken deze apps, en het zijn kritieke infrastructuren die niet veel aandacht krijgen als het gaat om vooringenomenheid en discriminatie, " zei Hutson, nu een student aan de University of Washington School of Law. "Intimiteit is erg privé, en terecht, maar ons privéleven heeft invloed op grotere sociaaleconomische patronen die systemisch zijn."

Vijftien procent van de Amerikanen geeft aan datingsites te gebruiken, en volgens sommige onderzoeken is een derde van de huwelijken – en 60 procent van de relaties tussen personen van hetzelfde geslacht – online begonnen. Tinder en Grindr hebben tientallen miljoenen gebruikers, en Tinder zegt dat het sinds de lancering 20 miljard verbindingen heeft gefaciliteerd.

Onderzoek toont aan dat raciale ongelijkheden bij online daten wijdverbreid zijn. Bijvoorbeeld, zwarte mannen en vrouwen hebben 10 keer meer kans om blanke berichten te sturen dan blanke mensen om zwarte mensen berichten te sturen. Gebruikers laten zoeken, sorteer en filter potentiële partners op ras, zodat mensen niet alleen gemakkelijk kunnen reageren op discriminerende voorkeuren, het weerhoudt hen ervan om contact te leggen met partners waarvan ze misschien niet wisten dat ze die leuk zouden vinden.

Apps kunnen ook vooroordelen creëren. De krant citeert onderzoek waaruit blijkt dat mannen die de platforms zwaar gebruikten, multiculturalisme minder gunstig zagen, en seksueel racisme als acceptabeler.

Gebruikers die berichten ontvangen van mensen van andere rassen, zullen eerder deelnemen aan interraciale uitwisselingen dan ze anders zouden hebben gedaan. Dit suggereert dat het ontwerpen van platforms om het voor mensen van verschillende rassen gemakkelijker te maken om elkaar te ontmoeten, vooroordelen zou kunnen overwinnen, zeiden de auteurs.

De in Japan gevestigde gay hookup-app 9Monsters groepeert gebruikers in negen categorieën fictieve monsters, "wat gebruikers kan helpen voorbij andere vormen van verschil te kijken, zoals ras, etniciteit en bekwaamheid, " zegt de krant. Andere apps gebruiken filters op basis van kenmerken zoals politieke opvattingen, relatiegeschiedenis en opvoeding, in plaats van ras.

"Er is zeker veel ruimte om verschillende manieren te bedenken waarop mensen elkaar kunnen leren kennen, ' zei Hutson.

Algoritmen kunnen discriminatie introduceren, opzettelijk of niet. in 2016, een Buzzfeed-verslaggever ontdekte dat de dating-app CoffeeMeetsBagel gebruikers alleen potentiële partners van hetzelfde ras liet zien, zelfs als de gebruikers zeiden dat ze geen voorkeur hadden. Een experiment uitgevoerd door OKCupid, waarin gebruikers werd verteld dat ze "zeer compatibel" waren met mensen die het algoritme eigenlijk als slechte overeenkomsten beschouwde, ontdekte dat gebruikers meer kans hadden op succesvolle interacties als ze vertelden dat ze compatibel waren, wat wijst op de sterke kracht van suggestie.

Naast het heroverwegen van de manier waarop zoekopdrachten worden uitgevoerd, het plaatsen van beleid of berichten die een meer inclusieve omgeving aanmoedigen, of het uitdrukkelijk verbieden van bepaalde taal, zou de vooroordelen tegen gebruikers uit een gemarginaliseerde groep kunnen verminderen. Bijvoorbeeld, Grindr heeft op zijn mediasite een artikel gepubliceerd met de titel "14 berichten die trans mensen willen dat je stopt met verzenden op dating-apps", en de gay dating-app Hornet verbiedt gebruikers om in hun profielen te verwijzen naar ras- of raciale voorkeuren.

Veranderingen als deze kunnen een grote impact hebben op de samenleving, de auteurs zeiden, naarmate de populariteit van dating-apps blijft groeien en er minder relaties ontstaan ​​in plaatsen zoals bars, buurten en werkplekken. Maar hoewel fysieke ruimtes onderworpen zijn aan wetten tegen discriminatie, online apps zijn dat niet.

"Een willekeurige bar in North Dakota met 10 klanten per dag is onderworpen aan meer burgerrechtenrichtlijnen dan een platform dat dagelijks 9 miljoen mensen bezoekt, " zei Hutson. "Dat is een onevenwichtigheid die nergens op slaat."

Nog altijd, de auteurs zeiden, rechtbanken en wetgevers hebben terughoudendheid getoond om betrokken te raken bij intieme relaties, en het is onwaarschijnlijk dat deze apps binnenkort gereguleerd zullen worden.

"Aangezien deze platforms zich steeds meer bewust worden van de impact die ze hebben op rassendiscriminatie, we denken dat het voor hen geen grote stap is om een ​​meer rechtvaardigheidsgerichte benadering te hanteren in hun eigen ontwerp, " zei Taft. "We proberen het bewustzijn te vergroten dat dit iets is voor ontwerpers, en mensen in het algemeen meer aan zou moeten denken."