Het bedrijfsmodel van Uber is ongelooflijk eenvoudig:het is een platform dat uitwisselingen tussen mensen mogelijk maakt. En Uber is er ongelooflijk succesvol in geweest, bijna de transactiekosten van het zakendoen elimineren, van het vervoeren van mensen door de stad tot het bezorgen van voedsel.

Dit is een van de redenen waarom Uber binnenkort een van de meest waardevolle bedrijven ter wereld zal zijn nadat zijn aandelen op 10 mei begonnen te handelen op de New York Stock Exchange.

Toch kan de verwachte marktkapitalisatie van US $ 82,4 miljard verbleken in vergelijking met de rijkdom aan gebruikersgegevens die het verzamelt. Als u Uber gebruikt - of misschien zelfs als u dat niet doet - kent het een schat aan gegevens over u, inclusief uw locatie, geslacht, bestedingsgeschiedenis, contacten, batterijniveau van uw telefoon en zelfs of u op weg naar huis bent van een one-night-stand. Het kan snel weten of je dronken bent of niet.

Hoewel dat eng genoeg is, combineer al die gegevens met de expertise van Uber om ze te analyseren door de lens van gedragswetenschap en je hebt een gevaarlijk potentieel om gebruikers te exploiteren voor winst.

Uber is nauwelijks de enige. Uit ons onderzoek blijkt dat de grootste digitale platforms – Airbnb, Facebook, eBay en anderen – verzamelen zoveel gegevens over hoe we leven, dat ze al de mogelijkheid hebben om hun gebruikers op grote schaal te manipuleren. Ze kunnen gedrag voorspellen en onze beslissingen beïnvloeden over waar te klikken, delen en uitgeven.

Hoewel de meeste platforms nog niet al deze mogelijkheden gebruiken, manipulatie door gedragspsychologische technieken kan stilletjes plaatsvinden en weinig sporen achterlaten. Als we nu geen verkeersregels opstellen, het zal veel moeilijker zijn om later te detecteren en te stoppen.

'Keuze architectuur'

Een platform kan elke ruimte zijn die transacties tussen kopers en verkopers mogelijk maakt. Traditionele voorbeelden zijn onder meer vlooienmarkten en handelsvloeren.

Een digitaal platform dient hetzelfde doel, maar geeft de eigenaar de mogelijkheid om zijn gebruikers te "bemiddelen" terwijl ze het gebruiken - en vaak wanneer ze dat niet zijn. Daarmee bedoelen we dat het een ongelooflijke hoeveelheid informatie over gebruikersgedrag kan observeren en leren om te perfectioneren wat gedragswetenschappers "keuzearchitecturen, "onopvallende ontwerpelementen die bedoeld zijn om menselijk gedrag te beïnvloeden door de manier waarop beslissingen worden gepresenteerd.

Bijvoorbeeld, Uber heeft met zijn chauffeurs geëxperimenteerd om de meest effectieve strategieën te bepalen om ze zo lang mogelijk op de weg te houden. Deze strategieën omvatten het inspelen op cognitieve vooroordelen zoals verliesaversie en het overschatten van gebeurtenissen met een lage waarschijnlijkheid, zelfs als een chauffeur nauwelijks genoeg geld verdient om het haar de moeite waard te maken. Chauffeurs eindigen als gokkers in een casino, aangespoord om ondanks de kansen nog wat langer te spelen.

Uber reageerde niet meteen op een verzoek om commentaar.

Ook Airbnb experimenteert met zijn gebruikers. Het heeft gedragswetenschap gebruikt om verhuurders ertoe te brengen hun tarieven te verlagen en boekingen te accepteren zonder gasten te screenen - wat reële risico's voor verhuurders met zich meebrengt, vooral als ze hun eigen appartement delen.

Hoewel deze voorbeelden relatief onschuldig lijken, ze laten zien hoe digitale platforms in staat zijn om stilletjes systemen te ontwerpen om de acties van gebruikers op potentieel manipulatieve manieren te sturen.

En naarmate platforms groeien, ze worden alleen maar betere keuzearchitecten. Met de enorme toestroom van investeerdersgeld bij de IPO om meer data en gedragswetenschap te financieren, Uber zou gevaarlijk onethisch terrein kunnen betreden - gemakkelijk voor te stellen gezien de praktijken in het verleden.

Bijvoorbeeld, als de app herkent dat je dronken bent of in een buurt bent waar je zelden naar toe reist - en waarvan uit de gegevens blijkt dat er veel criminaliteit is - kan hij je een hoger tarief in rekening brengen, wetende dat je waarschijnlijk niet zult weigeren.

Juridische uitdagingen

En het is niet allemaal speculatie.

In een poging om de wetshandhavers te misleiden die proberen het bedrijf te onderzoeken, Uber heeft een manier gevonden om regelgevers van de overheid te identificeren die zijn app proberen te gebruiken en heeft vervolgens voorkomen dat ze ritten kregen.

Dat is een van de redenen waarom wetgevers en regelgevers de moeilijke, jarenlang met elkaar samenhangende rollen van gedragswetenschap en technologie. En sommige bedrijven, Uber in het bijzonder, zijn onderzocht op tal van slechte zakelijke praktijken, van discriminatie tot misbruik van gebruikersgegevens.

Maar het grootste deel van de manipulatie die we hebben geïdentificeerd en waarover we ons zorgen maken, is niet uitdrukkelijk illegaal. En omdat regelgevers vaak geen gelijke tred kunnen houden met het steeds evoluerende gebruik van technologie en keuzearchitectuur, dat zal waarschijnlijk zo blijven.

Gezien het ontbreken van goed gedefinieerde en afdwingbare juridische vangrails, De neiging van platformbedrijven om gedragswetenschap ten koste van gebruikers te exploiteren, zal grotendeels ongecontroleerd blijven.

Een ethische code

Een oplossing, in ons zicht, stelt een ethische code op die platformbedrijven moeten volgen. En als ze het niet vrijwillig aannemen, investeerders, medewerkers en gebruikers zouden erom kunnen vragen.

Sinds het midden van de 20e eeuw, geschreven ethische gedragscodes zijn een hoofdbestanddeel van Amerikaanse bedrijven. De juridische en medische beroepen vertrouwen er al millennia op. En uit onderzoek blijkt dat ze effectief zijn in het aanmoedigen van ethisch gedrag bij bedrijven.

We hebben honderden ethische codes bekeken, inclusief die gericht zijn op technologie- en computerbedrijven. Op basis van ons onderzoek, we dringen er bij digitale platforms op aan om vijf ethische richtlijnen aan te nemen:

1. Alle keuzearchitectuur die op een platform wordt gebruikt, moet volledig transparant zijn. Platforms moeten bekendmaken wanneer ze de tools van gedragswetenschap gebruiken om het gedrag van gebruikers te beïnvloeden
2. Gebruikers moeten vrij en gemakkelijk keuzes kunnen maken op het platform, en keuzearchitecten moeten gedragsinterventies beperken tot herinneringen of prompts die het minst schadelijk zijn voor de autonomie van de gebruiker
3. Platforms moeten voorkomen dat gebruikers worden 'geduwd' op manieren die misbruik maken van onbewuste en irrationele besluitvorming op basis van impulsen en emoties. Nieuw onderzoek toont aan dat transparante keuzearchitectuur net zo goed kan werken
4. Platforms moeten de macht die ze bezitten erkennen en ervoor zorgen dat ze de markten die ze hebben gecreëerd niet exploiteren. onder meer door misbruik te maken van informatieasymmetrieën tussen henzelf en gebruikers of door zich te verzetten tegen redelijke regelgeving
5. Platforms moeten het gebruik van keuzearchitectuur vermijden die gebruikers ontmoedigt om in hun eigen belang te handelen. Zoals Nobelprijswinnaar gedragseconoom Richard Thaler het uitdrukte:we moeten alleen "voor altijd een duwtje in de rug geven".

Big tech en gedragswetenschap zijn nu geïntegreerd op manieren die bedrijven enorm succesvol maken, van zoemende tandenborstels die het poetsen van je tanden lonend maken tot het gebruik van teksten om armere moeders aan te sporen gezondheidszorg te gebruiken.

Hoewel de resultaten ons leven aanzienlijk kunnen verbeteren, het maakt het voor bedrijven ook gemakkelijker dan ooit om gebruikers te manipuleren om hun bedrijfsresultaten te verbeteren.

Dit artikel is opnieuw gepubliceerd vanuit The Conversation onder een Creative Commons-licentie. Lees het originele artikel.