Iedereen die gebruik maakt van online winkelen, social media of zelfs e-mail ervaart vrijwillig – maar niet per se bewust – de invloed van gepersonaliseerde technologieën. De "profilering" die leidt tot advertenties voor bepaalde producten die u op internet stalken, kan hinderlijk zijn. Maar recente nieuwsberichten over Cambridge Analytica die persoonlijke gegevens van Facebook haalt, wekken grotere zorgen over de autonomie van mensen. en de veiligheid van democratische processen.

Personalisatie vormt de ervaringen van mensen met politiek, handel, persoonlijke en sociale leven. Het is een krachtige, technologisch ondersteund principe, die informatie verzamelt over onze keuzes en voorkeuren om onze betrokkenheid bij objecten aan te passen, instellingen, diensten en elkaar.

Natuurlijk, dit kan ons helpen om sneller beslissingen te nemen over onze dagelijkse taken - om ons te helpen meer "onszelf" te zijn. Personalisatie lijkt individuen vaak sterker te maken; om hen te helpen zich competent te voelen, in controle en zelfverzekerd in de smaken en meningen die ons onderscheiden van anderen.

Maar al te vaak, er is een "dubbel voordeel" aan personalisatie, die niet wordt herkend door gebruikers - totdat ze worden geconfronteerd met de effecten ervan. Personalisatie heeft vragen doen rijzen over privacy, persoonlijke verantwoordelijkheid en toestemming; het heeft de machtsverhoudingen tussen ontwerpers gedestabiliseerd, fabrikanten en consumenten; en het heeft het discours tussen politieke partijen en burgers verstoord. Het heeft ook het potentieel om het begrip van wat het betekent om een ​​persoon te zijn, in gevaar te brengen, en een morele agent.

Onder controle, of onder controle?

Vandaag, ontmoetingen met personalisatie beginnen vanaf de geboorte. Slimme fopspenen zoals Pacif-i gebruiken Bluetooth-technologie om de temperatuur van een kind te controleren, en registreren wanneer een ouder voor het laatst hun medicatie heeft toegediend, samen met de dosering. Deze gegevens worden naar de telefoons van ouders gestuurd, en kan worden gedeeld met artsen. Later in het leven, gepersonaliseerde medische interventies kunnen genetische analyse gebruiken om behandelingen te optimaliseren, toekomstige gezondheidsresultaten en de kans op toekomstige ziekten te voorspellen.

Het hebben van deze informatie lijkt misschien een goede zaak:Pacifi-i geeft ouders de mogelijkheid om de gezondheid van hun kind nauwlettend in de gaten te houden, terwijl gepersonaliseerde geneeskunde gebruikers de kans geeft hun gewoonten aan te passen om het ontstaan ​​van een ziekte te minimaliseren. Maar deze gepersonaliseerde interventies zijn misschien niet zo welkom als de betrokken mensen geen ziektekostenverzekering kunnen krijgen, omdat deze gedetailleerde gegevens aan een verzekeringsmaatschappij zijn verstrekt.

Hetzelfde, het persoonlijk gezondheidsbudget van de NHS biedt een persoonlijke benadering van sociale zorg, door bestedingskeuzes toe te wijzen aan patiënten. Het beheersen van hun eigen zorg kan mensen helpen om zich empowered te voelen. Maar onderzoek uit ons boek over personalisatie toont aan dat dit voordeel ongelijk verdeeld kan zijn over klasse en opleiding, en dat de eis om een ​​behandeling te kiezen en te beheren een grotere last kan vormen voor patiënten en hun families.

Het echokamereffect in sociale media kan het politieke discours belemmeren door gepersonaliseerde prompts, die ons alleen linken aan "mensen zoals wij". De zelfbevestigende ervaring van iets leuk vinden op Facebook bevordert ons gevoel erbij te horen en erbij te horen. Maar, tegelijkertijd, Facebook - en inderdaad de bedrijven die gegevens van Facebook verzamelen - kunnen ook identificerende eigenschappen voorspellen die we niet openbaar hebben gemaakt.

Innovaties in productietechnologie, zoals 3D-printen, bieden consumenten een combinatie van fysieke fit en persoonlijkheid. Sommige producenten geven zelfs geamputeerden de kans om de uiteindelijke afwerking van hun prothetische ledematen te kiezen. Vandaag de dag, je kunt niet alleen kleding aanpassen met behulp van open ontwerpplatforms, maar ook de persoonlijkheid van iemand anders "lenen" door, bijvoorbeeld, het personaliseren van een beroemde voetballer t-shirt. Maar deze massa-customization destabiliseert de relatie tussen producenten en consumenten, waardoor het voor fabrikanten moeilijker wordt om te plannen voor pieken in de vraag en pieken in de verkoop.

Personalisatie voor de mensen

Met de nieuwste digitale assistenten en geniale platforms zoals Apple's Siri, Google Assistent en Amazon Echo, we kunnen apparaten bedienen met dat meest persoonlijke kenmerk:onze stem. Toch hebben deze virtuele persoonlijke agenten hun eigen stemmen, te, en het gevaar bestaat dat dergelijke systemen te veel macht krijgen om te personaliseren wat ze ons bieden.

Dit zou de opties van de gebruikers beperken - in plaats van ze uit te breiden. Maar belangrijker, als een machine teveel op een persoon lijkt – als hij te sociaal is – dan bestaat het gevaar dat we hem gaan zien als een agent die in staat is tot onafhankelijke besluitvorming, terwijl het in feite gewoon instrumenten zijn om onze eigen agenda's uit te voeren.

De afgelopen weken, tal van bedrijven hebben besloten hun beleid inzake privacy en het delen van gegevens bij te werken om ze voor hun gebruikers eenvoudiger te begrijpen of om een ​​opt-out-optie te vinden. Maar deze documenten blijven lang en ingewikkeld, en niet iedereen zal ze kunnen begrijpen. Het feit dat de Britse Information Commissioner geen toegang had tot Cambridge Analytica-bestanden voordat Facebook aantoont dat socialemediagiganten de overhand hebben, over hoe er met onze persoonsgegevens wordt omgegaan.

Facebook heeft zojuist 1,5 miljard gebruikers van zijn internationale hoofdkantoor in Ierland naar Californië verplaatst om boetes tot 4% van zijn wereldwijde omzet te vermijden, als het de nieuwe regels voor gegevensbescherming overtreedt die op 25 mei in Europa van kracht worden, 2018. Duidelijk, we zitten hier nog niet allemaal samen in. Het publiek wordt in het ongewisse gehouden over de manieren waarop gegevens worden gemanipuleerd om onze keuzes te beïnvloeden, houdingen en gedragingen. Als personalisatie een voordeel – en geen vloek – moet zijn, moeten gebruikers een sterkere stem krijgen, om invloed uit te oefenen op de manier waarop hun persoonsgegevens worden gedeeld.

Dit artikel is oorspronkelijk gepubliceerd op The Conversation. Lees het originele artikel.