Zoals Facebook-gebruikers over de hele wereld beginnen te begrijpen, sommige van hun favoriete technologieën kunnen tegen hen worden gebruikt. Het is niet alleen het schandaal over het psychologische profileringsbedrijf Cambridge Analytica dat toegang krijgt tot gegevens van tientallen miljoenen Facebook-profielen. De filterbubbels van mensen zijn gevuld met zorgvuldig op maat gemaakte informatie - en verkeerde informatie - die hun gedrag en denken verandert, en zelfs hun stemmen.

Mensen, zowel individueel als als samenleving, worstelen om te begrijpen hoe hun nieuwsfeeds zich tegen hen keerden. Ze beginnen zich te realiseren hoe zorgvuldig gecontroleerde Facebook-feeds zijn, met zeer op maat gemaakte advertenties. Die reeks problemen, Hoewel, verbleekt in vergelijking met die van de volgende technologische revolutie, die al aan de gang is:virtual reality.

Aan de ene kant, virtuele werelden hebben een bijna onbeperkt potentieel. VR-games kunnen drugsverslaving behandelen en misschien helpen bij het oplossen van de opioïde-epidemie. Gevangenisgevangenen kunnen VR-simulaties gebruiken om zich voor te bereiden op het leven na hun vrijlating. Mensen racen om deze meeslepende ervaringen te beleven, die het potentieel hebben om psychologisch krachtiger te zijn dan enige andere technologie tot nu toe:de eerste moderne apparatuur die de mogelijkheid bood, was in 14 minuten uitverkocht.

In deze nieuwe werelden, elk blad, elke steen op de virtuele grond en elk gesprek is zorgvuldig opgebouwd. In ons onderzoek naar de opkomende definitie van ethiek in virtual reality, mijn collega's en ik hebben de ontwikkelaars en vroege gebruikers van virtual reality geïnterviewd om te begrijpen welke risico's er komen en hoe we deze kunnen verminderen.

Intensiteit gaat omhoog

"VR is een heel persoonlijk, intieme situatie. Als je een VR-headset draagt ​​… geloof je het echt, het is echt meeslepend, " zegt een van de ontwikkelaars met wie we hebben gesproken. Als iemand je kwaad doet in VR, je gaat het voelen, en als iemand je manipuleert om iets te geloven, het gaat plakken.

Deze onderdompeling is wat gebruikers willen:"VR gaat echt over onderdompeling ... In tegenstelling tot een tv waar ik constant kan worden afgeleid, " vertelde een gebruiker ons. Die immersiviteit is wat VR ongekende kracht geeft:"echt, wat VR hier probeert te doen, is de realiteit dupliceren waar het je geest voor de gek houdt."

Deze trucs kunnen leuk zijn - mensen in staat stellen helikopters te vliegen of terug te reizen naar het oude Egypte. Ze kunnen behulpzaam zijn, het aanbieden van pijnbestrijding of behandeling van psychische aandoeningen.

Maar ze kunnen ook kwaadaardig zijn. Zelfs een veelvoorkomende grap die vrienden online met elkaar uithalen - inloggen en posten als elkaar - kan een geheel nieuwe dimensie krijgen. Een VR-gebruiker legt uit, "Iemand kan een VR-head-unit opzetten en een virtuele wereld binnengaan en je identiteit aannemen. Ik denk dat identiteitsdiefstal, als VR mainstream wordt, zal hoogtij vieren."

Gegevens worden nog persoonlijker

VR zal data op een geheel nieuw niveau kunnen verzamelen. Ogenschijnlijk onschadelijke infraroodsensoren die zijn ontworpen om te helpen bij bewegingsziekte en uitlijning, kunnen bijna perfecte weergaven van de echte omgeving van gebruikers vastleggen.

Verder, de gegevens en interacties die VR de macht geven om fysieke en mentale gezondheidsproblemen te behandelen en te diagnosticeren, kunnen worden gebruikt om ervaringen en informatie te hyperpersonaliseren voor de precieze kwetsbaarheden van individuele gebruikers.

gecombineerd, de intensiteit van virtual reality-ervaringen en de nog meer persoonlijke gegevens die ze verzamelen, presenteren het spook van nepnieuws dat veel krachtiger is dan tekstartikelen en memes. Liever, meeslepend, gepersonaliseerde ervaringen kunnen mensen grondig overtuigen van totaal alternatieve realiteiten, waarvoor ze volkomen vatbaar zijn. Dergelijke meeslepende VR-advertenties verschijnen al dit jaar aan de horizon.

Bouwen aan een virtuele toekomst

Een persoon die virtual reality gebruikt, is, vaak gewillig, in veel grotere mate worden gecontroleerd dan ooit tevoren mogelijk was. Alles wat een persoon ziet en hoort – en misschien zelfs voelt of ruikt – is volledig door een ander gecreëerd. Die overgave brengt zowel belofte als gevaar met zich mee. Misschien in zorgvuldig geconstrueerde virtuele werelden, mensen kunnen problemen oplossen die ons in werkelijkheid zijn ontgaan. Maar deze virtuele werelden zullen worden gebouwd in een echte wereld die niet kan worden genegeerd.

Terwijl technologen en gebruikers de kwaadaardige opruimen, manipulatief verleden, ze zullen veel verder moeten gaan dan het gezonder maken van sociale media. Zo zorgvuldig als ontwikkelaars zelf virtuele werelden bouwen, de samenleving als geheel moet opzettelijk en nauwgezet de cultuur construeren waarin deze technologieën bestaan.

Vaak, ontwikkelaars zijn de eerste bondgenoten in deze strijd. Uit ons onderzoek bleek dat VR-ontwikkelaars zich meer zorgen maakten over het welzijn van hun gebruikers dan de gebruikers zelf. Nog, een ontwikkelaar geeft toe dat "het feit is dat ik op mijn vingers kan tellen hoeveel ervaren ontwikkelaars ik heb ontmoet." Zelfs experts zijn pas begonnen met het onderzoeken van ethiek, veiligheid en privacy in virtual reality-scenario's.

De ontwikkelaars met wie we spraken, spraken de wens uit voor richtlijnen over waar de grenzen moeten worden getrokken, en hoe gevaarlijk misbruik van hun platforms te voorkomen. Als eerste stap, we hebben VR-ontwikkelaars en gebruikers uit negen online communities uitgenodigd om met ons samen te werken om een ​​reeks richtlijnen voor VR-ethiek te creëren. Ze deden suggesties over inclusiviteit, gebruikers beschermen tegen manipulatieve aanvallers en beperkingen op het verzamelen van gegevens.

Zoals het debacle met Facebook en Cambridge Analytica laat zien, Hoewel, mensen volgen niet altijd richtlijnen, of zelfs de regels en het beleid van platforms - en de effecten kunnen des te erger zijn in deze nieuwe VR-wereld. Maar, ons aanvankelijke succes om overeenstemming te bereiken over VR-richtlijnen herinnert ons eraan dat mensen verder kunnen gaan dan alleen rekening houden met de technologieën die anderen creëren:we kunnen samenwerken om nuttige technologieën te creëren die we willen.

Dit artikel is oorspronkelijk gepubliceerd op The Conversation. Lees het originele artikel.