Wetenschappers hebben een nieuw internationaal kader voorgesteld om ethiek en menselijk welzijn voorop te houden in onze relatie met technologie.

Van gentherapie en door AI voorspelde ziekte tot zelfrijdende auto's en 3D-printen, technologische vooruitgang kan de gezondheid verbeteren, tijd vrijmaken, en efficiëntie verhogen.

Ondanks de beste bedoelingen van de makers, technologie kan leiden tot onbedoelde gevolgen voor de individuele privacy en autonomie.

Er is momenteel geen internationaal overeengekomen regeling over wie, bijvoorbeeld, heeft toegang tot de gegevens die zijn vastgelegd door zwarte dozen in auto's, smart-tv's en spraakgestuurde persoonlijke assistenten - en recente bevindingen hebben aangetoond dat technologie kan worden gebruikt om stemgedrag te beïnvloeden.

Nutsvoorzieningen, Onderzoekers van het Imperial College London hebben een nieuw regelgevend kader voorgesteld waarmee regeringen onbedoelde gevolgen van onze relatie met technologie kunnen minimaliseren. Het commentaarstuk is gepubliceerd in Natuur Machine Intelligentie .

De groep onderzoekers, onder leiding van Imperial's professor Rafael Calvo, zeggen dat hun voorstel zou kunnen helpen bij het waarborgen van menselijke belangen zoals ethiek, privacy, en welzijn krijgen prioriteit naarmate onze relatie met technologie groeit.

Ze stellen voor om de milieueffectrapportage te gebruiken, die de waarschijnlijke milieueffecten van een voorgesteld project of ontwikkeling evalueert, als blauwdruk. Bij de beoordeling wordt gekeken naar de onderling samenhangende sociaal-economische, culturele en menselijke gezondheidseffecten van een AI en technologie.

Het voorgestelde kader, bekend als de Human Impact Assessment for Technology (HIAT), zou worden ontworpen om de impact die nieuwe digitale technologieën hebben op de samenleving en het individuele welzijn te voorspellen en te evalueren. Dit, ze beweren, moeten zich richten op ethische overwegingen zoals individuele privacy, welzijn en autonomie.

Bij de beoordeling moet ook worden overwogen welke partijen verantwoordelijk zijn voor het beheer van gegevens en het handhaven van ethische normen, en wie verantwoordelijk is als er iets misgaat, zeggen de onderzoekers.

Professor Calvo, van Imperial's Dyson School of Design Engineering, zei:"We staan ​​voor een vierde industriële revolutie door de snelle ontwikkeling van AI en technologie, maar naarmate onze relatie met AI groeit, net als zijn potentieel om ons leven te verstoren. Nemen, bijvoorbeeld, bewijs dat AI door mensen wordt gebruikt om emoties te manipuleren, aandacht, en stemgedrag, evenals juridische, leerzaam, en werkgelegenheidsbeslissingen.

"Dit is het moment om een ​​raamwerk samen te stellen om ervoor te zorgen dat onze relatie met AI positief blijft."

Ethische raadsels

Een HIAT-raamwerk zou opkomende industrieën helpen bij het navigeren door de ethische raadsels die hand in hand gaan met het gebruik van AI en het opslaan van grote hoeveelheden gegevens.

Volgens de opmerking, vragen die internationaal overeengekomen richtlijnen kunnen helpen beantwoorden, zijn onder meer:

• Sommige AI-assistenten kunnen namens een persoon restaurants bellen en realistische menselijke spraak gebruiken om reserveringen te maken. In deze gevallen, welke verplichtingen moeten er zijn om de mens die de telefoon opneemt ervan bewust te maken dat de beller een machine is in plaats van een mens? Welke toestemming moet worden verkregen om de gegevens uit deze gesprekken op te slaan?
• Sommige chauffeurs passen zwarte dozen op hun auto's die informatie doorgeven aan verzekeringsmaatschappijen over de manier waarop ze rijden. Deze informatie wordt gebruikt om verzekeringspremies te berekenen. In deze gevallen, hoe kunnen we voorkomen dat de door AI verzamelde en verwerkte persoonsgegevens (waar je naar toe gaat en wanneer) aan derden worden verkocht?
• Sommige politiediensten gebruiken Body Worn Video (BWV) tijdens hun dienst om video en audio op te nemen die later tijdens onderzoeken kunnen worden gebruikt. Er zijn ook recente proeven geweest met gezichtsherkenningssoftware, maar wie heeft toegang tot de gegevens die in deze gevallen zijn verzameld? en is de regelgeving robuust genoeg om de privacy van het publiek te beschermen?

Professor Calvo voegde toe:"Hoewel we vaak profiteren van technologische vooruitgang, we kunnen ook ethisch lijden, psychologische en sociale kosten.

"Impactbeoordelingen zijn een belangrijk hulpmiddel om bepaalde waarden te verankeren en zijn met succes gebruikt in veel industrieën, waaronder mijnbouw, landbouw, civiele techniek, en industriële techniek.

"Ook andere sectoren zoals geneesmiddelen, gewend zijn om te innoveren binnen sterke regelgeving, en zonder dit kader zou er weinig vertrouwen zijn in hun producten.

"Naarmate AI volwassener wordt, we hebben kaders zoals HIAT nodig om burgers het vertrouwen te geven dat deze krachtige nieuwe technologie in het algemeen gunstig zal zijn voor iedereen."