De korte film Slaughterbots toont een nabije toekomst waarin zwermen micro-drones duizenden mensen vermoorden vanwege hun politieke overtuigingen. Uitgebracht in november 2017 door academici en activisten die waarschuwen voor de gevaren van geavanceerde kunstmatige intelligentie (AI), het ging snel viraal, het aantrekken van meer dan 3m views tot nu toe. Het hielp een publiek debat op gang te brengen over de toekomst van autonome wapens en zette druk op diplomaten die bijeenkwamen in het VN-Verdrag inzake conventionele wapens.

Maar dit soort speculatieve sciencefictionverhalen is niet alleen nuttig om de aandacht te trekken. De mensen die geavanceerde technologie ontwerpen en bouwen, kunnen verhalen gebruiken om de gevolgen van hun werk te overwegen en ervoor te zorgen dat het voor het goede wordt gebruikt. En we denken dat dit soort 'science fiction prototyping' of 'design fiction' kan helpen voorkomen dat menselijke vooroordelen hun weg vinden naar nieuwe technologie. de vooroordelen en onrechtvaardigheden van de samenleving verder verankeren.

Een bias kan leiden tot de willekeurige voorkeur van sommige categorieën (van resultaten, mensen, of ideeën) boven anderen. Bijvoorbeeld, sommige mensen kunnen bevooroordeeld zijn tegen het inhuren van vrouwen voor leidinggevende functies, of ze zich daarvan bewust zijn of niet.

Technologie die is opgebouwd rond gegevens die dergelijke vooroordelen registreren, kan het probleem uiteindelijk repliceren. Bijvoorbeeld, wervingssoftware die is ontworpen om de beste cv's voor een bepaalde baan te selecteren, kan worden geprogrammeerd om te zoeken naar kenmerken die een onbewuste voorkeur voor mannen weerspiegelen. In welk geval, het algoritme zal uiteindelijk de voorkeur geven aan mannen-cv's. En dit is niet theoretisch - het is echt met Amazon gebeurd.

Het ontwerpen van algoritmen zonder rekening te houden met mogelijke negatieve implicaties is vergeleken met artsen die schrijven over de voordelen van een bepaalde behandeling en de bijwerkingen volledig negeren, hoe ernstig ze ook zijn."

Sommige technologiebedrijven en onderzoekers proberen het probleem aan te pakken. Bijvoorbeeld, Google heeft een reeks ethische principes opgesteld om de ontwikkeling van AI te begeleiden. En Britse academici hebben een initiatief gelanceerd met de naam Not-Equal dat tot doel heeft meer eerlijkheid en rechtvaardigheid bij het ontwerp en het gebruik van technologie aan te moedigen.

Het probleem is dat, publiekelijk, bedrijven hebben de neiging om alleen een positieve visie te geven op de mogelijke gevolgen van technologieën in de nabije toekomst. Bijvoorbeeld, auto's zonder bestuurder worden vaak afgeschilderd als een oplossing voor al onze transportproblemen, van kosten tot veiligheid, negeren van de verhoogde gevaren van cyberaanvallen of het feit dat ze mensen zouden kunnen aanmoedigen om minder te lopen of te fietsen.

De moeilijkheid om te begrijpen hoe digitale technologieën werken, vooral degenen die zwaar worden aangedreven door obscure algoritmen, maakt het ook moeilijker voor mensen om een ​​complexe en alomvattende kijk op de problematiek te hebben. Deze situatie veroorzaakt een spanning tussen een geruststellend positief verhaal en het vage vermoeden dat vooroordelen tot op zekere hoogte zijn ingebed in de technologieën om ons heen. Dit is waar we denken dat het vertellen van verhalen door middel van ontwerpfictie een rol kan spelen.

Verhalen zijn een natuurlijke manier van denken over mogelijkheden en complexe situaties, en we horen ze al ons hele leven. Sciencefiction kan ons helpen speculeren over de impact van technologieën in de nabije toekomst op de samenleving, zoals Slaughterbots doet. Dit kan zelfs betrekking hebben op sociale rechtvaardigheid, zoals de manier waarop bepaalde groepen, zoals vluchtelingen en migranten, kunnen worden uitgesloten van digitale innovaties.

De (mogelijke) toekomst onthullen

Design fiction verhalen bieden een nieuwe manier voor ontwerpers, (onder andere) ingenieurs en futuristen om de impact van technologie vanuit een menselijk perspectief te bekijken en te koppelen aan mogelijke toekomstige behoeften. Met een mengeling van logica en verbeelding, ontwerpfictie kan aspecten onthullen van hoe technologie kan worden aangenomen en gebruikt, gesprekken beginnen over de toekomstige gevolgen ervan.

Bijvoorbeeld, het korte verhaal "Crime-sourcing" onderzoekt wat er zou kunnen gebeuren als AI crowdsourced informatie en een criminele database zou gebruiken om te voorspellen wie een moord zou plegen. De onderzoekers ontdekten dat omdat de database vol was met mensen uit etnische minderheidsgroepen die, om sociale redenen, statistisch gezien meer kans hadden om te recidiveren, het "crime-sourcing"-model had meer kans om ten onrechte minderheden te vermoeden dan blanke mensen.

Je hoeft geen getalenteerde schrijver te zijn of een gelikte film te maken om designfictie te produceren. Brainstormactiviteiten met kaarten en storyboards zijn gebruikt om ontwerpfictie te ontwikkelen en het verhaalproces te helpen ontwikkelen. Door werkplaatsen die dit soort tools vaker gebruikten vaker te maken, zouden meer ingenieurs, ondernemers en beleidsmakers om deze manier van beoordelen te gebruiken. En door het resulterende werk openbaar beschikbaar te maken, zouden mogelijke vooroordelen in technologieën aan het licht komen voordat ze de samenleving beïnvloeden.

Door ontwerpers aan te moedigen om op deze manier meer verhalen te creëren en te delen, zou het verhaal dat ten grondslag ligt aan nieuwe technologie niet alleen een positief beeld geven, noch een extreem negatieve of dystopische. In plaats daarvan, mensen zullen beide aspecten van wat er om ons heen gebeurt kunnen waarderen.

Dit artikel is opnieuw gepubliceerd vanuit The Conversation onder een Creative Commons-licentie. Lees het originele artikel.