Mensen hebben elke dag op talloze manieren interactie met machines. In sommige gevallen besturen ze actief een apparaat, zoals autorijden of een app op een smartphone gebruiken. Soms communiceren mensen passief met een apparaat, alsof ze worden afgebeeld door een MRI-machine. En soms communiceren ze met machines zonder toestemming of zelfs maar weten van de interactie, zoals gescand worden door een gezichtsherkenningssysteem van de wetshandhaving.

Mens-machine-interactie (HMI) is een overkoepelende term die de manieren beschrijft waarop mensen omgaan met machines. HMI is een belangrijk aspect bij het onderzoeken, ontwerpen en bouwen van nieuwe technologieën, en ook bij het bestuderen van hoe mensen technologieën gebruiken en erdoor worden beïnvloed.

Onderzoekers, vooral degenen die traditioneel zijn opgeleid in engineering, hanteren bij het ontwikkelen van systemen en apparaten steeds vaker een mensgerichte benadering. Dit betekent dat we ernaar streven technologie te maken die werkt zoals verwacht voor de mensen die het zullen gebruiken door rekening te houden met wat er bekend is over de mensen en door de technologie met hen te testen. Maar hoewel technische onderzoekers steeds meer prioriteit geven aan deze overwegingen, hebben sommigen in het veld een blinde vlek:diversiteit.

Als interdisciplinair onderzoeker die holistisch denkt over techniek en ontwerp en expert in dynamiek en slimme materialen met belangen in beleid, hebben we het gebrek aan inclusie in technologieontwerp, de negatieve gevolgen en mogelijke oplossingen onderzocht.

Mensen bij de hand

Onderzoekers en ontwikkelaars volgen doorgaans een ontwerpproces waarbij belangrijke functies en functies worden getest voordat producten voor het publiek worden vrijgegeven. Als ze op de juiste manier worden uitgevoerd, kunnen deze tests een belangrijk onderdeel zijn van compassievol ontwerp. De tests kunnen interviews en experimenten omvatten met groepen mensen die opkomen voor het publiek.

In academische instellingen zijn de meeste deelnemers aan de studie bijvoorbeeld studenten. Sommige onderzoekers proberen deelnemers buiten de campus te rekruteren, maar deze gemeenschappen lijken vaak op de universitaire bevolking. Coffeeshops en andere lokale bedrijven kunnen bijvoorbeeld toestaan ​​dat flyers in hun etablissementen worden opgehangen. De klanten van deze instellingen zijn echter vaak studenten, docenten en academisch personeel.

In veel bedrijfstakken dienen collega's als testdeelnemers voor werk in een vroeg stadium, omdat het handig is om vanuit een bedrijf te rekruteren. Het kost moeite om externe deelnemers binnen te halen, en wanneer ze worden gebruikt, weerspiegelen ze vaak de meerderheid van de bevolking. Daarom hebben veel van de mensen die deelnemen aan deze onderzoeken vergelijkbare demografische kenmerken.

Reële schade

Het is mogelijk om een ​​homogene steekproef van mensen te gebruiken bij het publiceren van een onderzoekspaper dat bijdraagt ​​aan de kennis van een vakgebied. En sommige onderzoekers die op deze manier onderzoeken, erkennen de beperkingen van homogene onderzoekspopulaties. Als het echter gaat om het ontwikkelen van systemen die afhankelijk zijn van algoritmen, kunnen dergelijke onoplettendheden echte problemen veroorzaken. Algoritmen zijn zo goed als de gegevens die worden gebruikt om ze te bouwen.

Algoritmen zijn vaak gebaseerd op wiskundige modellen die patronen vastleggen en vervolgens een computer informeren over die patronen om een ​​bepaalde taak uit te voeren. Stel je een algoritme voor dat is ontworpen om te detecteren wanneer kleuren op een helder oppervlak verschijnen. Als de reeks afbeeldingen die wordt gebruikt om dat algoritme te trainen voornamelijk uit roodtinten bestaat, kan het algoritme mogelijk niet detecteren wanneer er een blauw- of geeltint aanwezig is.

In de praktijk zijn algoritmen er niet in geslaagd om donkere huidtinten te detecteren voor het huidverzorgingsprogramma van Google en in automatische zeepdispensers; een verdachte nauwkeurig identificeren, wat leidde tot de onrechtmatige arrestatie van een onschuldige man in Detroit; en op betrouwbare wijze vrouwen van kleur te identificeren. MIT-onderzoeker op het gebied van kunstmatige intelligentie, Joy Buolamwini, beschrijft dit als algoritmische vooringenomenheid en heeft uitgebreid werk over deze kwesties besproken en gepubliceerd.

Zelfs terwijl de VS COVID-19 bestrijdt, is het gebrek aan diverse trainingsgegevens duidelijk geworden in medische apparaten. Pulsoximeters, die essentieel zijn om uw gezondheid thuis bij te houden en om aan te geven wanneer u mogelijk in het ziekenhuis moet worden opgenomen, zijn mogelijk minder nauwkeurig voor mensen met een melanerende huid. Deze ontwerpfouten, zoals die in algoritmen, zijn niet inherent aan het apparaat, maar kunnen worden herleid tot de technologie die wordt ontworpen en getest met behulp van populaties die niet divers genoeg waren om alle potentiële gebruikers te vertegenwoordigen.

Inclusief zijn

Onderzoekers in de academische wereld staan ​​vaak onder druk om onderzoeksresultaten zo snel mogelijk te publiceren. Daarom is het heel gebruikelijk om te vertrouwen op gemakssteekproeven, dat wil zeggen mensen die gemakkelijk te bereiken zijn en van wie ze gegevens kunnen krijgen.

Hoewel er institutionele beoordelingscommissies bestaan ​​om ervoor te zorgen dat de rechten van deelnemers aan de studie worden beschermd en dat onderzoekers de juiste ethiek in hun werk volgen, hebben ze niet de verantwoordelijkheid om onderzoekers voor te schrijven wie ze moeten werven. Wanneer onderzoekers tijdsdruk hebben, kan het overwegen van verschillende populaties voor proefpersonen extra vertraging opleveren. Ten slotte kunnen sommige onderzoekers eenvoudigweg niet weten hoe ze de onderwerpen van hun studie adequaat kunnen diversifiëren.

Er zijn verschillende manieren waarop onderzoekers in de academische wereld en de industrie de diversiteit van hun pool van onderzoeksdeelnemers kunnen vergroten.

Een daarvan is om tijd vrij te maken om het ongemakkelijke en soms harde werk te doen van het ontwikkelen van inclusieve wervingsstrategieën. Dit kan creatief denken vereisen. Een van die methoden is het werven van diverse studenten die als ambassadeurs kunnen dienen voor diverse gemeenschappen. De studenten kunnen onderzoekservaring opdoen en tegelijkertijd een brug vormen tussen hun gemeenschappen en onderzoekers.

Een andere is om leden van de gemeenschap in staat te stellen deel te nemen aan het onderzoek en waar mogelijk toestemming te geven voor nieuwe en onbekende technologieën. Zo kunnen onderzoeksteams een adviesraad vormen die bestaat uit leden uit verschillende gemeenschappen. Sommige velden bevatten vaak een adviesraad als onderdeel van hun door de overheid gefinancierde onderzoeksplannen.

Een andere benadering is om mensen die weten hoe ze culturele implicaties van technologieën moeten doordenken, als leden van het onderzoeksteam op te nemen. Het gebruik van een robothond door de politie van New York City in Brooklyn, Queens en de Bronx leidde bijvoorbeeld tot verontwaardiging onder de bewoners. Dit had voorkomen kunnen worden als ze contact hadden gehad met experts op het gebied van sociale wetenschappen of wetenschap en technologie, of gewoon hadden overlegd met gemeenschapsleiders.

Ten slotte gaat diversiteit niet alleen over ras, maar ook over leeftijd, genderidentiteit, culturele achtergronden, opleidingsniveaus, handicap, Engelse taalvaardigheid en zelfs sociaaleconomische niveaus. Lyft is op een missie om volgend jaar robotaxis in te zetten, en experts zijn enthousiast over de vooruitzichten om robotaxis te gebruiken om ouderen en gehandicapten te vervoeren. Het is niet duidelijk of deze ambities ook betrekking hebben op degenen die in minder welvarende of lage-inkomensgemeenschappen wonen, of die de steun van het gezin missen die mensen zou kunnen helpen zich voor te bereiden op het gebruik van de dienst. Voordat een robotaxi wordt ingezet om grootmoeders te vervoeren, is het belangrijk om rekening te houden met hoe een breed scala aan mensen de technologie zal ervaren.