Artificial Intelligence (AI)-systemen worden elke dag slimmer, wereldkampioenen verslaan in games als Go, tumoren in medische scans beter identificeren dan menselijke radiologen, en het verhogen van de efficiëntie van elektriciteitsverslindende datacenters. Sommige economen vergelijken het transformatieve potentieel van AI met andere 'algemene technologieën' zoals de stoommachine, elektriciteit of de transistor.

Maar de huidige AI-systemen zijn verre van perfect. Ze weerspiegelen meestal de vooroordelen van de gegevens die worden gebruikt om ze te trainen en breken af ​​​​wanneer ze met onverwachte situaties worden geconfronteerd. Ze kunnen worden gespeeld, zoals we hebben gezien met de controverses rond desinformatie op sociale media, gewelddadige inhoud geplaatst op YouTube, of het beroemde geval van Tay, de Microsoft-chatbot, die binnen enkele uren werd gemanipuleerd om racistische en seksistische uitspraken te doen.

Dus willen we deze bias-gevoelig maken, broze technologieën tot de fundamenten van de economie van morgen?

Risico minimaliseren

Een manier om AI-risico's te minimaliseren, is door de diversiteit van de teams die bij hun ontwikkeling zijn betrokken, te vergroten. Zoals onderzoek naar collectieve besluitvorming en creativiteit suggereert, groepen die cognitief diverser zijn, hebben de neiging om betere beslissingen te nemen. Helaas, dit staat ver af van de situatie in de gemeenschap die momenteel AI-systemen ontwikkelt. En een gebrek aan genderdiversiteit is een belangrijke (maar niet de enige) dimensie hiervan.

Een recensie gepubliceerd door het AI Now Institute eerder dit jaar, toonde aan dat minder dan 20% van de onderzoekers die zich aanmelden voor prestigieuze AI-conferenties vrouwen zijn, en dat slechts een kwart van de studenten die AI studeren aan Stanford en de University of California in Berkeley vrouw is.

De auteurs voerden aan dat dit gebrek aan genderdiversiteit resulteert in AI-mislukkingen die uniek zijn voor vrouwen, zoals een wervingssysteem van Amazon waarvan werd aangetoond dat het sollicitanten met vrouwelijke namen discrimineerde.

Ons recente rapport, Genderdiversiteit in AI-onderzoek, omvatte een "big data"-analyse van 1,5 miljoen papieren in arXiv, een preprints-website die veel wordt gebruikt door de AI-gemeenschap om haar werk te verspreiden.

We analyseerden de tekst van abstracts om te bepalen welke AI-technieken toepassen, leidde het geslacht van de auteurs af uit hun namen en bestudeerde de niveaus van genderdiversiteit in AI en de evolutie ervan in de loop van de tijd. We vergeleken ook de situatie in verschillende onderzoeksgebieden en landen, en verschillen in taal tussen artikelen met vrouwelijke co-auteurs en volledig mannelijke artikelen.

Onze analyse bevestigt het idee dat er een genderdiversiteitscrisis is in AI-onderzoek. Slechts 13,8% van de AI-auteurs in arXiv zijn vrouwen en, in relatieve termen, het aandeel AI-papers dat mede is geschreven door ten minste één vrouw is sinds de jaren negentig niet verbeterd.

Er zijn grote verschillen tussen landen en onderzoeksgebieden. We vonden een sterkere vertegenwoordiging van vrouwen in AI-onderzoek in Nederland, Noorwegen en Denemarken, en een lagere vertegenwoordiging in Japan en Singapore. We ontdekten ook dat vrouwen die in de natuurkunde werken, opleiding, biologie en sociale aspecten van informatica publiceren eerder werk over AI dan mensen die in de informatica of wiskunde werken.

Naast het meten van genderdiversiteit in het AI-onderzoekspersoneel, we onderzochten ook semantische verschillen tussen onderzoekspapers met en zonder vrouwelijke deelname. We hebben de hypothese getest dat onderzoeksteams met meer genderdiversiteit de neiging hebben om de verscheidenheid aan problemen en onderwerpen die in AI-onderzoek worden overwogen te vergroten, mogelijk maken van hun output meer inclusief.

Om dit te doen, we hebben de 'semantische handtekening' van elk papier gemeten met behulp van een machine learning-techniek die woordinbedding wordt genoemd, en vergeleek deze handtekeningen tussen artikelen met ten minste één vrouwelijke auteur en artikelen zonder vrouwelijke auteurs.

Deze analyse, die zich richt op het veld Machine Learning en sociale aspecten van computergebruik in het VK, toonden significante verschillen tussen de groepen. Vooral, we ontdekten dat artikelen met ten minste één vrouwelijke co-auteur meer toegepast en sociaal bewust zijn, met termen als "eerlijkheid", "menselijke mobiliteit", "mentaal", "Gezondheid", "geslacht" en "persoonlijkheid" een sleutelrol spelen. Het verschil tussen de twee groepen komt overeen met het idee dat cognitieve diversiteit een impact heeft op het geproduceerde onderzoek, en suggereert dat het leidt tot een grotere betrokkenheid bij maatschappelijke vraagstukken.

Hoe herstel je het

Dus wat verklaart deze aanhoudende genderkloof in AI-onderzoek, en wat kunnen we eraan doen?

Onderzoek toont aan dat het gebrek aan genderdiversiteit in de wetenschap, technologie, personeelsbestand in engineering en wiskunde (STEM) wordt niet door één enkele factor veroorzaakt:genderstereotypen en discriminatie, een gebrek aan rolmodellen en mentoren, onvoldoende aandacht voor de balans tussen werk en privé, en "giftige" werkomgevingen in de technologische industrie komen samen om een ​​perfecte storm te creëren tegen genderinclusie.

Er is geen gemakkelijke oplossing om de genderkloof in AI-onderzoek te dichten. Systeembrede veranderingen gericht op het creëren van veilige en inclusieve ruimtes die onderzoekers uit ondervertegenwoordigde groepen ondersteunen en promoten, een verschuiving in attitudes en culturen in onderzoek en industrie, en betere communicatie van het transformatieve potentieel van AI op veel gebieden zouden allemaal een rol kunnen spelen.

Beleidsinterventies, zoals de investering van £ 13,5 miljoen van de overheid om de diversiteit in AI-functies te stimuleren door middel van nieuwe conversieopleidingen, zal een manier zijn om de situatie te verbeteren, maar er zijn grootschaliger interventies nodig om betere verbanden te leggen tussen kunst, geesteswetenschappen en AI, het beeld veranderen van wie in AI kan werken.

Hoewel er geen enkele reden is waarom meisjes onevenredig stoppen met het nemen van STEM-vakken naarmate ze verder komen in het onderwijs, er zijn aanwijzingen dat factoren, waaronder wijdverbreide stereotypen rond gender en een leeromgeving die het zelfvertrouwen van meisjes meer dan jongens beïnvloeden, een rol spelen in het probleem. We moeten ook die rolmodellen laten zien die AI gebruiken om een ​​positief verschil te maken.

Een tastbare interventie om deze problemen aan te pakken, is de Longitude Explorer Prize, die middelbare scholieren aanmoedigt om AI te gebruiken om maatschappelijke uitdagingen op te lossen en te werken met rolmodellen in AI. We willen jonge mensen, vooral meisjes, om het goede potentieel van AI en hun rol bij het stimuleren van verandering te realiseren.

Door vaardigheden en vertrouwen bij jonge vrouwen op te bouwen, we kunnen de verhouding tussen mensen die in AI studeren en werken veranderen, en helpen om de mogelijke vooroordelen van AI aan te pakken.

Dit artikel is opnieuw gepubliceerd vanuit The Conversation onder een Creative Commons-licentie. Lees het originele artikel.