Ingenieurs op het gebied van kunstmatige intelligentie moeten ideeën en expertise inroepen uit een breed scala van sociaalwetenschappelijke disciplines, met inbegrip van methoden die kwalitatieve methoden omarmen, om de potentiële schade van hun creaties te verminderen en de samenleving als geheel beter te dienen, een paar onderzoekers hebben geconcludeerd in een analyse die in het tijdschrift verschijnt Natuur Machine Intelligentie .

"Er is steeds meer bewijs dat AI de ongelijkheid kan vergroten, discriminatie in stand houden, en schade toebrengen, " schrijf Mona Sloane, een research fellow aan het Institute for Public Knowledge van de New York University, en Emmanuel Mos, een promovendus aan de City University van New York. "Om sociaal rechtvaardige technologie te bereiken, we moeten een zo breed mogelijk begrip van sociale wetenschappen opnemen, een die disciplines omvat die methoden hebben ontwikkeld om met de uitgestrektheid van de sociale wereld om te gaan en die ons helpt te begrijpen hoe en waarom AI-schade ontstaat als onderdeel van een groot, complex, en opkomend techno-sociaal systeem."

De auteurs schetsen redenen waarom de sociale wetenschappen naderen, en zijn vele kwalitatieve methoden, kan de waarde van AI in grote lijnen vergroten en tegelijkertijd gedocumenteerde valkuilen vermijden. Studies hebben aangetoond dat zoekmachines vrouwen van kleur kunnen discrimineren, terwijl veel analisten vragen hebben gesteld over hoe zelfrijdende auto's sociaal aanvaardbare beslissingen zullen nemen in crashsituaties (bijv. vermijden van mensen in plaats van brandkranen).

Sloane, ook een adjunct-faculteitslid aan de Tandon School of Engineering van NYU, en Moss erkennen dat AI-ingenieurs momenteel proberen om "waarde-afstemming" - het idee dat machines moeten handelen in overeenstemming met menselijke waarden - in hun creaties in te voeren, maar voeg eraan toe dat "het buitengewoon moeilijk is om zoiets vloeiends en contextueels als 'menselijke waarden' in een machine te definiëren en te coderen."

Om deze tekortkoming aan te pakken, de auteurs bieden een blauwdruk voor opname van de sociale wetenschappen in AI door middel van een reeks aanbevelingen:

• Kwalitatief sociaal onderzoek kan helpen bij het begrijpen van de categorieën waarmee we het sociale leven begrijpen en die in AI worden gebruikt. "Bijvoorbeeld, technologen zijn niet opgeleid om te begrijpen hoe raciale categorieën in machine learning worden gereproduceerd als een sociale constructie die reële effecten heeft op de organisatie en gelaagdheid van de samenleving, Sloane en Moss merken op. "Maar deze vragen worden diepgaand besproken in de sociale wetenschappen, die kan helpen bij het creëren van de sociaal-historische achtergrond waartegen de ... geschiedenis van het toeschrijven van categorieën als 'ras' expliciet kan worden gemaakt."
• Een kwalitatieve benadering van gegevensverzameling kan protocollen opstellen om vooroordelen te verminderen. "Gegevens weerspiegelen altijd de vooroordelen en interesses van degenen die het verzamelen, ’, merken de auteurs op. ‘Kwalitatief onderzoek is expliciet over de dataverzameling, terwijl kwantitatieve onderzoekspraktijken in AI dat niet zijn."
• Kwalitatief onderzoek vereist doorgaans dat onderzoekers nadenken over hoe hun interventies de wereld beïnvloeden waarin ze hun waarnemingen doen. "Een kwantitatieve benadering vereist niet dat de onderzoeker of AI-ontwerper zich in de sociale wereld bevindt, ' schrijven ze. 'Daarom, vereist geen beoordeling van wie is opgenomen in essentiële AI-ontwerpbeslissingen, en wie niet."

"Naarmate we verder gaan met het samenweven van sociale, cultureel, en technologische elementen van ons leven, we moeten verschillende soorten kennis integreren in technologieontwikkeling, Sloane en Moss concluderen. "Een meer sociaal rechtvaardige en democratischere toekomst voor AI in de samenleving kan niet alleen worden berekend of ontworpen; er moet in geleefd worden, overgeleverd, en getrokken uit diepe inzichten over de samenleving."