Kunstmatige intelligentie transformeert onze wereld, soms op manieren die de makers niet bedoelden. In Wellcome Data Labs ontwikkelen we een nieuwe methode om benaderingen uit de sociale wetenschappen toe te passen op de manier waarop AI-algoritmen worden geproduceerd om datawetenschapsproblemen op te lossen. Het doel is om mogelijke negatieve gevolgen van de algoritmen te voorkomen door ze eerder in het ontwikkelingsproces te identificeren.

Er zijn al pogingen gedaan om een ​​dergelijke manier van werken op te zetten. Een voorbeeld is de uitstekende post van Catalina Butnaru die een nieuw Agile-ethisch proces voorstelt. Er is veel om deze aanpak aan te bevelen, niet in de laatste plaats dat het systematisch is en nauw is afgestemd op de bekende stappen van agile softwareontwikkelingsmethodologieën.

Echter, Butnaru gaat niet in op de mechanica van hoe haar voorgestelde Agile-ethiekproces zou kunnen worden beheerd. Is het het team van datawetenschappers en engineers zelf dat verantwoordelijk is voor het volgen van de stappen? Of hun productmanager? Of het UX-team? Of een apart team voor de engineers die hun werk controleren?

We hebben veel over dergelijke vragen nagedacht, omdat we graag willen testen hoe ethische benaderingen kunnen worden toegepast op het werk van datawetenschappers in de praktijk en niet alleen in theorie.

De belangrijkste uitdaging die we onszelf stellen is:hoe een proces als dat van Butnaru toe te passen, of een van de andere rivaliserende methoden, op een manier die ethische kwesties meetbaar vermindert, zoals onbedoelde vooringenomenheid, maar de energie en effectiviteit van onze Agile-productteams niet vermindert?

We denken dat dit kan door sociale wetenschappers aan te moedigen om te werken als onderdeel van interdisciplinaire teams met softwareontwikkelaars en datawetenschappers, hun agile en iteratieve methodologieën over te nemen.

Ik heb een aantal van de uitdagingen geschetst om dit te doen. Bijvoorbeeld, de moeilijkheid om sociaalwetenschappelijke onderzoekers in hetzelfde tempo en in hetzelfde ritme te laten werken als de softwareontwikkelaars en datawetenschappers. Echter, er is een potentiële sjabloon om te volgen door te leren van de succesvolle integratie van de User Experience-discipline in de workflows voor softwareontwikkeling.

Er is een extra uitdaging, Hoewel. Vertrouwen op een gebruikersonderzoeker ingebed in een productteam om dat team zelfstandig door een Agile-ethiekmethodologie te loodsen, introduceert het risico dat ze hun objectiviteit verliezen. Dit is een bekend probleem in etnografisch onderzoek, waar er een actieve spanning bestaat tussen de rol van een onderzoeker als onpartijdige waarnemer en het alternatief van een actieve deelnemer.

Een minder technische manier om ernaar te kijken is dat mensen, fundamenteel, zijn teamspelers:ze willen erbij horen en vinden het misschien moeilijk om het werk van hun naaste collega's te bekritiseren. Ze kunnen ook onderworpen worden aan 'groepsdenken' zonder het te beseffen.

In Wellcome Data Labs hebben we een gepaarde benadering van Agile-ethiek uitgewerkt die bedoeld is om dit probleem op te lossen. Onze voorgestelde methodologie bestaat uit drie stappen:

1. Inbedding binnen Data Labs een gebruikersonderzoeker met een achtergrond in zowel het werken als onderdeel van Agile productteams als in het uitvoeren van sociaalwetenschappelijk onderzoek. Deze embedded onderzoeker heeft het expliciet omschreven doel om de algoritmische modellen waar de softwareontwikkelaars en datawetenschappers aan werken te testen op hun mogelijke maatschappelijke impact.
2. Ze zullen hun analyse iteratief aanpassen en ontwikkelen om te passen bij de snelheid van het technologische werk en hun opkomende conclusies terugkoppelen naar de datawetenschappers om de koers van hun werk te sturen.
3. De ingebedde onderzoeker wordt gekoppeld aan een andere sociale wetenschapper buiten het team om objectieve kritiek te leveren en de nodige checks and balances op hun analyse te geven.

Alle drie de onderdelen van de voorgestelde methodologie zijn even belangrijk.

• Als de onderzoeker niet in het team wordt opgenomen, zou het voor hen moeilijk zijn om voldoende kennis te hebben van wat de datawetenschappers doen.
• Het niet iteratief opnieuw testen en herschrijven van hun analyse van mogelijke sociale impact zal niet passen in het ritme van de technologische ontwikkeling  – het belangrijkste voorgestelde voordeel van deze methodologie.
• Eindelijk, de koppeling is bedoeld om te voorkomen dat de ingebedde onderzoeker het risico loopt zijn professionele afstandelijkheid en objectiviteit te verliezen, dat is juist een risico omdat ze zo dicht ingebed zijn in de technologieteams.
• Deze hele aanpak is een experiment op zich en we zijn er helemaal niet zeker van dat het zal werken. Echter, dat is precies wat het voor ons spannend maakt. We hopen dat het ons zal helpen om ons beter bewust te worden van de vooroordelen die worden geïntroduceerd door de algoritmen die we ontwikkelen en om eventuele negatieve onbedoelde gevolgen van de tools die het team produceert te minimaliseren.

Dit is belangrijk omdat Wellcome, als een belangrijke financier van wetenschappelijk onderzoek, heeft een opmerkelijke impact op de academische en gezondheidsindustrie. En de analyse van Wellcome Data Labs wordt meegenomen in het besluitvormingsproces van Wellcome. Alle onbedoelde vooroordelen in de algoritmen die mijn team produceert die de beslissingen van Wellcom kunnen beïnvloeden, zou een rimpeleffect kunnen hebben op de beslissingen van meer financiers, wat op zijn beurt zou kunnen leiden tot secundaire effecten op andere industrieën en de bredere samenleving. We hebben de verantwoordelijkheid om het goed te doen.