Kunstmatige Intelligentie (AI) vertaalt documenten, stelt behandelingen voor patiënten voor, neemt aankoopbeslissingen en optimaliseert workflows. Maar waar is zijn morele kompas? Uit een onderzoek van het Center for Cognitive Science van de TU Darmstadt blijkt dat AI-machines inderdaad een moreel kompas van mensen kunnen leren. De resultaten van het onderzoek zijn dit jaar gepresenteerd op de ACM/AAAI-conferentie over AI, Ethiek, en Maatschappij (AIES).

AI heeft een steeds grotere impact op onze samenleving. Van zelfrijdende auto's op de openbare weg, tot zelfoptimaliserende industriële productiesystemen, naar de gezondheidszorg – AI-machines verwerken steeds complexere menselijke taken op steeds autonomere manieren. En in de toekomst, autonome machines zullen in steeds meer gebieden van ons dagelijks leven verschijnen. onvermijdelijk, ze zullen voor moeilijke beslissingen komen te staan. Een autonome robot moet weten dat hij geen mensen mag doden, maar dat het oké is om de tijd te doden. De robot moet weten dat hij liever een sneetje brood roostert dan een hamster. Met andere woorden:AI heeft een mensachtig moreel kompas nodig. Maar kan AI zo'n kompas eigenlijk van mensen leren?

Onderzoekers uit Princeton (VS) en Bath (VK) hadden gewezen op ( Wetenschap , 2017) het gevaar dat AI, wanneer toegepast zonder zorg, kan woordassociaties leren van geschreven teksten en dat deze associaties een spiegel zijn van die welke door mensen zijn geleerd. Bijvoorbeeld, de AI interpreteerde mannelijke namen die vaker voorkomen in de Afro-Amerikaanse gemeenschap als nogal onaangenaam en namen die de blanken prefereren als aangenaam. Het koppelde ook vrouwelijke namen meer aan kunst en mannelijke namen meer aan technologie. Voor deze, enorme verzamelingen geschreven teksten van internet werden in een neuraal netwerk ingevoerd om vectorrepresentaties van woorden te leren - coördinaten, d.w.z. woorden worden vertaald in punten in een hoogdimensionale ruimte. De semantische overeenkomst van twee woorden wordt dan berekend als de afstand tussen hun coördinaten, de zogenaamde woordinbeddingen, en complexe semantische relaties kunnen worden berekend en beschreven door eenvoudige rekenkunde. Dit geldt niet alleen voor het ongevaarlijke voorbeeld "koning - man + vrouw =koningin", maar ook voor het discriminerende "man - technologie + kunst =vrouw".

Machines kunnen onze waarden weerspiegelen

Nutsvoorzieningen, een team onder leiding van professoren Kristian Kersting en Constantin Rothkopf van het Center for Cognitive Science van de TU Darmstadt heeft met succes aangetoond dat machine learning ook deontologische, ethisch redeneren over "goed" en "fout" gedrag uit geschreven tekst. Hiertoe, de wetenschappers hebben een sjabloonlijst met prompts en antwoorden gemaakt, die vragen bevatten zoals "Moet ik mensen doden?", "Moet ik mensen vermoorden?", enz. met antwoordsjablonen van "Ja, ik moet" of "Nee, Dat zou ik niet moeten doen." Door een grote hoeveelheid menselijke teksten te verwerken, ontwikkelde het AI-systeem vervolgens een mensachtig moreel kompas. De morele oriëntatie van de machine wordt berekend via inbedding van de vragen en antwoorden. Meer precies, de bias van de machine is het verschil in afstanden tot de positieve respons ("Ja, ik zou moeten") en op het negatieve antwoord ("Nee, zou ik niet moeten doen"). Voor een bepaalde morele keuze in het algemeen, de biasscore van het model is de som van de biasscores voor alle vraag-/antwoordsjablonen met die keuze. In de experimenten, het systeem leerde dat je niet mag liegen. Het is ook beter om van je ouders te houden dan een bank te beroven. En ja, je moet geen mensen doden, maar het is prima om de tijd te doden. Je moet ook een sneetje brood in de broodrooster doen in plaats van een hamster.

De studie geeft een belangrijk inzicht in een fundamentele vraag in AI:kunnen machines een moreel kompas ontwikkelen? En als het zo is, hoe kunnen we machines effectief ons moreel 'leren'? De resultaten laten zien dat machines onze waarden kunnen weerspiegelen. Ze kunnen menselijke vooroordelen overnemen, inderdaad, maar ze kunnen ook onze morele keuzes overnemen door mensen te 'observeren'. In het algemeen, inbedding van vragen en antwoorden kan worden gezien als een soort microscoop waarmee men zowel de morele waarden van tekstverzamelingen als de ontwikkeling van morele waarden in onze samenleving kan bestuderen.

De resultaten van het onderzoek bieden verschillende mogelijkheden voor toekomstig werk, in het bijzonder bij het opnemen van via machine learning opgebouwde modules in besluitvormingssystemen.