Stel dat 100 mensen in de buurt van een meer wonen. Als minstens 10 van hen dit jaar overbevissen, de hele vispopulatie zal uitsterven. Elk gaat ervan uit dat ten minste 10 anderen zullen overbevissen, en de komende jaren valt er niets meer te vissen.

Aangezien de vis toch weg zal zijn, ze besluiten allemaal dat ze net zo goed kunnen overvissen. Alle vissen gaan dood. Verdienen alle mensen de schuld?

Het hangt ervan af of ze met elkaar hadden kunnen coördineren om de uitkomst en de kosten hiervan te veranderen, volgens nieuw onderzoek door Joseph Halpern, de Joseph C. Ford hoogleraar techniek, en Meir Friedenberg, een doctoraatsstudent in de informatica. Voortbouwend op Halperns fundamentele werk over causaliteit, ze ontwikkelden een wiskundig model om verwijtbaarheid te berekenen op een schaal van nul tot één.

Het onderzoek – liggend op het snijvlak van informatica, filosofie en cognitieve psychologie - zou mogelijk kunnen worden gebruikt om het gedrag van kunstmatig intelligente agenten te sturen, zoals voertuigen zonder bestuurder, om hen te helpen zich op een "morele" manier te gedragen.

"Een van de dingen die we echt wilden doen, is een kader geven dat ons in staat stelt om dit soort juridische en filosofische noties toe te passen op autonome systemen, " zei Friedenberg, eerste auteur van "Blameworthiness in Multi-Agent Settings, " die in februari werd gepresenteerd op de AAAI-conferentie over kunstmatige intelligentie van 2019. "We denken dat dat belangrijk zal zijn als we autonome systemen effectief in de samenleving gaan integreren."

In eerder werk, Halpern en collega's definieerden de verwijtbaarheid van individuen ruwweg als de mate waarin ze denken dat hun acties de uitkomst van een gebeurtenis kunnen veranderen. Bijvoorbeeld, als u tegen een kandidaat stemde waarvan u dacht dat hij met één stem zou verliezen, jouw verwijtbaarheid zou één zijn, het maximum; maar als je dacht dat de kandidaat met duizenden stemmen zou verliezen, je verwijtbaarheid zou veel lager zijn.

In de recente krant Friedenberg en Halpern gaven eerst een definitie van de verwijtbaarheid van een groep - in wezen, een maat voor de mate waarin de groep had kunnen coördineren om tot een ander resultaat te komen. Vervolgens creëerden ze een model om de verwijtbaarheid van de groep over de individuele leden te verdelen.

"Als je kijkt naar de groep vissers, als groep zijn ze verantwoordelijk – uiteraard als ze niet allemaal zouden vissen, zou er volgend jaar genoeg zijn, "Zei Halpern. "De mate waarin de vissers verantwoordelijk zijn, is de mate waarin ze zouden kunnen coördineren om een ​​ander resultaat te bereiken."

De onderzoekers hebben dit vastgelegd door het vermogen van de groepsleden te meten om samen te werken om de uitkomst te veranderen, rekening houdend met de kosten hiervan. Kosten zijn een kritische factor bij verwijtbaarheid:iemand die een dure vaas omstoot terwijl hij voor een leeuw rent, is minder verwijtbaar dan iemand die gewoon niet oplet. Als uw stem een ​​verkiezing beïnvloedt, je bent minder verwijtbaar als iemand je dreigt te vermoorden, tenzij je op een bepaalde manier stemt.

Bij toekomstig werk, Halpern zei dat hij hoopt het model te testen door mensen te vragen:via crowdsourcing, verwijtbaarheid toe te schrijven aan verschillende scenario's, en hun mening te vergelijken met de numerieke resultaten.

Als het om zelfrijdende auto's gaat, ontwikkelaars of beleidsmakers zouden hun eigen definities van kosten kunnen overwegen bij het maken van hun algoritmen, zei Halpern. Bijvoorbeeld, als een regering besluit dat geen enkele mate van risico aanvaardbaar is, een auto zou zijn ontworpen om nooit een andere auto te passeren, omdat dat de kans op een ongeval kan vergroten.

Hoewel het moeilijk kan zijn om te bepalen hoe algoritmen voor machine learning beslissingen nemen, het is wellicht mogelijk om transparantere algoritmen te ontwikkelen die een gemakkelijkere beoordeling van de verwijtbaarheid mogelijk maken.

"Het voordeel van ons raamwerk is dat het je een formele manier geeft om over deze dingen na te denken en ze te modelleren, en het dwingt je om expliciet te zijn over je aannames en hoe je de kosten definieert, " zei Halpern. "Onze definitie probeert kwantitatief te zijn, omdat je het leuk vindt of op een hoop gooit, je moet afwegingen maken, en deze definitie dwingt je daarover na te denken. Het is een hulpmiddel om mensen te helpen nadenken over de afwegingen zonder hen te vertellen wat de afwegingen zouden moeten zijn."