Onderzoekers van de Pennsylvania State University, MIT en Georgia Institute of Technology hebben onlangs een conceptueel raamwerk ontwikkeld om het fenomeen mens-robot-vertrouwen te modelleren. Hun kader, geschetst in een paper gepubliceerd op ACM Digital Library, maakt gebruik van computationele representaties geïnspireerd door de speltheorie om vertrouwen te vertegenwoordigen, een begrip gedefinieerd met behulp van theorie in de sociale psychologie.

Vertrouwen speelt een sleutelrol in interpersoonlijke interacties, zowel in professionele als persoonlijke settings. Wanneer een persoon een ander vertrouwt, ze kunnen besluiten iets te doen waardoor ze een aanzienlijk risico lopen, met de overtuiging dat de acties van de ander dit risico enigszins zullen verkleinen.

Als het gaat om het definiëren van vertrouwen, veel onderzoekers zijn het erover eens dat het een situatie met zich meebrengt waarin een individu kwetsbaar is en deze kwetsbaarheid ligt bij de acties, motivaties, of gedrag van een ander. Alan R. Wagner, Paul Robinette, en Ayanna Howard, de drie onderzoekers achter de recente studie, wilde een raamwerk creëren dat kan worden gebruikt om interpersoonlijk vertrouwen tussen mensen en robots te modelleren.

"We zijn geïnteresseerd in het ontwikkelen van robots die weten wanneer ze mensen moeten vertrouwen, begrijpen welke situaties vertrouwen vereisen en de juiste hoeveelheid vertrouwen van mensen aantrekken, " legde Robinette uit. "Aanvankelijk, we werden gemotiveerd door onderzoek dat suggereert dat mensen soms rare dingen doen als een robot hen dat vraagt, zoals het weggooien van dure studieboeken en het gieten van sinaasappelsap op een potplant. Er zijn ook een groeiend aantal situaties waarin mensen zichzelf in gevaar brengen in de handen van een robot (bijv. autonome auto's, drones die overvliegen, robot bewakers, enzovoort.). We wilden daarom een ​​raamwerk ontwikkelen waarmee robots vertrouwensrelaties met mensen kunnen begrijpen."

Het conceptuele raamwerk ontwikkeld door Wagner en zijn collega's genereerde verschillende toetsbare hypothesen met betrekking tot mens-robotvertrouwen. In hun studie hebben de onderzoekers onderzochten deze gegenereerde hypothesen en voerden een reeks experimenten uit, het verzamelen van zowel bewijs dat hun kader ondersteunde als ermee in strijd was.

"Het vertrouwenskader begon in het onderzoek van Alan, die vertrouwen zo definieerde dat computers, en dus robots, kan gebruiken, ' zei Robinet.

In zijn eerdere werk Wagner definieerde situationeel vertrouwen als 'een geloof, gehouden door de vertrouwenspersoon, dat de trustee zal handelen op een manier die het risico van de trustor beperkt in een situatie waarin de trustor zijn resultaten in gevaar heeft gebracht'. Zijn definitie richt zich vooral op het risico dat een bepaalde situatie met zich meebrengt, ook de overtuiging benadrukkend dat een persoon/robot zal handelen om het risico voor de andere persoon/robot te verminderen.

"Ons raamwerk biedt criteria voor wat een vertrouwenssituatie inhoudt en geeft verschillende categorieën situaties die geen vertrouwen vereisen, bijvoorbeeld wanneer er geen risico is voor de trustor of wanneer het risico om de een of andere reden niet kan worden beperkt, " zei Robinette. "Met dit raamwerk, een robot kan zelf beoordelen of de situatie waarin hij zich bevindt vertrouwen vereist of niet, en dan adequaat handelen."

De onderzoekers testten de hypothesen die door hun raamwerk waren gegenereerd in een reeks tests en experimenten. Bijvoorbeeld, in één experiment, ze presenteerden een groep menselijke deelnemers scenario's waarin ze iemand anders wel of niet vertrouwden, vroeg hen vervolgens welke van deze twee opties ze zouden kiezen. De deelnemers waren het eens met de voorwaarden voor vertrouwen gegenereerd door hun raamwerk, in zeer hoge mate.

De onderzoekers voerden verschillende andere experimenten uit die de nauwkeurigheid van de hypothesen evalueerden die door hun conceptueel kader werden gegenereerd. Sommige van deze verzamelden bewijs dat deze hypothesen ondersteunt, terwijl een paar tegenstrijdige resultaten opleverden.

"Ik denk dat de meest betekenisvolle bevinding van dit werk is dat we aanzienlijk ondersteunend bewijs voor dit raamwerk hebben gevonden in onderzoeken met veel deelnemers met verschillende achtergronden, Robinette zei. "Dit betekent dat het vertrouwenskader in de meeste situaties kan worden gebruikt, waardoor robots beter begrijpen waarom mensen om hen heen handelen zoals ze doen. De robot kan dit raamwerk misschien zelfs gebruiken om mensen naar minder risicovolle situaties te sturen, bijvoorbeeld door te erkennen dat een persoon te veel vertrouwen stelt in een robot, misschien om iets te doen waarvoor het niet is geprogrammeerd, en de persoon op de hoogte stellen van hun fout."

Het door Wagner en zijn collega's bedachte raamwerk kan worden toegepast op verschillende situaties waarin vertrouwen tussen mens en robot is betrokken. Echter, in sommige gevallen waren de hypothesen van het raamwerk niet nauwkeurig genoeg, bijvoorbeeld toen mensen werd gevraagd een robot te vertrouwen in een schijnbaar noodsituatie.

Deze bevindingen zijn niettemin waardevol, omdat ze licht werpen op specifieke gebieden waarop mensen het moeilijker vinden om robots te vertrouwen. Toekomstig onderzoek zou nader kunnen onderzoeken waarom deelnemers deze keuzes hebben gemaakt en wat hen ervan weerhield om robots te vertrouwen, terwijl ze ook manieren onderzoeken waarop robotica-ingenieurs de veiligheid rond robots kunnen verbeteren.

"Alan en Ayanna hebben gewerkt om dit onderzoek uit te breiden naar het domein van de gezondheidszorgrobotica, " zei Robinette. "Ik geloof dat Alan ook een project heeft om noodevacuatierobots en hun relatie tot mensen in meer detail te onderzoeken. Ik heb onlangs gewerkt aan mens-machine-teaming en ben van plan dit vertrouwenskader toe te passen op de relatie tussen mensen en de robots waarmee ze werken."

© 2018 Wetenschap X Netwerk