Recente technologische doorbraken in kunstmatige intelligentie hebben het mogelijk gemaakt dat machines, of bots, om als mens door te gaan. Een team van onderzoekers onder leiding van Talal Rahwan, universitair hoofddocent computerwetenschappen aan de NYU Abu Dhabi, een experiment uitgevoerd om te bestuderen hoe mensen omgaan met bots waarvan ze denken dat ze menselijk zijn, en hoe dergelijke interacties worden beïnvloed zodra bots hun identiteit onthullen. De onderzoekers ontdekten dat bots efficiënter zijn dan mensen bij bepaalde interacties tussen mens en machine, maar alleen als ze hun niet-menselijke aard mogen verbergen.

In hun paper getiteld "Behavioral Evidence for a Transparency-Efficiency Tradeoff in Human-Machine Cooperation", gepubliceerd in Natuur Machine Intelligentie , de onderzoekers presenteerden hun experiment waarin deelnemers werd gevraagd om een ​​samenwerkingsspel te spelen met een menselijke medewerker of een bot-medewerker. Dit spel, het Iterated Prisoner's Dilemma genoemd, is ontworpen om situaties vast te leggen waarin elk van de op elkaar inwerkende partijen ofwel egoïstisch kan handelen in een poging de ander uit te buiten, of samenwerken in een poging om een ​​voor beide partijen gunstig resultaat te bereiken.

Cruciaal, de onderzoekers gaven sommige deelnemers onjuiste informatie over de identiteit van hun partner. Sommige deelnemers die interactie hadden met een mens, kregen te horen dat ze interactie hadden met een bot, en vice versa. Door dit experiment, onderzoekers konden vaststellen of mensen bevooroordeeld zijn tegen sociale partners die volgens hen bots zijn, en beoordelen in hoeverre een dergelijk vooroordeel, als het bestaat, beïnvloedt de efficiëntie van bots die transparant zijn over hun niet-menselijke aard.

De resultaten toonden aan dat bots die zich voordeden als mensen efficiënter waren in het overtuigen van de partner om mee te werken aan het spel. Echter, zodra hun ware aard werd onthuld, samenwerkingspercentages daalden en de superioriteit van de bots werd teniet gedaan.

"Hoewel er brede consensus is dat machines transparant moeten zijn over hoe ze beslissingen nemen, het is minder duidelijk of ze transparant moeten zijn over wie ze zijn, ' zei Rawan.

"Overwegen, bijvoorbeeld, Google-duplex, een geautomatiseerde stemassistent die menselijke spraak kan genereren om namens de gebruiker te bellen en afspraken te maken. De spraak van Google Duplex is zo realistisch dat de persoon aan de andere kant van de telefoon misschien niet eens beseft dat ze met een bot praten. Is het ethisch om zo'n systeem te ontwikkelen? Moeten we bots verbieden om als mensen door te gaan, en hen dwingen transparant te zijn over wie ze zijn? Als het antwoord 'Ja' is, dan benadrukken onze bevindingen de noodzaak om normen vast te stellen voor de efficiëntiekosten die we bereid zijn te betalen in ruil voor dergelijke transparantie."