Niet iedereen is bang voor onze machine-opperheren. In feite, volgens onderzoekers van Penn State, als het gaat om privé-informatie en toegang tot financiële gegevens, mensen hebben de neiging om machines meer te vertrouwen dan mensen, wat kan leiden tot zowel positief als negatief online gedrag.

In een onderzoek, mensen die machines vertrouwden, gaven significant vaker hun creditcardnummer door aan een geautomatiseerd reisbureau dan aan een menselijk reisbureau. Een vooroordeel dat machines betrouwbaarder en veiliger zijn dan mensen - of de machineheuristiek - kan achter het effect zitten, zei S. Shyam Sundar, James P. Jimirro hoogleraar media-effecten, co-directeur van het Media Effects Research Laboratory en filiaal van Penn State's Institute for CyberScience (ICS).

"Deze neiging om de machineagent meer te vertrouwen dan de menselijke agent was veel sterker voor mensen die hoog geloofden in de machineheuristiek, " zei Sundar. "Voor mensen die niet in de machineheuristiek geloofden, het maakte niet uit of de reisagent een machine of een mens was."

Dit suggereert dat de aanwezigheid van een machine-agent op de interface diende als een signaal om de heuristiek of de ingesleten overtuiging dat machines superieur zijn, te triggeren, volgens Sundar, die met Jinyoung Kim werkte, voormalig doctoraatsstudent massacommunicatie en momenteel onderzoeker bij Amazon.

Dat vertrouwen in machines kan worden getriggerd omdat mensen geloven dat machines niet roddelen, of onwettige ontwerpen hebben op hun privégegevens. Echter, Sundar zei dat hoewel machines misschien geen bijbedoelingen hebben voor hun informatie, de mensen die deze computers ontwikkelen en gebruiken, zouden deze goedgelovigheid kunnen misbruiken om persoonlijke informatie van nietsvermoedende gebruikers te extraheren, bijvoorbeeld, door middel van phishing, dat zijn pogingen van criminelen om gebruikersnamen te verkrijgen, wachtwoorden, creditcardnummers en andere privégegevens door zich voor te doen als betrouwbare bronnen.

"Deze studie moet dienen als een waarschuwing voor mensen om zich bewust te zijn van hoe ze online met elkaar omgaan, "zei Sundar. "Mensen moeten zich ervan bewust zijn dat ze een blind geloof in machinale superioriteit kunnen hebben. Ze moeten zichzelf in de gaten houden wanneer ze online communiceren met robotinterfaces."

Anderzijds, omdat sommige mensen machines meer vertrouwen, ontwikkelaars zouden de bevindingen kunnen gebruiken om gebruiksvriendelijkere websites en applicaties te maken waardoor mensen zich meer op hun gemak voelen bij het online voltooien van transacties, volgens de onderzoekers die vandaag (7 mei) hun bevindingen rapporteren op de ACM CHI Conference on Human Factors in Computing Systems in Glasgow, VK.

"Een manier waarop we deze heuristiek kunnen gebruiken, vooral voor ontwerp, is, als je meer vertrouwen wilt wekken en je bouwt een geautomatiseerd systeem, of een algoritme, ervoor zorgen dat je het identificeert als een machinegebaseerd systeem - en er is geen mens in de lus - zou het vertrouwen daadwerkelijk kunnen vergroten, " zei Sundar. "Dit geldt vooral in gebieden waar betrokkenheid van mensen kan leiden tot onvoorspelbare en ongewenste resultaten."

Sundar voegde eraan toe dat mensen met een hoge mate van vertrouwen in machines alleen subtiele ontwerpindicaties nodig hebben dat ze interactie hebben met een machine.

"Bij dit alles een ding dat ik wil benadrukken is dat de ontwerpers ethisch moeten zijn, "zei Sundar. "Ze moeten niet onethisch proberen om informatie van nietsvermoedende consumenten te krijgen."

De onderzoekers rekruteerden 160 deelnemers van Amazon Mechanical Turk, een online crowdsourcing-website die vaak wordt gebruikt in onderzoeken, voor de studie. De deelnemers werd gevraagd om ofwel een menselijke of een machine-chatagent te gebruiken om online een vliegticket te vinden en te kopen. Nadat de agent de vluchtinformatie had teruggestuurd, het vroeg de deelnemers om hun creditcardgegevens. De deelnemers meldden vervolgens hun intenties om die informatie te verstrekken. De onderzoekers maten het vertrouwen van de deelnemers in machines door hen te vragen te reageren op een reeks van vijf uitspraken over interactie met machines.

Toekomstig onderzoek zal de rol van machineheuristiek onderzoeken bij het bevorderen van het vertrouwen van mensen in kunstmatige intelligentie of AI-systemen, vooral chatbots, slimme luidsprekers en robots.