Het gebruik van kunstmatige intelligentie (AI), technologieën die kunnen interageren met de omgeving en menselijke intelligentie kunnen simuleren, heeft het potentieel om de manier waarop we werken aanzienlijk te veranderen. Het succesvol integreren van AI in organisaties hangt af van het vertrouwen van werknemers in de technologie. Een nieuwe review onderzocht twee decennia van onderzoek naar hoe mensen vertrouwen in AI ontwikkelen. De auteurs concludeerden dat de manier waarop AI wordt weergegeven, of "belichaamd, " en de mogelijkheden van AI dragen bij aan het ontwikkelen van vertrouwen. Ze hebben ook een raamwerk voorgesteld dat de elementen aanpakt die het cognitieve en emotionele vertrouwen van gebruikers in AI vormen, die organisaties die het gebruiken kunnen helpen.

de recensie, door onderzoekers van Carnegie Mellon University en Bar Ilan University, verschijnt in Academy of Management Annals .

"Het vertrouwen dat gebruikers ontwikkelen in AI zal centraal staan ​​bij het bepalen van zijn rol in organisaties, " legt Anita Williams Woolley uit, Universitair hoofddocent Organizational Behaviour and Theory aan de Tepper School of Business van Carnegie Mellon University, die co-auteur was van de studie. "We hebben de dynamische aard van vertrouwen aangepakt door te onderzoeken hoe vertrouwen zich ontwikkelt voor mensen die omgaan met verschillende representaties van AI (bijv. robotten, virtuele agenten, of ingebed) evenals de kenmerken van AI die de ontwikkeling van vertrouwen vergemakkelijken."

specifiek, de onderzoekers observeerden de rol van tastbaarheid (het vermogen om waargenomen of aangeraakt te worden), transparantie (het niveau waarop de werkingsregels en logica van de technologie duidelijk zijn voor gebruikers), en betrouwbaarheid (of de technologie in de loop van de tijd hetzelfde verwachte gedrag vertoont). Ze hielden ook rekening met taakkenmerken (hoe wordt omgegaan met technische versus interpersoonlijke oordelen) en directheidsgedrag (sociaal georiënteerde gebaren bedoeld om de interpersoonlijke nabijheid te vergroten, zoals actief luisteren en reactievermogen). Ze keken ook naar antropomorfisme (de perceptie dat technologie menselijke eigenschappen kan hebben).

De auteurs zochten in Google Scholar naar artikelen over menselijk vertrouwen in AI, gepubliceerd tussen 1999 en 2019, het identificeren van ongeveer 200 peer-reviewed artikelen en congresverslagen. Velden die vertegenwoordigd waren, waren organisatorisch gedrag, mens-computer interacties, robot-mens interacties, informatie Systemen, informatie Technologie, en techniek. Ze gebruikten ook drie databases om nog eens 50 artikelen te identificeren. Uiteindelijk, ze beoordeelden ongeveer 150 artikelen die empirisch onderzoek naar menselijk vertrouwen in AI presenteerden.

De auteurs ontdekten dat de representatie van AI een belangrijke rol speelde in de aard van het cognitieve vertrouwen dat mensen ontwikkelen. Voor robot-AI, het traject voor het ontwikkelen van vertrouwen leek op dat van het creëren van vertrouwen in menselijke relaties, laag beginnen en toenemen na meer ervaring. Maar voor virtuele en embedded AI, het tegenovergestelde deed zich voor:het hoge aanvankelijke vertrouwen nam af na ervaring.

De auteurs ontdekten ook dat het niveau van machine-intelligentie dat AI kenmerkt, de ontwikkeling van cognitief vertrouwen kan matigen, met een hoog intelligentieniveau dat leidt tot meer vertrouwen na gebruik en ervaring. Voor robot-AI, een hoog niveau van machine-intelligentie leidde over het algemeen tot een snellere ontwikkeling van een hoog niveau van vertrouwen. Voor virtuele en embedded AI, hoge machine-intelligentie bood de mogelijkheid om het aanvankelijk hoge vertrouwensniveau te behouden. Transparantie was ook een belangrijke factor voor het creëren van cognitief vertrouwen in virtuele en embedded AI, hoewel de relatie tussen betrouwbaarheid en de ontwikkeling van vertrouwen in AI complex was.

Antropomorfisme was van uitzonderlijk belang voor de ontwikkeling van emotioneel vertrouwen, maar het effect ervan verschilde afhankelijk van de vorm van AI. Voor virtuele AI, antropomorfisme had een positief effect. Voor robot-AI, effecten waren gemengd:mensen hielden meer van antropomorfe robots dan van mechanisch ogende robots, maar deze mensachtige robots kunnen ook ongemak en een gevoel van griezeligheid oproepen.

Factoren die emotioneel vertrouwen beïnvloedden, verschilden van factoren die cognitief vertrouwen beïnvloedden. en sommige factoren kunnen voor elk verschillende gevolgen hebben gehad, concludeerden de auteurs.

Als een gids voor het integreren van AI in het werk van organisaties, de auteurs stelden een kader voor. Ze keken naar de vorm waarin AI werd gebruikt, het niveau van machine-intelligentie, gedrag zoals reactievermogen, en betrouwbaarheid als factoren die van invloed waren op hoe mensen vertrouwen in AI ontwikkelden, zowel cognitief als emotioneel.

"Vertrouwen kan de mate van afhankelijkheid van technologie voorspellen, terwijl het niveau van overeenstemming tussen iemands vertrouwen en de mogelijkheden van de technologie, bekend als kalibratie, kan beïnvloeden hoe de technologie wordt gebruikt, " zegt Ella Glikson, Universitair docent aan de Graduate School of Business Administration aan de Bar Ilan University, die co-auteur was van de studie.