Aanbevelingstools voor kunstmatige intelligentie (AI) worden veel gebruikt door sectoren zoals e-commerce, media, banken en nutsbedrijven. Het algoritme van de tool gebruikt eerdere online activiteiten van websitebezoekers en andere gegevens, zowel impliciet als expliciet, om te voorspellen wat die bezoeker als volgende zou willen bekijken of kopen, en presenteert die opties vervolgens aan hen. Dit kan zeer voordelig zijn; voor klanten kan de aanbeveler hen bijvoorbeeld tijd besparen door opties voor te stellen die zijn afgestemd op hun smaak en behoeften. Terwijl het voor bedrijven consumenten kan aanmoedigen om meer uit te geven via hun website en de klantloyaliteit te vergroten:in het geval van streaminggigant Netflix wordt geschat dat zijn aanbevelingsmotor jaarlijks $ 1 miljard genereert.

Een groep onderzoekers uit China, Finland en Korea ging op zoek naar de mogelijke negatieve effecten van deze AI-tools. Zoals co-auteur Sihua Chen, van de Chinese Jiangxi University of Finance and Economics, uitlegt dat "elke munt twee kanten heeft, en met de penetratie van AI-aanbevelingen in ons leven, worden de nadelen duidelijker." Het onderzoek werd voor het eerst online gepubliceerd op 10 augustus 2021 in het Journal of Management Science and Engineering , en zal naar verwachting in december 2021 in druk verschijnen.

Na eerdere onderzoeken over dit onderwerp te hebben bekeken, heeft het team een ​​empirisch model gebouwd, dat laat zien hoe de voorkeuren van een klant hun aankoopbeslissingen beïnvloeden en welke rol AI-aanbevelingen daarin spelen. Ze waren vooral geïnteresseerd in het verkennen van het fenomeen 'informatiecocon' op internet:wanneer mensen online geconfronteerd worden met een grote hoeveelheid informatie, zien mensen meestal alleen wat ze willen zien.

De onderzoekers voerden twee experimenten uit met Jingdong en Taobao, de twee grootste online winkelplatforms in China. Volgens auteur Jian Mou, van de Pusan ​​National University in Korea, "vonden ze dat AI-aanbeveling het informatiecocon-effect versterkte. Met andere woorden, mensen zien wat ze willen zien, en vervolgens selecteert het AI-aanbevelingsalgoritme van de website inhoud voor hen op basis van die Dit heeft een negatieve invloed op de kwaliteit van de aankoopbeslissingen van de klant."

Co-auteur Mikko Siponen, van de Finse Universiteit van Jyvaskyla, voegt eraan toe dat "zoals bij veel andere nieuwe technologieën, AI-aanbeveling een bron van onbedoelde gevolgen is. Onze bevindingen hebben belangrijke implicaties voor consumenten, met name in de e-commerce-industrie - als ze willen om onafhankelijke aankoopbeslissingen te nemen, moeten ze de overweldigende invloed van AI-aanbevelingstools vermijden."