AI is alomtegenwoordig in technologie. Toch ontbrak het aan een cruciaal kenmerk:het vermogen om menselijke emoties aan te gaan.

Dit is echter aan het veranderen. Algoritmen die menselijke emoties kunnen voelen en ermee kunnen interageren, worden snel mainstream omdat ze ingebed worden in bestaande systemen. De nieuwe technologie, bekend als 'emotionele AI', bereikt deze prestatie via een proces dat 'niet-bewuste gegevensverzameling' (NCDC) wordt genoemd, waarbij het algoritme gegevens verzamelt over het hart en de ademhalingsfrequentie van de gebruiker, stemtonen, micro-gelaatsuitdrukkingen, gebaren, enz. om hun stemmingen te analyseren en de reactie dienovereenkomstig te personaliseren.

Het ongereguleerde karakter van deze technologie heeft echter geleid tot veel ethische en privacykwesties. In het bijzonder is het belangrijk om de houding te kennen van de huidige grootste demografie ten opzichte van NCDC, namelijk Generatie Z (Gen Z). Generatie Z, die 36% van het wereldwijde personeelsbestand uitmaakt, is waarschijnlijk het meest blootgesteld aan emotionele AI. Bovendien worden AI-algoritmen zelden gekalibreerd voor sociaal-culturele verschillen, wat de implementatie ervan des te zorgwekkender maakt.

In een nieuwe studie die op 9 juni 2022 online beschikbaar is gesteld en gepubliceerd in Volume 70 van Technology in Society op 22 juni 2022 streefde een team van onderzoekers, waaronder prof. Peter Mantello en prof. Nader Ghotbi van Ritsumeikan Asia Pacific University, Japan, naar de factoren die de reactie van Gen Z op emotionele AI bepalen. "NCDC vertegenwoordigt een nieuwe ontwikkeling in mens-machinerelaties en is veel ingrijpender in vergelijking met eerdere AI-technologieën. In het licht hiervan is er een dringende behoefte om hun impact en acceptatie onder de Gen Z-leden beter te begrijpen", zegt prof. Mantello.

Het team ondervroeg 1.015 Gen Z-respondenten in 48 landen en acht regio's wereldwijd. De deelnemers werd gevraagd naar hun houding ten opzichte van NCDC, die zowel door commerciële als door overheidsactoren werd gebruikt. Vervolgens gebruikten ze een Bayesiaanse analyse op meerdere niveaus om voor variabelen te controleren en het effect van elke variabele tegelijk te observeren.

Het team ontdekte dat in het algemeen meer dan 50% van de respondenten zich zorgen maakte over het gebruik van NCDC. De houding varieerde echter op basis van geslacht, inkomen, opleidingsniveau en religie.

"We ontdekten dat mannelijk zijn en een hoog inkomen beide gecorreleerd waren met een positieve houding ten opzichte van het accepteren van NCDC. Bovendien waren zakelijke majors waarschijnlijker toleranter tegenover NCDC", zegt prof. Ghotbi. Culturele factoren, zoals regio en religie, bleken ook van invloed te zijn, waarbij mensen uit Zuidoost-Azië, moslims en christenen hun bezorgdheid uitten over NCDC.

"Ons onderzoek toont duidelijk aan dat sociaal-culturele factoren een grote invloed hebben op de acceptatie van nieuwe technologie. Dit betekent dat theorieën die gebaseerd zijn op het traditionele technologie-acceptatiemodel van Davis, dat geen rekening houdt met deze factoren, moeten worden aangepast", legt prof. Mantello uit.

De studie pakte dit probleem aan door een "mind-sponge" -modelgebaseerde benadering voor te stellen die rekening houdt met sociaal-culturele factoren bij het beoordelen van de acceptatie van AI-technologie. Bovendien suggereerde het ook een grondig begrip van de potentiële risico's van de technologie om effectief bestuur en ethisch ontwerp mogelijk te maken. "Initiatieven voor publieksbereik zijn nodig om de bevolking bewust te maken van de ethische implicaties van NCDC. Deze initiatieven moeten rekening houden met de demografische en culturele verschillen om succesvol te zijn", zegt Dr. Nguyen.

Over het algemeen benadrukt de studie de mate waarin emotionele AI- en NCDC-technologieën al worden ingezet en de privacytrade-offs die ze met zich meebrengen voor de jongere generatie. Er is dus een dringende behoefte om ervoor te zorgen dat deze technologieën zowel individuen als samenlevingen goed dienen. + Verder verkennen

Lassakoorts doodt 142 mensen in Nigeria sinds januari:officieel