Wetenschap
Jongeren vinden troost in door AI gegenereerde reacties
Jongeren gebruiken internet vaak om steun te zoeken bij hun vrienden, maar krijgen niet altijd nuttige reacties. Recente ontwikkelingen op het gebied van AI-technologie kunnen hierbij helpen.
Jongeren vinden steun van door AI gegenereerde reacties over onderwerpen variërend van relaties tot fysieke gezondheid. Als het gaat om gevoelige onderwerpen, zoals zelfmoordgedachten, geven ze de voorkeur aan menselijke reacties, blijkt uit een onderzoek van de Universiteit van Michigan en Drexel University dat onlangs werd gepresenteerd op de conferentie over menselijke factoren in computersystemen in Hawaï.
Het werk is gepubliceerd in het tijdschrift Proceedings of the CHI Conference on Human Factors in Computing Systems .
Decennia lang zijn sociale media steeds meer de belangrijkste methode voor jongeren geworden om steun uit te wisselen. Onderzoekers probeerden te begrijpen wanneer en hoe AI dergelijke uitwisselingen kan faciliteren en ondersteunen.
Onderzoekers van U-M en Drexel University analyseerden de antwoorden op de enquête van 622 mensen van 18 tot 24 jaar met ervaringen die online ondersteuning zochten en gaven. In het onderzoek evalueerden de deelnemers geblindeerde, door mensen en AI gegenereerde reacties op hulpzoekende berichten (wat betekent dat ze niet wisten wie de reacties schreef). De menselijke reacties weerspiegelden verschillende soorten menselijke steun die jongeren kunnen tegenkomen, waaronder leeftijdsgenoten, volwassen mentoren en therapeuten.
Uit de bevindingen bleek dat deelnemers positief reageerden op de door AI gegenereerde reacties over relaties, zelfexpressie en fysieke gezondheid, waarbij ze opmerkten dat ze zorgzaam leken en bruikbare suggesties boden.
Ze gaven echter sterk de voorkeur aan de door mensen gegenereerde reactie op hulpzoekende berichten over een gevoelig onderwerp als zelfmoordgedachten.
“Dit soort onderzoek is belangrijk om te begrijpen hoe AI jongeren op een veilige en effectieve manier kan helpen”, zegt Jordyn Young, promovendus aan de U-M School of Information en hoofdauteur van het onderzoek. "Het gaat niet alleen om wat het model zegt, maar ook hoe. Eerlijk zijn over de beperkingen van de mogelijkheden van AI om hulp te bieden is goed, maar we moeten het zorgvuldig formuleren, vooral als reactie op gevoelige onthullingen."
Omdat jonge mensen dagelijks toegang hebben tot internet, zou het volgens de onderzoekers op de lange termijn nuttig kunnen zijn om hun gedachten op verschillende manieren te delen, vooral met door AI gegenereerde reacties.
"Ons onderzoek suggereert dat door AI aangedreven tools jongeren kunnen helpen elkaar in moeilijke tijden te ondersteunen door hen te helpen erachter te komen wat ze moeten zeggen", aldus Young.
Tot de auteurs van het onderzoek bij Drexel behoorden Laala Jawara, Diep Nguyen, Brian Daly, Jina Huh-Yoo en Afsaneh Razi.