Aangezien extremistische groeperingen en marginale bewegingen zoals QAnon mainstream bekendheid hebben gekregen, heeft hun vermogen om snel verkeerde informatie en samenzweringen te verspreiden sociale-mediaplatforms onder verhoogde publieke controle geplaatst. Facebook, Twitter en andere technologiebedrijven zijn door zowel het Congres als de media berispt omdat ze de online radicalisering onder hun gebruikers niet serieus hebben aangepakt. Naarmate de Verenigde Staten steeds meer politiek gepolariseerd zijn, is de vraag of de algoritmen van deze platforms - onbedoeld of door het ontwerp - gebruikers helpen extreme en misleidende inhoud te ontdekken, urgenter geworden.

Maar zoals Homa Hosseinmardi, Ph.D., opmerkt, heeft één groot platform verrassend genoeg minder aandacht gekregen:YouTube. Hosseinmardi, een senior onderzoeker en hoofdonderzoeker van het PennMap-project met het Computational Social Science (CSS) Lab van de University of Pennsylvania - onderdeel van de School for Engineering and Applied Sciences, Annenberg School for Communication en de Wharton School - merkt op dat hoewel het vaak gezien als een entertainmentkanaal in plaats van een nieuwsbron, is YouTube misschien wel het grootste platform voor mediaconsumptie ter wereld.

"YouTube is over het hoofd gezien door onderzoekers, omdat we niet geloofden dat het een plaats voor nieuws was", zei ze. "Maar als je naar de schaal kijkt, heeft het meer dan twee miljard gebruikers. Als je die populatie neemt en vermenigvuldigt met de fractie van de nieuwsinhoud die op YouTube wordt bekeken, realiseer je je dat de hoeveelheid informatieconsumptie op YouTube veel meer is dan op YouTube. Twitter."

Hosseinmardi's onderzoek wordt gedreven door vragen over menselijk gedrag, vooral in online ruimtes. Haar doctoraat onderzoek ging over online intimidatie en pesten, met name op Instagram en Askfm, een semi-anoniem sociaal netwerk. Voordat ze naar Penn kwam, was ze een postdoctoraal onderzoeksassistent aan het Information Sciences Institute van de University of Southern California, waar ze persoonlijkheid, werkprestaties en mentale gezondheid in werkomgevingen bestudeerde met behulp van fysiologische signalen van werknemers, zoals hartslag en ademhaling.

In 2019 trad ze toe tot het CSSLab, geleid door Stevens University Professor Duncan Watts. In haar werk met het Lab gebruikt Hosseinmardi grootschalige data en computationele methoden om inzicht te krijgen in zaken als mediapolarisatie, algoritmische vooringenomenheid en hoe sociale netwerken ons leven beïnvloeden.

Enkele jaren geleden raakte een team van onderzoekers, waaronder Hosseinmardi en Watts, geïnteresseerd in de relatie tussen online radicalisering en YouTube-nieuwsconsumptie. In hoeverre bevorderen de algoritmen van YouTube de betrokkenheid bij sterk bevooroordeelde of radicale inhoud, en in hoeverre wordt dit beïnvloed door het online gedrag van een persoon?

"We hebben allemaal anekdotes gehoord over radicalisering op YouTube:iemand heeft één video bekeken en kwam uit op een complottheorie", zegt Hosseinmardi. "We realiseerden ons dat het algemene publiek dit ziet als een bewijs van een systematisch probleem met het algoritme."

Ze wil deze vraag beantwoorden:als mensen ergens op YouTube beginnen, komen ze na het bekijken van een paar video's achter elkaar op dezelfde bestemming terecht?

Het team testte dit onderzoek door het individuele browsegedrag, op YouTube en op internet, te bestuderen van meer dan 300.000 Amerikanen van januari 2016 tot december 2019. Ze verzamelden ook demografische gegevens van gebruikers, waaronder leeftijd, geslacht, ras, opleiding, beroep, inkomen, en politieke voorkeur, waardoor een representatieve steekproef van de Amerikaanse bevolking wordt gegarandeerd.

In augustus publiceerden ze hun resultaten in Proceedings of the National Academy of Sciences , vinden dat de conventionele wijsheid niet altijd juist is.

De onderzoekers hebben geen bewijs gevonden dat extreemrechtse en 'anti-woke' inhoudsbetrokkenheid systemisch wordt veroorzaakt door YouTube-aanbevelingen. Het weerspiegelt eerder de voorkeuren van gebruikers en het bredere ecosysteem van online-inhoud. Consumenten van extreemrechtse inhoud komen aan via verschillende wegen, zoals zoekmachines, andere sites en eerder bekeken video's.

Toch blijft het een feit dat individuen online blijven radicaliseren. Zoals Hosseinmardi en andere experts het zien, is doorlopend en oplossingsgericht onderzoek van het grootste belang om dit probleem aan te pakken. Begin november werd de gerelateerde 2020-studie van het team, "Evaluating the scale, growth, and origin of rechtse echo Chambers on YouTube", aangehaald tijdens een hoorzitting van de Amerikaanse Senaatscommissie voor Binnenlandse Veiligheid en Regeringszaken waarin de rol van sociale-mediaplatforms werd onderzocht. in de opkomst van binnenlands extremisme.

Hosseinmardi en haar collega's beschouwen hun werk op dit gebied als voortdurend in uitvoering. PennMAP, een interdisciplinair en onpartijdig onderzoeksproject van het CSSLab, bouwt technologie om mediavooroordelen en verkeerde informatiepatronen over het hele politieke spectrum te evalueren en om te volgen hoe informatieconsumptie individuele en collectieve overtuigingen beïnvloedt. Het team creëert een schaalbare data-infrastructuur om tientallen terabytes aan televisie-, radio- en webcontent te analyseren, naast het bestuderen van representatieve panels van ongeveer 500.000 mediaconsumenten gedurende meerdere jaren. Ze werken ook samen met onderzoekers van het Zwitserse Federale Instituut voor Technologie om de effecten van YouTube-beleidswijzigingen en de-platformering op gebruikers op internet te volgen en uit te zoeken of extreme inhoudsconsumptie daardoor wordt verminderd, of dat gebruikers YouTube gewoon vervangen door een ander platform dat vergelijkbare inhoud host.

Hosseinmardi waarschuwt echter dat maatschappelijke problemen niet alleen kunnen worden opgelost door beleidshervormingen. Voor een groot deel weerspiegelen platforms zoals YouTube de offline wereld. Verkeerde informatie maakt deel uit van een grotere cyclus, waarin bevooroordeelde of misleidende inhoud gemarginaliseerde en minderheidsgroepen kan ontmenselijken, waardoor de empathie van anderen in het 'echte' leven wordt aangetast. Terwijl desinformatie blijft stromen, blijven haat en intimidatie zich verspreiden en worden de getroffen groepen steeds stiller.

Uiteindelijk, benadrukt Hosseinmardi, is het onze verantwoordelijkheid om kritisch na te denken over de informatie die we consumeren en als waarheid accepteren.

"Ik kan niet beweren dat er geen fout is voor welk platform dan ook, maar we moeten onze rol als samenleving niet vergeten, en dat mensen met een bepaald uiterlijk, of mensen van een bepaald ras of religie het slachtoffer worden", zegt ze. "De platforms zijn reflecties van grote problemen in de samenleving waar we ons meer druk om moeten maken dan alleen maar met de vinger naar de platforms te wijzen. Zij moeten hun deel doen, maar wij moeten ook ons ​​deel doen."