Op Reddit, met 430 miljoen maandelijkse gebruikers, een betrouwbaar nieuwsartikel over Californië dat zijn coronaviruscurve afvlakt, stond 77e in de aanbevolen berichten van de dag. In de tussentijd, "Socially Distant Drinking Games" was een van de belangrijkste onderwerpen.

"Tijdens de pandemie als we weinig tijd hebben, er is veel tegenstrijdige en concurrerende informatie, en wanneer we suggesties krijgen van machines die zeggen:"Hier zijn de drie belangrijkste dingen om te lezen, " dat is waarschijnlijk wat we gaan lezen, " zei J. Nathan Matias, assistent-professor communicatie aan het College of Agriculture and Life Sciences. "En dus aandacht besteden aan wat deze algoritmen promoten, en de kwaliteit van die informatie, is ongelooflijk belangrijk."

Sinds 2016, Matias heeft de algoritmen op Reddit gevolgd, een enorm netwerk van forums waar mensen inhoud en nieuws delen, en die beweert meer gebruikers te hebben dan Twitter. Toen de pandemie van het coronavirus uitbrak, Matias begon de tool, de COVID-19 Algo-Tracker genaamd, te gebruiken om de virusgerelateerde berichten en threads van Reddit te volgen, zowel om mensen te informeren over de mechanismen achter de informatie die ze ontvangen als om een ​​grote, publiek beschikbare dataset voor toekomstig onderzoek.

"De algoritme-tracker was onze poging om te nemen wat we al hebben en een openbare informatiebron te creëren over welke soorten pandemische informatie is gepromoot door deze krachtige en invloedrijke algoritmen die honderden miljoenen mensen bereiken, ' zei Matias.

Ontwikkeld door zijn Citizens and Technology Lab, de Algo-Tracker maakt elke twee minuten snapshots van twee van de belangrijkste algoritmen van Reddit, inclusief de standaard populariteitsranglijst. Het Algo-Tracker-dashboard, dat elke zes uur wordt bijgewerkt, beoordeelt berichten die in de top 100 van aanbevelingen voor beide algoritmen staan. Berichten worden als coronavirusgerelateerd beschouwd als ze een van de 35 woorden of zinsdelen bevatten - een periodiek bijgewerkte lijst die momenteel "zelfisolatie, " "ontsmettingsmiddel, " "Fauci, " "flat de curve af, "chloroquine" en "kudde-immuniteit."

Voorbeelden van recente berichten die door het algoritme worden gepromoot, zijn "Liberty University dient een aanklacht in tegen journalisten die verslag deden van de openheid van de campus tijdens de uitbraak" en "Een special effects-artiest heeft voor zichzelf een masker gemaakt voor het coronavirus en ik kan er niet overheen komen."

Vaak, Matias zei, het algoritme heeft nauwkeurige wetenschappelijke inhoud gepromoot, en sommige Reddit-gebruikers hebben zich georganiseerd om te proberen betrouwbare informatie te verstrekken. Een nieuwe coronavirusgemeenschap, speciaal gemaakt door gebruikers om informatie over de pandemie te verzamelen, is erin geslaagd zijn berichten te laten promoten door de algoritmen van Reddit.

Maar menselijke moderators worden ook overweldigd en overbelast door de hoeveelheid inhoud, zowel betrouwbaar als twijfelachtig.

"Het risico is dat als mensen gesprekken voeren, terwijl ze proberen om te gaan met dit ongelooflijke moment van stress en ontwrichting, de gemeenschappen voelen zich misschien uitgerekt tot gematigd en ondersteunen betrouwbare en nauwkeurige gesprekken over volksgezondheidsrisico's en wat mensen eraan kunnen doen, "Zei Matias. "Ik denk dat veel gemeenschappen zichzelf overweldigd voelen door een onderwerp waarvan ze niet hadden verwacht dat ze het modereren en bevatten."

De algoritmen van verschillende bedrijven werken anders - en sommige grote sociale-mediabedrijven hebben gezegd dat ze hun algoritmen hebben gewijzigd om prioriteit te geven aan informatie van de Centers for Disease Control and Prevention en andere betrouwbare bronnen. Maar in het algemeen heeft het begrijpen van hoe algoritmen werken en ons beïnvloeden belangrijke implicaties voor de volksgezondheid, zei Mattias.

"Je hoort online een gerucht - het wordt naar je gepromoot door een algoritme voor sociale media - en dan ga je naar Google om uit te zoeken of het waar is. En het eerste dat je op Google ziet, is gekozen door een algoritme, " zei hij. "Onze sociale-medianetwerken geven vorm aan waar mensen zich bewust van zijn tijdens de pandemie, en vormen de kern van zoveel van wat we weten en geloven en hoe we ons gedragen."