Sociale media kunnen gebruikers blootstellen aan verkeerde informatie, inclusief nepnieuws - nieuwsberichten met opzettelijk valse informatie. In feite, tijdens de Amerikaanse presidentsverkiezingen van 2016, nepnieuws trok meer mensen aan dan echt nieuws, volgens een analyse van BuzzFeed News.

Er bestaan ​​momenteel tal van deep learning-methoden om nepnieuws te detecteren, maar deze methoden kunnen niet verklaren waarom het als zodanig wordt herkend. Nutsvoorzieningen, een team van onderzoekers uit Penn State en Arizona State probeert te verklaren waarom nepnieuws wordt gedetecteerd als vals.

De recente bevindingen van het team zullen worden gepresenteerd op de Knowledge Discovery and Data Mining (KDD) van de Association for Computing Machinery (ACM), een vlaggenschipconferentie over datamining, gehouden van 4-8 augustus in Anchorage, Alaska.

"Detectie is één ding, maar hoe het aan de gebruiker te presenteren om uit te leggen waarom het nep is, is een grotere uitdaging, " zei Dongwon Lee, universitair hoofddocent aan het Penn State College of Information Sciences and Technology en onderzoeker van het project. "Als we geen goede uitleg geven, het heeft een beperkte impact om de verspreiding van desinformatie in te perken, omdat mensen het niet accepteren."

In hun studie hebben de onderzoekers bouwden een verklaarbaar detectieraamwerk voor nepnieuws, die ze dEFEND noemen (Explainable FakE News Detection). Het raamwerk bestaat uit drie componenten:(1) een nieuwscontent-encoder, om eigenzinnige en sensationele taalstijlen op te sporen die vaak worden aangetroffen in nepnieuws; (2) een encoder voor gebruikerscommentaar, activiteiten zoals sceptische meningen en sensationele reacties te detecteren in commentaren op nieuwsberichten; en (3) een zin-opmerking, mede-aandachtscomponent, die zinnen in nieuwsberichten en opmerkingen van gebruikers detecteert die kunnen verklaren waarom een ​​nieuwsbericht nep is.

Het nieuwe detectie-algoritme dat in deze nieuwe benadering is ontworpen en ontwikkeld, presteerde beter dan zeven andere geavanceerde methoden voor het detecteren van nepnieuws, volgens de onderzoekers.

"Onder de opmerkingen van de gebruikers, we kunnen de meest effectieve verklaring vinden waarom dit [nieuws dat ze lezen] nepnieuws is, " legde Lee uit. "Sommige gebruikers uitten hun ontevredenheid, maar anderen leveren bijzonder bewijs, zoals een link naar een website voor het controleren van feiten of naar een authentiek nieuwsartikel. Deze technieken kunnen tegelijkertijd dergelijk bewijs vinden en het aan de gebruiker presenteren als mogelijke verklaring."

Hij voegde toe, "De democratie [in de Verenigde Staten] zoals we die kennen, is gebaseerd op het uitgangspunt van het vrijelijk delen van iemands ideeën en meningen. Als we niet kunnen vertrouwen op wat er in de media is gezegd, en begin te vermoeden dat het vals is, het zou een heel ecosysteem van democratie kunnen ondermijnen. Als zodanig, dit onderzoek heeft een belangrijke en enorme maatschappelijke impact."

De onderzoekers werken aan een prototype van het systeem, die ze eind 2019 hopen te delen, zodat anderen de tool kunnen gebruiken om nepnieuws te detecteren en het beter te begrijpen.

"Vroegtijdige detectie van nepnieuws is een ander belangrijk probleem, " zei Suhang Wang, assistent-professor in het College van IST en medewerker aan het project. "Als er nepnieuws uitkomt, binnen een paar uur, we willen het detecteren. Zodra nepnieuws zich verspreidt, het kwaad is al geschied. Het is belangrijk om het zo snel mogelijk te detecteren en in te perken."