verzonnen verhalen, verdraaide feiten:nepnieuws verspreidt zich als een lopend vuurtje op internet en wordt vaak zonder nadenken gedeeld, vooral op sociale media. In antwoord, Fraunhofer-onderzoekers hebben een systeem ontwikkeld dat automatisch posts op sociale media analyseert, opzettelijk nepnieuws en desinformatie eruit filteren. Om dit te doen, de tool analyseert zowel inhoud als metadata, classificeren met behulp van machine learning-technieken en voortbouwen op gebruikersinteractie om de resultaten te optimaliseren.

Nepnieuws is bedoeld om een ​​specifieke reactie uit te lokken of om agitatie tegen een persoon of een groep mensen aan te wakkeren. Het doel is om de publieke opinie over gerichte onderwerpen van de dag te beïnvloeden en te manipuleren. Dit nepnieuws kan zich als een lopend vuurtje over internet verspreiden, vooral op sociale media zoals Facebook of Twitter. Wat is meer, het identificeren ervan kan een lastige taak zijn. Dat is waar een classificatietool ontwikkeld door het Fraunhofer Institute for Communication, Informatieverwerking en ergonomie FKIE komt binnen, automatisch social media posts analyseren en grote hoeveelheden data verwerken.

Naast het verwerken van tekst, de tool houdt ook rekening met metadata in zijn analyse en levert zijn bevindingen in visuele vorm. "Onze software is gericht op Twitter en andere websites. In tweets vind je de links die verwijzen naar de webpagina's die het eigenlijke nepnieuws bevatten. Met andere woorden, sociale media fungeren als een trigger, Als je dat wil. Nepnieuwsitems worden vaak gehost op websites die zijn ontworpen om de aanwezigheid op het web van persbureaus na te bootsen en kunnen moeilijk te onderscheiden zijn van de echte sites. Vaak, ze zullen gebaseerd zijn op officiële nieuwsberichten, maar waarin de formulering is gewijzigd, " legt prof. Ulrich Schade van Fraunhofer FKIE uit, wiens onderzoeksgroep de tool heeft ontwikkeld.

Schade en zijn team beginnen het proces door bibliotheken te bouwen die bestaan ​​uit serieuze nieuwsberichten en ook teksten die gebruikers hebben geïdentificeerd als nepnieuws. Deze vormen vervolgens de leersets die worden gebruikt om het systeem te trainen. Om nepnieuws uit te filteren, de onderzoekers gebruiken machine learning-technieken die automatisch zoeken naar specifieke markers in teksten en metadata. Bijvoorbeeld, in een politieke context, het kunnen formuleringen of woordcombinaties zijn die zelden voorkomen in alledaagse taal of in journalistieke berichtgeving, zoals "de huidige kanselier van Duitsland." Taalfouten zijn ook een rode vlag. Dit komt vooral vaak voor wanneer de auteur van het nepnieuws in een andere taal dan hun moedertaal schreef. In dergelijke gevallen, onjuiste interpunctie, spelling, werkwoordsvormen of zinsbouw zijn allemaal waarschuwingen voor een mogelijk nepnieuwsbericht. Andere indicatoren kunnen misplaatste uitdrukkingen of omslachtige formuleringen zijn.

"Als we het systeem voorzien van een reeks markeringen, de tool leert zichzelf de markeringen te selecteren die werken. Een andere doorslaggevende factor is de keuze voor de machine learning-aanpak die de beste resultaten oplevert. Het is een zeer tijdrovend proces, omdat je de verschillende algoritmen moet uitvoeren met verschillende combinaties van markeringen, ' zegt Schade.

Metadata levert essentiële aanwijzingen op

Metadata wordt ook gebruikt als markering. Inderdaad, het speelt een cruciale rol bij het onderscheid tussen authentieke informatiebronnen en nepnieuws:hoe vaak worden berichten uitgegeven, wanneer is een tweet gepland, en op welk tijdstip? De timing van een bericht kan veelzeggend zijn. Bijvoorbeeld, het kan het land en de tijdzone van de auteur van het nieuws onthullen. Een hoge verzendfrequentie suggereert bots, wat de kans op een nepnieuwsbericht vergroot. Sociale bots sturen hun links naar een groot aantal gebruikers, bijvoorbeeld om onzekerheid onder het publiek te verspreiden. De connecties en volgers van een account kunnen ook een vruchtbare voedingsbodem zijn voor analisten.

Dit komt omdat het onderzoekers in staat stelt om heatmaps en grafieken van verzendgegevens te maken, verzendfrequentie en volgernetwerken. Deze netwerkstructuren en hun individuele nodes kunnen worden gebruikt om te berekenen welke node in het netwerk nepnieuws heeft verspreid of een nepnieuwscampagne heeft gestart.

Een ander kenmerk van de geautomatiseerde tool is de mogelijkheid om haatspraak te detecteren. Berichten die zich voordoen als nieuws maar ook haatdragende taal bevatten, linken vaak naar nepnieuws. "Het belangrijkste is om een ​​marker te ontwikkelen die duidelijke gevallen van haatzaaien kan identificeren. Voorbeelden zijn uitdrukkingen als 'politiek uitschot' of 'nigger', ’ zegt de taalkundige en wiskundige.

De onderzoekers kunnen hun systeem aanpassen aan verschillende tekstsoorten om ze te classificeren. Zowel overheden als bedrijven kunnen de tool gebruiken om nepnieuws te identificeren en te bestrijden. "Onze software kan worden gepersonaliseerd en getraind om aan de behoeften van elke klant te voldoen. Voor overheidsinstanties, het kan een nuttig systeem voor vroegtijdige waarschuwing zijn, ' zegt Schade.