Onderzoekers van de Universiteit van Notre Dame gebruiken kunstmatige intelligentie om een ​​systeem voor vroegtijdige waarschuwing te ontwikkelen dat gemanipuleerde beelden zal identificeren, deepfake-video's en desinformatie online. Het project is een poging om de opkomst van gecoördineerde socialemediacampagnes die aanzetten tot geweld, naai onenigheid en bedreig de integriteit van democratische verkiezingen.

De schaalbare, geautomatiseerd systeem maakt gebruik van op inhoud gebaseerde beeldherkenning en past op computervisie gebaseerde technieken toe om politieke memes uit meerdere sociale netwerken uit te roeien.

"Memes zijn eenvoudig te maken en nog gemakkelijker te delen, " zei Tim Weninger, universitair hoofddocent bij de afdeling Computer Science and Engineering aan de Notre Dame. "Als het gaat om politieke memes, deze kunnen worden gebruikt om te helpen stemmen te winnen, maar ze kunnen ook worden gebruikt om onnauwkeurige informatie te verspreiden en schade aan te richten."

Weninger, samen met Walter Scheirer, een assistent-professor bij de afdeling Computer Science and Engineering aan de Notre Dame, en leden van het onderzoeksteam verzamelden meer dan twee miljoen afbeeldingen en inhoud van verschillende bronnen op Twitter en Instagram met betrekking tot de algemene verkiezingen van 2019 in Indonesië. De uitslag van die verkiezing, waarin de linkse, centristische zittende kreeg een meerderheid van stemmen over de conservatieve, populistische kandidaat, leidde tot een golf van gewelddadige protesten waarbij acht mensen omkwamen en honderden gewond raakten. Hun onderzoek vond zowel spontane als gecoördineerde campagnes met de bedoeling de verkiezingen te beïnvloeden en aan te zetten tot geweld.

Die campagnes bestonden uit gemanipuleerde afbeeldingen met valse beweringen en een verkeerde voorstelling van incidenten, logo's van legitieme nieuwsbronnen die worden gebruikt op verzonnen nieuwsverhalen en memes die zijn gemaakt met de bedoeling burgers en supporters van beide partijen te provoceren.

Hoewel de gevolgen van dergelijke campagnes duidelijk waren in het geval van de Indonesische algemene verkiezingen, de bedreiging voor democratische verkiezingen in het Westen bestaat al. Het onderzoeksteam van de Notre Dame, bestaande uit digitale forensische experts en specialisten in vredesstudies, zei dat ze het systeem ontwikkelen om gemanipuleerde inhoud te markeren om geweld te voorkomen, en om journalisten of verkiezingswaarnemers in realtime te waarschuwen voor mogelijke bedreigingen.

Het systeem, die zich in de onderzoeks- en ontwikkelingsfase bevindt, schaalbaar zou zijn om gebruikers op maat gemaakte opties te bieden voor het bewaken van inhoud. Hoewel er nog veel uitdagingen zijn, zoals het bepalen van een optimale manier om gegevensopname en -verwerking op te schalen voor een snelle doorlooptijd, Scheirer zei dat het systeem momenteel wordt geëvalueerd voor de overgang naar operationeel gebruik.

De ontwikkeling loopt niet al te ver achter als het gaat om de mogelijkheid om de algemene verkiezingen van 2020 in de Verenigde Staten te volgen, hij zei, en hun team verzamelt al relevante gegevens.

"Het desinformatietijdperk is hier, "zei Scheirer. "Een deepfake die acteurs in een populaire film vervangt, lijkt misschien leuk en luchtig, maar stel je een video of een meme voor die is gemaakt met als enig doel de ene wereldleider tegen de andere op te zetten - woorden zeggen die ze niet echt zeiden. Stel je voor hoe snel die inhoud zou kunnen worden gedeeld en verspreid over platforms. Overweeg de gevolgen van die acties."