AI-aangedreven bots zijn geautomatiseerde accounts die zijn ontworpen om menselijk gedrag na te bootsen. Bots op sociale media, chatplatforms en conversationele AI zijn een integraal onderdeel van het moderne leven. Ze zijn bijvoorbeeld nodig om AI-toepassingen effectief te laten werken.

Maar sommige bots zijn gemaakt met kwaadaardige bedoelingen. Schokkend genoeg vormen bots een aanzienlijk deel van de gebruikersbasis van X. In 2017 waren er naar schatting ongeveer 23 miljoen sociale bots, goed voor 8,5% van het totale aantal gebruikers. Ruim tweederde van de tweets was afkomstig van deze geautomatiseerde accounts, waardoor het bereik van desinformatie werd vergroot en de wateren van het publieke debat vertroebelden.

Hoe bots werken

Sociale invloed is nu een goed dat kan worden verworven door bots te kopen. Bedrijven verkopen nepvolgers om de populariteit van accounts kunstmatig te vergroten. Deze volgers zijn verkrijgbaar tegen opmerkelijk lage prijzen, met veel beroemdheden onder de kopers.

In de loop van ons onderzoek ontdekten collega's en ik bijvoorbeeld een bot die 100 tweets had gepost waarin volgers te koop werden aangeboden.

Met behulp van AI-methodologieën en een theoretische benadering die de actor-netwerktheorie wordt genoemd, ontleedden mijn collega's en ik hoe kwaadaardige sociale bots sociale media manipuleren en met alarmerende doeltreffendheid beïnvloeden wat mensen denken en hoe ze handelen. Met een nauwkeurigheidspercentage van 79,7% kunnen we zien of nepnieuws door een mens of een bot is gegenereerd. Het is van cruciaal belang om te begrijpen hoe zowel mensen als AI desinformatie verspreiden om de manieren te begrijpen waarop mensen AI gebruiken om desinformatie te verspreiden.

Om een ​​voorbeeld te noemen:we hebben de activiteit onderzocht van een account met de naam 'True Trumpers' op Twitter.

Het account is in augustus 2017 opgericht, heeft geen volgers en geen profielfoto, maar had op het moment van het onderzoek 4.423 tweets gepost. Deze omvatten een reeks volledig verzonnen verhalen. Het is vermeldenswaard dat deze bot afkomstig is uit een Oost-Europees land.

Onderzoek als dit heeft X ertoe aangezet de activiteiten van sociale bots te beperken. Als reactie op de dreiging van manipulatie van sociale media heeft X tijdelijke leeslimieten ingevoerd om het schrapen en manipuleren van gegevens tegen te gaan. Geverifieerde accounts zijn beperkt tot het lezen van 6.000 berichten per dag, terwijl niet-geverifieerde accounts 600 per dag kunnen lezen. Dit is een nieuwe update, dus we weten nog niet of deze effectief is geweest.

Kunnen we onszelf beschermen?

Het is echter uiteindelijk de verantwoordelijkheid van de gebruikers om voorzichtig te zijn en waarheid van leugens te onderscheiden, vooral tijdens verkiezingsperioden. Door informatie kritisch te evalueren en bronnen te controleren, kunnen gebruikers een rol spelen bij het beschermen van de integriteit van democratische processen tegen de aanval van bots en desinformatiecampagnes op X. Iedere gebruiker is in feite een frontlinieverdediger van waarheid en democratie. Waakzaamheid, kritisch denken en een gezonde dosis scepsis zijn essentiële wapenrustingen.

Bij sociale media is het belangrijk dat gebruikers de strategieën begrijpen die door kwaadwillende accounts worden gebruikt.

Kwaadwillige actoren maken vaak gebruik van netwerken van bots om valse verhalen te versterken, trends te manipuleren en snel desinformatie te verspreiden. Gebruikers moeten voorzichtig zijn als ze accounts tegenkomen die verdacht gedrag vertonen, zoals overmatig posten of herhaalde berichten.

Desinformatie wordt ook vaak verspreid via speciale nepnieuwswebsites. Deze zijn ontworpen om geloofwaardige nieuwsbronnen te imiteren. Gebruikers wordt geadviseerd de authenticiteit van nieuwsbronnen te verifiëren door informatie te vergelijken met gerenommeerde bronnen en door factcheckende organisaties te raadplegen.

Zelfbewustzijn is een andere vorm van bescherming, vooral tegen social engineering-tactieken. Psychologische manipulatie wordt vaak ingezet om gebruikers te misleiden zodat ze onwaarheden geloven of bepaalde acties ondernemen. Gebruikers moeten waakzaam blijven en de inhoud die ze tegenkomen kritisch beoordelen, vooral tijdens periodes van verhoogde gevoeligheid zoals verkiezingen.

Door op de hoogte te blijven, deel te nemen aan het maatschappelijk debat en te pleiten voor transparantie en verantwoording, kunnen we gezamenlijk vormgeven aan een digitaal ecosysteem dat vertrouwen, transparantie en geïnformeerde besluitvorming bevordert.

Aangeboden door The Conversation

Dit artikel is opnieuw gepubliceerd vanuit The Conversation onder een Creative Commons-licentie. Lees het originele artikel.