De eerste stap bij het uitvoeren van online propaganda-inspanningen en desinformatiecampagnes is bijna altijd een nepprofiel op sociale media. Valse profielen voor niet-bestaande mensen wurmen zich een weg naar de sociale netwerken van echte mensen, waar ze hun leugens kunnen verspreiden. Maar noch sociale-mediabedrijven, noch technologische innovaties bieden betrouwbare manieren om sociale-mediaprofielen te identificeren en te verwijderen die geen echte authentieke mensen vertegenwoordigen.

Het klinkt misschien positief dat gedurende zes maanden eind 2017 en begin 2018, Facebook heeft zo'n 1,3 miljard nepaccounts gedetecteerd en opgeschort. Maar naar schatting 3 tot 4 procent van de resterende accounts, of ongeveer 66 miljoen tot 88 miljoen profielen, zijn ook nep, maar zijn nog niet gedetecteerd. Hetzelfde, schattingen zijn dat 9 tot 15 procent van de 336 miljoen Twitter-accounts nep zijn.

Nepprofielen staan ​​niet alleen op Facebook en Twitter, en ze richten zich niet alleen op mensen in de VS in december 2017, Duitse inlichtingendiensten waarschuwden dat Chinese agenten die valse LinkedIn-profielen gebruikten, het doelwit waren van meer dan 10, 000 Duitse overheidsmedewerkers. En half augustus het Israëlische leger meldde dat Hamas nepprofielen op Facebook gebruikte, Instagram en WhatsApp om Israëlische soldaten te verleiden tot het downloaden van kwaadaardige software.

Hoewel socialemediabedrijven meer mensen zijn gaan aannemen en kunstmatige intelligentie zijn gaan gebruiken om nepprofielen te detecteren, dat zal niet genoeg zijn om elk profiel op tijd te bekijken om misbruik te stoppen. Zoals mijn onderzoek onderzoekt, het probleem is niet dat mensen – en algoritmen – online nepprofielen maken. Wat er echt mis is, is dat andere mensen voor hen vallen.

Mijn onderzoek naar waarom zoveel gebruikers moeite hebben om nepprofielen te herkennen, heeft een aantal manieren geïdentificeerd waarop mensen beter zouden kunnen worden in het identificeren van nepaccounts - en belicht enkele plaatsen waar technologiebedrijven kunnen helpen.

Mensen vallen voor nepprofielen

Om de denkprocessen van gebruikers van sociale media te begrijpen, Ik maakte nepprofielen aan op Facebook en stuurde vriendschapsverzoeken naar 141 studenten van een grote universiteit. Elk van de nepprofielen varieerde op de een of andere manier - zoals het hebben van veel of weinig nepvrienden, of dat er een profielfoto was. Het idee was om erachter te komen of een of ander type profiel het meest succesvol was om door echte gebruikers als connectie te worden geaccepteerd - en vervolgens de misleide mensen te onderzoeken om erachter te komen hoe het gebeurde.

Ik ontdekte dat slechts 30 procent van de beoogde mensen het verzoek van een neppersoon afwees. Toen ze twee weken later werden ondervraagd, 52 procent van de gebruikers overweegt nog om het verzoek goed te keuren. Bijna een op de vijf – 18 procent – ​​had het verzoek meteen geaccepteerd. Van degenen die het accepteerden, 15 procent had op vragen van het nepprofiel gereageerd met persoonlijke informatie zoals hun huisadres, hun studentnummer, en hun beschikbaarheid voor een deeltijdstage. Nog eens 40 procent van hen overwoog om privégegevens vrij te geven.

Maar waarom?

Toen ik de echte mensen interviewde die mijn nepprofielen als doelwit hadden, het belangrijkste dat ik ontdekte, was dat gebruikers fundamenteel geloven dat er een persoon achter elk profiel zit. Mensen vertelden me dat ze dachten dat het profiel van iemand was die ze kenden, of misschien iemand die een vriend kende. Niemand vermoedde ooit dat het profiel een complete verzinsel was, uitdrukkelijk gemaakt om hen te misleiden. Ten onrechte denken dat elk vriendschapsverzoek afkomstig is van een echte persoon kan ertoe leiden dat mensen vriendschapsverzoeken accepteren om gewoon beleefd te zijn en de gevoelens van iemand anders niet te kwetsen - zelfs als ze niet zeker weten of ze de persoon kennen.

In aanvulling, bijna alle gebruikers van sociale media beslissen of ze een connectie accepteren op basis van een paar belangrijke elementen in het profiel van de aanvrager - voornamelijk hoeveel vrienden de persoon heeft en hoeveel onderlinge connecties er zijn. Ik ontdekte dat mensen die al veel connecties hebben, nog minder kritisch zijn, het goedkeuren van bijna elk verzoek dat binnenkomt. Dus zelfs een gloednieuw profiel levert een aantal slachtoffers op. En bij elke nieuwe verbinding, het nepprofiel lijkt realistischer, en heeft meer gemeenschappelijke vrienden met anderen. Deze cascade van slachtoffers is hoe nepprofielen legitimiteit verwerven en wijdverbreid worden.

De verspreiding kan snel zijn omdat de meeste sociale-mediasites zijn ontworpen om gebruikers terug te laten komen, gewoonlijk meldingen controleren en onmiddellijk reageren op verbindingsverzoeken. Die tendens is zelfs nog meer uitgesproken op smartphones - wat kan verklaren waarom gebruikers die toegang hebben tot sociale media op smartphones aanzienlijk meer kans hebben om valse profielverzoeken te accepteren dan gebruikers van desktop- of laptopcomputers.

Illusies van veiligheid

En gebruikers denken misschien dat ze veiliger zijn dan ze in werkelijkheid zijn, ten onrechte aannemen dat de privacy-instellingen van een platform hen zullen beschermen tegen valse profielen. Bijvoorbeeld, veel gebruikers vertelden me dat ze geloven dat Facebook's controles voor het verlenen van verschillende toegang tot vrienden versus anderen hen ook beschermen tegen neppers. Hetzelfde, veel LinkedIn-gebruikers vertelden me ook dat ze geloven dat omdat ze alleen professionele informatie plaatsen, de mogelijke gevolgen voor het accepteren van malafide connecties zijn beperkt.

Maar dat is een onjuiste veronderstelling:hackers kunnen alle informatie gebruiken die van elk platform is verzameld. Bijvoorbeeld, gewoon weten op LinkedIn dat iemand bij een bedrijf werkt, helpt hen om e-mails naar de persoon of anderen bij het bedrijf te maken. Verder, gebruikers die onzorgvuldig verzoeken accepteren in de veronderstelling dat hun privacycontroles hen beschermen, brengen andere verbindingen in gevaar die hun controles niet zo hoog hebben ingesteld.

Oplossingen zoeken

Veilig gebruik van sociale media betekent leren hoe u valse profielen kunt herkennen en hoe u de privacy-instellingen op de juiste manier kunt gebruiken. Er zijn talloze online bronnen voor advies, waaronder de eigen helppagina's van platforms. Maar te vaak wordt het aan gebruikers overgelaten om zichzelf te informeren, meestal nadat ze al het slachtoffer zijn geworden van een oplichterij op sociale media - die altijd begint met het accepteren van een nepverzoek.

Volwassenen moeten leren - en kinderen leren - hoe ze verbindingsverzoeken zorgvuldig moeten onderzoeken om hun apparaten te beschermen, profielen en berichten van nieuwsgierige blikken, en zichzelf tegen kwaadwillige manipulatie. Dat omvat het bekijken van verbindingsverzoeken tijdens afleidingsvrije perioden van de dag en het gebruik van een computer in plaats van een smartphone om mogelijke verbindingen te bekijken. Het houdt ook in dat ze bepalen welke van hun echte vrienden bijna elk vriendschapsverzoek van wie dan ook accepteren, waardoor ze zwakke schakels worden in het sociale netwerk.

Dit zijn plaatsen waar bedrijven op sociale mediaplatforms kunnen helpen. Ze creëren al mechanismen om app-gebruik bij te houden en om meldingen te pauzeren, mensen helpen voorkomen dat ze worden overspoeld of voortdurend moeten reageren. Dat is een goed begin, maar ze zouden meer kunnen doen.

Bijvoorbeeld, sociale-mediasites kunnen gebruikers indicatoren laten zien van hoeveel van hun verbindingen gedurende lange perioden inactief zijn, mensen van tijd tot tijd helpen hun vriendennetwerk op te schonen. Ook konden ze laten zien welke connecties ineens grote aantallen vrienden hebben gekregen, en welke ongewoon hoge percentages vriendschapsverzoeken accepteren.

Socialmediabedrijven moeten meer doen om gebruikers te helpen bij het identificeren en rapporteren van mogelijk nepprofielen, het vergroten van hun eigen personeel en geautomatiseerde inspanningen. Social media sites moeten ook met elkaar communiceren. Veel nepprofielen worden hergebruikt op verschillende sociale netwerken. Maar als Facebook een nepper blokkeert, Twitter misschien niet. Wanneer een site een profiel blokkeert, het moet belangrijke informatie - zoals de naam en het e-mailadres van het profiel - naar andere platforms sturen, zodat ze de fraude daar ook kunnen onderzoeken en mogelijk blokkeren.

Dit artikel is opnieuw gepubliceerd vanuit The Conversation onder een Creative Commons-licentie. Lees het originele artikel.