In juni 2017, Google, Facebook, Twitter en Microsoft hebben de oprichting aangekondigd van het Global Internet Forum to Counter Terrorism (GIFCT). Het doel van dit door de industrie geleide initiatief is om de terroristische exploitatie van zijn diensten te verstoren. Onlangs, GIFCT-leden prezen de prestaties van het eerste jaar van haar activiteiten. Maar, hoewel deze vooruitgang moet worden erkend, belangrijke uitdagingen blijven.

Elke minuut zijn er gemiddeld 510, 000 reacties en 136, 000 foto's gedeeld op Facebook, 350, 000 tweets gepost op Twitter en 300 uur aan video geüpload naar YouTube.

Dit gegeven, de grootste bedrijven vertrouwen in hoge mate op kunstmatige intelligentie (AI). Facebook's gebruik van AI omvat het matchen van afbeeldingen. Dit voorkomt dat gebruikers een foto of video uploaden die overeenkomt met een andere foto of video die eerder als terrorist is aangemerkt. evenzo, YouTube meldde dat 98% van de video's die het verwijdert wegens gewelddadig extremisme ook wordt gemarkeerd door machine learning-algoritmen.

Vooruitgang tot nu toe

Een moeilijkheid waarmee sociale-mediabedrijven worden geconfronteerd, is dat, als een terroristische groepering vanaf één platform wordt geblokkeerd, het kan gewoon naar een andere verhuizen. In reactie hierop, GIFCT-leden hebben een gedeelde industriedatabase van "hashes" gemaakt. Een hash is een unieke digitale vingerafdruk die kan worden gebruikt om digitale activiteit te volgen. Wanneer pro-terroristische inhoud wordt verwijderd door één GIFCT-lid, de hash wordt gedeeld met de andere deelnemende bedrijven om hen in staat te stellen de inhoud op hun eigen platforms te blokkeren.

Tijdens zijn recente vergadering, de GIFCT heeft aangekondigd dat tot op heden 88, 000 hashes zijn toegevoegd aan de database. Het consortium ligt dus op schema om zijn doel van 100 te halen, 000 hashes tegen het einde van 2018. Vooral zo, nu er nog eens negen bedrijven zijn toegetreden tot het consortium, inclusief Instagram, Justpaste.it en LinkedIn.

Deze inspanningen hebben ongetwijfeld het gebruik van sociale-mediaplatforms door terroristen verstoord. Bijvoorbeeld, in de 23 maanden sinds 1 augustus 2015, Twitter heeft bijna een miljoen accounts opgeschort wegens het promoten van terrorisme. In de tweede helft van 2017, YouTube verwijderd 150, 000 video's voor gewelddadig extremisme. Bijna de helft hiervan werd binnen twee uur na het uploaden verwijderd.

Toekomstige uitdagingen

Toch blijft er nog veel werk over. Als reactie op de verstoring van hun gebruik van Twitter, aanhangers van de zogenaamde Islamitische Staat (IS) hebben geprobeerd de technologie voor het blokkeren van inhoud te omzeilen door middel van wat bekend staat als outlinking, het gebruik van links naar andere platforms. interessant, de sites die het meest worden gelinkt om justpaste.it op te nemen, sendvid.com en archive.org. Dit lijkt een bewuste strategie om misbruik te maken van het gebrek aan middelen en expertise van kleinere bedrijven.

IS-aanhangers hebben hun activiteiten voor gemeenschapsopbouw ook verplaatst naar andere platforms, in het bijzonder Telegram. Telegram is een cloudgebaseerde instant messaging-service die optionele end-to-end versleutelde berichten biedt. Deze versleuteling voorkomt dat berichten door derden worden gelezen. En het is op grote schaal gebruikt om inhoud te delen die is geproduceerd door officiële IS-kanalen.

Dit maakt deel uit van een bredere beweging naar meer geheime methoden. Andere versleutelde berichtendiensten, inclusief WhatsApp, zijn door jihadisten gebruikt voor communicatie en aanvalsplanning. Ook zijn websites verhuisd naar het Darknet. Het Darknet is een verborgen deel van het internet dat anoniem van aard is en alleen toegankelijk is met gespecialiseerde coderingssoftware. Een rapport uit 2018 waarschuwde dat Darknet-platforms het potentieel hebben om te functioneren als een jihadistische 'virtuele veilige haven'.

In aanvulling, Uit recent onderzoek blijkt dat aanhangers van andere jihadistische groeperingen dan IS beduidend minder hinder ervaren op Twitter. Aanhangers van deze andere groepen konden zes keer zoveel tweets plaatsen, volg vier keer zoveel accounts en krijg 13 keer zoveel volgers als pro-IS-accounts.

Het is ook belangrijk om in te spelen op andere vormen van gewelddadig extremisme. Extreemrechtse groepen zijn ook sterk aanwezig op platforms als YouTube en Facebook. Hoewel er stappen zijn ondernomen om hun online aanwezigheid te verstoren, zoals het besluit van Facebook om Britain First van zijn platform te weren, het lijkt erop dat deze groepen ook beginnen te migreren naar Darknet.

te groot bereik

Net zoals er een probleem is met het bereiken van terroristische sociale media, er zijn ook uitdagingen met betrekking tot mogelijke overbereik. Van machine learning-algoritmen kan niet worden verwacht dat ze terroristische inhoud met 100% nauwkeurigheid identificeren. Sommige inhoud wordt ten onrechte als terroristisch geïdentificeerd en geblokkeerd of verwijderd. Maar de uitdagingen gaan hier verder dan alleen de drempel correct toepassen. Ze hebben ook betrekking op waar de drempel in de eerste plaats moet worden getrokken.

De moeilijkheden bij het definiëren van terrorisme zijn bekend. Samengevat met de slogan "De ene terrorist is de andere vrijheidsstrijder", een van de meest controversiële definitiekwesties is die van de rechtvaardige zaak. Moet een definitie van terrorisme personen zoals pro-democratische activisten uitsluiten in een land dat wordt geregeerd door een onderdrukkend en tiranniek regime? Volgens veel landen inclusief het VK, het antwoord is nee. Zoals een rechter van het Hof van Beroep het verwoordde:"Terrorisme is terrorisme, ongeacht de motieven van de daders."

Als socialemediabedrijven een vergelijkbare aanpak hanteren, dit kan enkele belangrijke gevolgen hebben. Inderdaad, er zijn al zorgwekkende voorbeelden. in 2017, duizenden video's die wreedheden in Syrië documenteren, werden van YouTube verwijderd door nieuwe technologie gericht op extremistische propaganda. Deze video's leverden belangrijk bewijs van mensenrechtenschendingen. Sommige bestonden alleen op YouTube, omdat niet alle Syrische activisten en media zich een offline archief kunnen veroorloven. Maar het alternatief - proberen onderscheid te maken tussen rechtvaardige en onrechtvaardige oorzaken - is beladen met eigen moeilijkheden.

In een tijd waarin socialemediabedrijven steeds meer onder druk komen te staan ​​om meer te doen om terroristische uitbuiting van hun platforms aan te pakken, de vooruitgang die tijdens het eerste jaar van de GIFCT is geboekt, is welkom. Maar het is slechts de eerste stap.

Dit artikel is oorspronkelijk gepubliceerd op The Conversation. Lees het originele artikel.