Uit onderzoek naar taalgebruik op sociale mediaplatforms, waaronder Instagram, is gebleken dat er heimelijk taalgebruik wordt gebruikt om detectie te voorkomen. Deze heimelijke taal wordt vaak door gebruikers gebruikt om gevoelige onderwerpen te bespreken of deel te nemen aan activiteiten die mogelijk in strijd zijn met het beleid of de wettelijke beperkingen van het platform.

Eén onderzoek, uitgevoerd door een team onderzoekers van de Universiteit van Californië, Berkeley, analyseerde een grote dataset van Instagram-posts en identificeerde verschillende patronen van heimelijk taalgebruik. Deze patronen omvatten:

- Eufemismen: Gebruikers vervangen mogelijk aanstootgevende of controversiële termen door onschuldige woorden of zinsneden. In plaats van het woord 'drugs' te gebruiken, kunnen gebruikers bijvoorbeeld 'feestartikelen' zeggen.

- Acroniemen en codes: Gebruikers maken acroniemen of codes om gevoelige onderwerpen weer te geven. '420' kan bijvoorbeeld worden gebruikt om naar marihuana te verwijzen.

- spelfouten en typefouten: Gebruikers spellen opzettelijk woorden verkeerd of maken typefouten om detectiealgoritmen te omzeilen. Door de spelling van een woord enigszins te wijzigen, kunnen gebruikers het voor geautomatiseerde systemen lastiger maken om de inhoud te identificeren en te markeren.

- Emoji's en symbolen: Emoji's en symbolen kunnen specifieke betekenissen overbrengen of gevoelige onderwerpen vertegenwoordigen. Een perzik-emoji kan bijvoorbeeld worden gebruikt om de billen te symboliseren, en een kroon-emoji kan royalty of status aanduiden.

- Vreemde talen: Sommige gebruikers schakelen over naar een vreemde taal om gevoelige onderwerpen te bespreken, in de overtuiging dat dit hen zal helpen detectie door geautomatiseerde systemen of gebruikers die de taal niet spreken, te voorkomen.

Het gebruik van verborgen taalgebruik op Instagram brengt verschillende uitdagingen met zich mee voor platformmoderators en wetshandhavingsinstanties. Ten eerste kan het het moeilijker maken om schadelijke of illegale inhoud op te sporen en te verwijderen. Ten tweede kan het gebruikers in staat stellen deel te nemen aan activiteiten die in strijd zijn met het beleid van het platform, zonder angst om betrapt te worden. Ten derde kan het een omgeving creëren waarin gebruikers zich op hun gemak voelen bij het delen van gevoelige informatie, wat mogelijk tot uitbuiting of schade kan leiden.

Om deze uitdagingen aan te pakken, suggereren onderzoekers dat sociale-mediaplatforms hun detectiealgoritmen verbeteren om verborgen taalgebruik effectiever te identificeren. Bovendien raden ze aan dat platforms gebruikers voorlichten over de risico's van het gebruik van heimelijke taal en hen aanmoedigen verdachte activiteiten te melden. Wetshandhavingsinstanties moeten zich ook bewust zijn van de heimelijke taal die op sociale media wordt gebruikt en strategieën ontwikkelen om potentiële illegale activiteiten te monitoren en te onderzoeken.