Maar wat er gebeurde toen hij zich onlangs vrijwillig aanmeldde voor een demonstratie van geavanceerde identificatiesoftware, maakte hem sprakeloos. Binnen enkele seconden nadat hij een beeld kreeg van hoe Lay er vandaag de dag uitziet, verzamelde de AI-app een duizelingwekkende reeks online foto’s van hem die hij nog nooit eerder had gezien – inclusief op de achtergrond van de foto’s van iemand anders van een rugbywedstrijd van de British Lions in Auckland acht jaar eerder.

"Het was verbijsterend", vertelde Lay me. “En toen scrolde de demonstrant naar nog twee foto’s, genomen op twee afzonderlijke stranden – een in Turkije en een andere in Spanje – waarschijnlijk afkomstig van sociale media. Ze waren van een ander gezin, maar met mij, mijn vrouw en twee kinderen op de achtergrond. De kinderen zouden zes of zeven zijn geweest; ze zijn nu 20 en 22."

De AI in kwestie maakte deel uit van een arsenaal aan nieuwe instrumenten die in maart in Quito, Ecuador, werden ingezet toen Lay samenwerkte met een taskforce van tien landen om snel daders en slachtoffers van online seksuele uitbuiting en misbruik van kinderen te identificeren en te lokaliseren – een verborgen pandemie met meer dan Elk jaar 300 miljoen slachtoffers over de hele wereld.

Dat is waar het werk van het Childlight Global Child Safety Institute, gevestigd aan de Universiteit van Edinburgh, in beeld komt. De visie van Childlight, iets meer dan een jaar geleden gelanceerd in maart 2023 met de financiële steun van de Human Dignity Foundation, is om de verhelderende De kracht van gegevens en inzichten om de aard en omvang van seksuele uitbuiting en misbruik van kinderen beter te begrijpen.

Ik ben hoogleraar internationaal onderzoek op het gebied van kinderbescherming en datadirecteur van Childlight. Ik doe al bijna twintig jaar onderzoek naar seksueel misbruik en kindermishandeling, onder meer samen met de New York City Alliance Against Sexual Assault en Unicef.

De strijd om onze jongeren te beschermen tegen schade wordt belemmerd door een ontkoppeling van gegevens:gegevens verschillen in kwaliteit en consistentie over de hele wereld, definities verschillen en, eerlijk gezegd, transparantie is niet wat het zou moeten zijn. Ons doel is om samen te werken met vele anderen om te helpen het systeem te versterken, de gaten in de gegevens te dichten en een licht te laten schijnen op enkele van de donkerste misdaden ter wereld.

302 miljoen slachtoffers in één jaar

Ons nieuwe rapport, Into The Light, heeft 's werelds eerste schattingen opgeleverd van de omvang van het probleem in termen van slachtoffers en daders.

Onze schattingen zijn gebaseerd op een meta-analyse van 125 representatieve onderzoeken gepubliceerd tussen 2011 en 2023, en benadrukken dat één op de acht kinderen – 302 miljoen jongeren – online seksueel misbruik en uitbuiting heeft ervaren in de periode van één jaar voorafgaand aan de nationale enquêtes.

Daarnaast hebben we tientallen miljoenen meldingen geanalyseerd aan de vijf belangrijkste mondiale waakhond- en politieorganisaties:de Internet Watch Foundation (IWF), het National Center for Missing and Exploited Children (NCMEC), het Canadian Centre for Child Protection (C3P), de International Association of Internet Hotlines (INHOPE) en de International Child Sexual Exploitation database (ICSE) van Interpol. Dit heeft ons geholpen de aard van afbeeldingen en video's van seksueel kindermisbruik online beter te begrijpen.

Hoewel er enorme gaten in de gegevens zijn, is dit slechts een startpunt en verre van een definitief cijfer, maar de cijfers die we hebben ontdekt zijn schokkend.

We hebben vastgesteld dat bijna 13% van de kinderen in de wereld het slachtoffer is geworden van het zonder wederzijds goedvinden nemen, delen en blootstellen aan seksuele afbeeldingen en video's.

Bovendien is naar schatting iets meer dan 12% van de kinderen wereldwijd het slachtoffer geweest van online uitlokking, zoals ongewenst seksueel gepraat, waaronder sexting zonder wederzijds goedvinden, ongewenste seksuele vragen en verzoeken om ongewenste seksuele handelingen door volwassenen of andere jongeren.

Het aantal gevallen is enorm gestegen sinds COVID de online gewoonten van de wereld veranderde. De Internet Watch Foundation (IWF) meldde bijvoorbeeld in 2023 dat materiaal over seksueel kindermisbruik waarin basisschoolkinderen van zeven tot tien jaar oud werden gecoacht om online seksuele handelingen te verrichten, met meer dan 1.000% was gestegen sinds het Verenigd Koninkrijk in lockdown ging.

De liefdadigheidsinstelling wees erop dat tijdens de pandemie duizenden kinderen afhankelijker zijn geworden van internet om te leren, te socialiseren en te spelen, en dat dit iets is dat internetroofdieren uitbuitten om meer kinderen tot seksuele activiteiten te dwingen – soms zelfs met vrienden of broers en zussen via webcams. en smartphones.

Er is ook een scherpe stijging in het aantal berichten over 'financiële sextortion', waarbij kinderen worden gechanteerd vanwege seksuele beelden waartoe misbruikers hen hebben misleid – vaak met tragische gevolgen, met een golf van zelfmoorden over de hele wereld.

Bij dit misbruik kan ook gebruik worden gemaakt van AI-deepfake-technologie, die recentelijk berucht is geworden om valse seksuele beelden van zanger Taylor Swift te genereren.

Uit onze schattingen blijkt dat iets meer dan 3% van de kinderen wereldwijd het afgelopen jaar te maken heeft gehad met seksuele afpersing.

Een pandemie van seksuele uitbuiting van kinderen

Deze pandemie van seksuele uitbuiting en misbruik van kinderen treft leerlingen in elk klaslokaal, op elke school, in elk land, en moet dringend worden aangepakt als een noodsituatie voor de volksgezondheid. Zoals bij alle pandemieën, zoals COVID en AIDS, moet de wereld samenkomen en een onmiddellijke en alomvattende reactie op de volksgezondheid bieden.

Ons rapport belicht ook een onderzoek waarin een representatieve steekproef van 4.918 mannen ouder dan 18 jaar in Australië, Groot-Brittannië en de VS werd onderzocht. Het heeft een aantal verrassende bevindingen opgeleverd. In termen van daders:

• Een op de negen mannen in de VS (wat neerkomt op bijna 14 miljoen mannen) gaf op een bepaald moment in hun leven online seksuele misdrijven tegen kinderen toe – genoeg daders om een ​​lijn te vormen die zich uitstrekt van Californië aan de westkust tot North Carolina in het oosten of om een ​​Super Bowl-stadion meer dan 200 keer te vullen.
• Uit de onderzoeken bleek dat 7% van de mannen in Groot-Brittannië hetzelfde had toegegeven, wat neerkomt op 1,8 miljoen overtreders, of genoeg om de O₂ te vullen gebied 90 keer groter en door 7,5% van de mannen in Australië (bijna 700.000).
• Intussen zeiden miljoenen in alle drie de landen dat ze ook zouden proberen seksuele misdrijven tegen kinderen te plegen als ze wisten dat niemand erachter zou komen, een bevinding die in samenhang met ander onderzoek moet worden overwogen dat aangeeft dat degenen die seksueel misbruik van kinderen zien materiaal lopen een groot risico om in contact te komen met een kind of dit fysiek te misbruiken.

Het internet heeft gemeenschappen van zedendelinquenten in staat gesteld om gemakkelijk en snel beelden van kindermisbruik en uitbuiting op een duizelingwekkende schaal te delen, en dit vergroot op zijn beurt de vraag naar dergelijke inhoud onder nieuwe gebruikers en verhoogt het aantal misbruiken van kinderen, waardoor talloze levens verwoest worden.

Sterker nog, er zijn in 2023 ruim 36 miljoen meldingen van online seksuele afbeeldingen van kinderen die het slachtoffer zijn geworden van alle vormen van seksuele uitbuiting en misbruik ingediend bij waakhonden door bedrijven als X, Facebook, Instagram, Google, WhatsApp en leden van het publiek. . Dat komt neer op één rapport per seconde.

Beëindig bewerking

Zoals overal ter wereld is Ecuador in de greep van dit moderne, transnationale probleem:de snelle verspreiding van seksuele uitbuiting en misbruik van kinderen online. Het kan zijn dat een misbruiker in bijvoorbeeld Londen een andere misbruiker ergens op de Filippijnen betaalt om beelden te produceren van wreedheden tegen een kind, die op hun beurt worden gehost in een datacenter in Nederland en onmiddellijk over meerdere andere landen worden verspreid.

Toen Lay – die ook de directeur betrokkenheid en risico van Childlight is – in 2024 in Quito was, betekende de staat van beleg dat een groot hotel normaal gesproken druk bezocht werd door toeristen die toestroomden voor de geneugten van de Galápagoseilanden. Het was griezelig stil, afgezien van een groep van veertig wetshandhavers. analisten, onderzoekers en aanklagers die meer dan 15.000 afbeeldingen en video's van seksueel misbruik van kinderen moesten analyseren.

De cache met bestanden bevatte materiaal dat jaarlijks bij de autoriteiten werd geregistreerd, inhoud van in beslag genomen apparaten en uit de International Child Sexual Exploitation (ICSE) database van Interpol. De dossiers waren mogelijk gekoppeld aan daders in tien Latijns-Amerikaanse en Caribische landen:Argentinië, Chili, Colombia, Costa Rica, Ecuador, El Salvador, Honduras, Guatemala, Peru en de Dominicaanse Republiek.

Uitbuiting van kinderen komt in alle delen van de wereld voor, maar op basis van informatie van meerdere partners in het veld schatten we dat een meerderheid van de lidstaten van Interpol niet over de training en middelen beschikt om op passende wijze te reageren op bewijsmateriaal van seksueel misbruik van kinderen dat door organisaties met hen wordt gedeeld. zoals het National Center for Missing and Exploited Children (NCMEC). NCMEC is een orgaan dat door het Amerikaanse Congres is opgericht om bewijsmateriaal van seksueel kindermisbruikmateriaal dat over de hele wereld is geüpload en grotendeels door technologiegiganten is opgemerkt, te registreren en te verwerken. Wij zijn echter van mening dat dit gebrek aan capaciteit ertoe leidt dat miljoenen rapporten waarin wetshandhavingsinstanties worden gewaarschuwd voor misbruikmateriaal niet eens worden geopend.

De operatie in Ecuador, in samenwerking met het International Center for Missing and Exploited Children (ICMEC) en US Homeland Security, had tot doel dit te helpen veranderen door de autoriteiten te ondersteunen bij het ontwikkelen van verdere vaardigheden en vertrouwen om zedendelinquenten te identificeren en te lokaliseren en kinderslachtoffers te redden. P>

Centraal bij de operatie in Quito stond de database van Interpol, die ongeveer vijf miljoen afbeeldingen en video's bevat die gespecialiseerde onderzoekers uit meer dan 68 landen gebruiken om gegevens te delen en samen te werken aan zaken.

Met behulp van software voor het vergelijken van afbeeldingen en video's (in essentie foto-ID-werk dat onmiddellijk de digitale vingerafdruk van afbeeldingen herkent) kunnen onderzoekers de gevonden afbeeldingen snel vergelijken met afbeeldingen in de database. De software kan direct verbindingen leggen tussen slachtoffers, misbruikers en plaatsen. Het voorkomt ook dubbel werk en bespaart kostbare tijd door onderzoekers te laten weten of er al beelden zijn ontdekt of geïdentificeerd in een ander land. Tot nu toe heeft het wereldwijd ruim 37.900 slachtoffers helpen identificeren.

Lay heeft aanzienlijke praktijkervaring met het gebruik van deze bronnen om Childlight te helpen gegevens om te zetten in actie. Onlangs heeft hij technisch advies gegeven aan wetshandhavingsinstanties in Kenia, waar hij onder meer successen boekte met het gebruik van gegevens om pedofiel Thomas Scheller te arresteren. In 2023 kreeg Scheller, 74, een gevangenisstraf van 81 jaar. De Duitse staatsburger werd door een rechtbank in Nairobi schuldig bevonden aan drie aanklachten wegens mensenhandel, onfatsoenlijke handelingen jegens minderjarigen en het bezit van materiaal over seksueel kindermisbruik.

Maar ondanks deze vooruitgang op het gebied van de cijfers bestaan ​​er zorgen over het onvermogen van de rechtshandhavingsinstanties om gelijke tred te houden met een probleem dat zo groot is dat agenten er niet uit kunnen komen. Deze wordt mogelijk gemaakt door opkomende technologische ontwikkelingen, waaronder door AI gegenereerde misbruikbeelden, die de autoriteiten dreigen te overweldigen met hun omvang.

In Quito, tijdens een verwarmende maaltijd in het regenseizoen van encocado de pescado, een smakelijk regionaal gerecht van vis in kokossaus geserveerd met witte rijst, legde Lay uit:“Dit is zeker niet bedoeld om Latijns-Amerika uit te sluiten, maar het is duidelijk geworden dat er een onevenwichtigheid in de manier waarop landen over de hele wereld met gegevens omgaan. Er zijn er die vrijwel elke verwijzing behandelen die binnenkomt, en als er niets aan wordt gedaan en er iets gebeurt, kunnen mensen hun baan verliezen. sommige landen ontvangen duizenden e-mailverwijzingen per dag die niet eens worden geopend."

Nu zien we bewijs dat technologische vooruitgang ook kan worden gebruikt om online seksuele roofdieren te bestrijden. Maar het gebruik van dergelijke technologie roept ethische vragen op.

Controversiële AI-tool maakt gebruik van 40 miljard online afbeeldingen

De krachtige, maar controversiële AI-tool, die Lay sprakeloos maakte, was daar een goed voorbeeld van:een van de vele AI-gezichtsherkenningstools die op de markt zijn gekomen, en met meerdere toepassingen. De technologie kan helpen mensen te identificeren met behulp van miljarden afbeeldingen die van internet zijn geplukt, inclusief sociale media.

Dergelijke AI-gezichtsherkenningssoftware is naar verluidt door Oekraïne gebruikt om valse berichten op sociale media te ontmaskeren, de veiligheid bij controleposten te verbeteren en Russische infiltranten en dode soldaten te identificeren. Het werd naar verluidt ook gebruikt om relschoppers te helpen identificeren die de Amerikaanse hoofdstad in 2021 bestormden.

Het tijdschrift New York Times berichtte over een ander opmerkelijk geval. In mei 2019 waarschuwde een internetprovider de autoriteiten nadat een gebruiker beelden had ontvangen van seksueel misbruik van een jong meisje.

Eén korrelig beeld bevatte een essentiële aanwijzing:een volwassen gezicht zichtbaar op de achtergrond dat het gezichtsherkenningsbedrijf kon matchen met een afbeelding op een Instagram-account met dezelfde man, opnieuw op de achtergrond. Dit ondanks het feit dat het beeld van zijn gezicht bij het bekijken ervan ongeveer half zo groot zou zijn geweest als een menselijke vingernagel. Het hielp onderzoekers bij het vaststellen van zijn identiteit en de locatie in Las Vegas waar bleek dat hij materiaal voor seksueel misbruik van kinderen had gemaakt om op het dark web te verkopen. Dat leidde tot de redding van een zevenjarig meisje en tot een gevangenisstraf van 35 jaar.

Ondertussen heeft de Britse regering onlangs betoogd dat gezichtsherkenningssoftware de politie in staat kan stellen "criminelen een stap voor te blijven" en de straten van Groot-Brittannië veiliger te maken. Hoewel het gebruik van dergelijke software momenteel niet is toegestaan ​​in Groot-Brittannië.

Toen Lay zich vrijwillig aanmeldde om zijn eigen gelaatstrekken te laten analyseren, was hij verbijsterd dat de app binnen enkele seconden een schat aan afbeeldingen produceerde, waaronder een die hem vastlegde op de achtergrond van een foto die jaren geleden tijdens de rugbywedstrijd was gemaakt. Bedenk hoe onderzoekers een onderscheidende tatoeage of ongewoon behang kunnen matchen waar misbruik heeft plaatsgevonden. Het potentieel hiervan als instrument voor misdaadbestrijding is gemakkelijk in te zien.

Natuurlijk is het ook gemakkelijk om de zorgen te begrijpen die sommige mensen hebben op het gebied van de burgerlijke vrijheden, waardoor het gebruik van dergelijke technologie in heel Europa is beperkt. Wat zou dergelijke technologie in de verkeerde handen kunnen betekenen voor bijvoorbeeld een ondergedoken politieke dissident? Eén Chinese startup voor gezichtsherkenning is door de Amerikaanse overheid onder de loep genomen vanwege zijn vermeende rol in het toezicht op de Oeigoerse minderheidsgroep.

Rol van grote technologie

Soortgelijke opmerkingen worden soms gemaakt door grote technische voorstanders van end-to-end-encryptie op populaire apps:apps die ook worden gebruikt om bestanden over kindermisbruik en -uitbuiting op industriële schaal te delen, waardoor in feite het licht wordt uitgeschakeld voor enkele van 's werelds donkerste misdaden.

Waarom – vraag het aan de privacypuristen – zou iemand anders het recht moeten hebben om op de hoogte te zijn van hun privé-inhoud?

En dus lijkt het voor sommigen misschien dat we een Kafka-achtig punt hebben bereikt waarop het recht op privacy van misbruikers het risico loopt de privacy- en veiligheidsrechten van de kinderen die ze misbruiken te overtroeven.

Als encryptie van populaire apps voor het delen van bestanden de norm wil zijn, moet er dus duidelijk een evenwicht worden gevonden dat tegemoetkomt aan het verlangen naar privacy voor alle gebruikers, met de proactieve detectie van materiaal over seksueel misbruik van kinderen online.

Meta heeft onlangs aangetoond dat er potentieel bestaat voor een compromis dat de veiligheid van kinderen, althans tot op zekere hoogte, zou kunnen verbeteren. Instagram, onlangs door de NSPCC beschreven als het platform dat het meest wordt gebruikt voor verzorging, heeft een nieuwe tool ontwikkeld die gericht is op het blokkeren van het verzenden van seksuele afbeeldingen naar kinderen, hoewel de autoriteiten met name niet worden gewaarschuwd over degenen die het materiaal verzenden.

Dit zou zogenaamde client-side scanning met zich meebrengen, wat volgens Meta het belangrijkste privacybeschermende kenmerk van encryptie ondermijnt:dat alleen de afzender en de ontvanger op de hoogte zijn van de inhoud van berichten. Meta heeft gezegd dat het alle duidelijke gevallen van kinderuitbuiting die overal ter wereld op zijn site verschijnen, aan NCMEC rapporteert.

Een compromis met het gebruik van AI om overtreders op te sporen, zo suggereert Lay, is eenvoudig:ervoor zorgen dat het alleen kan worden gebruikt onder strikte toestemming van professionals op het gebied van kinderbescherming met passende controles. Het is geen ‘zilveren kogel’, legde hij mij uit. Op AI gebaseerde identificatie zal altijd gevolgd moeten worden door ouderwets politiewerk, maar alles wat "in 15 seconden kan bereiken wat we vroeger urenlang probeerden te bereiken" is een zorgvuldige overweging waard, meent hij.

De operatie in Ecuador, waarbij AI werd gecombineerd met traditioneel werk, had in maart onmiddellijke impact. ICMEC meldt dat dit heeft geleid tot een totaal van 115 slachtoffers (voornamelijk meisjes en meestal in de leeftijd van 6 tot 12 en 13 tot 15 jaar) en 37 daders (voornamelijk volwassen mannen) die wereldwijd positief zijn geïdentificeerd. Binnen drie weken zei ICMEC dat er 18 internationale interventies hadden plaatsgevonden, waarbij 45 slachtoffers werden gered en zeven misbruikers werden gearresteerd.

Hoe dan ook moet er een compromis worden bereikt om deze pandemie het hoofd te bieden. "Seksueel misbruik van kinderen is een mondiale volksgezondheidscrisis die gestaag verergert dankzij de voortschrijdende technologieën die de onmiddellijke productie en onbeperkte distributie van materiaal over kinderuitbuiting mogelijk maken, evenals ongereguleerde toegang tot kinderen online."

Dit zijn de woorden van de Tasmaanse Grace Tame:een opmerkelijke overlevende van kindermisbruik en uitvoerend directeur van de Grace Tame Foundation die zich inzet voor de bestrijding van seksueel misbruik van kinderen.

"Net als talloze overlevenden van slachtoffers van seksueel kindermisbruik, werd mijn leven volledig op zijn kop gezet door de blijvende gevolgen van trauma, schaamte, publieke vernedering, onwetendheid en stigma. Ik verhuisde op 18-jarige leeftijd naar het buitenland omdat ik een paria werd in mijn geboortestad, geen tertiaire opleiding volgde onderwijs zoals gehoopt, misbruikte alcohol en drugs, verwondde zichzelf en werkte verschillende baantjes tegen het minimumloon. Tame is van mening dat "een gecentraliseerde mondiale onderzoeksdatabase essentieel is voor de bescherming van kinderen."

Als internet en technologie ons hebben gebracht waar we nu zijn, is de AI die in Quito wordt gebruikt om 45 kinderen te redden een krachtige demonstratie van de kracht van technologie voorgoed. Bovendien getuigt het werk van de uit tien landen bestaande taskforce van het potentieel van mondiale antwoorden op een mondiaal probleem op een internet dat geen nationale grenzen kent.

Meer samenwerking, onderwijs en in sommige gevallen regelgeving en wetgeving kunnen allemaal helpen, en ze zijn zonder uitstel nodig omdat, zoals Childlight's mantra luidt, kinderen niet kunnen wachten.

Aangeboden door The Conversation

Dit artikel is opnieuw gepubliceerd vanuit The Conversation onder een Creative Commons-licentie. Lees het originele artikel.