Het is niet moeilijk om je een bot voor te stellen die het iconische schilderij van kunstenaar Georgia O'Keeffe "Grey Lines with Black, Blue and Yellow" (hier afgebeeld bij Tate Modern) als inhoud voor volwassenen. Rob Stothard/Getty Images

Het platform Tumblr heeft besloten om geen inhoud voor volwassenen meer toe te staan. Het verbod gaat in op 17 december 2018, en om het af te dwingen, Tumblr lijkt een bot te hebben ingezet die buitengewoon slecht is in zijn werk, onschuldige inhoud markeren als pornografisch van aard en zowel gebruikers als technische experts ertoe aanzetten zich af te vragen waarom de bot zo slecht is in wat hij doet. Een deel van het antwoord is dat moderatie met kunstmatige intelligentie een buitengewoon moeilijke taak is.

Veel van de subtiliteiten die betrokken zijn bij het beslissen welke inhoud we acceptabel of verwerpelijk vinden, moeten in steen worden opgeschreven, en onze staat van dienst om dat te doen is niet zo geweldig. In feite, we hebben in de eerste plaats moeite om iets als pornografisch te identificeren. De overleden rechter van het Amerikaanse Hooggerechtshof Potter Stewart vatte het sentiment samen in een uitspraak over een obsceniteitszaak (Jacobellis v. Ohio) met de zin "Ik weet het wanneer ik het zie."

Dat gevoel is in de praktijk even vaag gebleken als in de betekenis ervan. Hier is een voorbeeld:een foto van een man met een erectie moet onzedelijk van aard zijn, Rechtsaf? Maar wat als dit een medische illustratie is van priapisme, een vaak pijnlijke aandoening die een langdurige erectie veroorzaakt, en het verschijnt op een medische site? Als een afbeelding van een vulva obsceen is, betekent dat het werk van kunstenaar Georgia O'Keeffe, wiens schilderijen van bloemen vaak worden beschouwd als visuele metaforen voor de vrouwelijke anatomie, moet worden gemarkeerd in artikelen over kunstgeschiedenis?

Sociale netwerken en contentplatforms komen deze situaties de hele tijd tegen. Bijvoorbeeld, bij een groot PR-incident in 2016, Facebook censureerde de Pulitzer Prize-winnende foto van een naakte 9-jarige Kim Phuc die in paniek wegrent van een napalmaanval tijdens de oorlog in Vietnam; de foto werd gepubliceerd door de meest vooraanstaande krant van Noorwegen voor een relevant artikel over oorlogvoering. Daarentegen, Twitter-gebruikers konden dat platform pas eind 2017 overtuigen om neonazistische accounts te sluiten. Met verschillende filosofieën en schijnbaar willekeurige, contextvrije regels die zelfs menselijke moderators in verwarring kunnen brengen, het is geen wonder dat algoritmen moeite hebben om uit te zoeken wat ze moeten markeren.

Tumblr's systeem lijkt op zoek te zijn naar een hoeveelheid van wat het ziet als blootgestelde huid in afbeeldingen, of vormen waarvan hij denkt dat het tepels of genitaliën zijn. Helaas, veel goedaardige close-ups op niet-erogene delen van het menselijk lichaam overschrijden de drempel voor hoeveel naakt vlees een afbeelding laat zien, zoals Dan Fallon schreef voor Digg opmerkte. Bepaalde objecten zoals bomen kunnen er ook fallisch uitzien. En in een schijnbaar onverklaarbaar geval, Fallon schreef, de zeer onschuldige natuurfoto's van een landschapsfotograaf werden als problematisch bestempeld, te. Dit, echter, is niet ongebruikelijk voor dergelijke algoritmen. Andere herhalingen van censor-bots hebben afbeeldingen van duinen en stranden gemarkeerd omdat de kleur van het zand vergelijkbaar was met de huidskleur volgens hun trainingsgegevenssets.

Deze systematische fout is ook logisch als je bedenkt hoeveel huidtinten mensen hebben. Kleuren van lichtbeige tot bijna zwart komen allemaal van nature voor, en afhankelijk van hoe een AI wordt getraind of een sensor wordt gekalibreerd, het begrijpt misschien niet dat donkere huidskleuren zelfs bestaan. Als resultaat, een algoritme dat is getraind om pornografische afbeeldingen met blanke artiesten te herkennen en te censureren, is mogelijk niet in staat om even expliciete afbeeldingen te markeren met modellen met een donkere huidskleur. Een van de makkelijke oplossingen daarvoor is overcompensatie, markeer alles en rechtvaardig de valse positieven als beter dan niet genoeg inhoud voor volwassenen vangen, dat is wat Tumblr lijkt te hebben gedaan in de strijd om de inhoud ervan te zuiveren. Tumblr heeft geen verzoeken om commentaar geretourneerd over de vraag of er een extra laag was voor de moderatie.

uiteindelijk, het valt nog te bezien of een overijverig censuuralgoritme ook gebruikers zal aandrijven die geen inhoud voor volwassenen van het platform plaatsen, of dat het wordt teruggebeld. Maar Tumblr's zeer openbare en agressieve overflauwstelling benadrukt enkele van de vele problemen bij het modereren van online media. Er zullen dus fouten blijven worden gemaakt, en vaak gemaakt. Totdat we weten hoe we deze zorgen kunnen aanpakken, mensen zullen toezicht moeten houden op elke echt succesvolle matiging.

Dat is nu interessant

Zelfs de humeurige Garfield werd verbannen uit Tumblr in de eerste sweep, zoals in talrijke artikelen werd opgemerkt.