Online winkels kunnen algoritmen gebruiken om sommige klanten hogere prijzen in rekening te brengen dan andere. Europese wetten bieden slechts beperkte bescherming tegen dergelijke prijsdifferentiatie. Frederik Zuiderveen Borgesius, Hoogleraar ICT en Privaatrecht aan de Radboud Universiteit, heeft over dit onderwerp geschreven in een artikel dat is gepubliceerd in de European Business Law Review.

Online winkels als Bol.com en Amazon gebruiken veel algoritmen om consumenten te verleiden hun geld sneller uit te geven. De gemiddelde gebruiker is waarschijnlijk gewend om aanbevolen producten te zien die gebaseerd zijn op eerdere aankopen en knipperende meldingen wanneer de voorraad op is, maar wat als een algoritme werd gebruikt om voor elke klant een individuele verkoopprijs weer te geven? Online winkels kunnen de prijzen voor bepaalde postcodes aanpassen, of zelfs individuele klanten op basis van IP-adressen en andere kenmerken.

Algoritmische discriminatie en contractuele vrijheid

Winkels die algoritmen gebruiken, hebben zelden discriminerende bedoelingen, maar het gebruik van algoritmen kan ook onbedoeld tot discriminatie leiden. Dit was het geval toen een Amerikaanse bijlesinstelling voor bepaalde gebieden hogere prijzen rekende. De bewoners in deze wijken waren voornamelijk mensen met een Aziatische achtergrond, die meer moesten betalen voor bijles. In sommige gevallen, het prijsverschil voor elke cursus was zo hoog als $ 1, 800.

In principe, de wet staat prijsdifferentiatie toe. Contractuele vrijheid speelt een grote rol in het Europese recht, wat inhoudt dat verkopers hun eigen verkoopprijs mogen bepalen. Maar als prijsdifferentiatie leidt tot discriminatie van groepen met beschermde kenmerken, zoals etniciteit of geslacht, non-discriminatierecht in het spel zal komen.

Europese non-discriminatieregels beschermen tegen verschillende vormen van discriminatie, inclusief discriminatie op basis van etniciteit en geslacht. Ook indirecte discriminatie is verboden. Kortom, indirecte discriminatie treedt op als een praktijk op het eerste gezicht neutraal is, maar leidt toch tot discriminatie van mensen met een bepaalde etniciteit (of een beschermd kenmerk).

Moeilijk te ontdekken

Als een webwinkel zijn prijzen aanpast aan de postcode van de klant, dit wordt als een neutrale praktijk beschouwd. Echter, als de mensen die in dat gebied wonen meestal een allochtone achtergrond hebben, de praktijk kan een verboden vorm van indirecte discriminatie inhouden. Het non-discriminatierecht lijkt mensen dus te beschermen tegen bepaalde vormen van prijsdifferentiatie.

"Maar bescherming tegen prijsdifferentiatie is beperkt", legt Zuiderveen Borgesius uit. Beginnen met, algoritmische discriminatie kan verborgen blijven. "Stel dat een online winkel een hogere prijs rekent in een gebied waar een meerderheid van de inwoners een Turkse achtergrond heeft. Het is moeilijk voor de mensen in dit gebied om een ​​prijsverschil te zien. Alleen wanneer deze prijzen worden vergeleken met de prijzen van iemand anders buiten het gebied waar je het verschil kunt zien. En zelfs als sommige consumenten erachter kwamen dat ze meer betaalden dan anderen, ze zouden nog steeds niet weten dat mensen met een Turkse achtergrond over het algemeen meer betalen. Vandaar, de consumenten zouden nog steeds niet op de hoogte zijn van de indirecte discriminatie. Als consumenten niet beseffen dat ze worden gediscrimineerd, ze zullen hun recht op non-discriminatie niet uitoefenen."

Een tweede probleem is dat het verbod op indirecte discriminatie een genuanceerde uitzondering bevat, die in een specifiek geval vaak moeilijk toepasbaar is. Indirecte discriminatie is niet verboden als de onderneming een legitiem doel nastreeft en haar neutrale praktijk een redelijk (evenredig) middel vormt.

"Als een bedrijf extra winst probeert te maken, een rechter zou dit waarschijnlijk als een legitiem doel beschouwen", zegt Zuiderveen Borgesius. Complexer is de vraag of prijsdifferentiatie een redelijk middel is. Dit antwoord hangt van veel factoren af. Hoe groot is het prijsverschil? Gaat het om kaviaar of andere luxe producten, of supermarktproducten die mensen dagelijks gebruiken? Zo'n genuanceerde regel heeft voordelen, maar de nuance gaat ten koste van de duidelijkheid. In totaal, er is geen vaste regel die duidelijk voorschrijft welke soorten prijsdifferentiatie zijn toegestaan ​​en welke verboden zijn.

Browservoorkeuren en nieuwe vormen van discriminatie

Zuiderveen Borgesius:"Bovendien algoritmen maken het mogelijk om onderscheid te maken tussen consumenten op basis van een groot aantal kenmerken. Europese wetten erkennen discriminatie op basis van etniciteit, geslacht, en andere dergelijke kenmerken. Echter, de browser die u gebruikt of het postcodegebied waarin u woont, is geen beschermd kenmerk. Een webwinkel kan er dus voor zorgen dat mensen extra betalen als ze een bepaalde browser gebruiken. Het non-discriminatierecht zegt hier weinig over, zolang de praktijk geen gevolgen heeft voor mensen met een bepaalde etniciteit of een ander beschermd kenmerk."

Hoewel er momenteel nauwelijks online winkels lijken te zijn die algoritmen gebruiken om verschillende prijzen voor verschillende consumenten te bepalen, de kans is groot dat dit in de toekomst zal veranderen. Mede daarom heeft minister Sander Dekker in een brief aan de Tweede Kamer aangekondigd dat de ministeries van Binnenlandse Zaken en Justitie en Veiligheid onderzoeken hoe discriminatie bij het aanbieden van goederen en diensten kan worden voorkomen. Zuiderveen Borgesius:“Waarschijnlijk is er nieuwe wetgeving nodig om betere bescherming te bieden. Als het gaat om de vraag hoe we mensen kunnen beschermen tegen de discriminerende effecten van algoritmen, meer onderzoek en debat zijn nodig."