Video van politie in oproeruitrusting die botst met ongewapende demonstranten in de nasleep van de moord op George Floyd door politieagent Derek Chauvin uit Minneapolis heeft feeds op sociale media gevuld. In de tussentijd, politietoezicht op demonstranten is grotendeels uit het zicht gebleven.

lokaal, staats- en federale wetshandhavingsorganisaties gebruiken een reeks bewakingstechnologieën om demonstranten te identificeren en te volgen, van gezichtsherkenning tot drones van militaire kwaliteit.

Het gebruik door de politie van deze bewakingstechnieken in de stijl van de nationale veiligheid - gerechtvaardigd als kosteneffectieve technieken die menselijke vooroordelen en fouten vermijden - is hand in hand gegroeid met de toegenomen militarisering van de wetshandhaving. Uitgebreid onderzoek, inclusief de mijne, heeft aangetoond dat deze uitgebreide en krachtige bewakingscapaciteiten de vooringenomenheid eerder hebben verergerd dan verminderd, overreikwijdte en misbruik bij de politie, en ze vormen een groeiende bedreiging voor de burgerlijke vrijheden.

Bij de hervormingsinspanningen van de politie wordt in toenemende mate gekeken naar het gebruik van surveillancetechnologieën door wetshandhavingsorganisaties. In het kielzog van de huidige onrust, IBM, Amazon en Microsoft hebben de politie afgeremd om de gezichtsherkenningstechnologie van de bedrijven te gebruiken. En door de Democraten in het Amerikaanse Huis van Afgevaardigden ingediende wetsvoorstellen voor de hervorming van de politie roepen op tot regulering van het gebruik van gezichtsherkenningssystemen door de politie.

Een decennium van big data-politie

We hebben niet altijd in een wereld van politiecamera's geleefd, slimme sensoren en voorspellende analyses. Recessie en woede voedden de aanvankelijke opkomst van big data-politietechnologieën. In 2009, tegenover de federale, staats- en lokale bezuinigingen als gevolg van de Grote Recessie, politiediensten gingen op zoek naar manieren om meer te doen met minder. Technologiebedrijven haastten zich om de gaten te vullen, nieuwe vormen van datagedreven politiewerk aanbieden als modellen voor efficiëntie en kostenreductie.

Vervolgens, in 2014, de politiemoord op Michael Brown in Ferguson, Missouri, verstoorde al rafelige politie- en gemeenschapsrelaties. De moorden op Michael Brown, Eric Garner, Philadelphia Castilië, Tamir Rijst, Walter Scott, Sandra Baard, Freddie Gray en George Floyd leidden allemaal tot landelijke protesten en riepen op tot raciale gerechtigheid en politiehervorming. Het politiewerk werd in een crisismodus gedreven toen verontwaardiging van de gemeenschap de bestaande machtsstructuur van de politie dreigde te delegitimeren.

Als reactie op de dubbele dreiging van kostendruk en kritiek van de gemeenschap, politieafdelingen omarmden verder startende technologiebedrijven die big data-efficiëntie verkopen en de hoop dat iets "datagedreven" gemeenschappen in staat zou stellen verder te gaan dan de al te menselijke problemen van politiewerk. Voorspellende analyses en bodycam-videomogelijkheden werden verkocht als objectieve oplossingen voor raciale vooroordelen. In grote mate, de public relations-strategie werkte, waardoor wetshandhavingsinstanties predictive policing en meer digitaal toezicht hebben kunnen omarmen.

Vandaag, te midden van hernieuwde verontwaardiging over structureel racisme en politiegeweld, en in de schaduw van een nog diepere economische recessie, wetshandhavingsorganisaties staan ​​voor dezelfde verleiding om een ​​op technologie gebaseerde oplossing voor diepe maatschappelijke problemen aan te nemen. Politiechefs zullen waarschijnlijk de pagina willen omslaan van de huidige niveaus van woede en wantrouwen in de gemeenschap.

De gevaren van hightech surveillance

In plaats van de fouten van de afgelopen 12 jaar of zo te herhalen, gemeenschappen hebben de mogelijkheid om de uitbreiding van big data-politie af te wijzen. De gevaren zijn alleen maar groter geworden, de schade duidelijk gemaakt door ervaring.

Die kleine startende bedrijven die aanvankelijk met de politie bezig waren, zijn vervangen door grote technologiebedrijven met diepe zakken en grote ambities.

Axon profiteerde van de eisen voor verantwoordelijkheid van de politie na de protesten in Ferguson en Baltimore om een ​​miljoenenbedrijf te worden dat digitale diensten levert voor door de politie gedragen lichaamscamera's. Amazon heeft de samenwerking met honderden politiediensten uitgebreid via zijn Ring-camera's en de Neighbours-app. Andere bedrijven zoals BriefCam, Palantir en Shotspotter bieden een groot aantal videoanalyses, sociale netwerkanalyse en andere sensortechnologieën met de mogelijkheid om technologie op korte termijn goedkoop te verkopen met de hoop op marktvoordeel op lange termijn.

De technologie zelf is krachtiger. De algoritmische modellen die tien jaar geleden zijn gemaakt, verbleken in vergelijking met de mogelijkheden van machine learning tegenwoordig. Videocamerastreams zijn gedigitaliseerd en uitgebreid met analyse- en gezichtsherkenningsmogelijkheden, statisch toezicht veranderen in een virtuele tijdmachine om patronen in menigten te vinden. Toevoegen aan de dataval zijn smartphones, slimme huizen en slimme auto's, waarmee de politie nu relatief gemakkelijk de digitale sporen van individuen kan ontdekken.

De technologie is meer met elkaar verbonden. Een van de natuurlijke beperkende factoren van de eerste generatie big data-politietechnologie was het feit dat het in een silo bleef. Databases konden niet met elkaar communiceren. Gegevens konden niet gemakkelijk worden gedeeld. Die beperkende factor is kleiner geworden naarmate er meer geaggregeerde datasystemen zijn ontwikkeld binnen de overheid en door particuliere leveranciers.

De belofte van objectieve, onpartijdige technologie kwam niet uit. Rasvooroordelen bij de politie werden niet verholpen door een camera aan te zetten. In plaats daarvan creëerde de technologie nieuwe problemen, inclusief het benadrukken van het gebrek aan verantwoordelijkheid voor spraakmakende gevallen van politiegeweld.

Lessen om spionage door de politie in toom te houden

De nadelen van big data-politie zijn herhaaldelijk aan het licht gekomen. Programma's die probeerden het gedrag van individuen in Chicago en Los Angeles te voorspellen, zijn stopgezet nadat verwoestende audits hun discriminerende impact en praktische mislukking hadden gecatalogiseerd. Plaatsgebaseerde voorspellende systemen zijn stilgelegd in Los Angeles en andere steden die de technologie aanvankelijk hadden overgenomen. Schandalen met gezichtsherkenning, technologie voor sociale netwerkanalyse en grootschalige sensorbewaking dienen als een waarschuwing dat technologie de diepere problemen van ras, macht en privacy die de kern vormen van het moderne politiewerk.

De les van het eerste tijdperk van big data-politie is dat rassenkwesties, transparantie en grondwettelijke rechten moeten voorop staan ​​bij ontwerp, regelgeving en gebruik. Elke fout kan worden herleid tot het niet zien hoe de bewakingstechnologie past in de context van de moderne politiemacht - een context die al lang bestaande kwesties van racisme en sociale controle omvat. Elke oplossing wijst op het aanpakken van die machtsonbalans aan de voorkant, door plaatselijk toezicht, gemeenschapsbetrokkenheid en federale wetgeving, niet nadat de technologie is geadopteerd.

De discussies over definanciering, het demilitariseren en opnieuw vormgeven van bestaande rechtshandhavingspraktijken moet een discussie over politietoezicht omvatten. Er zijn een decennium van misstappen om van te leren en de uitdagingen op het gebied van privacy en raciale rechtvaardigheid die het tijdperk bepalen. Hoe politiediensten reageren op de sirene van big data-surveillance zal uitwijzen of ze op weg zijn om dezelfde fouten te herhalen.

Dit artikel is opnieuw gepubliceerd vanuit The Conversation onder een Creative Commons-licentie. Lees het originele artikel.