Stel je voor dat je in een slimme stad woont die je gezicht kent en je elke beweging volgt - de plaatsen waar je gaat, de mensen die je ziet, en alle dingen die je onderweg doet.

Overuren, autonome kunstmatige intelligentie (AI) bouwt een profiel op dat rapporteert over hoe waarschijnlijk het is dat u een misdrijf pleegt. Als dat risico groot is, de politie treedt preventief op. Welkom bij hypersurveillance en de volgende generatie predictive policing.

Zowel India als China voeren momenteel dit niveau van toezicht uit om de misdaadcijfers terug te dringen en terroristen op te sporen voordat ze toeslaan.

Japan kijkt ook naar voorspellende systemen in de aanloop naar de Olympische Spelen van 2020 in Tokio. Londen en elders in het Verenigd Koninkrijk gebruiken al geruime tijd soortgelijke technologie.

Het kan al gebeuren in de stad waar je woont.

Doordringend, realtime bewaking zoals deze is mogelijk omdat krachtiger, rekenmachines kunnen de stortvloed aan gezichtsherkennings- en loopanalysegegevens van duizenden videocamera's verwerken, allemaal gecoördineerd door geavanceerde AI die alles kan begrijpen.

Niet zo lang geleden, we vertrouwden op politiepatrouilles met arendsogen om de openbare veiligheid te waarborgen. Dat was toen we in kleine gemeenschappen leefden waar mensen elkaar van gezicht kenden.

Maar terwijl steden bleven groeien, te groot worden voor de politieagent alleen, gesloten televisiecircuit (CCTV), gezichtsherkenning en eerdere generatie voorspellende systemen kwamen in gebruik.

De moraliteit van hypersurveillance

Over de ethiek van predictive policing zijn de meningen verdeeld.

Voorstanders van privacy en libertariërs maken zich zorgen, als het geen bezwaren zijn, tot dit niveau van toezicht – uit angst dat het een instrument van discriminatie zou kunnen worden.

In de tussentijd, Voorstanders van openbare veiligheid en terrorismebestrijding stellen dat voorspellende technologie een groot potentieel heeft om terroristische aanslagen en andere bedreigingen voor de openbare veiligheid te dwarsbomen.

Beide argumenten hebben kracht en geldigheid, dus de vraag is waar trekken we precies de grens tussen het algemeen belang en de individuele vrijheid?

Het antwoord zal per geval verschillen. Elk rechtsgebied moet onderhandelen over het antwoord, rekening houdend met alle belangen van belanghebbenden.

Sinds terroristen op 11 september de Verenigde Staten hebben aangevallen, 2001 is de mate van bewaking en fouillering op luchthavens enorm toegenomen.

Op tijd, het reizende publiek ging de situatie accepteren als zijnde in hun eigen belang en dat van hun medepassagiers.

Privacy begint en eindigt bij de voordeur

Het is algemeen aanvaard dat u recht heeft op privacy in uw eigen huis. Als je de voordeur sluit, je kunt redelijkerwijs verwachten dat niemand kijkt en luistert.

De uitzondering is wanneer u thuis bent, maar betrokken bent bij criminele activiteiten die de gemeenschap bedreigen. Hier trekken we in dit geval de grens tussen individuele rechten en het grotere goed.

Maar als je naar buiten gaat, iedereen kan naar je kijken als ze dat willen. Ze kunnen ook het gesprek dat u voert afluisteren. Er is geen recht op privacy van de publieke blik, en nooit geweest.

Maar kijken is iets anders dan voorspellingen doen - en de ongemakkelijke waarheid is dat voorspellende politietechnologie het potentieel heeft om te worden gebruikt als een instrument van onderdrukking. Dit risico beheren in een open, democratische samenleving is zeker een uitdaging, maar niet onoverkomelijk met checks and balances.

Afweging van de risico's en de voordelen

Gezien de algemene ervaring van predictive policing, het lijkt erop dat er sterke argumenten zijn voor het voortgezette gebruik ervan.

In Australië, bijvoorbeeld, In de afgelopen drie jaar werden naar verluidt 15 terreuraanslagen verijdeld door politiewerk dat werd ondersteund door computeralgoritmen.

De vraag is, hoe minimaliseren we de risico's tot een acceptabel niveau?

Het korte antwoord is om een ​​wettelijk kader vast te stellen dat ethische transparantie garandeert in alle voorspellende politiemethoden op basis van AI, inclusief hoe de algoritmen in elkaar zitten.

Het zou er ook rigoureus voor zorgen dat de gegevens die in voorspellende systemen worden ingevoerd, nauwkeurig en onbevooroordeeld zijn. Zoals bij elk computersysteem, de uitvoer is slechts zo goed als de invoer - vuilnis in, vuilnis buiten, zoals het gezegde gaat.

Dit is nodig om de aanhoudende zorgen over inherente vooringenomenheid in voorspellende systemen aan te pakken.

Het is waargenomen dat niet alle politiekorpsen gelijk zijn gemaakt. In de Verenigde Staten zijn er niet minder dan 12, 000 lokale politiekorpsen. Er zullen zeker verschillen zijn, weerspiegeld in de kwaliteit van het leiderschap en de beschikbaarheid van middelen.

Samenwerking tussen mens en AI

Politiewerk is niet perfect en menselijke agenten hebben het niet altijd goed.

Maar als het gaat om AI bij de politie, Ik geloof dat er in de wetshandhaving altijd een plaats moet zijn voor de verfijnde instincten van een ervaren menselijke officier, getemperd door een systeem van checks and balances.

De technologie moet altijd ondergeschikt zijn aan de mens, de rol van beslissingsondersteuner op zich nemen.

Op die manier, wanneer het tijdperk van hypersurveillance aanbreekt in je woonplaats, het zal een verantwoordelijk mens zijn, geen machine – hoe intelligent ook – die beslist of een persoon een ernstig risico vormt voor de openbare veiligheid.

Dit artikel is oorspronkelijk gepubliceerd op The Conversation. Lees het originele artikel.