De politie van Queensland (QPS) zal naar verwachting een proces starten met behulp van kunstmatige intelligentie (AI) om het toekomstige risico van bekende daders van huiselijk geweld te bepalen.

Daders geïdentificeerd als "hoog risico" - op basis van eerdere oproepen naar een adres, criminele activiteiten uit het verleden en andere door de politie bewaarde gegevens - thuis door de politie worden bezocht voordat huiselijk geweld escaleert, en voordat er een misdaad is gepleegd.

Er moeten betere manieren worden gevonden om de veiligheid van vrouwen die het slachtoffer zijn van huiselijk geweld te verbeteren. Echter, het gebruik van AI-technologie in deze context kan onbedoelde gevolgen hebben - en het voorgestelde plan roept ernstige vragen op over de rol van de politie bij het voorkomen van huiselijk geweld.

De aanpak is gebaseerd op een algoritme dat is ontwikkeld op basis van bestaande QPS-administratieve gegevens (QPRIME). Alle statistische algoritmen moeten risico's beoordelen op basis van beschikbare gegevens, wat op zijn beurt betekent dat ze slechts zo goed zijn als de gegevens die eraan ten grondslag liggen.

Deskundigen die kritiek hebben op het gebruik van gegevensgestuurde instrumenten voor risicobeoordeling bij politiediensten wijzen op het gebrek aan transparantie in de specifieke soorten gegevens die worden geanalyseerd, evenals hoe op voorspellingen op basis van deze gegevens wordt gereageerd.

Door de manier waarop de politie werkt, de belangrijkste gegevens die het meest consistent worden vastgelegd, zijn informatie over situaties in het verleden waartoe de politie is geroepen, en criminele geschiedenisgegevens.

Het gebruik van deze informatie om een ​​AI-algoritme te trainen, zou bestaande vooroordelen in het strafrechtsysteem kunnen versterken. Het zou een eindeloze feedbacklus kunnen creëren tussen de politie en de burgers die het meeste contact hebben met de politie.

In Australië, het zijn Aboriginals en Torres Strait Islander-mensen. Het is niet moeilijk voor te stellen dat onder dit nieuwe regime Aboriginals en Torres Strait Islanders meer door de politie zullen worden bezocht.

QPS-vertegenwoordiger Ben Martain heeft gezegd dat de politie iemand die ze aan de deur kloppen niet kan aanklagen voor een toekomstige vermoedelijke overtreding.

Hij zei ook voor de piloot, kenmerken van etniciteit en geografische locatie werden verwijderd voordat het AI-model werd getraind. Maar ondanks dit, het lijkt waarschijnlijk dat Aboriginals en Torres Strait Islanders onevenredig het doelwit zullen blijven, omdat ze oververtegenwoordigd zijn in alle soorten politiecontacten.

Introductie van risico

Het doel van dergelijke op AI gebaseerde strategieën bij de politie is het voorkomen of verminderen van criminaliteit, door een beoordeling van het risico van toekomstige overtredingen. In theorie, dit betekent dat de politie vroeg zou ingrijpen om een ​​misdrijf te voorkomen.

Echter, met deze aanpak zijn er risico's dat de politie kan creëren misdrijf. Een ongevraagde klop van de politie zou in de meeste huishoudens ongewenst zijn, laat staan ​​een waar de politie eerder aanwezig was om huiszoekingen uit te voeren of arrestaties te verrichten.

In dit "preventieve" programma, daders en de slachtoffers waarmee ze leven, kunnen nerveus zijn, geagiteerd of zelfs boos over de politie die zonder aanwijsbare reden hun huis binnendrong.

Een bezochte persoon kan beledigende taal gebruiken of weigeren zijn naam op te geven. Het zou niet verwonderlijk zijn als dit tot een aanklacht zou leiden.

Dergelijke beschuldigingen kunnen ertoe leiden dat de bezochte persoon nog nerveuzer wordt, opgewonden of boos, en dan kunnen ze ontdekken dat ze worden beschuldigd van mishandeling en verzet tegen de politie. Dit staat in de volksmond bekend als de "trifecta", waarin een persoon die anders niet heeft beledigd uiteindelijk wordt beschuldigd van beledigende taal, verzet tegen arrestatie en mishandeling van de politie.

De standaardbevoegdheden in de politietoolbox zijn arresteren en vervolgen. Met het voorgestelde plan van QPS, er is een duidelijk risico dat het net van criminalisering voor beide daders wordt vergroot, evenals slachtoffers die ten onrechte als daders kunnen worden geïdentificeerd. Bijvoorbeeld, soms zijn slachtoffers die geweld hebben gebruikt uit zelfverdediging gearresteerd in plaats van de dader.

Slachtoffers nog meer schade berokkenen

Ook de rol van het slachtoffer in een dergelijk programma is zorgwekkend. Elk programma dat de bewaking van daders verdiept, verdiept ook de bewaking van slachtoffers.

Slachtoffers willen niet altijd dat de politie in hun leven ingrijpt. In sommige gevallen, deze vorm van proactief politiewerk kan aanvoelen als een verlengstuk van controle, in plaats van te helpen. Wat gebeurt er als de politie op bezoek komt en ontdekt dat een risicovolle dader en slachtoffer weer samenwonen?

Slachtoffers kunnen bang zijn dat de kinderbeschermingsautoriteiten zich ermee bemoeien en voelen zich verplicht om te verbergen dat ze nog steeds bij de dader zijn. En als een slachtoffer eenmaal onder druk is gezet om te liegen, ze kunnen terughoudend zijn om de politie te bellen de volgende keer dat ze politie-interventie nodig hebben.

In sommige gevallen, de dader of het slachtoffer kan besluiten de veiligheidsadviezen van politieagenten die op bezoek komen niet op te volgen. Het is niet duidelijk wat de politie zou kunnen doen in een situatie waarin ze een dader vragen te vertrekken, of proberen een slachtoffer in veiligheid te brengen, maar ze weigeren.

De missie van elke interventie op het gebied van huiselijk geweld moet zijn om de macht aan de slachtoffers te herstellen. Maar we weten dat interventies niet alle vrouwen (of mannen) in gelijke mate helpen. structurele ongelijkheden, inclusief ras en klasse, gemiddelde interventies worden door verschillende mensen anders ervaren.

Zal een slachtoffer inspraak hebben in de vraag of de politie proactief gaat politietoezicht op hun dader? Moeten ze iets te zeggen hebben?

Zijn er veiligere opties?

In het kader van de risicobeoordeling, veel deskundigen beweren dat vrouwen vaak (hoewel niet altijd) een sterk gevoel hebben wanneer ze een verhoogd risico lopen.

Door de rechtbank bevolen contactbezoeken kunnen een van die momenten zijn met een hoog risico. Toch melden vrouwen in deze situaties vaak dat de politie weigert om hen en hun kinderen te beschermen. Hoe wordt met deze tool de stem van het slachtoffer meegenomen in de risicobeoordeling?

Een bijzondere zorg is of de politie echt is toegerust om in te grijpen in omstandigheden waarin er geen misdaad is. QPS-vertegenwoordiger Ben Martain zei dat wanneer daders "niet op een punt van crisis zijn, in een verhoogde emotionele toestand, of getroffen zijn door drugs of alcohol" - ze zijn "over het algemeen meer vatbaar om dit te herkennen als een keerpunt in hun leven."

Maar de politie zelf heeft hun rol in huiselijk geweld in twijfel getrokken, in plaats van de mogelijke rol van maatschappelijk werkers te benadrukken. op hun plaats.

Het is niet duidelijk of de politie de best gepositioneerde dienst is om in te grijpen als er geen sprake is van een verstoring. Queensland heeft al protocollen voor het delen van informatie waarbij teams betrokken zijn die specifiek zijn belast met het reageren op mensen die betrokken zijn bij risicovolle relaties met huiselijk geweld. Deze teams zijn onder meer uit de gemeenschap gebaseerde ondersteuningsmedewerkers.

Dit kan een betere manier zijn om in te grijpen tijdens die kritieke perioden van rust.

Dit artikel is opnieuw gepubliceerd vanuit The Conversation onder een Creative Commons-licentie. Lees het originele artikel.