Zuid-Australië is begonnen met een proef met een nieuwe COVID-app om de aankomsten in de staat te volgen. SA-premier Steven Marshall beweerde dat "elke Zuid-Australiër behoorlijk trots zou moeten zijn dat we de nationale piloot zijn voor de thuisgebaseerde quarantaine-app."

Hij verdubbelde toen met de opschepperij dat hij "vrij zeker was dat de technologie die we binnen de regering van Zuid-Australië hebben ontwikkeld, de nationale standaard zal worden en in het hele land zal worden uitgerold."

Ook Victoria heeft een naderende "technologisch ondersteunde" thuisquarantaine aangekondigd, hoewel details onduidelijk blijven. Thuisquarantaine zal uiteindelijk ook beschikbaar zijn voor internationale aankomsten, volgens premier Scott Morrison.

De Zuid-Australische app heeft weinig aandacht gekregen in Australië, maar in de VS noemde het linkse Atlantische tijdschrift het "net zo Orwelliaans als alle andere in de vrije wereld". Ook rechtse media als Fox News en Breitbart deden mee aan de aanval. en voor een keer ben ik het met hen eens.

Locatie volgen en gezichtsherkenning

Ondanks de beweringen van de SA Premier, dit is niet de eerste app die in Australië wordt gebruikt. Een vergelijkbare thuisquarantaine-app is al in gebruik voor aankomsten in WA, en in sommige gevallen het Northern Territory.

Beide apps gebruiken geolocatie- en gezichtsherkenningssoftware om personen in quarantaine te volgen en te identificeren. Gebruikers moeten bewijzen dat ze thuis zijn wanneer de applicatie daar willekeurig om vraagt.

in ZA, je hebt 15 minuten om de gezichtsherkenningssoftware te laten verifiëren dat je nog thuis bent. in WA, het is meer een race. Je hebt nog maar 5 minuten voordat je het risico loopt op de deur te kloppen van de politie.

Een ander verschil is dat de SA-app opt-in is. Momenteel. De WA-app is al verplicht voor aankomsten uit risicogebieden zoals Victoria. Voor extreme risicogebieden zoals NSW, het is regelrecht een quarantainehotel binnen.

Redenen voor bezorgdheid

Maar waarom ontwikkelen we überhaupt zulke thuisquarantaine-apps, terwijl we al een goedkope technologie hebben om dit te doen? Als we willen monitoren dat mensen thuis zijn (en dat is een grote indien ), zou een van de enkellabels die al worden gebruikt door onze corrigerende diensten voor huisarrest niet veel eenvoudiger zijn, veiliger en robuuster?

Er zijn veel redenen om je zorgen te maken over apps voor thuisquarantaine.

Eerst, ze zullen waarschijnlijk veel gemakkelijker te hacken zijn dan enkellabels. Hoeveel van ons hebben geo-blocks gehackt om toegang te krijgen tot Netflix in de VS, of om andere digitale inhoud uit een ander land te bekijken? Het vervalsen van de GPS-locatie op een smartphone is niet veel moeilijker.

Tweede, gezichtsherkenningssoftware is vaak gebrekkig, en is vaak bevooroordeeld tegen gekleurde mensen en tegen vrouwen. De documentaire Coded Bias doet geweldig werk om deze vooroordelen te ontrafelen.

Ondanks jaren van inspanning, zelfs de grote techreuzen zoals Google en Amazon zijn er niet in geslaagd deze vooroordelen uit hun software te verwijderen. Ik heb weinig hoop dat de SA-regering of het WA-bedrijf GenVis, de ontwikkelaars van de twee Australische thuisquarantaine-apps, zal het beter hebben gedaan.

Inderdaad, de Australische mensenrechtencommissie heeft opgeroepen tot een moratorium op het gebruik van gezichtsherkenningssoftware in risicovolle omgevingen zoals politie, totdat er betere regelgeving is om mensenrechten en privacy te beschermen.

Derde, er moet een veel gedetailleerder en publiek debat komen over zaken als privacy, en waarborgen die zijn ingesteld op basis van deze discussie, vooruitlopend op de technologie die wordt gebruikt.

Met COVID-incheck-apps, ons werd beloofd dat de gegevens alleen zouden worden gebruikt voor volksgezondheidsdoeleinden. Maar politiediensten in heel Australië hebben deze informatie al minstens zes keer voor andere doeleinden gebruikt. Dit ondermijnt het vertrouwen van het publiek en het gebruik van dergelijke apps ernstig.

Voordat het werd gelanceerd, De COVIDSafe-app van het Gemenebest had wettelijke verbodsbepalingen ingesteld voor het gebruik van de verzamelde gegevens voor alles behalve contacttracering. Dit gaf ons misschien een vals gevoel van veiligheid, aangezien de door de staat geproduceerde COVID-incheck-apps dergelijke wettelijke waarborgen niet hadden. Slechts enkele staten hebben met terugwerkende kracht wetgeving ingevoerd om dergelijke bescherming te bieden.

Vierde, we moeten ons zorgen maken over hoe software als deze technologieën zoals gezichtsherkenning legitimeert die uiteindelijk fundamentele rechten, zoals het recht op privacy, uithollen.

Als thuisquarantaine-apps goed werken, zullen ze de deur openen naar gezichtsherkenning die in andere instellingen wordt gebruikt? Om winkeldieven te identificeren? Om toegang tot welzijn te bieden? Of naar de zorg? Naar welke Orwelliaanse wereld zal dit ons brengen?

De gevaren van gezichtsherkenning

In China, we hebben al gezichtsherkenningssoftware gezien die werd gebruikt om de Oeigoerse minderheid te volgen en te vervolgen. In de VS, zeker drie zwarte mensen zijn al ten onrechte in de gevangenis beland vanwege gezichtsherkenningsfouten.

Gezichtsherkenning is een technologie die gevaarlijk is als ze niet werkt (zoals vaak het geval is). En gevaarlijk als dat zo is. Het verandert de snelheid, omvang en kosten van toezicht.

Met gezichtsherkenningssoftware achter de CCTV-camera's die op veel straathoeken te vinden zijn, u kunt 24/7 worden gevolgd. Je bent niet langer anoniem als je naar de winkels gaat. Of wanneer je protesteert over zwarte levens die ertoe doen of de noodsituatie in het klimaat.

Hoogwaardige technologie is niet de oplossing

High-tech software zoals gezichtsherkenning is geen oplossing voor de problemen die de reactie van Australië op de pandemie hebben geteisterd. Het kan het falen om voldoende vaccins te kopen niet verhelpen, het niet bouwen van speciale quarantainefaciliteiten, of de onderlinge gevechten en het scoren van punten tussen staten en met het Gemenebest.

Ik had nooit gedacht dat ik dit zou zeggen, maar, globaal genomen, Ik denk dat ik liever een enkelbandje zou hebben. En als de afbeelding van het enkellabel je te verontrustend lijkt, we zouden kunnen doen wat Hong Kong heeft gedaan en er een polsbandje van maken.

Dit artikel is opnieuw gepubliceerd vanuit The Conversation onder een Creative Commons-licentie. Lees het originele artikel.