Gezichtsherkenningstechnologie wordt voor het eerst gebruikt in oorlogsvoering. Het zou een game changer kunnen zijn in Oekraïne, waar het wordt gebruikt om de doden te identificeren en families te herenigen. Maar als we er nu niet in slagen om de ethiek van deze technologie aan te pakken, kunnen we ons in een mensenrechtenmijnenveld bevinden.

Het Oekraïense Ministerie van Defensie gebruikt sinds maart 2022 Clearview AI-gezichtsherkenningssoftware om een ​​zaak op te bouwen voor oorlogsmisdaden en om de doden te identificeren, zowel Russisch als Oekraïens. Het ministerie van Digitale Transformatie in Oekraïne zei dat het Clearview AI-technologie gebruikt om Russen de kans te geven om de "echte kosten van de oorlog" te ervaren en om families te laten weten dat als ze de lichamen van hun dierbaren willen vinden, ze " welkom om naar Oekraïne te komen".

Oekraïne krijgt gratis toegang tot de software. Het wordt ook gebruikt bij controleposten en kan helpen vluchtelingen met hun families te herenigen.

De privacy-terugslag

Vorige maand legde het Britse Information Commissioner's Office (ICO) Clearview AI echter een boete op van meer dan £ 7,5 miljoen voor het verzamelen van afbeeldingen van mensen in het VK en elders van internet en sociale media. Het werd bevolen om de afbeeldingen te verwijderen en te stoppen met het verkrijgen en gebruiken van de persoonlijke gegevens van inwoners van het VK die openbaar beschikbaar zijn op internet. Oorspronkelijk zei de ICO dat het van plan was Clearview AI een boete van £ 17 miljoen op te leggen.

Volgens de ICO zal de gezichtsdatabase van Clearview AI, gezien het enorme aantal Britse gebruikers van sociale media, waarschijnlijk een aanzienlijke hoeveelheid afbeeldingen bevatten die zonder toestemming zijn verzameld.

Een advocaat van Clearview, AI Lee Wolosky, zei:"Hoewel we de wens van de ICO waarderen om hun geldboete op Clearview AI te verminderen, blijven we bij ons standpunt dat het besluit om een ​​boete op te leggen juridisch gezien onjuist is. Clearview AI valt niet onder de jurisdictie van de ICO en Clearview AI doet op dit moment geen zaken in het VK."

Clearview AI heeft gezegd dat het begin 2023 100 miljard gezichtsafbeeldingen in zijn database wil hebben, wat overeenkomt met 14 voor elke persoon op aarde. Meerdere foto's van dezelfde persoon verbeteren de nauwkeurigheid van het systeem.

Volgens de website van Clearview AI helpt zijn gezichtsherkenningstechnologie wetshandhavers bij het aanpakken van criminaliteit en stelt het transportbedrijven, banken en andere commerciële bedrijven in staat diefstal op te sporen, fraude te voorkomen en identiteiten te verifiëren.

Buzzfeed meldde in februari 2020 dat meerdere Britse politiekorpsen eerder gebruik hebben gemaakt van Clearview AI. Een woordvoerster van Clearview AI zei dat de politie in het VK geen toegang heeft tot zijn technologie, terwijl woordvoerders van zowel de National Crime Agency als de Metropolitan Police het gebruik van specifieke tools of technieken niet bevestigen of ontkennen. In maart 2022 publiceerde het College of Policing echter nieuwe richtlijnen voor Britse politiediensten over het gebruik van live gezichtsherkenning.

De Britse regering is van plan om belangrijke mensenrechtenwetten te vervangen door een nieuwe moderne Bill of Rights, waardoor het voor mensen moeilijk, zo niet onmogelijk wordt om beslissingen op basis van AI-bewijs voor de rechtbank aan te vechten, inclusief gezichtsherkenning.

Volgens belangenorganisatie Liberty zal het wetsvoorstel waarschijnlijk een onevenredige impact hebben op gemeenschappen die overbelast zijn, omdat het verschillende categorieën eisers zou creëren op basis van hun gedrag in het verleden.

Een hulpmiddel voor oorlogsvoering

Clearview AI's chief executive Hoan Ton-That zei dat zijn gezichtsherkenningssoftware Oekraïense wetshandhavers en overheidsfunctionarissen in staat heeft gesteld om meer dan 2 miljard afbeeldingen van VKontakte, een Russische sociale netwerkdienst, op te slaan. Hoan zei dat de software Oekraïense functionarissen kan helpen dode soldaten efficiënter te identificeren dan vingerafdrukken, en werkt zelfs als het gezicht van een soldaat is beschadigd.

Maar er is tegenstrijdig bewijs over de effectiviteit van gezichtsherkenningssoftware. Volgens het Amerikaanse ministerie van Energie kan ontleding van het gezicht van een persoon de nauwkeurigheid van de software verminderen. Aan de andere kant heeft recent wetenschappelijk onderzoek resultaten opgeleverd met betrekking tot de identificatie van dode mensen die vergelijkbaar waren met of beter waren dan de menselijke beoordeling.

Onderzoek wijst uit dat vingerafdrukken, gebitsgegevens en DNA nog steeds de meest betrouwbare identificatietechnieken zijn. Maar het zijn hulpmiddelen voor getrainde professionals, terwijl gezichtsherkenning door niet-experts kan worden gebruikt.

Een ander probleem dat door onderzoek wordt opgemerkt, is dat gezichtsherkenning per ongeluk twee afbeeldingen kan koppelen of foto's van dezelfde persoon niet kan matchen. In Oekraïne kunnen de gevolgen van een mogelijke fout met AI rampzalig zijn. Een onschuldige burger kan worden gedood als ze ten onrechte worden geïdentificeerd als een Russische soldaat.

Een controversiële geschiedenis

In 2016 begon Hoan met het rekruteren van informatica-ingenieurs om het algoritme van Clearview AI te maken. Maar pas in 2019 begon het Amerikaanse bedrijf voor gezichtsherkenning zijn software discreet aan de Amerikaanse politie en wetshandhavingsinstanties te leveren.

In januari 2020 publiceerde de New York Times publiceerde zijn verhaal:'The Secretive Company That Might End Privacy as We Know It'. Dit artikel bracht meer dan 40 burgerrechten- en technologieorganisaties ertoe een brief te sturen naar de Privacy and Civil Liberties Oversight Board en vier Amerikaanse congrescommissies, waarin ze de opschorting van de gezichtsherkenningssoftware van Clearview AI eisten.

In februari 2020 onthulde BuzzFeed na een datalek van de klantenlijst van Clearview AI dat de gezichtsherkenningssoftware van Clearview AI werd gebruikt door personen in meer dan 2.200 wetshandhavingsafdelingen, overheidsinstanties en bedrijven in 27 verschillende landen.

Op 9 mei 2022 stemde Clearview AI ermee in om de verkoop van toegang tot zijn gezichtsdatabase aan particulieren en bedrijven in de VS stop te zetten, nadat de American Civil Liberties Union een rechtszaak had aangespannen waarin Clearview AI werd beschuldigd van het overtreden van een privacywet van Illinois.

In de afgelopen twee jaar hebben gegevensbeschermingsautoriteiten in Canada, Frankrijk, Italië, Oostenrijk en Griekenland boetes, onderzoeken of een verbod opgelegd aan Clearview AI om afbeeldingen van mensen te verzamelen.

De toekomst van Clearview AI in het VK is onzeker. Het worstcasescenario voor gewone mensen en bedrijven zou zijn als de Britse regering geen rekening houdt met de zorgen die zijn geuit in reactie op haar raadpleging over de moderne Bill of Rights. Liberty heeft gewaarschuwd voor een mogelijke "machtsgreep" op het gebied van mensenrechten.

Het beste resultaat zou naar mijn mening zijn dat de Britse regering haar plannen voor een Modern Bill of Rights zou schrappen. Dit zou ook betekenen dat Britse rechtbanken zaken van het Europees Hof voor de Rechten van de Mens als jurisprudentie in aanmerking moeten blijven nemen.

Tenzij er wetten worden aangenomen die het gebruik van gezichtsherkenning regelen, bestaat het risico dat het gebruik van deze technologie door de politie inbreuk maakt op privacyrechten, gegevensbescherming en gelijkheidswetten.