Naarmate kunstmatige intelligentie alomtegenwoordiger wordt, komen het potentieel en de uitdagingen die het met zich meebrengt steeds meer in beeld. Hoe we de risico's en kansen in evenwicht brengen, wordt een van de bepalende vragen van onze tijd. Net zoals steden zijn ontstaan ​​als knooppunten van innovatie in cultuur, politiek en commercie, definiëren ze de grenzen van AI-governance.

Enkele voorbeelden van hoe steden het voortouw nemen, zijn de Cities Coalition for Digital Rights, de Montreal Declaration for Responsible AI en de Open Dialogue on AI Ethics. Anderen zijn te vinden in San Francisco's verbod op gezichtsherkenningstechnologie en de druk van New York City om de verkoop van geautomatiseerde wervingssystemen te reguleren en een algoritmebeheer- en beleidsmedewerker in het leven te roepen. Stedelijke instituten, universiteiten en andere onderwijscentra hebben ook vooruitgang geboekt met een reeks ethische initiatieven op het gebied van AI.

Deze inspanningen wijzen op een opkomend paradigma dat AI-lokalisatie wordt genoemd. Het maakt deel uit van een groter fenomeen dat vaak New Localism wordt genoemd, waarbij steden het voortouw nemen in regelgeving en beleidsvorming om contextspecifieke benaderingen te ontwikkelen voor een verscheidenheid aan problemen en uitdagingen. We hebben ook een toegenomen gebruik gezien van stadsgerichte benaderingen binnen internationale rechtskaders.

Op deze manier vullen gemeenten leemten op die zijn ontstaan ​​door onvoldoende overheidskaders, nationale of mondiale bestuurskaders met betrekking tot AI en andere complexe kwesties. In de afgelopen jaren is bijvoorbeeld het 'breedbandlokalisme' opgekomen, waarbij lokale overheden de digitale kloof aanpakken; en 'privacylokalisatie', beide als antwoord op de uitdagingen die ontstaan ​​door het toegenomen gebruik van gegevens voor wetshandhaving of werving.

AI-lokalisatie omvat een breed scala aan problemen, belanghebbenden en contexten. Naast een verbod op AI-aangedreven gezichtsherkenning, kijken lokale overheden en instellingen naar aanbestedingsregels met betrekking tot AI-gebruik door openbare entiteiten, openbare registers van AI-systemen van lokale overheden en openbare onderwijsprogramma's over AI. Maar zelfs als initiatieven en casestudy's zich vermenigvuldigen, ontbreekt het ons nog steeds aan een systematische methode om hun effectiviteit te beoordelen - of zelfs de noodzaak ervan. Dit beperkt het vermogen van beleidsmakers om passende regelgeving te ontwikkelen en remt meer in het algemeen de groei van het veld.

Een raamwerk voor AI-lokalisatie bouwen

Hieronder staan ​​tien principes om onze benadering van AI-lokalisatie te helpen systematiseren. Samen beschouwd, vormen ze samen een beginnend kader voor het implementeren en beoordelen van initiatieven over de hele wereld:

• Principes bieden een Poolster voor bestuur: Het vaststellen en articuleren van een heldere set van leidende principes is een essentieel uitgangspunt. Het Emerging Technology Charter voor Londen, gelanceerd door het burgemeesterskantoor in 2021 om "praktische en ethische richtlijnen" te schetsen voor onderzoek rond opkomende technologie en smart-city-technologiepilots, is daar een voorbeeld van. Soortgelijke projecten bestaan ​​in Nantes, Frankrijk, waar een datacharter is uitgerold om de inzet van de lokale overheid voor datasoevereiniteit, bescherming, transparantie en innovatie te onderstrepen. Dergelijke inspanningen helpen geïnteresseerde partijen een koers uit te stippelen die het potentieel en de uitdagingen van AI op een effectieve manier in evenwicht houdt, terwijl ze een engagement bevestigen voor openheid en transparantie over het gebruik van gegevens voor het publiek.
• Public engagement biedt een sociale licentie: Het scheppen van vertrouwen is essentieel voor het bevorderen van verantwoord gebruik van technologie en een bredere acceptatie en acceptatie door het publiek. Vormen van publieke betrokkenheid - crowdsourcing, bewustmakingscampagnes, minibijeenkomsten en meer - kunnen helpen om vertrouwen op te bouwen en moeten deel uitmaken van een overlegproces dat door beleidsmakers wordt ondernomen. Het California Department of Fair Employment and Housing hield bijvoorbeeld hun eerste virtuele openbare hoorzitting met burgers en belangengroepen van werknemers over het toenemende gebruik van AI bij aanwerving en human resources, en het potentieel voor technologische vooringenomenheid bij inkoop.
• AI-geletterdheid maakt zinvolle betrokkenheid mogelijk: Het doel van AI-geletterdheid is het aanmoedigen van bekendheid met de technologie zelf en met bijbehorende ethische, politieke, economische en culturele kwesties. Het Montreal AI Ethics Institute, een non-profitorganisatie die zich richt op het bevorderen van AI-geletterdheid, biedt bijvoorbeeld gratis, actuele en verteerbare informatie over AI en AI-gerelateerde gebeurtenissen van over de hele wereld.
• Maak gebruik van lokale expertise: Beleidsmakers moeten gebruikmaken van de AI-expertise van steden door onderzoekscentra op te richten of te ondersteunen. Twee voorbeelden zijn de Confederation of Laboratories for Artificial Intelligence Research in Europe (CLAIRE), een pan-Europees project dat een Europese focus legt op het gebruik van AI in steden en "How Busy Is Toon", een website ontwikkeld door Newcastle City Council en Newcastle University om realtime OV-informatie over het stadscentrum te verstrekken.
• Innoveer in de manier waarop transparantie wordt geboden: Om vertrouwen op te bouwen en betrokkenheid te bevorderen, moet AI Localism beproefde transparantieprincipes en -praktijken omvatten. Amsterdam en Helsinki maken bijvoorbeeld het gebruik van AI bekend en leggen uit hoe algoritmen voor specifieke doeleinden worden gebruikt. Bovendien kan AI Localism innoveren in de manier waarop transparantie wordt geboden, door bewustwording en systemen te creëren om "AI-blinde vlekken" en andere vormen van onbewuste vooringenomenheid te identificeren en te overwinnen.
• Vaststellen van middelen voor verantwoording en toezicht: Een van de belangrijkste kenmerken van AI Localism is de erkenning van de noodzaak van verantwoording en toezicht om ervoor te zorgen dat de principes van responsief bestuur worden nageleefd. Voorbeelden zijn de Algorithms Management and Policy Officer van New York City, de Singaporese Adviesraad voor het ethisch gebruik van AI en gegevens en de Surveillance Advisory Working Group in Seattle.
• Signaleer grenzen door middel van bindende wetten en beleid: Principes zijn alleen zo goed als ze worden geïmplementeerd of gehandhaafd. Ratificerende wetgeving, zoals de biometrie-privacywet van New York City, die duidelijke kennisgevingen vereist dat biometrische gegevens door bedrijven worden verzameld, beperkt de manier waarop bedrijven dergelijke gegevens kunnen gebruiken. Het verbiedt ook de verkoop van en het profiteren van de gegevens, stuurt een duidelijke boodschap aan consumenten dat hun gegevensrechten en bescherming worden gehandhaafd en stelt bedrijven verantwoordelijk voor het respecteren van privacyprivileges.
• Gebruik inkoop om verantwoorde AI-markten vorm te geven: Zoals gemeentelijke en andere overheden hebben gedaan op andere terreinen van het openbare leven, moeten steden het inkoopbeleid gebruiken om verantwoorde AI-initiatieven aan te moedigen. De Berkeley, California Council heeft bijvoorbeeld een verordening aangenomen die vereist dat openbare afdelingen het gebruik van nieuwe bewakingstechnologieën rechtvaardigen en dat de voordelen van deze tools opwegen tegen de nadelen voorafgaand aan de aanschaf.
• Stel datasamenwerkingen op om asymmetrieën aan te pakken: Gegevenssamenwerkingen zijn een opkomende vorm van intersectoraal partnerschap, waarbij privégegevens worden hergebruikt en ingezet voor het algemeen belang. Naast het opleveren van nieuwe inzichten en innovaties, kunnen dergelijke partnerschappen ook krachtige instrumenten zijn om de gegevensasymmetrieën te doorbreken die ten grondslag liggen aan en de drijvende kracht zijn achter zoveel bredere sociaaleconomische ongelijkheden. Het aanmoedigen van samenwerkingen op het gebied van data, door mogelijke partnerschappen te identificeren en vraag en aanbod op elkaar af te stemmen, is dus een belangrijk onderdeel van AI Localism. De eerste inspanningen omvatten de Amsterdam Data Exchange, waarmee gegevens veilig kunnen worden gedeeld om lokale problemen aan te pakken.
• Maak goed bestuur strategisch: Te veel AI-strategieën omvatten geen governance en te veel governancebenaderingen zijn niet strategisch. Het is dus absoluut noodzakelijk dat steden een duidelijke visie hebben op hoe zij zien dat data en AI worden gebruikt om het lokale welzijn te verbeteren. Het in kaart brengen van een AI-strategie, zoals uitgevoerd door de gemeenteraad van Barcelona in 2021, kan mogelijkheden creëren om slim AI-gebruik in verschillende instanties in te bedden en AI-bewustzijn voor bewoners te openen om verantwoord datagebruik en overwegingen een rode draad te maken in plaats van een op zichzelf staande oefening binnen lokale overheid.

AI-lokalisatie is een opkomend gebied en zowel de praktijk als het onderzoek blijven in beweging. De technologie zelf blijft snel veranderen en biedt iets van een bewegend doelwit voor governance en regelgeving. De staat van flux benadrukt de noodzaak van het hierboven geschetste type kader. In plaats van een inhaalslag te maken en reactief te reageren op opeenvolgende golven van technologische innovatie, kunnen beleidsmakers consistenter en verantwoordelijker reageren vanuit een principiële basis die rekening houdt met de vaak concurrerende behoeften van verschillende belanghebbenden. + Verder verkennen

Om duurzame steden te bouwen, betrek de mensen die erin wonen

Dit artikel is opnieuw gepubliceerd vanuit The Conversation onder een Creative Commons-licentie. Lees het originele artikel.