Deze opmerking aan een senaatscommissie over de adoptie van kunstmatige intelligentie (AI) staat niet op zichzelf. De relatie tussen AI en democratie is het onderwerp van vele, steeds urgentere gesprekken die over de hele wereld plaatsvinden.

In 2024 gaan ruim zestig landen naar de stembus, in wat wel ‘het grootste verkiezingsjaar uit de geschiedenis’ wordt genoemd. Australië verwacht dit jaar verkiezingen te houden in het Northern Territory en Queensland, met federale verkiezingen in mei 2025.

Tegelijkertijd verandert de explosie van generatieve AI-tools voor tekst, afbeeldingen, audio en video dramatisch de manier waarop Australiërs informatie creëren en ermee omgaan. Hoe kunnen we de integriteit en het vertrouwen van verkiezingen behouden in het tijdperk van generatieve AI?

Deepfakes en desinformatie

Het meest voor de hand liggende risico dat AI met zich meebrengt voor de democratie is via synthetische inhoud (of ‘deepfakes’), die zou kunnen worden gebruikt om kiezers verkeerd te informeren. Uit een onderzoek van het World Economic Forum dat vorig jaar werd gehouden, bleek dat experts ‘desinformatie en desinformatie’ en ‘maatschappelijke polarisatie’ rangschikten als de eerste en derde grootste mondiale risico’s voor de komende twee jaar.

Deze risico's manifesteren zich nu al. In de Verenigde Staten riskeert een politiek adviseur, die de synthetische stem van de Amerikaanse president Joe Biden in robocalls gebruikte, een boete van enkele miljoenen dollars. In India zijn door AI gegenereerde video's steeds gebruikelijker geworden in de verkiezingscampagne van dit jaar.

Maar deepfakes en desinformatie zijn verre van de enige risico’s. AI biedt ook nieuwe kansen. In het bewijsmateriaal dat ik aan de senaatscommissie heb gegeven, en in een inzending van mij en mijn collega's van het Tech Policy Design Center, betogen we dat een uitgebreider nationaal gesprek over dit onderwerp essentieel is.

Een brede kijk op een gezonde democratie

Een alomvattend beleid zal zich niet louter richten op deepfakes die de stemmen beïnvloeden, maar op de gezondheid van de democratie in bredere zin. Vrije en eerlijke verkiezingen zijn een kenmerk van de democratie (zij het een ongelooflijk belangrijk kenmerk), maar er zijn nog veel meer.

Geïnformeerde maatschappelijke betrokkenheid, tolerantie en politiek pluralisme zijn andere belangrijke ingrediënten van een bloeiend democratisch systeem. Het systeem moet ook de behoeften van het electoraat identificeren en erop reageren, en de overheid moet transparant zijn en verantwoording afleggen.

Dus als we nadenken over de relatie tussen AI en democratie, moeten we nadenken over eeuwige zorgen zoals politieke vertegenwoordiging, journalistiek van algemeen belang, mediageletterdheid en sociale cohesie.

Risico's, maar ook kansen

Een evenwichtig beleid moet onderkennen dat AI-technologieën kansen bieden voor de democratie, maar ook risico's met zich meebrengen.

Het is bijvoorbeeld absoluut redelijk om je zorgen te maken dat geïnformeerde maatschappelijke betrokkenheid kan lijden onder de neiging van generatieve AI-modellen om te ‘hallucineren’ en desinformatie te produceren.

Dezelfde technologie kan echter ook meer kiezers bij het maatschappelijk debat betrekken:het kan complexe beleidsconcepten omzetten in herkenbare inhoud, of automatische vertalingen in vele talen creëren.

Leren van het verleden

Sommige elementen van de uitdagingen waarmee we worden geconfronteerd zijn niet zo nieuw of zeker als ze lijken.

AI, en de generatieve AI-boom in het bijzonder, injecteert zeker een aantal ongekende elementen in het democratische ecosysteem. Maar er zijn nog steeds lessen die we uit het verleden kunnen leren.

De zorgen over technologieën die nieuwe vormen van communicatie breed toegankelijk maken, zijn niet nieuw. Evenmin zijn er pogingen om te reguleren en te controleren wie de publieke informatiestromen kan beïnvloeden.

In de 15e eeuw wakkerde de uitvinding van Gutenbergs drukpers de angst aan voor wat we nu ‘nepnieuws’ zouden kunnen noemen. Er zijn veel recentere voorbeelden, waaronder wat we hebben geleerd van de opkomst van sociale media (die op hun beurt het verhaal van AI en democratie vormgeven).

We moeten onderscheid maken tussen de elementen van generatieve AI die fundamenteel nieuw zijn. Tegelijkertijd kunnen we zoeken naar toepasbare beleidsinstrumenten en lessen uit eerdere revoluties op het gebied van de informatietechnologie.

Wat nu voor Australië?

Australië staat op een interessant kruispunt. Tot een jaar na onze volgende federale verkiezingen zijn er verschillende, in elkaar grijpende beleidstakken in ontwikkeling.

Het ministerie van Industrie werkt aan een reactie op het Safe and Responsible AI-overleg van vorig jaar. Dit omvat onder meer het overwegen van regels voor verplichte watermerken in door AI gegenereerde inhoud.

Het ministerie van communicatie herwerkt ook voorstellen voor nieuwe bevoegdheden voor de Australian Communications and Media Authority. Deze zullen helpen desinformatie en desinformatie te bestrijden, en kunnen AI-specifieke maatregelen omvatten.

Tegelijkertijd wordt de Online Safety Act 2021 herzien. Dit kan resulteren in bevoegdheden om online misbruik van publieke figuren aan te pakken, waarbij ook weer AI betrokken kan zijn.

Ik stel vier belangrijke acties voor die de Australische regering zou moeten ondernemen.

Ten eerste moet het een gecoördineerde nationale aanpak ontwikkelen voor de relatie tussen AI en democratie. Mijn collega's van het Tech Policy Design Center hebben meer gedetailleerde aanbevelingen gedaan over hoe de ontwikkeling van nationaal technologiebeleid gecoördineerd kan worden.

Ten tweede moet de regering de tientallen nationale verkiezingen dit jaar over de hele wereld goed in de gaten houden. We kunnen het succes of falen van verschillende beleidsmaatregelen in verschillende contexten monitoren om van de ervaringen van anderen te leren.

Ten derde kunnen we van Zuid-Korea leren door van politici te eisen dat ze deepfakes of andere door AI geproduceerde inhoud die in verkiezingsmateriaal wordt gebruikt, openbaar maken en van een watermerk voorzien. Zuid-Korea heeft politici volledig uitgesloten van het gebruik van AI-gegenereerd materiaal in hun campagnes. De lagere lat die van Australische politici eist dat ze transparant zijn, is echter wellicht minder controversieel en gemakkelijker te implementeren.

En ten vierde moet de regering ervoor zorgen dat de Australische kiescommissie en de Australische communicatie- en media-autoriteit over het personeel en de middelen beschikken die ze nodig hebben. Hun taak om opkomende uitdagingen, waaronder die van AI, aan te pakken en Australiërs uit te rusten om het komende jaar met een complex informatielandschap om te gaan, zal niet gemakkelijk zijn.

Deze stappen zouden slechts het begin moeten zijn van een alomvattend, evenwichtig en geïnformeerd nationaal gesprek over hoe we de Australische democratie kunnen helpen bloeien in het tijdperk van AI.

Aangeboden door The Conversation

Dit artikel is opnieuw gepubliceerd vanuit The Conversation onder een Creative Commons-licentie. Lees het originele artikel.