Medio juli 2019, Oakland, Californië, werd de derde Amerikaanse stad die gemeentelijke afdelingen verbood gezichtsherkenningstechnologie te gebruiken. In de tussentijd, Het congres begon hoorzittingen over de vraag of en hoe het op nationaal niveau moest worden gereguleerd. Op een verrassend moment van tweeledige consensus, het enige waar wetgevers over vochten, was hoe uitgebreid beperkingen zouden moeten zijn.

Dit antwoord op een krachtige, potentieel invasieve technologie is een teken van hoe het publiek en beleidsmakers kunnen reageren op toekomstige technologische ontwikkelingen, vooral die met behulp van kunstmatige intelligentie. Met gezichtsherkenning kan Facebook niet alleen het taggen van mensen in foto's automatiseren, maar het vergroot ook het vermogen van wetshandhavers om verdachten van misdrijven op te sporen. Ethische vragen zijn er genoeg. Zoals het Centre on Privacy and Technology van Georgetown het uitdrukte:gezichtsherkenning zou kunnen leiden tot "een wereld waarin, als je eenmaal een voet naar buiten hebt gezet, de overheid kan al je bewegingen volgen." En dit is nog maar het begin.

Aan de horizon is een vloedgolf van digitale innovaties die minstens zo krachtig zou kunnen zijn, veelomvattend en controversieel:"deepfake" video's die mensen laten zien die dingen doen die ze nooit hebben gedaan, het "internet of things" houdt voortdurend privéwoningen in de gaten, manipulatieve virtuele realiteit, zelfrijdende auto's die gemeenschappen overweldigen en meer.

Ik ben een onderzoeker die de maatschappelijke effecten van digitale technologie bestudeert, en het is mijn taak om op de hoogte te blijven van opkomende technologieën en om toekomstige resultaten te voorspellen. Maar, met steeds meer innovatie, er is steeds minder tijd om na te denken over de gevolgen. Veel van mijn collega's voelen hetzelfde.

Om dit aanstormende tij te temmen, de samenleving heeft dammen en dijken nodig. Net zoals met gezichtsherkenning is begonnen, het is tijd om wettelijke verboden en moratoria op andere opkomende technologieën te overwegen. Deze hoeven niet permanent of absoluut te zijn, maar innovatie is geen onverdeeld goed. Hoe krachtiger een technologie is, hoe meer zorg het vereist om veilig te werken.

Weinig urgentie

Er is geen dringende behoefte aan de meeste nieuwe digitale technologieën. Enkele innovaties, natuurlijk, zijn bijna volledig positief:anesthesie, elektrisch licht, radio, vaccins. Maar de huidige samenleving viert innovatie vaak omwille van zichzelf, zelfs als de voordelen twijfelachtig zijn - en meer en meer, de voordelen zijn inderdaad twijfelachtig.

Is het echt een drukke, zoemende lucht gevuld met drones om consumptiegoederen binnen een uur te bezorgen, in plaats van levering binnen 24 uur, of zelfs twee dagen? Is virtual reality zo geweldig dat kinderen, effectief, opgroeien met hun ogen gekluisterd aan videoschermen? Wanneer regeringen moeilijk te traceren moorden met drones kunnen uitvoeren, is iemand echt veilig? Het scannen van lijsten met mogelijke toekomstige technologieën kan meer angst dan hoop opwekken.

Dit soort innovaties slagen er herhaaldelijk niet in om op werkelijk zinvolle manieren algemene verbeteringen te bieden, zoals hoe diep mensen van elkaar houden, hoe medelevend mensen geven, hoe goed de samenleving de minder bedeelden ondersteunt, of hoe wijs mensen de planeet beheren. Als iets, technologie lijkt de morele zwakheden van mensen te versterken door mensen te vertroetelen met consumentencomfort en echokamers. De afgelopen halve eeuw kende een gouden eeuw van digitale innovatie, toch zijn de armoedecijfers gestagneerd, de ongelijkheid is enorm toegenomen en duurzaamheid lijkt verder onbereikbaar.

De meeste van de technologische ontwikkelingen die momenteel in de maak zijn, zullen die problemen niet oplossen; ze zullen kleinere ergernissen aanpakken die er gewoon niet zijn om te verlichten.

Schade vrijwel zeker, maar onduidelijk

Nieuwe technologieën hebben altijd onbedoelde gevolgen – vaak negatieve – en innovators onderschatten altijd hoe slecht ze zullen zijn. Pesticiden hebben de volksgezondheid geplaagd. Plastic flessen hebben de oceanen vervuild. Smartphones dragen bij aan een geestelijke gezondheidscrisis bij tieners.

Bedenk wat een AI-systeem zou kunnen doen als het iets voor de hand liggends zou doen, zoals winst maximaliseren, met behulp van alle informatie en tools die tot haar beschikking staan. Het kan beschamende persoonlijke informatie bevatten voor losgeld om gebruikers te dwingen goederen te kopen, of criminele acties af te persen van mensen met duistere geheimen.

Niets heeft de algoritmen van online winkels er nog van weerhouden te liegen om de verkoop te verhogen, noch het daadwerkelijke vermogen van Facebook om de stemmingen van gebruikers te manipuleren, aan banden te leggen. Techbedrijven behandelen hun klanten routinematig als experimentele proefkonijnen, en passen al kunstmatige-intelligentiesystemen toe voor verschillende doeleinden.

Als dit alleen de bekende effecten zijn van technologiebedrijven; inspanningen en innovaties, stel je voor welke onbedoelde gevolgen er op de loer kunnen liggen. Het uitgangspunt van het populaire spel "Universal Paperclips" is dat een AI die gericht is op het optimaliseren van een bedrijf, uiteindelijk het bekende universum vernietigt. Science fiction wordt in rap tempo science fact.

Moeilijk om achteruit te gaan

Eenmaal losgelaten, digitale technologieën zijn bijzonder moeilijke geesten om terug in de fles te krijgen. In dit opzicht, ze verschillen van andere geavanceerde technologieën. Kort na de Tweede Wereldoorlog, activisten begonnen te pleiten voor een verbod op kernwapens, culminerend in het Non-proliferatieverdrag in 1970. Het verdrag is er in geslaagd om een ​​80 jaar oude technologie beperkt te houden tot slechts acht of negen landen - dat is een indrukwekkende prestatie, vooral in de grillige geschiedenis van de wereldpolitiek.

Atoomwapens, echter, aanzienlijke middelen nodig om te ontwerpen, bouwen, testen en inzetten. Daarentegen, digitale technologieën zijn gemakkelijk te delen, waardoor ze nog moeilijker te controleren zijn. Geavanceerde hacktools zijn gestolen en online gedeeld:technieken die zijn ontwikkeld door de Amerikaanse National Security Agency zijn gebruikt bij wereldwijde cyberaanvallen door China, Rusland en Noord-Korea. Hun software is nu beschikbaar voor iedereen met een internetverbinding.

Een onbalans van macht

Technologiebedrijven die hun vorderingen pushen, hebben geld, invloed en tijd aan hun kant. De miljoenen lobbydollars die ze uitgeven zijn kleingeld in vergelijking met hun winst van meerdere miljarden dollars. en ze kunnen de financiering voor onbepaalde tijd laten doorgaan, wachten op nieuwscycli en activistische energie.

Volgens mij, onzekerheid over hoe nieuwe technologieën de samenleving in het algemeen zullen beïnvloeden, betekent dat sceptische krachten meer steun verdienen. Verboden en moratoria zouden betekenen dat rijke, machtige entiteiten zouden juridische en maatschappelijke toestemming moeten vragen voordat ze hun potentiële monsters op de markt kunnen loslaten. Dat lijkt me niet teveel gevraagd.

Er zijn veel redenen om door te gaan met het bouwen van nieuwe technologieën - om wereldwijd concurrerend te blijven, om de menselijke kennis te vergroten en zich voor te bereiden op mogelijke toekomstige crises. Technologie heeft zijn voordelen. Maar het vertragen van het tempo van de opmars zou de samenleving meer tijd geven om na te denken over de gevolgen en te debatteren over welke aspecten van nieuwe technologieën wenselijk zijn, en die zouden verboden moeten worden.

Dit artikel is opnieuw gepubliceerd vanuit The Conversation onder een Creative Commons-licentie. Lees het originele artikel.