Terwijl datagestuurde technologieën de wereld transformeren en kunstmatige intelligentie vragen oproept over vooringenomenheid, privacy en transparantie, biedt Suresh Venkatasubramanian zijn expertise aan om vangrails te helpen creëren om ervoor te zorgen dat technologieën op verantwoorde wijze worden ontwikkeld en ingezet.

"We moeten het Amerikaanse volk beschermen en ervoor zorgen dat technologie wordt gebruikt op manieren die onze hoogste waarden versterken", zegt Venkatasubramanian, een professor in computerwetenschappen en datawetenschap aan de Brown University.

Na een onlangs afgesloten aanstelling van 15 maanden als adviseur van het Witte Huis Office of Science and Technology Policy, keerde Venkatasubramanian op dinsdag 4 oktober terug naar Washington, D.C., voor de onthulling van "A Blueprint for an AI Bill of Rights:Making Automated Systems Work for the American People", tijdens een ceremonie in het Witte Huis.

Venkatasubramanian zei dat de blauwdruk het hoogtepunt vertegenwoordigt van 14 maanden onderzoek en samenwerking onder leiding van het Office of Science and Technology Policy met partners in de federale overheid, de academische wereld, het maatschappelijk middenveld, de particuliere sector en gemeenschappen in het hele land. Die samenwerking vormde de basis voor de ontwikkeling van de allereerste nationale richtlijn die was gericht op het gebruik en de implementatie van geautomatiseerde technologieën die van invloed kunnen zijn op de rechten, kansen en toegang tot diensten van mensen.

"Als natie hebben we dit eerder gedaan met de privacy van consumenten, en bijvoorbeeld de Bill of Rights van de patiënt," zei Venkatasubramanian. "Burgerrechten en burgerlijke vrijheden zijn een heilige instelling in ons land ... Elk groot land en alle landen van de wereld denken na over wat er nodig is om geautomatiseerde systemen te besturen en vooroordelen te verklaren, maar de VS niet, dus dit is iets dat duurde lang."

Venkatasubramanian is een onderzoeker en docent die zich verdiept in de ontwikkeling en impact van technologie en kunstmatige intelligentie. De mogelijkheid om nationaal te adviseren is niet alleen in lijn met zijn expertise, maar ook met zijn zorgen over het ethische gebruik van technologie en vooroordelen die zijn ingebed in het ontwerp van sommige AI-tools, die vooroordelen uit het verleden kunnen inboezemen en discriminatie in stand kunnen houden.

Ter gelegenheid van de aankondiging van de AI Bill of Rights deelde Venkatasubramanian, die adjunct-directeur is van Brown's Data Science Initiative, inzichten en perspectieven op zijn periode in het Witte Huis, zijn humanistische benadering van computerwetenschap en wat hij graag wil bereiken op Bruin in de komende jaren.

V:Waarom zijn 'vangrails' rond de ontwikkeling en het gebruik van AI een kwestie van nationaal belang?

We erkennen dat er veel potentiële voordelen zijn van automatisering en datagestuurde technologie - al deze beloften van wat zou kunnen zijn. Maar we zien ook dat de beloften vaak niet uitbetalen. We kunnen bijvoorbeeld proberen een AI-systeem te bouwen om ervoor te zorgen dat we niet kunnen discrimineren in het strafrechtsysteem, maar systemen die gegevens van eerdere arrestaties opzuigen, zijn onherroepelijk bezoedeld door de geschiedenis van raciale onrechtvaardigheid in het strafrechtelijk systeem. En vervolgens op grote schaal geïmplementeerd, verspreidt deze stank zich. Alle gegevens die in een systeem worden ingevoerd, zullen de vooroordelen in de gegevens alleen maar versterken, tenzij er rigoureuze en zorgvuldig ontworpen vangrails zijn.

Deze technologische systemen beïnvloeden onze burgerrechten en burgerlijke vrijheden met betrekking tot alles:krediet, de mogelijkheid om goedgekeurd te worden voor een hypotheek en eigen land, kinderbijslag, toegang tot uitkeringen, aangenomen worden voor banen - allemaal kansen voor vooruitgang. Waar we deze systemen invoeren, moeten we ervoor zorgen dat ze consistent zijn met de waarden die ze volgens ons zouden moeten hebben, en dat ze zijn gebouwd op manieren die transparant zijn en verantwoording afleggen aan het publiek. Het is niet iets waar we achteraf op kunnen klappen.

V:Waarom maakt u zich als computerwetenschapper zorgen over de impact van technologie op de samenleving?

Ik bestudeer deze kwesties al bijna een decennium, nadenkend over wat er gaat komen en hoe de wereld eruit zal zien als algoritmen alomtegenwoordig zijn. Tien jaar geleden was een van de zorgen waarvan ik dacht dat we die waarschijnlijk zouden hebben, of we erop kunnen vertrouwen dat deze systemen werken zoals ze zouden moeten werken, en hoe we weten dat deze systemen verantwoording afleggen aan het publiek en onze vertegenwoordigers.

Of je het nu leuk vindt of niet, de technologie is er en heeft al invloed op alles wat je vormt. U bent - zonder uw medeweten - aan het aanpassen hoe u leeft en functioneert om uzelf beter leesbaar te maken voor technologie. Je maakt jezelf machineleesbaar in plaats van machines door mensen leesbaar te maken. Als we hier geen aandacht aan besteden, zal de technologie ons leven als samenleving sturen in plaats van dat de samenleving technologie maakt die ons helpt te bloeien en ons ware zelf te zijn. Ik hou er niet van om mensen bang te maken, maar het is waar - en het is belangrijk.

V:Is AI een goede zaak of een slechte zaak?

Geen van beide, echt niet. Het is niet de technologie die goed of slecht is, AI of niet. Het is de impact - de schade - waar we ons zorgen over moeten maken. Een Excel-spreadsheet die een score oplevert die iemand tot detentie beperkt voordat hij terecht staat, is net zo slecht als een geavanceerd AI-systeem dat hetzelfde doet. En een diepgaand lerend algoritme dat kan helpen bij het verbeteren van de gewasopbrengst is verbazingwekkend en geweldig. Daarom richt de AI Bill of Rights zich op impact - op de rechten van mensen, kansen en toegang tot diensten - in plaats van op de technologie zelf, die snel verandert en evolueert.

V:Wat zal de blauwdruk voor een AI Bill of Rights doen?

Denk bijvoorbeeld aan medicijnen op recept. U hoeft zich geen zorgen te maken dat het medicijn dat u gebruikt niet is getest, omdat de FDA het niet op de markt laat komen totdat het grondig is getest. Evenzo zijn we ervan overtuigd dat onze auto's zullen werken en dat er regelmatig terugroepacties plaatsvinden wanneer de National Highway Traffic Safety Administration een probleem ontdekt; en we zijn ervan overtuigd dat onze vliegtuigen werken en dat elk nieuw soort jet aan strenge tests wordt onderworpen voordat het wordt gevlogen. We hebben veel voorbeelden waaruit we kunnen putten waarin we nieuwe technologie niet op mensen laten gebruiken zonder deze eerst te controleren. We kunnen dat zien als een gids voor wat we belangrijk vinden, en technologie heeft invloed op iedereen.

Deze AI Bill of Rights is een blauwdruk die verder gaat dan principes. Het geeft uitvoerbaar advies aan ontwikkelaars, het maatschappelijk middenveld, advocaten, bedrijven, lokale overheden en deelstaatregeringen. Er zijn verschillende hefbomen om dit te bevorderen:regelgeving, praktijken in de sector, richtlijnen voor wat regeringen wel of niet zullen bouwen. Er is hier geen wondermiddel, maar alle hendels zijn binnen handbereik. Het zal de hele samenleving nodig hebben om dit werk vooruit te helpen.

V:Welke invloed heeft uw ervaring als adviseur van het Witte Huis op u gehad?

Het was levensveranderend. Mijn brein werkt nu op manieren die ik niet ongedaan kan - en niet wil - ongedaan maken. Ik denk continu aan de bruggen tussen onderzoek en innovatie, maatschappij en beleid. Daar komen we als land en als onderzoekers nog steeds mee in het reine. Lange tijd hebben we technologie gezien als iets dat we gebruiken om het leven beter te maken. Maar we zijn niet zo bekend met technologie als iets dat onze wereld verandert. Proberen beleid te maken voor een heel land - en in sommige opzichten de hele wereld, omdat de VS een leider is - is een uitdaging omdat er zoveel tegenstrijdige belangen zijn die je moet afwegen.

In mijn tijd bij de overheid was ik onder de indruk van hoe complex en subtiel deze problemen zich ontvouwen in verschillende domeinen - wat logisch is als het denken over gezondheidsdiagnostische hulpmiddelen niet echt werkt als je denkt aan hulpmiddelen die in de rechtszaal worden gebruikt. Ik heb een diepere waardering voor hoeveel toegewijde mensen er binnen de overheid zijn die een verschil willen maken en hulp en bandbreedte nodig hebben om het te doen.

Een ding dat ik me heb gerealiseerd in de jaren dat ik in beleidsruimten heb gewerkt, is dat het van cruciaal belang is om beleidsmakers te helpen begrijpen dat technologie geen zwarte doos is - het is kneedbaar en evolueert, en het helpt beleid vorm te geven op manieren die we misschien niet verwachten. Technologie-ontwerpkeuzes zijn beleidskeuzes, op zoveel manieren. Om te begrijpen hoe technologie en beleid elkaar beïnvloeden, is veel onderwijs nodig, zowel voor technologen als voor beleidsmakers. + Verder verkennen

Witte Huis onthult kunstmatige intelligentie 'Bill of Rights'