Kijken naar een vertoning van een 50-jarig jubileum van "2001:A Space Odyssey, " Ik heb mezelf gevonden, een wiskundige en informaticus wiens onderzoek werk omvat dat verband houdt met kunstmatige intelligentie, de toekomstvisie van het verhaal vergelijken met de wereld van vandaag.

De film is gemaakt door een samenwerking met sciencefictionschrijver Arthur C. Clarke en filmregisseur Stanley Kubrick, geïnspireerd door Clarke's roman "Childhood's End" en zijn minder bekende korte verhaal "The Sentinel". Een opvallend werk van speculatieve fictie, het verbeeldt – soms hoopvol en soms waarschuwend – een toekomst van contact met buitenaardse wezens, interplanetaire reizen, bewuste machines en zelfs de volgende grote evolutionaire sprong van de mensheid.

De meest voor de hand liggende manier waarop 2018 niet voldeed aan de visie van "2001" is de ruimtevaart. Mensen bezoeken nog niet routinematig ruimtestations, onopvallende bezoeken brengen aan een van de verschillende maanbases, noch reizen naar andere planeten. Maar Kubrick en Clarke waren een schot in de roos bij het bedenken van de mogelijkheden, problemen en uitdagingen van de toekomst van kunstmatige intelligentie.

Wat kunnen computers doen?

Een hoofddrama van de film kan in veel opzichten worden gezien als een strijd op leven en dood tussen mens en computer. De kunstmatige intelligentie van "2001" is belichaamd in HAL, de alwetende computationele aanwezigheid, het brein van het Discovery One-ruimteschip - en misschien wel het beroemdste personage uit de film. HAL markeert het toppunt van computationele prestatie:een zelfbewuste, schijnbaar onfeilbaar apparaat en een alomtegenwoordige aanwezigheid in het schip, altijd luisteren, altijd aan het kijken.

HAL is niet alleen een technologische assistent van de bemanning, maar eerder – in de woorden van mission commander Dave Bowman – het zesde bemanningslid. De mensen communiceren met HAL door met hem te praten, en hij antwoordt met een afgemeten mannenstem, ergens tussen strenge maar toegeeflijke ouder en goedbedoelende verpleegster. HAL is Alexa en Siri - maar veel beter. HAL heeft de volledige controle over het schip en ook, zoals het blijkt, is het enige bemanningslid dat het ware doel van de missie kent.

Ethiek in de machine

De spanning van het derde bedrijf van de film draait om Bowman en zijn bemanningsgenoot Frank Poole die zich er steeds meer van bewust worden dat HAL niet goed functioneert, en HAL's ontdekking van deze vermoedens. Dave en Frank willen de stekker uit een falende computer trekken, terwijl de zelfbewuste HAL wil leven. Ze willen allemaal de missie voltooien.

De schaakwedstrijd op leven en dood tussen de mens en HAL biedt voorlopers van enkele van de hedendaagse vragen over de prevalentie en toepassing van kunstmatige intelligentie in het dagelijks leven van mensen.

Eerst en vooral is de vraag hoeveel controle mensen moeten afstaan ​​aan kunstmatig intelligente machines, ongeacht hoe "slim" de systemen zijn. HAL's controle over Discovery is als een deep-space-versie van het netwerkhuis van de toekomst of de auto zonder bestuurder. burgers, beleidsmakers, experts en onderzoekers zijn allemaal nog bezig met het onderzoeken van de mate waarin automatisering mensen uit de lus kan of zou moeten halen. Sommige overwegingen betreffen relatief eenvoudige vragen over de betrouwbaarheid van machines, maar andere problemen zijn subtieler.

De acties van een rekenmachine worden gedicteerd door beslissingen die door mensen zijn gecodeerd in algoritmen die de apparaten besturen. Algoritmen hebben over het algemeen een kwantificeerbaar doel, waarnaar elk van zijn acties vooruitgang moet boeken - zoals het winnen van een damspel, schaken of gaan. Net zoals een AI-systeem posities van speelstukken op een bord zou analyseren, het kan ook de efficiëntie van een magazijn of het energieverbruik van een datacenter meten.

Maar wat gebeurt er als zich een moreel of ethisch dilemma voordoet op weg naar het doel? Voor de zelfbewuste HAL, het voltooien van de missie - en in leven blijven - wint het als het wordt afgemeten aan het leven van de bemanning. Hoe zit het met een auto zonder bestuurder? Is de missie van een zelfrijdende auto, bijvoorbeeld, om een ​​passagier zo snel mogelijk van de ene plaats naar de andere te krijgen – of om het doden van voetgangers te voorkomen? Wanneer iemand voor een autonoom voertuig stapt, die doelen conflicteren. Dat voelt misschien als een voor de hand liggende "keuze" om weg te programmeren, maar wat als de auto moet "kiezen" tussen twee verschillende scenario's, die elk een menselijke dood zouden veroorzaken?

Onder toezicht

In een klassieke scène, Dave en Frank gaan een deel van het ruimtestation binnen waar ze denken dat HAL hen niet kan horen om hun twijfels over het functioneren van HAL en zijn vermogen om het schip te besturen en de missie te leiden te bespreken. Ze komen op het idee om hem af te sluiten. Ze weten niet dat de camera's van HAL hen kunnen zien:de computer leest hun lippen door het pod-venster en leert van hun plannen.

In de moderne wereld, een versie van die scène gebeurt elke dag de hele dag. De meesten van ons worden effectief continu gecontroleerd, via onze bijna-altijd-aan telefoons of bedrijfs- en overheidssurveillance van real-world en online activiteiten. De grens tussen privaat en publiek is en wordt steeds vager.

De relaties van de personages in de film deden me veel nadenken over hoe mensen en machines naast elkaar zouden kunnen bestaan, of zelfs samen evolueren. Door een groot deel van de film, zelfs de mensen praten zacht met elkaar, zonder veel toon of emotie - zoals ze tegen een machine kunnen praten, of zoals een machine met hen zou kunnen praten. De beroemde sterfscène van HAL - waarin Dave methodisch zijn logische verbindingen verbreekt - deed me afvragen of intelligente machines ooit iets zullen krijgen dat gelijkwaardig is aan mensenrechten.

Clarke geloofde dat het heel goed mogelijk was dat de tijd van de mens op aarde slechts een "korte rustplaats" was en dat de rijping en evolutie van de soort mensen noodzakelijkerwijs ver buiten deze planeet zou brengen. "2001" eindigt optimistisch, een mens door de "Stargate" springen om de wedergeboorte van het ras te markeren. Om dit in de praktijk te doen, moeten mensen erachter komen hoe ze het beste gebruik kunnen maken van de machines en apparaten die ze bouwen, en om ervoor te zorgen dat we ons niet door die machines laten beheersen.

Dit artikel is opnieuw gepubliceerd vanuit The Conversation onder een Creative Commons-licentie. Lees het originele artikel.