Bijna iedereen kent het verhaal van HAL 9000, de moordende supercomputer in de historische film van Stanley Kubrick 2001:Een ruimte-odyssee , wiens 50-jarig jubileum wordt gevierd op 12 mei, 2018 op het 71ste filmfestival van Cannes. In een intrigerend planningstoeval, IBM, Kubricks partner tijdens de opnames van Een ruimte-odyssee , en Airbus hebben zojuist het CIMON-project (Crew Interactive Mobile Companion) onthuld, een "intelligente, mobiel en interactief assistentiesysteem voor astronauten" dat zich bij het internationale ruimtestation zal voegen.

Deze twee gebeurtenissen stuwen ons in een debat over de risico's die ontstaan ​​door de ontwikkeling van superintelligentie die banen op grote schaal zou kunnen elimineren of, nog erger, de menselijke soort van de aardbodem vegen – en de vraag stellen hoe een dergelijke dreiging moet worden beoordeeld.

Daten, we hebben geen ervaring met ongevallen of rampen als gevolg van defecte of kwaadaardige AI. Echter, de verbeeldingskracht van kunstenaars en wetenschappers is een schat aan materiaal dat het verhaal vertelt van superintelligentie, bevrijd van enige menselijke controle.

Een verhaal over AI die fout gaat

2001:Een ruimte-odyssee is een voorloper van hedendaagse controverses. Het vertelt het verhaal van de strijd en de uiteindelijke verovering van een mens, de enige overlevende van een methodisch uitroeiingsprogramma geleid door een bewuste supercomputer.

Aan boord van het ruimteschip Discovery One , alleen de supercomputer HAL 9000 is door de makers geïnformeerd over het doel van de missie:Jupiter bereiken en zoeken naar tekenen van buitenaardse intelligentie. Hoewel als onfeilbaar beschouwd, HAL maakt een fout. De machine weigert dit toe te geven, en, betrapt, het beweert dat de fout te wijten is aan "menselijke fout". In principe zijn de mensen de ontwerpers van de computer, maar als het te geloven is, zou het in feite de computer zelf kunnen zijn? Door deze redenering over te nemen, de machine geeft zichzelf een status die bemanningsleden zich niet konden voorstellen - die van een levend, voelend en denkend wezen.

Voor de bemanning, De fout van HAL is onaanvaardbaar. Er is geen ruimte voor vergeving of liefdadigheid:fout kan menselijk zijn, maar het is geen machine. Er is geen beroep mogelijk:HAL moet uit de vaart worden genomen. de supercomputer, alomtegenwoordig en alwetend, ontdekt onmiddellijk het project dat is ontworpen om zijn leven te beëindigen. Om te overleven en zijn missie te voltooien, het besluit om de bemanning te elimineren. Slechts één mens overleeft, Astronaut David Bowman, en hij hervat, met nog meer vastberadenheid, de digitale moordmissie.

Bowman slaagt erin de kern van de eenheid te penetreren en vervolgens mechanisch, verbreekt emotieloos en bijna ceremonieel de verbinding, een voor een, de geheugencircuits van de machine uit hun behuizing. Als een kind gevangen met zijn hand in de koektrommel, de computer probeert, door over zichzelf te praten, lobotomie te laten ontsporen. In een laatste poging, het zingt een lied dat het in de eerste uren van zijn "leven" heeft geleerd, maar niets werkt, en ten slotte vervaagt zijn stem.

AI die over zichzelf kan praten

Veel meer dan het verhaal van een gevecht tot de dood, een van de schatten van de film is dat het rekening houdt met de verhalende dimensie van AI. Het is niet alleen in staat om verhalen over zichzelf te verzinnen, maar kan ook mislukken door omstandigheden en eigen fouten. Dus, de eliminatie van de bemanning is niet het gevolg van het autonoom worden van HAL 9000, maar uit een "slecht verhaal" dat de machine zichzelf vertelt, dat te geloven dat de bemanning de missie in gevaar zou kunnen brengen.

Het werk van Kubrick maakt het dus mogelijk om de risico's die worden veroorzaakt door superintelligentie te begrijpen, niet in termen van technische dominantie, maar als de constructie van een onvolmaakte narratieve identiteit. Hoewel de realiteit de fictie nog lang niet inhaalt, enkele eerste bevindingen op dit gebied zijn het overwegen waard.

in 2016, een roman met de titel De dag dat een computer een roman schrijft... Bijna won een Japanse literaire prijs, de Nikkei Hoshi Shinichi. Het is geschreven door een AI-onderzoeksteam van de Universiteit van Hakodate, wiens werk aanvankelijk bestond uit het selecteren van woorden en zinnen, vervolgens parameters definiëren waarmee een programma de roman kon 'schrijven'. Van meer dan 1, 450 inzendingen voor de prijs, 11 was geschreven, althans gedeeltelijk, door een niet-mens. Natuurlijk, de jury wist niets van de "auteurs".

Volgend jaar, in dezelfde geest maar zonder digitale co-auteur, Zack Thoutt, een fan van de tv-serie Game of Thrones , gebruikte een neuraal netwerk gevoed met meer dan 5, 000 pagina's tekst uit de boeken waarop het was gebaseerd om te voorspellen wat er zou kunnen gebeuren in het verhaal. Het resultaat is verre van gelijk aan het werk van auteur George R. Martin, maar de tekst is voor het grootste gedeelte, begrijpelijk en de voorspellingen zijn vergelijkbaar met enkele van de theorieën die populair zijn bij fans van de serie.

Recenter, een programma ontworpen door MIT's Media Lab - "Shelley" gedoopt naar Mary Shelley, de auteur van Frankenstein; of, De moderne Prometheus - angstaanjagende verhalen gemaakt, ontworpen om te schrikken. De eerste fase was om het programma te trainen met verhalen geschreven door mensen uit een database van meer dan 140, 000 referenties. In de tweede fase, de computer genereerde zijn eigen werken die hij verbeterde door samen te werken met mensen die via Twitter op zijn berichten reageerden.

En op het gebied van het lezen en begrijpen van verhalen, Google heeft zojuist zijn "Talk to book"-service gelanceerd waarmee gebruikers in natuurlijke taal kunnen praten met een automatisch leeralgoritme dat hen zou moeten helpen bij hun toekomstige leeskeuzes.

Verhalen die de risico's van AI oproepen

Indien, zoals HAL 9000, AI-computers proberen verhalen te schrijven, ze voldoen nog lang niet aan de normen die door menselijke auteurs zijn gesteld. Hoewel niemand met zekerheid kan voorspellen hoe kunstmatige superintelligentie eruit zou kunnen zien, het blijft mogelijk om het ons voor te stellen door verhalen te produceren die ons denken stimuleren.

De historicus Yuval Noah Harari nam de taak op zich, zich een toekomst voorstellen waarin de automatisering van machines het verdwijnen van de meeste banen zou veroorzaken. Hij betoogde dat mensen het risico lopen hun economische waarde te verliezen omdat intelligentie zal worden losgekoppeld van het bewustzijn. Hoewel intelligentie nodig is om auto te rijden of een ziekte te diagnosticeren, bewustzijn en subjectieve menselijke ervaringen zijn niet verplicht.

Nog meer alarmerend, de filosoof Nick Bostrom brengt het idee naar voren dat mensen waarschijnlijk niet de kans zullen krijgen om deze rampzalige revolutie mee te maken, omdat ze waarschijnlijk zullen worden uitgeroeid zodra kunstmatige superintelligentie verschijnt.

Zowel Harari als Bostrom baseren hun conclusies op een reductie van actie tot zijn functionele dimensie, uitsluitend beoordeeld op effectiviteit. Maar zo'n visie negeert hele gebieden van het menselijk bestaan. Om dit te verhelpen, neurowetenschapper Antonio Damasio stelt dat het leven een complexe handeling is waarin gevoelens de uitdrukking zijn van een permanente strijd om een ​​evenwicht te bereiken dat ten grondslag ligt aan het menselijk bestaan. Voor Damasio, zonder subjectiviteit is er geen creativiteit, en zonder de emoties die zich manifesteren in de relaties tussen het lichaam en de hersenen om de werkelijkheid waar te nemen, er is geen menselijkheid.

Als we dit accepteren, degradeert Kubrick naar de rang van een genie wiens profetie, zij het poëtisch, is onrealistisch. Het betekent ook toegeven dat een AI-computer nooit in staat zal zijn om zijn eigen missie te herdefiniëren ten koste van zijn makers. En tenslotte, we moeten het idee zeer serieus nemen dat het grootste risico voor de mensheid een cyberoorlog is die door mensen zelf is geïnitieerd - een conflict dat wordt bevolkt door drones en moordende robots, ondersteund door zwermen computervirussen die allemaal slimmer zijn dan de andere.

Dit artikel is oorspronkelijk gepubliceerd op The Conversation. Lees het originele artikel.