Kunstmatige intelligentie (AI)-systemen gaan steeds meer op ons lijken. Je kunt Google Home vragen je slaapkamerverlichting uit te doen, zoveel als je je menselijke partner zou kunnen vragen.

Wanneer u online vragen naar Amazon stuurt, het is soms onduidelijk of je wordt beantwoord door een mens of door de chatbottechnologie van het bedrijf.

Er is duidelijk een markt voor machines met menselijke psychologische vermogens. Maar we moeten nadenken over wat we per ongeluk zouden kunnen creëren.

Wat als we AI zo goed maken in mens-zijn dat onze behandeling ervan ervoor kan zorgen dat het eronder lijdt? Het zou het recht kunnen voelen om wraak op ons te nemen.

Machines die 'voelen'

Met menselijke psychologische vermogens kan gevoel komen. Filosofen begrijpen gevoel als het vermogen om te lijden en genot te voelen.

En voelende wezens kunnen worden geschaad. Het is een kwestie die de Australische filosoof Peter Singer aan de orde stelt in zijn boek Animal Liberation uit 1975, waarin werd gevraagd hoe we niet-menselijke dieren moeten behandelen. Hij schreef:"Als een wezen lijdt, er kan geen morele rechtvaardiging zijn om te weigeren rekening te houden met dat lijden. Ongeacht de aard van het wezen, het beginsel van gelijkheid vereist dat zijn lijden gelijk wordt geteld met het soortgelijke lijden - voor zover ruwe vergelijkingen kunnen worden gemaakt - van enig ander wezen."

Singer heeft een carrière gewijd aan het opkomen voor dieren, die bewuste wezens zijn die niet voor zichzelf kunnen spreken.

Opkomen voor AI

Onderzoekers in AI proberen een AGI of kunstmatige algemene intelligentie te maken - een machine die in staat is om elke intellectuele taak door een mens uit te voeren. AI kan al leren, maar AGI zal in staat zijn om taken uit te voeren die verder gaan dan waarvoor het is geprogrammeerd.

De experts zijn het er niet over eens hoe ver een AGI verwijderd is. De Amerikaanse tech-uitvinder Ray Kurzweil verwacht binnenkort een AGI, misschien 2029. Anderen denken dat we misschien een eeuw moeten wachten.

Maar als we geïnteresseerd zijn in de juiste behandeling van levende wezens, we hoeven misschien niet te wachten tot de komst van een AGI.

Een van Singers punten is dat veel bewuste wezens ver achterblijven bij menselijke intelligentie. Door dat betoog AI hoeft niet zo intelligent te zijn als een mens om bewust te zijn.

Het probleem is dat er geen eenvoudige test voor het gevoel is.

Een bemande missie naar Mars sturen is een hele uitdaging, maar we weten het tenminste als we het gedaan hebben.

Het maken van een machine met gevoelens is een uitdaging op een meer filosofisch verwarrende manier. Omdat we geen duidelijke criteria hebben voor machinegevoel, we weten niet zeker wanneer we het gedaan hebben.

Kijk naar sciencefiction

De dubbelzinnigheid van machinegevoel is een kenmerk van verschillende sciencefictionpresentaties van AI.

Bijvoorbeeld, Niska is een mensachtige robot, een synth, dienst doen als sekswerker in de tv-serie Humans. Ons wordt verteld dat, in tegenstelling tot de meeste synths, ze is gevoelig.

Als Niska wordt gevraagd waarom ze een cliënt heeft vermoord, legt ze uit:"Hij wilde ruw zijn."

De menselijke advocaat Laura Hawkins antwoordt:"Maar, is dat verkeerd als hij dacht dat je niet kon voelen? … Is het niet beter dat hij zijn fantasieën met je uitoefent in een bordeel in plaats van ze af te reageren op iemand die echt kan voelen?"

Vanuit een menselijk perspectief, je zou kunnen denken dat aanranding gericht tegen een niet-bewuste machine een misdaad zonder slachtoffers is.

Maar hoe zit het met een seksrobot die gevoel heeft gekregen? Niska legt uit dat ze bang was voor het gedrag van de cliënt jegens haar. "En het spijt me dat ik niet kan huilen of... bloeden of mijn handen wringen, zodat je dat weet. Maar ik zeg je, Ik was."

Humans is niet het enige sciencefictionverhaal dat waarschuwt voor wraakaanvallen van machines die zijn ontworpen om door mensen te worden uitgebuit voor plezier en pijn.

In de tv-remake van Westworld, mensen gaan een themapark binnen en doden Android-hosts met het opgeven van Xbox-bloedbaden, ervan overtuigd dat hun slachtoffers geen harde gevoelens hebben omdat ze geen gevoelens kunnen hebben.

Maar hier weer, sommige gastheren hebben in het geheim gevoel gekregen en krijgen wraak op hun menselijke kwelgeesten.

We zijn ook maar mensen

Is het alleen sciencefiction? Zijn bewuste machines nog ver weg? Misschien. Misschien niet.

Maar slechte gewoonten kunnen een tijdje duren om af te leren. Wij – of liever dieren – lijden nog steeds onder de filosofische kater van de 17e-eeuwse Franse denker Rene Descartes' verschrikkelijke idee dat dieren hersenloze automaten zijn – zonder gevoel.

Als we machines gaan maken met menselijke psychologische capaciteiten, we moeten ons voorbereiden op de mogelijkheid dat ze bewust worden. Hoe zullen ze dan reageren op ons gedrag jegens hen?

Misschien zou ons gedrag ten opzichte van niet-bewuste AI vandaag de dag moeten worden bepaald door hoe we zouden verwachten dat mensen zich zouden gedragen tegenover elke toekomstige bewuste AI die zich kan voelen, dat kan lijden. Hoe zouden we verwachten dat die toekomstige bewuste machine op ons zou reageren?

Dit kan het grote verschil zijn tussen machines en de dieren die Singer verdedigt. Dieren kunnen geen wraak nemen. Maar bewuste machines misschien wel.

Dit artikel is opnieuw gepubliceerd vanuit The Conversation onder een Creative Commons-licentie. Lees het originele artikel.