Stel je een wereld voor waarin mensen samenleven met wezens die, zoals wij, verstand had, gedachten, gevoelens, zelfbewust bewustzijn en het vermogen om doelgerichte acties uit te voeren, maar, in tegenstelling tot ons, deze wezens hadden kunstmatige mechanische lichamen die aan en uit konden worden gezet.

Die dappere nieuwe wereld zou veel problemen opleveren toen we in het reine kwamen met onze robottegenhangers als een essentieel onderdeel van het dagelijks leven. Hoe moeten we ons tegenover hen gedragen? Welke morele plichten zouden we hebben? Welke morele rechten zouden zulke niet-menselijke personen hebben? Zou het moreel toelaatbaar zijn om te proberen hun opkomst te dwarsbomen? Of zouden we de plicht hebben om hun bestaan ​​te bevorderen en te koesteren?

Intrigerende ethische vragen zoals deze worden aan de orde gesteld in Ian McEwans recente roman, Machines zoals ik, waarin Alan Turing een lang succesvol leven leidt en explosief de ontwikkeling van kunstmatige intelligentie (AI) voortstuwt die leidt tot de creatie van "een gefabriceerde mens met plausibele intelligentie en uiterlijk, geloofwaardige beweging en verschuivingen van expressie".

Als intellectuele speculatie, nadenken over de ethiek van de behandeling van rationele, bewuste machines is interessant. Maar twee veelvoorkomende argumenten zouden kunnen suggereren dat de zaak geen praktische relevantie heeft en dat ethische vragen niet serieus hoeven te worden genomen.

De eerste is dat zulke kunstmatige mensen onmogelijk kunnen bestaan. De seconde, vaak aan de orde gesteld in het abortusdebat, is dat alleen personen met levende en onafhankelijk levensvatbare menselijke lichamen moreel respect verdienen en morele overweging waard zijn. We zullen zien, deze argumenten zijn discutabel.

Verstand, materie en opkomende eigenschappen

We zouden kunnen veronderstellen dat mentale verschijnselen - bewustzijn, gedachten, gevoelens enzovoort, zijn op de een of andere manier anders dan de dingen die computers en andere machines vormen die door mensen zijn gemaakt. En we zouden kunnen veronderstellen dat materiële hersenen en materiële machines fundamenteel verschillen van bewuste geesten. Maar of dergelijke veronderstellingen al dan niet waar zijn - en ik denk dat ze dat zijn - volgt niet dat bewuste, bewust bewust, kunstmatig geproduceerde mensen zijn niet mogelijk.

De Franse socioloog Emile Durkheim heeft zeer overtuigend betoogd dat we moeten oppassen voor simplistische argumenten in de sociale wetenschappen. sociale verschijnselen, zoals taal, zou niet kunnen bestaan ​​zonder de interactie van individuele mensen met hun specifieke psychologische en biologische kenmerken. Maar hieruit volgt niet dat de resulterende sociale verschijnselen - of "emergent eigenschappen - volledig en correct kunnen worden verklaard uitsluitend in termen van deze kenmerken.

Hetzelfde punt over de mogelijkheid van emergente eigenschappen geldt voor alle wetenschappen. Er kon niet zijn, bijvoorbeeld, computers van het soort waar ik nu aan werk zonder de stukjes plastic, draden, siliciumchips enzovoort waaruit de machine bestaat. Nog altijd, de werking van een computer kan niet alleen worden verklaard in termen van de kenmerken van deze afzonderlijke componenten. Als deze componenten eenmaal zijn gecombineerd en op een bepaalde manier met elektriciteit in wisselwerking staan, er ontstaat een fenomeen van een nieuw soort:een computer. evenzo, zodra computers worden gecombineerd en op bepaalde manieren met elkaar communiceren, het internet is ontstaan. Maar duidelijk, internet is een ander soort fenomeen dan een tastbaar, fysieke computer.

Op een soortgelijke manier, we hoeven niet te veronderstellen dat de geest herleidbaar is tot hersenen, moleculen, atomen of andere fysieke elementen die nodig zijn om te kunnen functioneren. Het kunnen entiteiten van een andere soort zijn die voortkomen uit bepaalde interacties en combinaties daarvan.

Er is geen duidelijke logische reden waarom een ​​bewust bewustzijn van het soort dat mensen bezitten - het vermogen om te denken en beslissingen te nemen - op een dag niet in een menselijke machine zou kunnen verschijnen. Of het fysiek mogelijk is en, dus waarschijnlijk zal gebeuren, staat open voor discussie.

Verdienen machines onze aandacht?

Het lijkt niet controversieel om te zeggen dat we dode mensen niet mogen belasteren of de planeet moedwillig moeten vernietigen, zodat toekomstige generaties ongeboren mensen er niet van kunnen genieten zoals wij hebben gedaan. Beide groepen verdienen moreel respect en consideratie. Ze moeten worden beschouwd als potentiële objecten van onze morele plichten en potentiële ontvangers van onze welwillendheid.

Maar de doden en de nog geborenen hebben geen levensvatbare lichamen van welke soort dan ook - natuurlijk of kunstmatig. Bewuste personen moreel respect en consideratie ontzeggen op grond van het feit dat ze kunstmatige in plaats van natuurlijke lichamen hadden, lijkt willekeurig en grillig. Het zou een rechtvaardiging vereisen, en het is niet duidelijk wat dat zou kunnen zijn.

Op een dag, misschien eerder dan we denken, een beschouwing van de ethiek van de behandeling van rationele, bewuste machines kunnen meer blijken te zijn dan een abstracte academische oefening.

Dit artikel is opnieuw gepubliceerd vanuit The Conversation onder een Creative Commons-licentie. Lees het originele artikel.