Zal kunstmatige intelligentie ooit het menselijk denken overtreffen? De snelle vooruitgang van AI, in combinatie met onze standaard angst voor machines, bezorgdheid heeft geuit dat zijn capaciteiten op een dag ongecontroleerd zullen groeien, er uiteindelijk toe leidend dat het de wereld overneemt en de mensheid uitroeit als het besluit dat we een obstakel zijn voor zijn doelen. Dit moment wordt meestal de 'AI-singulariteit' genoemd.

Een argument tegen de mogelijkheid van zo'n opperste, onstuitbare en oneindig groeiende intelligentie is dat het nodig zou hebben, per definitie, om de toekomst nauwkeurig te kunnen voorspellen. En kwantumtheorie, een van de belangrijkste manieren van de moderne wetenschap om het universum te verklaren, zegt dat het voorspellen van de toekomst misschien niet mogelijk is omdat het universum willekeurig is. Maar wat als we alleen denken dat het voorspellen van de toekomst onmogelijk is omdat we niet intelligent genoeg zijn om anders te weten?

Intelligentie is een zeer complex en abstract begrip zonder een overeengekomen definitie. Echter, er is algemene overeenstemming over enkele van de componenten waaruit elk soort bekende intelligentie bestaat. Een daarvan is het vermogen om problemen op te lossen, dat vereist het vermogen om te plannen door te anticiperen op de toekomst. Een probleem oplossen, het is van cruciaal belang om de huidige omstandigheden te begrijpen, voorspellen hoe de omgeving zal evolueren, en om te anticiperen op het resultaat van de acties die zullen worden toegepast.

Willekeurig universum

Recente theorieën in de natuurkunde suggereren dat het universum extreem chaotisch en willekeurig is. Neem het voorbeeld van onstabiele chemische elementen die uiteindelijk radioactief verval ondergaan in een andere stof. Je kunt inschatten hoe lang het duurt voordat een bepaalde hoeveelheid van dit element vervalt, maar je kunt niet met zekerheid zeggen wanneer een enkel atoom ervan zal vervallen. evenzo, je kunt de positie of het momentum van een deeltje meten, maar, om bepaalde redenen die verband houden met de kwantumtheorie, je kunt niet beide tegelijkertijd met volledige nauwkeurigheid weten. (Dit staat bekend als het onzekerheidsprincipe van Heisenberg.)

Ervan uitgaande dat deze theorieën correct zijn, ze suggereren dat, boven een bepaald detailniveau, het universum is uiteindelijk onvoorspelbaar, chaotisch en onstabiel. Dit zou betekenen dat elke vorm van groeiende intelligentie uiteindelijk een punt zou bereiken waarop het zijn voorspellingen van de toekomst niet langer kan verbeteren en dus niet verder kan toenemen in intelligentie. Met andere woorden, er is geen risico op een op hol geslagen AI, omdat de fysieke wetten van het universum enkele zeer beperkende harde grenzen stellen. Bijvoorbeeld, gezien de bekende grenzen aan de voorspelbaarheid van het weer, een AI-systeem zal de mens niet te slim af zijn door gebruik te maken van uiterst nauwkeurige weersvoorspellingen op lange termijn voor het plannen van toekomstige acties.

Het is zeer geruststellend te geloven dat de aard van het universum is, In zekere zin, het voorkomen van een AI-escalatie. Maar er is een alternatief perspectief. Wat als mensen het universum als willekeurig en chaotisch beschouwen, alleen omdat onze cognitieve en redeneringscapaciteiten te beperkt zijn? We zijn ons bewust van enkele van de beperkingen van het menselijk begrip, maar, om Donald Rumsfeld te parafraseren, we weten niet wat we niet weten.

Vanuit dit perspectief, het kan zijn dat het universum in plaats daarvan deterministisch is, en dus volledig voorspelbaar, maar op een uiterst complexe manier die wij als mensen niet kunnen bevatten. Albert Einstein betoogde dat de kwantumtheorie een onvolledige beschrijving van het universum was en dat er verborgen variabelen moeten zijn die we nog niet begrijpen, maar die de sleutel vormen tot het bepalen van toekomstige gebeurtenissen.

Dat zou de tafel omdraaien voor de mogelijkheid van een AI-singulariteit. Een supergeavanceerde intelligentie zou in de positie kunnen zijn om deze verborgen variabelen te onthullen en zo de voorspelbare aard van het universum te begrijpen, waardoor het volledige potentieel van de machine wordt ontketend. Het is vermeldenswaard dat AI-benaderingen al worden gebruikt voor het automatisch doen van ontdekkingen in de natuurkunde.

Op praktisch vlak is de singulariteit lijkt niet zo aannemelijk gezien hoe beperkt AI eigenlijk nog steeds is. Recente doorbraken in AI zijn bereikt via wat bekend staat als smalle AI, ontworpen om een ​​duidelijk omschreven taak uit te voeren, zoals schaken of autorijden. Hoewel smalle AI in sommige taken beter kan presteren dan mensen, er is weinig dat erop wijst dat meer algemene AI die het vermogen van mensen om op veel verschillende taken te reageren kan navolgen, in de nabije toekomst zal worden geleverd en mensen in gevaar zal brengen.

Maar helemaal uitsluiten kunnen we het niet. Omdat we nog steeds beperkte kennis hebben van de aard van het universum, en van de kracht van AI, misschien is het beter om op veilig te spelen. Zelfs zonder een singulariteit, AI zal een dramatische impact hebben op de menselijke samenleving. We moeten zo hard mogelijk werken om ervoor te zorgen dat AI gunstig is voor de mensheid, er geen bedreiging voor.

Dit artikel is opnieuw gepubliceerd vanuit The Conversation onder een Creative Commons-licentie. Lees het originele artikel.