Een nieuw bewijs van SFI-professor David Wolpert stuurt een vernederende boodschap naar toekomstige superintelligenties:je kunt niet altijd alles weten.

Het bewijs begint met het wiskundig formaliseren van de manier waarop een "inferentieapparaat, " zeggen, een wetenschapper gewapend met een supercomputer, fantastische experimentele apparatuur, enzovoort., kunnen kennis hebben over de toestand van het universum om hen heen. Of de kennis van die wetenschapper is verkregen door het observeren van hun universum, het beheersen, voorspellen wat er gaat gebeuren, of afleiden wat er in het verleden is gebeurd, er is een wiskundige structuur die die kennis beperkt. De sleutel is dat het inferentieapparaat, hun kennis, en de fysieke variabele waar ze (misschien) iets van weten, zijn allemaal subsystemen van hetzelfde universum. Die koppeling beperkt wat het apparaat kan weten. Vooral, Wolpert bewijst dat er altijd iets is dat het inferentieapparaat niet kan voorspellen, en iets dat ze zich niet kunnen herinneren, en iets dat ze niet kunnen waarnemen.

"In sommige opzichten kan dit formalisme worden gezien als veel verschillende uitbreidingen van [Donald MacKay's] verklaring dat 'een voorspelling over de toekomst van de verteller geen verklaring kan geven voor het effect van het leren van de verteller van die voorspelling, '" legt Wolpert uit. "Misschien is de eenvoudigste extensie dat, wanneer we [inferentie-instrumenten] wiskundig formaliseren, we merken dat dezelfde onmogelijkheidsresultaten die gelden voor voorspellingen van de toekomst - MacKay's zorg - ook gelden voor herinneringen aan het verleden. Tijd is een willekeurige variabele - het speelt geen rol in termen van verschillende toestanden van het universum."

Niet iedereen kan gelijk hebben

Wat gebeurt er als we niet eisen dat een inferentieapparaat alles weet over hun universum, maar alleen dat hij het meeste weet wat er te weten valt? Het wiskundige raamwerk van Wolpert laat zien dat er geen twee inferentie-apparaten die zowel een vrije wil hebben (goed gedefinieerd) als maximale kennis over het universum naast elkaar kunnen bestaan ​​in dat universum. Er kan (of niet) zo'n "super-inferentie-apparaat" zijn in een bepaald universum - maar niet meer dan één. Wolpert verwijst gekscherend naar dit resultaat als "de monotheïsmestelling, " aangezien het niet verbiedt dat er een godheid in ons universum is, het verbiedt dat er meer dan één is.

Als voorbeeld, stel dat Bob en Alice beide wetenschappers zijn met onbeperkte rekencapaciteiten. Bovendien, stel dat ze allebei een "vrije wil hebben, " in die zin dat de vraag die Bob zichzelf stelt niet de mogelijke vragen beperkt die Alice zichzelf zou kunnen stellen, en vice versa. (Dit blijkt cruciaal te zijn.) Dan is het voor Bob onmogelijk om te voorspellen (of terug te dicteren) wat Alice op een ander moment denkt als Alice ook wordt gevraagd te voorspellen wat Bob op dat moment niet denkt.

Wolpert vergelijkt deze stelling met de Kretenzische leugenaarsparadox, waarin Epimenides van Knossos, een Kretenzer, beroemde uitspraak "alle Kretenzers zijn leugenaars." In tegenstelling tot de verklaring van Epimenides, die het probleem blootlegt van systemen die het vermogen hebben om naar zichzelf te verwijzen, De redenering van Wolpert is ook van toepassing op inferentieapparaten zonder die mogelijkheid.

In aanvulling, in het formalisme van Wolpert, dezelfde wetenschapper, beschouwd op twee verschillende momenten in de tijd, is twee verschillende inferentie-apparaten. Dus hoewel het kan zijn dat een bepaald inferentie-apparaat op een bepaald moment een "super-inferentie-apparaat" is, ze konden niet meer dan eens zo zijn. Weer tong in de wang, hij verwijst naar dit als de "deïsme" stelling, omdat het toestaat dat er een godheid is die het meeste weet dat aan het begin van het universum bekend zou kunnen zijn - maar verbiedt dat ze ooit nog zo goed geïnformeerd zijn.

Omdat het niet afhankelijk is van specifieke theorieën over de fysieke realiteit zoals kwantummechanica of relativiteit, het nieuwe bewijs biedt een brede reeks limieten voor het verkennen van de aard van wetenschappelijke kennis.

"Geen van deze resultaten die de door voorspelling verkregen kennis beperken, is afhankelijk van chaotische processen in het universum ... het maakt niet uit wat de wetten van de natuurkunde zijn of dat Alice meer rekenkracht heeft dan een Turing-machine, ", zegt Wolpert. "Dit alles staat los daarvan en het is veel breder."

Dit onderzoek vordert in veel verschillende richtingen, variërend van epistemische logica tot een theorie van Turingmachines. Vooral, Wolpert en zijn collega's creëren een genuanceerder, probabilistisch raamwerk waarmee ze niet alleen de grenzen van absoluut correcte kennis kunnen verkennen, maar ook wat er gebeurt als de inferentie-apparaten niet met 100% nauwkeurigheid hoeven te weten.

"Wat als Epimenides had gezegd:'de kans dat een Kretenzer een leugenaar is groter is dan x procent?'" De overgang van onmogelijkheid naar waarschijnlijkheid zou ons kunnen vertellen of het kennen van één ding met grotere zekerheid het vermogen om iets anders te weten inherent beperkt. Volgens Wolpert, "we krijgen een aantal zeer intrigerende resultaten."