Na de succesvolle Brexit-campagne, Dominic Cummings, de toenmalige campagneleider van Vote Leave, publiceerde een reeks blogposts waarin hij beschrijft hoe de campagne werd gevoerd en wat zijn plannen waren voor een succesvol ambtenarenapparaat. De laatste van deze berichten is uitgebracht op 26 juni 2019, vlak voordat hij de speciale adviseur van de huidige premier werd, Boris Johnson. Het idee dat dit bericht nieuw leven inblaast, is een belofte in het overheidsbeleid die sinds de jaren zeventig is gestorven - het gebruik van harde wetenschappelijke (op kennis gebaseerde) methoden om beleidskeuzes te sturen.

In wat lijkt op Cumming's versie van openbaar beleid, een elitegroep van bestuurders opgeleid in de disciplines van het zuivere denken - wiskundigen en filosofen - zou de samenleving besturen op basis van bewijs. Verzamelde datapunten zouden worden gebruikt om een ​​machinesimulatie te maken (vaak het model genoemd). Beleidsmakers zouden dan de simulaties kunnen testen met hypothetisch beleid ("wat als drugs legaal waren?") en, volgens de resultaten, overheidsbeleid aanpassen.

Er werd gepleit voor een complete cybernetische versie van economisch beleid, maar niet geoefend in de Sovjet-Unie door onder meer de Nobelprijswinnende econoom Leonid Kantorovich en de wiskundige en computerwetenschapper Victor Glushkov. Ze veronderstelden de mogelijkheid om nog een stap verder te gaan:de machines laten bepalen welke acties moeten worden ondernomen om optimale resultaten te bereiken. Dat is, beleidsmakers zouden moeten beslissen wat ze willen bereiken ("maximaliseer de productie van boter") en machines zouden het beleid bedenken om middelen toe te wijzen om dit te bereiken.

Buiten de Sovjet-Unie, dit soort denken werd feitelijk uitgevoerd met Project Cybersyn, een inspanning van managementconsulent Stafford Beer in de jaren zeventig voor de regering van Chili onder de toenmalige president, Salvador Allende om de economie te helpen beheren (het project werd ontmanteld na de staatsgreep van generaal Augusto Pinochet).

Hoewel Cybersyn nooit volledig operationeel was, het werd met spoed in gebruik genomen om een ​​van de grootste anti-regeringsstakingen te helpen breken, die was opgezet door een rechtse vakbond. De visie van Beer is veel meer gedecentraliseerd en democratischer dan zijn Sovjet-tegenhanger, maar het valt nog steeds binnen dezelfde gedachtegang.

Zoals je inmiddels wel zult weten, de cybernetische visie bevindt zich meestal veilig aan de linkerkant van het politieke spectrum.

De markt

Zittend aan de andere kant van de cybernetische visie, men zal de grondleggers van de moderne liberale economie vinden, Ludwig von Mises en Friedrich von Hayek. Hun argumenten, ruimer genomen, de cybernetische droom als onmogelijk beschouwen vanuit een computationeel perspectief, ofwel omdat we de wereld niet efficiënt kunnen modelleren, of het niet hebben van geschikte signalen om de kwaliteit van oplossingen te evalueren.

Ze voerden aan dat een ander mechanisme dat in de echte wereld bestaat (in hun geval de markt) het zware werk moet doen, door een signaal te geven - dat, in het geval van goederen en diensten, zijn prijzen. Voor hen, een goed beleid is niet een beleid dat aangeeft welke stappen moeten worden gezet om tot een oplossing te komen, maar richt zich meer op het opzetten van een soort "spel" met de juiste prikkels en straffen. Dit laat in feite gewoon ruimte voor één echt openbaar beleid dat kan worden samengevat als "alles privatiseren, een competitieve arena creëren, laat de markt de problemen oplossen".

Alle echte beleidsbeslissingen aan de markt overlaten is een zeer traditioneel (althans na de jaren tachtig) rechts idee geweest. Dit roept de vraag op waarom iemand die de huidige Britse regering adviseert, zelfs concepten bespreekt die niet puur marktgestuurd zijn. In zijn laatste bericht Cummings betreurt het onvermogen van de Britse staat om serieuze modellen te maken. Dit lijkt een geweldige tegenstrijdigheid:zou de markt niet alles moeten kunnen oplossen?

Het is vermeldenswaard dat de opvattingen over planningsmethoden sterk verschillen tussen individuele denkers - er zijn zelfs voorstanders van socialistische markten aan de linkerkant. Hoewel er een duidelijke scheiding tussen links en rechts is, in termen van feitelijke partijpolitiek lijkt het idee van enige planning al enige tijd gedeeltelijk (enigszins met tegenzin) te worden geaccepteerd door historisch rechts.

AI en openbaar beleid

Dus, stellen de vooruitgang in AI en (de gelijktijdige) enorme toename van rekenkracht en beschikbaarheid van gegevens ons in staat om de liberale argumenten te omzeilen? Ik zou Ja zeggen, maar slechts gedeeltelijk. Men kan zich gemakkelijk een oplossing voorstellen waarbij de nieuwste AI-methoden worden gebruikt om het beleid rechtstreeks te beïnvloeden. Het is heel aannemelijk dat men dagelijks miljoenen producten en diensten zou kunnen plannen en opnieuw plannen, de optimale reeks acties vinden om sociale problemen aan te pakken en in het algemeen te streven naar een betere toekomst.

Dit is niet, echter, triviaal - het leveren van causale modellen om simulaties aan te sturen is extreem moeilijk, vereist veel expertise, en kan alleen in een beperkte capaciteit. Daar bovenop, de huidige AI-methoden missen een concept van "gezond verstand". Een model dat is gemaakt met een specifieke taak in gedachten, kan mogelijk worden geoptimaliseerd voor die taak, maar is gevoelig voor het genereren van ongewenste bijwerkingen. Bijvoorbeeld, een AI-geoptimaliseerde fabriek die de productie wil optimaliseren, doet dat zonder zorg voor het milieu.

Maar de moeder van alle problemen in AI is dat veel van de modernere probabilistische planningsalgoritmen niet stabiel zijn zonder overmatige menselijke afstemming, vanwege een aantal redenen die buiten het bestek van dit artikel vallen. In praktijk, dit betekent dat buiten eenvoudig, traditionele planning (zoals lineair programmeren), waarde halen uit moderne AI vereist aanzienlijke menselijke expertise. Op dit moment bevindt dit zich voornamelijk in particuliere AI-onderzoekslaboratoria en enkele universitaire afdelingen. Elke serieuze poging om een ​​cybernetische staat te creëren, zou zowel aanzienlijke personele middelen nodig hebben om naar het project te worden verplaatst als enkele verdere algoritmische doorbraken.

Helaas, huidige AI-implementaties in het openbare beleid houden zich niet aan de bovenstaande ideeën. Het lijkt erop dat AI meestal alleen wordt ingezet voor eenvoudige voorspellende taken ("zal persoon X in de toekomst misdaad Y plegen?"). Om deze reden, overheidsinstanties vinden deze technologie steeds onbruikbaarder. Maar technologische innovaties ervaren bijna altijd een reeks mislukkingen voordat ze hun tempo vinden, dus hopelijk zal AI uiteindelijk correct worden geïmplementeerd.

Terug naar Brexit

Wat heeft Brexit hiermee te maken? Ik heb begrepen dat de Brexit (volgens Cummings) nodig is om de ambtenarij voldoende te verstoren zodat deze weer kan worden opgebouwd. Het zou dan mogelijk zijn om serieuze AI-oplossingen voor openbaar beleid in te zetten (wat een andere naam is voor wetenschappelijke planning). Dus de Britse staat zou projecten inzetten die de toekomst kunnen modelleren, met machines of ambtenaren die het model aftasten naar gouden paden.

Wat is echt verrassend, volgens mij, is dat dergelijke voorstellen niet van breed politiek links komen (hoewel er, natuurlijk, buitengewoon interessante kijk op het onderwerp van wetenschappelijke planning) – maar van rechts. Dit zou het gebruik van AI kunnen impliceren om de vrijemarktagenda te bespoedigen door vragen te stellen als "wat is de beste propaganda om te produceren om iedereen aan boord te krijgen met de verhoging van de AOW-leeftijd naar 95, elke openbare dienst privatiseren en mensen zover krijgen dat ze een verbod op immigratie accepteren?"

Al dit gepraat over AI kan een rode haring zijn - het meer traditionele rechtse beleid van de Brexit-partij is gewoon een intensivering van een dereguleringsagenda, hoewel de signalen opnieuw gemengd zijn. Alternatief, het kan zijn dat er een splitsing is tussen One Nation Conservatives en vrije marketeers over de hele linie.

Het is moeilijk voor te stellen dat de EU directe planning toestaat (het druist in tegen de meeste principes van de interne markt), maar het is even moeilijk voor te stellen dat Groot-Brittannië na de Brexit hetzelfde doet. De meeste instellingen zien de markt als de enige legitieme organisatievorm.

Maar er lijken scheuren in de consensus te ontstaan. Misschien komen we in een positie terecht waarin actief plannen worden gemaakt voor het gebruik van AI voor een 'goede samenleving'.

Dit artikel is opnieuw gepubliceerd vanuit The Conversation onder een Creative Commons-licentie. Lees het originele artikel.