In de jaren negentig - een mensenleven geleden in internettermen - publiceerde de Spaanse socioloog Manuel Castells verschillende boeken die de opkomst van informatienetwerken in kaart brachten. Hij voorspelde dat in het netwerktijdperk, het beheersen van informatiestromen zou meer waarde opleveren dan het beheersen van de inhoud zelf.

Met andere woorden, degenen die zichzelf positioneerden als netwerkknooppunten - de routers en switchers van informatie - zouden de poortwachters van de macht worden in het digitale tijdperk.

Met de opkomst van internetmolochen Google, Facebook, Amazon en anderen, dit inzicht lijkt nu duidelijk. Maar de afgelopen twee decennia is er ontstond een fundamenteel nieuw bedrijfsmodel dat zelfs Castells niet had voorzien - een waarin het aantrekken van gebruikers op digitale platforms voorrang heeft boven al het andere, inclusief wat de gebruiker zou kunnen zeggen, doen, of kopen op dat platform.

Het verzamelen van informatie werd de dominante noodzaak voor techreuzen - gewillig geholpen door gebruikers die eerst gecharmeerd waren door nieuwigheid, dan door het gemak en de zelfexpressie die het online zijn biedt. Het resultaat was een explosie van informatie, die online kolossen kunnen verzamelen en voor winst kunnen gebruiken.

De enorme omvang van deze onderneming betekent dat veel ervan onzichtbaar is voor de dagelijkse gebruiker. De grote platforms zijn nu zo complex dat hun innerlijke werking zelfs voor hun ingenieurs en beheerders ondoorzichtig is geworden. Als het systeem nu zo groot is dat zelfs degenen die erin werken niet het hele plaatje kunnen zien, welke hoop hebben regelgevers of het publiek dan?

Natuurlijk, regeringen proberen terug te vechten. De AVG-wetten in Europa, het ACCC Digital Platforms-rapport in Australië, en de DETOUR-wet die in april aan het Amerikaanse Congres is geïntroduceerd - het zijn allemaal belangrijke pogingen om een ​​of andere instantie terug te vorderen. Tegelijkertijd, het dringt overal tot de samenleving door dat deze inspanningen, terwijl cruciaal, zijn niet genoeg.

Poortwachters heersen opperste

Als je internet ziet als een gigantische machine voor het delen en kopiëren van informatie, dan wordt duidelijk dat de systemen om die informatie te sorteren van levensbelang zijn. Denk niet alleen aan de zoekfunctie van Google, maar ook van de manier waarop Google en Amazon cloud computing domineren:de grotendeels onzichtbare systemen die internet bruikbaar maken.

Overuren, deze platforms hebben steeds meer controle gekregen over hoe informatie er doorheen stroomt. Maar het is een onbekende vorm van controle, steeds meer autonoom, zelflerende systemen die steeds ondoorgrondelijker worden voor mensen.

Informatiepoortbeheer is van het grootste belang, daarom platforms zoals Google, Amazon en Facebook zijn tot suprematie gestegen. Maar dat betekent niet dat deze platforms noodzakelijkerwijs met elkaar moeten concurreren of samenspannen. Het internet is echt enorm, een feit waardoor elk platform keizer is geworden van een groeiende niche:Google voor zoeken, Facebook voor sociale, Amazon voor de detailhandel, enzovoort. In elk domein, zij speelden de rol van zittende, verstoorder, en vernieuwer, alles tegelijkertijd.

Nu concurreert niemand met hen. Of je nu een particulier bent, bedrijf, of overheid, als je internet nodig hebt, je hebt hun diensten nodig. De molochen van het netwerktijdperk zijn structureel.

Algoritmen leiden de show

Om deze platforms aan de top te houden, innovatie is een constante vereiste. Naarmate de taak van sorteren steeds groter en complexer wordt, we zien de ontwikkeling van algoritmen die zo geavanceerd zijn dat hun menselijke makers het vermogen hebben verloren om hun innerlijke werking te begrijpen. En als de output voldoet aan de taak die voorhanden is, de interne werking van het systeem wordt van ondergeschikt belang geacht.

In de tussentijd, de litanie van nadelige effecten valt niet te ontkennen. Deze dappere nieuwe, door machines geleide wereld tast ons vermogen aan om te identificeren, bevind zich, en vertrouw op gezaghebbende informatie, in het voordeel van snelheid.

Het is waar dat de patiënt al onwel was; samenlevingen zijn uitgehold door drie decennia van marktfundamentalisme. Maar zoals de Amerikaanse tech-historicus George Dyson onlangs waarschuwde:zelfreplicerende code is nu beschikbaar in het cyberecosysteem. Wat begon als een manier voor mensen om anderen over te halen tot gewenst gedrag, dreigt nu te veranderen in niets minder dan de manipulatie van mensen door machines.

Het digitale tijdperk heeft geleid tot een enorme groei in onderzoeksdisciplines zoals sociale psychologie, gedragseconomie, en neurowetenschappen. Ze hebben verbluffende inzichten opgeleverd in menselijke cognitie en gedrag, met mogelijke toepassingen die verre van goedaardig zijn.

Zelfs als deze inspanning met de beste bedoelingen was opgericht, Er gebeuren veel ongelukken wanneer feilbare mensen ingrijpen in complexe systemen met een prille ethische en juridische onderbouwing. Gooi kwaadaardige bedoelingen in de mix - verkiezingsinterferentie, informatie oorlogvoering, online extremisme - en de uitdagingen nemen alleen maar toe.

Als u digitale technologieën nog steeds als hulpmiddelen beschouwt, wat inhoudt dat u, de gebruiker, volledige controle hebt - u moet nog eens nadenken. De waarheid is dat niemand echt weet waar zelfreplicerende digitale code ons zal brengen. Jij bent de terugkoppeling, niet de instructie.

Regelgevers weten niet waar ze moeten beginnen

Er groeit een consensus dat regelgevend ingrijpen dringend nodig is om verdere maatschappelijke ontwrichting te voorkomen, en om democratisch en juridisch toezicht te brengen op de praktijken van 's werelds grootste monopolies. Maar, als Dyson gelijk heeft, de geest is al uit de fles.

In de ban van de nieuwigheid en het gemak van het leven online, we hebben Silicon Valley ongewild een "staatsgreep van bovenaf" laten plegen. Het is lang geleden dat de ideologie die aan deze coup ten grondslag lag, en beheerst nu zoveel dagelijkse menselijke activiteiten, aan controle wordt blootgesteld.

De uitdagingen van het digitale informatietijdperk reiken verder dan monopolies en privacy. Dit regime van technologieën is ontworpen zonder zorgen over exploitatie. Die kwetsbaarheden zijn omvangrijk en zullen misbruikt blijven worden, en nu deze technologie zo nauw deel uitmaakt van het dagelijks leven, de sanering ervan moet worden nagestreefd zonder angst of gunst.

Wet- en regelgevende interventie kan echter alleen effectief zijn als de industrie, regeringen en het maatschappelijk middenveld samen om te bouwen, met opzet, een digitaal informatietijdperk die naam waardig, wat ons niet allemaal blootstelt aan uitbuiting.

Dit artikel is opnieuw gepubliceerd vanuit The Conversation onder een Creative Commons-licentie. Lees het originele artikel.