Ik heb onlangs een grote faculteitsvergadering bijgewoond om de evaluatie van afgestudeerde studenten te bespreken, werving en behoud.

"Laat de gegevens uw doelen bepalen, ’ herhaalde een van de sprekers, mantra-achtig – met oprecht enthousiasme en overtuiging – en ik kon niet anders dan huiveren.

De slogan leek me symptomatisch voor wat sociaal psycholoog Shoshana Zuboff een 'coup des gens' heeft genoemd.

Als een staatsgreep duidt op de illegale vervanging van het ene politieke systeem door een ander, a coup des gens - "gens" wat "mensen" betekent in het Frans - wordt gekenmerkt door de gedwongen vervanging van mensen door abstracte informatiesystemen.

In mijn recente boek, "Het terminale zelf, " Ik laat zien hoe we steeds meer gedwongen worden om met computertechnologie om te gaan in alle aspecten van ons dagelijks leven. Naast vele andere effecten, deze gedwongen interactie dwingt ons om onze cognitieve functies te synchroniseren met de logica van de computer en deze eindeloze datastromen te voeden, ons rijp maken voor constant toezicht en uitbuiting.

Beheer van de stromen van 'de nieuwe olie'

Gegevens worden nu door bedrijven gebruikt om hen te helpen bij het evalueren, rang, potentiële klanten selecteren of ontslaan. Het kan worden gebruikt om medische risico's te meten, kredietwaardigheid, psychologische gezondheid, werkprestaties, koopgedrag, voedselvoorkeuren, stemmingen, datingvoorkeuren en politieke opvattingen.

Zoals Europees consumentencommissaris Meglena Kuneva het uitdrukte:"Persoonlijke gegevens zijn de nieuwe olie van het internet en de nieuwe munteenheid van de digitale wereld."

De hoge waarde die aan gegevens wordt gehecht, heeft geleid tot wat de Franse socioloog Paul Virilio een 'informatiefundamentalisme' noemt - een ideologie die digitale informatie verheerlijkt als het ultieme goed en de hoogste macht waaraan iedereen zijn wil moet overgeven, tijd en gezond verstand.

Om efficiënt te kunnen functioneren, de meeste instellingen moeten deze aanzwellende gegevensstromen intelligent beheren. Echter, de technologische capaciteit om grote hoeveelheden gegevens te beheren, leidt niet noodzakelijk tot intelligente analyse.

Integendeel, merkt op mediastudies-wetenschapper Mark Andrejevic, "We zijn inlichtingenanalisten geworden die meer gegevens doorzoeken dan we kunnen opnemen." Individuen hebben eenvoudigweg niet de denkkracht om de voortdurend groeiende informatiestromen te doorzoeken die ze moeten verwerken en ontginnen om intelligente beslissingen te nemen.

Een steeds groter deel van ons dagelijks leven vereist niet alleen het verwerken van de "informatiebommen" - de e-mails, berichten, breaking news en aankondigingen - die willekeurig tot ontploffing komen in ons dagelijks leven. Het vereist ook dat we voortdurend informatie in het systeem invoeren.

Denk aan het groeiende aantal kenniswerkers en professionals in verschillende sectoren van de economie die in wezen assistenten voor gegevensinvoer zijn geworden. Hun taken bestaan ​​voornamelijk uit het steeds meer informatie geven aan een steeds hongeriger digitaal organisme, om redenen die voor de hand liggend lijken maar zelden in twijfel worden getrokken.

We zien het in de gedetailleerde gegevens die veel leraren van openbare scholen nu verwachten om elk aspect van het leren van hun leerlingen in te voeren. We zien het in de eindeloze, en vaak gebrekkig enquêtes die professionals van alle rangen en standen moeten invullen over hun dagelijkse taken, vooruitgang en "tevredenheid".

Dit geestdodende werk voor gegevensinvoer ontlast kenniswerkers, vervreemdt hen en verraadt een tragisch wanbeheer van menselijk kapitaal.

Het digitale paard van Troje

Als de plicht om informatie in te voeren openlijk wordt gehandhaafd op het werk, het is heimelijk thuis geïnduceerd. Wanneer we ontspannen op internet surfen, websites raadplegen, door op links te klikken of onze foto's te delen, politiek en voorkeuren, we produceren ook – ongewild en onbewust – gigantische hoeveelheden informatie. Onzichtbare anderen oogsten dan gretig, winkel, deze gegevens te organiseren en te verkopen met het oog op sociale controle, overtuigingskracht en gedragsverandering.

"Op Google, je bent wat je klikt. Op Facebook, je bent wat je deelt, ", schrijft Upworthy-topman Eli Pariser.

Deze extractie van digitale informatie kan echte mensenlevens beïnvloeden. In zijn uitgebreide analyse van bedrijfssurveillance in het dagelijks leven, digitale cultuurwetenschapper Wolfe Christl waarschuwt dat dataminingbedrijven persoonlijke gegevens gebruiken om automatisch beslissingen te nemen over mensen die bestaande ongelijkheden kunnen verergeren.

Bijvoorbeeld, Christl laat zien hoe gezondheidsanalysebedrijven zoals GNS Healthcare enorme hoeveelheden gegevens verzamelen uit genomics, medische gegevens, laboratoriumgegevens en mobiele gezondheidsapparaten om informatie over gebruikers te verstrekken aan zorgverzekeraars. Deze bedrijven kunnen dan de kosten van de ziektekostenverzekering voor verschillende categorieën aanvragers aanzienlijk manipuleren.

evenzo, hij wijst erop dat de verzamelde gegevens over iemands emotionele stabiliteit, geluk en de kans op een baby kunnen beïnvloeden of ze worden aangenomen, behouden of bevorderd.

Nu algoritmen steeds meer mensen verdringen bij dit soort besluitvorming, Het lot van burgers wordt steeds meer bepaald door informatiesystemen. Zoals Zuboff uitlegt, het is een trend die mensen reduceert tot bronnen van data-extractie en doelwitten voor uitbuiting.

Het meest verbijsterende aspect van deze situatie zijn niet de bewakingscapaciteiten zelf, zo ontmoedigend als ze zijn. Het is onze stilzwijgende onderwerping aan een regime van constant en op afstand toezicht dat - behalve in spionagefilms of paranoïde waanideeën - een paar decennia geleden als belachelijk zou zijn beschouwd.

zorgelijker, in een interview uit 2017 over "60 Minutes, " Voormalig Google-marketingmanager Tristan Harris legde de verraderlijke motieven van het verzamelen van gegevens uit:Techbedrijven proberen niet alleen informatie over gebruikers te vinden om deze te verkopen aan bedrijven die merchandise willen verkopen. Ze concurreren om de beste "brain-hacking" " programma's die de meest nauwkeurige informatie verzamelen over wat gebruikers emotioneel drijft en wat hun aandacht trekt.

Het doel is om de emotionele reacties van gebruikers te manipuleren - op afstand en op neuraal niveau. In verkeerde handen, dit soort manipulatie kan niet alleen worden gebruikt om mensen spullen te verkopen, maar ook om hun politieke beslissingen te beïnvloeden. Volgens politicoloog Collin Bennett, dit project is in volle gang.

Toegang geweigerd

Om het nog erger te maken, het is bijna onmogelijk voor gebruikers om te detecteren welke informatie over hen wordt verzameld, wie het verzamelt en wat ze ermee doen.

Elke veeg op een smartphonescherm en elk bericht dat wordt getypt, wordt opgenomen als "signalen" die helpen inzicht te krijgen in de persoonlijkheid van een gebruiker, interesses, stemming en financiële gezondheid. De kredietscores van de Facebook-vrienden van een gebruiker kunnen zelfs worden gebruikt om hun eigen kredietwaardigheid te berekenen. Vanwege de volledige anonimiteit van de instanties die deze gegevens verzamelen en gebruiken, het is onrealistisch om te hopen dat men de fouten die onvermijdelijk in iemands 'profiel' naar voren komen, zou kunnen corrigeren – en de gevolgen ervan afwenden.

Het is verontrustend om eenzijdig gecontroleerd te worden, machteloos en onwetend. Volgens een studie, degenen die beseffen dat hun privacy is blootgesteld zonder hun toestemming, ervaren "emotionele, psychoanalytische en lichamelijke reacties die soms verstikkend diepgaand zijn."

Maar dit toezicht is ook een vorm van uitbuiting.

Ten slotte, wij zijn degenen die deze informatie produceren. Wij zijn degenen die steeds meer onze tijd opofferen om websiterichtlijnen te lezen, bekijk instructievideo's, digitale formulieren invullen, informatie doorsturen, digitale sociale netwerken in stand houden en waardevolle informatie over onszelf genereren die anderen kunnen gebruiken.

Zouden degenen die deze waarde genereren niet meer controle moeten hebben over de productieomstandigheden, uitverkoop, verspreiding en gebruik? En als dit recht niet kan worden verleend vanwege onlosmakelijke technologische problemen, moet niet dezelfde mate van transparantie worden opgelegd aan degenen die inzamelen, verkopen en gebruiken?

Het regime van het algoritme

De groeiende afhankelijkheid van informatie, de normalisering van het toezicht en het toenemende gebruik van informatiesystemen om belangrijke beslissingen te nemen over het leven van burgers komt neer op een 'coup des gens'.

Echter, democratie vereist privacy, en vrijheid houdt bescherming in tegen invasies, of het nu fysiek of digitaal is. In zijn beroemde verhandeling over het vierde amendement, Brandeis, rechter van het Hooggerechtshof, betoogde dat "het recht om met rust te worden gelaten" "het recht is dat het meest wordt gewaardeerd door beschaafde mannen" en dat het "fundamenteel is voor een vrije en civiele samenleving".

Volwassen burgers van een democratische samenleving moeten het recht hebben om te beslissen welk soort informatie over hen wordt verzameld, wie die informatie kunnen gebruiken en hoe ze die kunnen gebruiken. Zij moeten het recht hebben om te controleren of deze informatie juist is en, wanneer dat niet zo is, om het te corrigeren. Ze zouden het recht – en de verantwoordelijkheid – moeten hebben om deze boulimieverslaving voor data en het uiteindelijke doel ervan ter discussie te stellen.

Zoals Dave Eggers schrijft in zijn roman "The Circle, "Het onophoudelijke streven naar gegevens om de waarde van elke inspanning te kwantificeren, is catastrofaal voor een echt begrip."

Dit artikel is opnieuw gepubliceerd vanuit The Conversation onder een Creative Commons-licentie. Lees het originele artikel.