Niet tevreden met het monitoren van bijna alles wat u online doet, Facebook wil nu ook je gedachten lezen. De socialemediagigant kondigde onlangs een doorbraak aan in zijn plan om een ​​apparaat te maken dat de hersengolven van mensen leest, zodat ze kunnen typen door gewoon na te denken. En Elon Musk wil nog verder gaan. Een van de andere bedrijven van de Tesla-baas, Neuralink, ontwikkelt een hersenimplantaat om de geest van mensen rechtstreeks met een computer te verbinden.

Musk geeft toe dat hij inspiratie haalt uit sciencefiction, en dat hij ervoor wil zorgen dat mensen kunstmatige intelligentie kunnen 'bijbenen'. Hij lijkt het deel van sci-fi te hebben gemist dat fungeert als een waarschuwing voor de implicaties van technologie.

Deze gedachtenleessystemen kunnen onze privacy aantasten, veiligheid, identiteit, gelijkheid en persoonlijke veiligheid. Willen we echt dat alles wat overblijft aan bedrijven met filosofieën zoals die van Facebook's vroegere mantra, "snel bewegen en dingen breken"?

Hoewel ze futuristisch klinken, de technologieën die nodig zijn om apparaten voor het uitlezen van hersengolven te maken, zijn niet zo verschillend van de standaard MRI (magnetic resonance imaging) en EEG (elektro-encefalografie) neurowetenschappelijke hulpmiddelen die in ziekenhuizen over de hele wereld worden gebruikt. Je kunt al een kit kopen om een ​​drone met je geest te besturen, dus het gebruik van een om woorden uit te typen is, in sommige opzichten, niet zo'n grote sprong. De vooruitgang zal waarschijnlijk te danken zijn aan het gebruik van machine learning om enorme hoeveelheden gegevens die uit onze hersenen zijn verzameld te doorzoeken en de patronen in neuronactiviteit te vinden die gedachten aan specifieke woorden koppelen.

Een hersenimplantaat zal waarschijnlijk veel langer nodig hebben om zich te ontwikkelen, en het is belangrijk om de feitelijke prestaties van Neuralink te scheiden van mediahype en promotie. Maar Neuralink heeft gelijktijdig verbeteringen aangebracht in materialen voor elektroden en robotgeassisteerde chirurgie om ze te implanteren, de technologie netjes verpakt, zodat deze via USB kan worden gelezen.

De plannen van Facebook en Neuralink kunnen voortbouwen op de gevestigde medische praktijk. Maar als bedrijven gedachten rechtstreeks uit onze hersenen verzamelen, de ethische kwesties zijn heel verschillend.

Elk systeem dat gegevens rechtstreeks uit onze hersenen kan verzamelen, heeft duidelijke privacyrisico's. Privacy gaat over toestemming. Maar het is heel moeilijk om de juiste toestemming te geven als iemand rechtstreeks in onze gedachten tapt. Bedrijven in Silicon Valley (en overheden) verzamelen al heimelijk zoveel mogelijk gegevens over ons en gebruiken deze op manieren die we liever niet hebben. Hoe zeker kunnen we zijn dat onze willekeurige en persoonlijke gedachten niet worden vastgelegd en bestudeerd naast de instructies die we de technologie willen geven?

Discriminatie en manipulatie

Een van de bestaande ethische problemen bij het verzamelen van gegevens is discriminatie op basis van kenmerken zoals geslacht of ras die uit de gegevens kunnen worden afgeleid. Door een kijkje in de hoofden van mensen te bieden, kan het gemakkelijker worden om andere dingen vast te stellen die de basis kunnen vormen voor vooroordelen, zoals seksualiteit of politieke ideologie, of zelfs verschillende manieren van denken die zaken als autisme kunnen omvatten.

Met een systeem dat rechtstreeks in je hersenen tikt, niet alleen kunnen je gedachten worden gestolen, maar het is ook mogelijk dat ze ook gemanipuleerd kunnen worden. Hersenstimulatie wordt al ontwikkeld om PTSS te helpen behandelen en geweld te verminderen. Er zijn zelfs sensationele beweringen dat het kan worden gebruikt om kennis direct te uploaden, net als in de film The Matrix.

Een voorspelbare stap zou zijn om de 'in' en 'out'-technologieën te combineren voor een tweerichtings-hersen-computerinterface. Het potentieel voor overheden om ons compliant te maken, voor werkgevers om ons te dwingen harder te werken, of dat bedrijven ervoor zorgen dat we meer van hun producten willen, onderstreept hoe serieus we deze technologie moeten nemen.

Als apparaten voor het lezen van gedachten de normale manier worden om met computers om te gaan, we hebben misschien weinig andere keuze dan ze te gebruiken om de productievere collega's bij te houden. (Stel je voor dat iemand vandaag solliciteert naar een kantoorbaan maar weigert e-mail te gebruiken.) En als implantaten in Neuralink-stijl de norm worden, dit kan ook leiden tot grotere ongelijkheid, bepaald door het niveau van de kit die je je zou kunnen veroorloven om te installeren.

Elon Musk heeft verklaard dat de enorme lening die nodig is om Neuralink-chirurgie te betalen, zou worden gecompenseerd door potentiële inkomsten voor de "verbeterde". Het idee dat mensen zich onder druk gezet voelen om enorme schulden aan te gaan om een ​​operatie te ondergaan, alleen maar om hun baan te behouden, komt rechtstreeks uit een sci-fi dystopie.

Daar bovenop komt nog de meer directe fysieke dreiging van systemen die fysiek onze hersenen binnendringen. Terwijl sommige mensen hun hersenen willen aanpassen met een computerinterface (er zijn al genoeg experimentele biohackers), om dit op grote schaal uit te rollen zou massaal en grondig testen nodig zijn.

Gezien de reputatie (en voorliefde) van Silicon Valley om dingen te breken in plaats van erover na te denken, deze systemen moeten nauw worden gereguleerd en ethisch worden beoordeeld, zelfs voordat het testen begint. Anders bestaat het risico dat er verminkte menselijke cavia's ontstaan.

Voor dit alles, er kunnen enorme voordelen zijn aan voortzetting van onderzoek op dit gebied, vooral voor mensen die lijden aan verlamming of zintuiglijke stoornissen. Maar Silicon Valley zou niet mogen dicteren hoe deze technologieën worden ontwikkeld en ingezet. Als ze dat doen, het kan de manier waarop we ons als mens identificeren radicaal veranderen.

Dit artikel is opnieuw gepubliceerd vanuit The Conversation onder een Creative Commons-licentie. Lees het originele artikel.