De meesten van ons kennen technische platforms zoals Facebook en Google track, opslaan en geld verdienen met onze gegevens. Maar er zijn voortdurend nieuwe onthullingen over hoeveel van onze privacy is weggenomen.

Het laatste komt uit de Wall Street Journal, die vrijdag een bom liet vallen toen uit de tests bleek dat veel populaire smartphone-apps persoonlijke gegevens naar Facebook hebben verzonden. Dat omvat naar verluidt gegevens van apps voor hartslagmonitoring en menstruatie:"Flo Health Inc.'s Flo Period &Ovulation Tracker, die 25 miljoen actieve gebruikers claimt, Facebook vertelde wanneer een gebruiker ongesteld was of de app op de hoogte bracht van een voornemen om zwanger te worden, de testen toonden aan."

Wanneer we technologieën gebruiken die onze gegevens volgen, we betreden een systeem dat wordt bestuurd door algoritmen. En hoe meer informatie we overhandigen, hoe meer we verstrengeld raken met algoritmische systemen die we niet onder controle hebben.

We hebben dringend bescherming nodig die onze persoonlijke belangen in dit systeem behartigt. We stellen het concept van "algoritmische voogden" voor als een effectieve oplossing.

Hoe werken algoritmen voor het bijhouden van gegevens?

Dagelijks, zonder ons medeweten, technologiebedrijven gebruiken onze gegevens om onze gewoonten te voorspellen, voorkeuren en gedrag. Algoritmen die achter alles werken, van muziekaanbevelingssystemen tot gezichtsherkenningssystemen voor huisbeveiliging, gebruiken die gegevens om een ​​digitale tweelingversie van ons te creëren.

We krijgen dan inhoud en advertenties te zien op basis van wat het algoritme heeft besloten dat we willen en nodig hebben, zonder uit te leggen hoe het tot dat besluit is gekomen, of ons enige inbreng in het besluitvormingsproces te geven.

En onze belangen komen waarschijnlijk op de tweede plaats voor degenen die het algoritme hebben ontwikkeld.

In tegenstelling tot wat het concept suggereert, we hebben geen directe controle over "personalisatie", en we hebben bijna geen manier om onze autonomie in deze transacties van gegevens en besluitvorming te beschermen.

Wat is een 'algoritmische voogd'?

We hebben het concept van algoritmische voogden voorgesteld, die kunnen worden geprogrammeerd om onze digitale interacties met sociale platforms en apps te beheren volgens onze persoonlijke voorkeuren.

Ze worden gezien als bots, persoonlijke assistenten of hologramtechnologie die ons overal vergezellen waar we ons online wagen, en ons op de hoogte stellen van wat er achter de schermen gebeurt.

Deze bewakers zijn zelf algoritmen, maar ze werken alleen voor ons. Net als computervirussoftware, degenen die er niet in slagen om gebruikers te beschermen, zullen failliet gaan, terwijl degenen die een reputatie verwerven als vertrouwde voogden zullen slagen.

In praktische termen, onze voogden zouden ons herkenbaar of anoniem maken wanneer we ervoor kiezen dat te zijn. Ze zouden ook onze digitale identiteit aanpassen aan onze wensen, zodat we verschillende diensten met verschillende persoonlijke voorkeuren kunnen gebruiken. Onze voogden houden onze persoonlijke gegevens in eigen handen door ervoor te zorgen dat onze back-ups en wachtwoorden veilig zijn. We zouden beslissen wat wordt herinnerd en wat wordt vergeten.

Een algoritmische voogd zou:

• waarschuw ons als onze locatie, online activiteit of gesprekken werden gevolgd of gevolgd, en geef ons de optie om te verdwijnen
• help ons de relevante punten van lange en omslachtige algemene voorwaarden te begrijpen wanneer we ons aanmelden voor een online service
• geef ons een eenvoudige uitleg als we niet begrijpen wat er gebeurt met onze gegevens tussen onze computer, telefoongegevens en de tientallen apps die op de achtergrond op onze telefoons draaien
• ons op de hoogte stellen als een app gegevens van onze telefoons naar derden verzendt, en geef ons de mogelijkheid om het in realtime te blokkeren
• vertel ons of er inkomsten zijn gegenereerd met onze gegevens door een derde partij en waar deze voor waren.

We zien algoritmische bewakers als de volgende generatie in de huidige persoonlijke assistenten zoals Siri, Alexa of Watson. Dankzij draagbare technologie en geavanceerde mens-computer interactiemodellen, ze zullen constant en gemakkelijk toegankelijk zijn.

Onze digitale bewakers hoeven niet op dezelfde manier intelligent te zijn als mensen. Ze moeten eerder slim zijn in relatie tot de omgeving waarin ze leven - door de andere algoritmen die ze tegenkomen te herkennen en te begrijpen.

In elk geval, zelfs als algoritmische bewakers (in tegenstelling tot algoritmen van derden) eigendom zijn van de gebruiker en volledig onder onze eigen controle staan, kunnen begrijpen hoe ze werken, zal een prioriteit zijn om ze volledig betrouwbaar te maken.

Wanneer komen algoritmische bewakers?

De technologie om algoritmische voogden mogelijk te maken, komt op dit moment in opkomst. Wat achterblijft, is het wijdverbreide besef dat we het nodig hebben.

U kunt primitieve versies van algoritmische voogdentechnologie zien in digitale kluizen voor het opslaan en beheren van wachtwoorden, en in software-instellingen die ons enige controle geven over hoe onze gegevens worden gebruikt.

Verklaarbare machine learning is momenteel een hot topic, maar nog steeds heel erg in het onderzoeksdomein. Het lost het "black box"-probleem op, waar we geen inzicht hebben in hoe een algoritme daadwerkelijk tot zijn uiteindelijke beslissing is gekomen. In praktijk, we kunnen weten dat onze leningaanvraag is afgewezen, maar we weten niet of het kwam door onze geschiedenis van onbetaalde energierekeningen, of vanwege onze achternaam.

Zonder deze verantwoordelijkheid, sleutelmomenten in ons leven worden bemiddeld door onbekende, ongezien, en willekeurige algoritmen. Algoritmische voogden zouden de rol op zich kunnen nemen om deze beslissingen te communiceren en uit te leggen.

Nu algoritmen alomtegenwoordig zijn geworden in het dagelijks leven, verklaarbaarheid is niet langer een keuze, maar een gebied dat dringend nadere aandacht behoeft.

We moeten de komende jaren specifieke algoritmische voogdmodellen ontwikkelen om de basis te leggen voor open algoritmische systemen in het komende decennium. Op die manier, als een app Facebook wil laten weten dat je zwanger bent, je weet het voordat het gebeurt.

Dit artikel is opnieuw gepubliceerd vanuit The Conversation onder een Creative Commons-licentie. Lees het originele artikel.