Onze relatie met technologiebedrijven is de afgelopen 18 maanden aanzienlijk veranderd. Voortdurende datalekken, en de onthullingen rond het Cambridge Analytica-schandaal, bezorgdheid hebben geuit over wie de eigenaar is van onze gegevens, en hoe het wordt gebruikt en gedeeld.

Techbedrijven hebben beloofd het beter te doen. Na zijn grillen door zowel het Amerikaanse Congres als het EU-parlement, Facebook-CEO, Mark Zuckerberg, zei dat Facebook de manier waarop het gegevens deelt met externe leveranciers zal veranderen. Er zijn aanwijzingen dat dit gebeurt, vooral met adverteerders.

Maar zijn technologiebedrijven echt veranderd? Ten slotte, data is nu een primaire troef in de moderne economie.

Om na te gaan of er een significante aanpassing is geweest tussen de verwachtingen van de gemeenschap en het gedrag van bedrijven, we hebben de data-ethiekprincipes en -initiatieven geanalyseerd die verschillende wereldwijde organisaties hebben gepleegd sinds de verschillende schandalen uitbraken.

Wat we vonden is zorgwekkend. Enkele van de grootste organisaties hebben de praktijken niet aantoonbaar gewijzigd, in plaats daarvan zich aan te sluiten bij ethische initiatieven die niet worden afgedwongen of afdwingbaar zijn.

Hoe we deze informatie hebben bijgehouden

Voordat we onze bevindingen bespreken, enkele punten ter verduidelijking.

Ten eerste, de problemen van gegevens, kunstmatige intelligentie (AI), machine learning en algoritmen zijn moeilijk uit elkaar te halen, en hun reikwijdte wordt betwist. In feite, voor de meeste van deze organisaties de concepten worden op één hoop gegooid, terwijl ze voor onderzoekers en beleidsmakers duidelijk verschillende uitdagingen met zich meebrengen.

Bijvoorbeeld, machinaal leren, terwijl een tak van AI, gaat over het bouwen van machines om zelfstandig te leren zonder toezicht. Als zodanig, beleidsmakers moeten ervoor zorgen dat de machine learning-algoritmen vrij zijn van vooringenomenheid en rekening houden met verschillende sociale en economische kwesties, in plaats van iedereen hetzelfde te behandelen.

Ten tweede, het beleid, verklaringen en richtlijnen van de bedrijven die we hebben bekeken zijn niet centraal gelegen, consistent gepresenteerd of eenvoudig te ontcijferen.

Rekening houdend met het gebrek aan consistente benadering van data-ethiek door technologiebedrijven, onze methode was om zichtbare stappen te inventariseren, en om te kijken naar de brede ethische principes die worden omarmd.

Vijf brede categorieën van gegevensethiek

Sommige bedrijven, zoals Microsoft, IBM, en Google, hebben hun eigen AI-ethische principes gepubliceerd.

meer bedrijven, inclusief Facebook en Amazon, hebben gekozen voor een zakelijke benadering van ethiek door zich aan te sluiten bij consortia, zoals Partnership on AI (PAI) en de Information and Technology Industry Council (ITI). Deze twee consortia hebben verklaringen gepubliceerd met ethische principes. De principes zijn vrijwillig, en hebben geen rapportageverplichtingen, objectieve normen of toezicht.

We hebben de inhoud van de gepubliceerde ethische richtlijnen van deze bedrijven en consortia onderzocht, en ontdekte dat de principes in vijf brede categorieën vielen.

1. Privacy :privacy wordt algemeen erkend als een belangrijk gebied, benadrukken dat de focus voor de meeste van deze organisaties ligt op een traditionele relatie tussen consument en leverancier. Dat is, de door de consumenten verstrekte gegevens zijn nu eigendom van het bedrijf, wie deze gegevens gaat gebruiken, maar respecteer de vertrouwelijkheid
2. bestuur :deze principes gaan over verantwoording in databeheer, het waarborgen van de kwaliteit en nauwkeurigheid van gegevens, en de ethische toepassing van algoritmen. De focus ligt hier op de interne processen die moeten worden gevolgd
3. eerlijkheid :eerlijkheid betekent het gebruik van gegevens en algoritmen op een manier die de persoon achter de gegevens respecteert. Dat betekent rekening houden met de veiligheid, en het erkennen van de impact die het gebruik van data kan hebben op het leven van mensen. Dit omvat een erkenning van hoe algoritmen die vertrouwen op historische gegevens of gebrekkige programmering gemarginaliseerde gemeenschappen kunnen discrimineren
4. gedeeld voordeel :dit verwijst naar het idee dat gegevens eigendom zijn van degenen die ze produceren en, als zodanig, er moet gezamenlijke controle zijn over de gegevens, maar ook gedeelde voordelen. We constateerden een gebrek aan consensus of intentie om zich aan deze categorie te houden
5. transparantie :hier begint een meer genuanceerd begrip van data-eigendom te ontstaan. Transparantie verwijst in wezen naar openheid over de manier waarop gegevens worden verzameld en gebruikt, evenals het vermijden van onnodige gegevensverzameling. Gezien de commerciële noodzaak van bedrijven om vertrouwelijk onderzoek en ontwikkeling te beschermen, het is niet verwonderlijk dat dit principe slechts door een handvol spelers wordt erkend.

Eerlijkheid en transparantie is belangrijk

Ons onderzoek suggereert dat gesprekken over data-ethiek grotendeels gericht zijn op privacy en governance. Maar deze beginselen zijn het minimum dat in een wettelijk kader wordt verwacht. Als iets, de schandalen uit het verleden hebben ons laten zien dat dit niet genoeg is.

Facebook valt op als bedrijf dat een zakelijke benadering van ethiek hanteert. Het is lid van Partnership on AI en Information and Technology Industry Council, maar heeft de publicatie van zijn eigen data-ethiekprincipes vermeden. En hoewel er geruchten zijn geweest over een zogenaamde "Fairness Flow" machine learning bias-detector, en geruchten over een ethisch team bij Facebook, details voor een van deze ontwikkelingen zijn schetsmatig.

In de tussentijd, de mate waarin Partnership on AI en Information and Technology Industry Council het gedrag van aangesloten bedrijven beïnvloeden, is zeer twijfelachtig. Het partnerschap voor AI, die meer dan 70 leden telt, werd opgericht in 2016, maar het heeft nog geen tastbare resultaten aangetoond die verder gaan dan de publicatie van de belangrijkste principes.

Betere regelgeving is vereist

Voor techbedrijven, er kan een afweging zijn tussen ethisch omgaan met gegevens en hoeveel geld ze met die gegevens kunnen verdienen. Er is ook een gebrek aan consensus tussen bedrijven over hoe de juiste ethische benadering eruit ziet. Dus, om het publiek te beschermen, externe begeleiding en toezicht nodig is.

Helaas, de regering heeft zich momenteel gefocust op privacy in de nieuwe Australische regeringswetgeving voor het delen en vrijgeven van gegevens - een principe dat elders in de wetgeving wordt behandeld.

De gegevensgerelateerde gebeurtenissen van de afgelopen jaren hebben bevestigd dat we meer aandacht moeten besteden aan gegevens als burgerrecht, niet alleen een consumentenrecht. Als zodanig, we hebben meer aandacht nodig voor eerlijkheid, transparantie en gedeeld voordeel - allemaal gebieden die momenteel worden verwaarloosd door zowel bedrijven als de overheid.

Dit artikel is opnieuw gepubliceerd vanuit The Conversation onder een Creative Commons-licentie. Lees het originele artikel.