Data-ethiek is nu een cause célèbre.

"Digitale ethiek en privacy" schoot in onderzoeks- en adviesbureau Gartner's top tien strategische technologietrends voor 2019. Voor die tijd werd het nauwelijks genoemd.

Overheden hebben het afgelopen jaar bedrijven en beleids- en technologiedenktanks hebben gidsen voor gegevensethiek gepubliceerd. Een heel cohort van deskundige data-ethici is op magische wijze gematerialiseerd.

Vanwaar deze plotselinge interesse in data-ethiek? Wat is data-ethiek? Wiens belangen dienen de richtlijnen?

Om te begrijpen wat er aan de hand is, het is nodig om een ​​stap terug te doen en te kijken hoe het informatielandschap zich heeft ontwikkeld.

Het beeld dat naar voren komt, is van een industrie die immuun is voor de wettelijke beperkingen die voor iedereen gelden.

De glans is weg

De informatie-industrie heeft de afgelopen jaren haar glans verloren.

De onthullingen van Snowden, het Cambridge Analytica-schandaal, het mogelijk maken van haatspraak door sociale media, de bewapening van informatie en de rol ervan bij het ondermijnen van democratische instellingen hebben allemaal bijgedragen.

Het bedrijfsmodel dat geld verdient met persoonlijke informatie om advertenties te verkopen, wordt nu gezien als een faustiaans koopje - misschien is het offer het niet waard, ten slotte. Van 2017 tot 2018 was er een daling van 6% in Facebook-gebruikers in de Verenigde Staten in de lucratieve 12-34-jarige markt.

Deze zorgen hebben geleid tot roep om regulering. Maar deze hebben moeite om grip te krijgen op de heersende regelgevende orthodoxie voor de technologiesector. Dit gaat terug op Al Gore's vijf principes voor het mogelijk maken van wat toen eigenaardig de 'wereldwijde informatiesnelweg' werd genoemd.

Principe drie was dat het regelgevingsbeleid "een flexibel regelgevingskader zou creëren dat gelijke tred kan houden met snelle technologische en marktveranderingen." Dit was code voor geen regelgeving, of zelfregulering. In Australië stond het bekend als "light touch" -regeling.

Big tech handelde ongestraft, grotendeels bevrijd van de alledaagse zorgen van de "oude" economie zoals consumentenbescherming of productaansprakelijkheid of mededingingsrecht of, vooral, informatie privacy.

Dichterbij cirkelen

Europa heeft deze laissez-faire-aanpak nooit volledig overgenomen. Informatieprivacy heeft altijd hoog op de agenda gestaan, culminerend in de 2018 General Data Protection Regulation (GDPR). Dit biedt personen in de Europese Unie de meest uitgebreide gegevensbeschermingsrechten ter wereld. De rechten hebben een extraterritoriaal bereik, regelgevend toezicht inhouden, en gebruik civiele boetes van verbluffende omvang. Andere rechtsgebieden beginnen dit voorbeeld te volgen.

parallel, toezichthouders uit andere disciplines beginnen te cirkelen. Antitrustregelgevers kijken opnieuw naar informatiemonopolies en het gebruik van marktmacht door grote technologiebedrijven om de concurrentie te beperken.

In Australië, de ACCC heeft opgeroepen tot een nieuwe regelgevende instantie om het effect van algoritmen op het rangschikken van nieuws en journalistieke inhoud te monitoren en te onderzoeken.

Het UK Select Committee on Communications-rapport over reguleren in een digitale wereld heeft een nieuwe digitale autoriteit aanbevolen om toezicht te houden op de "gefragmenteerde" regulering van de digitale omgeving rond tien regelgevende beginselen, opmerkend dat "[s]elf-regulering door online platforms duidelijk faalt." Mensenrechtenregelgevers onderzoeken de rol van algoritmen bij het creëren en verankeren van discriminatie.

Data betekent geld

Big tech wil niet gereguleerd worden. Het wil niet dat zijn onbeperkte vermogen om persoonlijke informatie te verzamelen wordt beperkt of dat AVG-achtige beveiligingen de wereldwijde norm worden. Persoonlijke informatie is de grondstof voor de algoritmen die het mogelijk maken om onze aandacht te gelde te maken.

Voor een industrie die er prat op gaat "disruptief, De grootste angst van big tech is om de verkrapping van de regelgeving te voorkomen om te voorkomen dat ze zelf wordt verstoord. Data-ethiek is een van de middelen die het heeft ontwikkeld om regelgeving te bestrijden. .

Neem de principes van Google voor AI. (AI is kunstmatige intelligentie). Dit zijn:

• sociaal voordelig zijn
• vermijd het creëren of versterken van oneerlijke vooroordelen
• worden gebouwd en getest op veiligheid
• verantwoording afleggen aan mensen
• privacy-ontwerpprincipes opnemen
• hoge normen van wetenschappelijke excellentie handhaven;
• beschikbaar worden gesteld voor gebruik dat in overeenstemming is met deze beginselen.

Deze "principes" lijken opvallend veel op de feelgood-homilieën die op Instagram zijn gepubliceerd en die ons aansporen om "goed voor elkaar te zijn" of om "de zon niet te laten ondergaan over onze woede, " en zijn ongeveer net zo nuttig.

Op de proef gesteld

Laten we een van de principes van Google testen, "verantwoording afleggen aan mensen."

Er zijn hier meerdere lagen van ambiguïteit. Betekent dit dat de AI-algoritmen van Google verantwoording moeten afleggen aan 'mensen' in het algemeen, Google's "mensen, " of de "mensen" van iemand anders, zoals een onafhankelijke toezichthouder?

Als het laatste, levert Google het algoritme voor analyse, eventuele fouten corrigeren, en een vergoeding betalen voor de veroorzaakte schade?

Als de AI-algoritmen van Google ten onrechte concluderen dat ik een terrorist ben en deze informatie vervolgens doorgeven aan nationale veiligheidsdiensten die de informatie gebruiken om mij te arresteren, houd me incommunicado en ondervraag me, zal Google verantwoordelijk zijn voor zijn nalatigheid of voor het bijdragen aan mijn valse gevangenisstraf? Hoe wordt het verantwoord? Als ik niet tevreden ben met de Google-versie van accountability, op wie doe ik een beroep op gerechtigheid?

Nuttige ethiek houdt aansprakelijkheid in

Ethiek houdt zich bezig met de morele principes die van invloed zijn op hoe individuen beslissingen nemen en hoe ze hun leven leiden.

Ethiek wordt al eeuwenlang bestudeerd en besproken. Binnen de westerse tradities, ethiek is terug te voeren op Socrates. Ze omvatten filosofische standpunten zoals deontologische (plichtsgebaseerde) ethiek, consequentialisme, utilitarisme en existentialisme, er enkele noemen. Niet verrassend, geen van deze geeft dezelfde antwoorden op vragen over wat een persoon in bepaalde omstandigheden moet doen.

"Toegepaste ethiek" heeft tot doel de ethische principes toe te passen op levensechte situaties. Er zijn talloze voorbeelden.

De ethiek van de publieke sector is wettelijk geregeld. Er zijn gevolgen voor degenen die ze overtreden, inclusief disciplinaire maatregelen, beëindiging van het dienstverband en soms strafrechtelijke sancties. Om advocaat te worden, Ik moest een rechtbank bewijzen dat ik een "fit and proper persoon" ben. Om verder te oefenen, Ik moet voldoen aan de gedetailleerde vereisten die zijn uiteengezet in de gedragsregels voor Australische advocaten. Als ik ze overtreed, er zijn consequenties.

De kenmerken van toegepaste ethiek zijn dat ze specifiek zijn, er zijn feedbackloops, begeleiding aanwezig, ze zijn ingebed in de organisatie- en professionele cultuur, er is goed toezicht, er zijn consequenties wanneer ze worden geschonden en er zijn onafhankelijke handhavingsmechanismen en echte remedies. Ze maken deel uit van een regelgevend apparaat en niet alleen "feel good"-verklaringen.

Goed voelen, beginselen van gegevensethiek op hoog niveau zijn niet geschikt voor het reguleren van big tech. Toegepaste ethiek kan een rol spelen, maar omdat ze beroeps- of disciplinespecifiek zijn, kan er niet op worden vertrouwd om alles te doen, of zelfs de meeste, het zware werk.

De schade die verband houdt met big tech kan alleen worden aangepakt door goede regelgeving.

Dit artikel is opnieuw gepubliceerd vanuit The Conversation onder een Creative Commons-licentie. Lees het originele artikel.