Kun je je een wereld voorstellen zonder gepersonaliseerde Spotify-afspeellijsten, samengestelde feeds voor sociale media, of aanbevolen kattenvideo's in de zijbalken van YouTube? Deze moderne gemakken, die mogelijk zijn gemaakt door kunstmatige intelligentie (AI), ook een enge stelling presenteren - dat de machines uiteindelijk meer over ons zouden kunnen weten dan wijzelf.

Volgens Gartner's 2019 CIO Agenda-enquête, 37 procent van de Chief Information Officers (CIO's) wereldwijd heeft al AI-technologie in hun organisaties geïmplementeerd. De snelle acceptatie van AI-oplossingen brengt de manier waarop gegevens worden gefocust, die kunnen bestaan ​​uit gevoelige, vertrouwelijke en persoonlijke informatie—worden beheerd en gebruikt door organisaties.

Sprekend op het conferentiepanel over 'AI en gegevensbescherming:nieuwe regelgevingsbenaderingen', Singapore Management University (SMU) universitair hoofddocent Warren Chik gaf zijn visie op hoe vertrouwen in een digitaal tijdperk kan worden geconceptualiseerd. "Als het gaat om zaken als persoonsgegevens, we behandelen AI niet als god. Daarom, we kunnen niet vertrouwen op geloof, dat is wat religie vereist. We hebben iets wezenlijkers nodig dan dat, " hij zei.

In zijn lezing getiteld 'Artificial Intelligence and Data Protection in Singapore:Consumers' Trust, Organisatorische Veiligheid en Overheidsregulering', Professor Chik legde uit dat om vertrouwen te wekken in een digitale oplossing, het is van cruciaal belang dat gebruikers betrokken worden bij de betrokken kwesties. "Mensen hebben de neiging om bang te zijn voor het onbekende, en het is moeilijk om vertrouwen te hebben in iets dat je niet kent."

Gemodereerd door professor David Llewelyn, Plaatsvervangend decaan van de SMU School of Law, de rondetafel met sprekers Professor Ian Walden, Centrum voor handelsrechtstudies, Queen Mary Universiteit van Londen; Universitair hoofddocent Yip Man (wiens paper namens haar werd gepresenteerd door universitair hoofddocent Alvin See); evenals commentatoren de heer KK Lim, Hoofd Cyberbeveiliging, Privacy en gegevensbescherming, Eversheds Harry Elias; en meneer Lanx Goh, Senior Legal Counsel (Privacy &Cybersecurity) &Global Data Protection Officer, Klook Reistechnologie.

AI als influencer

Het vermogen van een AI-systeem om persoonlijke profilering uit te voeren, zou de digitale persoonlijkheid van een gebruiker fundamenteel kunnen veranderen, zei professor Chik, voor velen een reden tot zorg.

"Terwijl een AI specifieke informatie bevat, zoals uw naam en adres, het vormt ook zijn eigen kennis van je identiteit, en wie je bent als persoon, "Professor Chik zei:citeren van algoritmen die worden gebruikt door feeds van sociale media om gegevens over iemands identiteit te verzamelen, interesses en surfgedrag. Uit die gegevens, het systeem maakt vervolgens een profiel aan van wie ze denken dat je bent.

"Deze algoritmen - die goed of fout kunnen zijn - geven je informatie, artikelen en links, en heeft daardoor een effect op je denken. Met andere woorden, AI kan menselijk gedrag vormen, en dit is een risico waar veel mensen zich ongemakkelijk bij voelen, "Zei professor Chik. De dreiging is heel reëel, hij benadrukte, opmerkend dat regelgevers duidelijk hebben vastgesteld dat het gebruik van gegevens in AI moet worden gereguleerd.

In Singapore, bijvoorbeeld, de Wet bescherming tegen online leugens en manipulatie (POFMA) bevat strafrechtelijke bepalingen over het creëren, gebruik en wijziging van bots om valse informatie te verspreiden.

Gegevensbeschermingswetgeving:een evenwichtsoefening

Bij het proberen om gegevens te reguleren, er zijn altijd twee concurrerende doelstellingen bij het reguleren van het gebruik, verzamelen en verwerken van persoonsgegevens. "Het eerste doel is om de betrokkene te beschermen, en de tweede is het bevorderen van innovatie, " zei professor Zie, die namens haar de paper van professor Yip presenteerde.

Van de verschillende soorten bescherming voor betrokkenen die tegenwoordig bestaan, de meest algemeen beschikbare optie is het gebruik van contracten. Professor Yip's paper wijst erop dat "het probleem met het proberen om datagebruik te reguleren door middel van algemene voorwaarden is dat in de meeste gevallen, mensen lezen [de wettelijke kleine lettertjes] niet". De gegeven toestemming is dus niet oprecht.

Professor Llewelyn, die het rondetafelgesprek leidde, voegde eraan toe dat de betekenis van toestemming een kwestie is die dieper moet worden onderzocht. "Als een consument een onlinecontract volledig zou accepteren zonder het te lezen, kan realistisch worden gezegd dat hij of zij akkoord is gegaan met alle voorwaarden, en volledige toestemming gegeven?" vroeg hij. "Misschien zou er wettelijke erkenning moeten worden gegeven aan het automatische karakter van de verbintenis die in dergelijke contracten is aangegaan."

Een meer kritische beperking van het contract als bescherming voor de betrokkene, is dat het contract alleen de informatie regelt die wordt gedeeld tussen de twee partijen die aan het contract zijn gebonden. Bijvoorbeeld, als Facebook de persoonlijke gegevens van een gebruiker zou overdragen aan een derde partij die niet gebonden is aan het contract, het derde bedrijf is niet verplicht om de informatie van de gebruiker te beschermen.

Gegevensbescherming door ontwerp

Singapore's Wet op de bescherming van persoonsgegevens (PDPA), die persoonsgegevens regelt door middel van wetgeving, wordt beschreven als een licht regime dat een sterk evenwichtige benadering hanteert tussen de behoefte aan privacybescherming en het belang van bedrijfsinnovatie.

Professor Yip's paper erkent dat er een zekere mate van spanning bestaat tussen de twee bovengenoemde doelstellingen. De kwestie bij de hand, daarom, is hoe een evenwicht te vinden tussen individuele rechten en privacy, en de concurrerende belangen van economische groei en innovatie, merkte ze op.

Aan het einde van de dag, de focus ligt op het voorkomen, in plaats van te proberen een inbreuk op de gegevensprivacy te verhelpen. "Het gaat om het erkennen van de rechten van het individu en de privacy van hun gegevens, en op hetzelfde moment, de noodzaak voor organisaties om te verzamelen, persoonlijke gegevens gebruiken en openbaar maken voor legitieme en redelijke doeleinden, ' voegde professor Yip's paper eraan toe.

Een andere oplossing die professor Yip in haar paper onderzocht, was het gebruik van technologie in plaats van wetgeving om betrokkenen te beschermen. In sommige gevallen, privacy kan direct worden ingebouwd in het ontwerp en de werking van besturingssystemen, werkprocessen, netwerkinfrastructuur en zelfs fysieke ruimtes. Ze benadrukt niettemin dat deze oplossing niet perfect is, omdat het in strijd is met het belang van bedrijven die gegevens gebruiken om winst te maken om robuuste privacywaarborgen in hun systemen en bedrijfsmodellen in te bouwen.