Een paar jaar geleden, persoonlijke digitale assistenten zoals Amazon's Alexa, Apple's Siri en Google Assistant klonken futuristisch. Nutsvoorzieningen, de toekomst is hier en deze toekomst is ingebed, uitgebreid en overal aanwezig.

Digitale assistenten zijn te vinden in uw kantoor, huis, auto, hotel, telefoon en vele andere plaatsen. Ze hebben onlangs een enorme transformatie ondergaan en draaien op besturingssystemen die worden gevoed door kunstmatige intelligentie (AI). Ze observeren en verzamelen gegevens in realtime en hebben de mogelijkheid om informatie uit verschillende bronnen, zoals slimme apparaten en cloudservices, te halen en de informatie in context te plaatsen met behulp van AI om de situatie te begrijpen. Hoewel we een lange weg hebben afgelegd in het ontwerp en de uitvoering van deze AI-technologieën, er is nog meer werk aan de winkel op dit gebied.

Veel van de gegevens die deze digitale assistenten verzamelen en gebruiken, omvatten persoonlijke, mogelijk identificeerbare en mogelijk gevoelige informatie. Kunnen Alexa of andere persoonlijke digitale assistenten de privacy en veiligheid van onze gegevens schenden? Mogelijk. Er is een duistere kant aan deze virtuele assistenten.

Mijn expertise ligt op het gebied van gegevensprivacy, gegevensbeheer en kunstmatige intelligentie. Ik was voorheen de Information and Privacy Officer bij het Ontario Information and Privacy Commissioner's Office.

Gastvrije service

Stel je de volgende situatie voor.

U verwacht enkele gasten. Uw eerste gast arriveert, en de bewakingscamera voor buiten op uw veranda legt haar vast terwijl ze naar uw huis loopt. Een beleefde stem verwelkomt haar en doet de deur open. Als ze eenmaal binnen is, uw digitale assistent legt uw gast uit dat u onderweg bent en snel weer thuis zult zijn. Via uw home-audiosysteem, uw digitale assistent speelt een selectie van de favoriete nummers van uw gast af (van uw Spotify-vriendennetwerk). Je digitale assistent vraagt ​​je gast of pompoenkruid nog steeds haar favoriete koffiesmaak is of dat ze liever een andere koffiesmaak heeft:Franse vanille of Colombiaans. Snel na, uw gast haalt de koffie uit het digitale koffiezetapparaat. Welkomsttaken zijn nu voltooid, je digitale assistent wordt stil, en terwijl ik op je wacht, uw gast pleegt een paar telefoontjes.

Het is fascinerend hoe een digitale assistent nauwkeurig en autonoom de identiteit van uw gast kan valideren, selecteer haar favoriete nummers, onthoud haar favoriete koffiesmaak en beheer de slimme apparaten in je huis.

Hosting-assistenten

Maar maakt u zich zorgen over het gedrag van uw digitale assistent?

Digitale assistenten kunnen onze gesprekken opnemen, afbeeldingen en vele andere stukjes gevoelige persoonlijke informatie, inclusief locatie via onze smartphones. Ze gebruiken onze gegevens voor machine learning om zichzelf in de loop van de tijd te verbeteren. Hun software wordt ontwikkeld en onderhouden door bedrijven die voortdurend nieuwe manieren bedenken om onze gegevens te verzamelen en te gebruiken.

Net als bij andere computerprogramma's, het fundamentele probleem met deze digitale assistenten is dat ze kwetsbaar zijn voor technische en processtoringen. Digitale assistenten kunnen ook op afstand worden gehackt, waardoor de privacy van gebruikers wordt geschonden.

Bijvoorbeeld, een echtpaar uit Oregon moest hun Alexa-apparaat loskoppelen, Amazon's virtuele assistent, terwijl hun privégesprek werd opgenomen en naar een van hun vrienden op hun contactenlijst werd gestuurd.

Bij een ander voorval een Duitser kreeg per ongeluk toegang tot 1, 700 Alexa-audiobestanden van een volslagen vreemde. De bestanden onthulden de naam van de persoon, gebruiken, banen en andere gevoelige informatie.

Bewustzijnsvoorrecht

De toenemende populariteit en beschikbaarheid van persoonlijke digitale assistenten heeft geleid tot een verbreding van de zogenaamde digitale kloof. De interessante paradox is dat personen die zich bewust zijn van en gevoelig zijn voor privacykwesties, doorgaans hun gebruik van digitale hulpmiddelen beperken, terwijl gebruikers die minder geneigd zijn hun privacy te beschermen uitgebreid persoonlijke assistenten in hun digitale leven opnemen.

Digitale assistenten registreren continu gegevens of wachten tot een woord "wakker" wordt of geactiveerd wordt. Ze beperken de gegevensverzameling niet tot de informatie van de eigenaren of geautoriseerde gebruikers. Persoonlijke digitale assistenten kunnen persoonlijke gegevens van niet-goedgekeurde gebruikers verzamelen en verwerken, zoals hun stemmen.

In de digitaal verdeelde samenleving iemand die privacybewust is, zou dergelijke apparatuur niet in zijn leven uitnodigen, terwijl anderen dergelijk gedrag kunnen accepteren of rationaliseren.

Respect voor de privacy van anderen

In deze tijd van alomtegenwoordige apparaten en internettoegang, hoe moeten we met deze paradox omgaan en elkaars ruimte en keuzes respecteren?

Laten we onze denkbeeldige persoonlijke digitale assistent opnieuw bekijken. Het moest verschillende informatiebronnen over de gast verwerken om als slimme host te kunnen werken. Heeft de digitale assistent al die gegevens gebruikt om de algoritmen te voeden of om de privacy van de gast te schenden? Afhankelijk van wie je het vraagt, het antwoord zal anders zijn.

Onze etiquettebewuste opvoeding vertelt ons dat we een sociale en ethische verantwoordelijkheid hebben om elkaars waarden te respecteren als het gaat om digitale technologieën. Maar de implicaties en groei van deze technologieën zijn zo groot en snel geweest dat we onze sociale normen en verwachtingen nog niet hebben kunnen herdefiniëren.

Bijvoorbeeld, als gastheer, hebben we een ethische verplichting jegens onze gasten om hen te informeren over onze persoonlijke digitale assistent? Is het beleefd voor een huisbezoeker om de gastheer te vragen zijn digitale tools uit te zetten? Moeten we informeren naar de aanwezigheid van slimme tools en digitale assistenten voordat we bij een vriend thuiskomen, een hotel of een AirBnB?

Het antwoord op deze vragen is ja, volgens etiquette-expert Daniel Post Senning. Senning legt uit dat etiquette het krachtigst is als je het gebruikt als een instrument voor zelfevaluatie. Willen we geïnformeerd worden dat we worden opgenomen in een zakelijke bijeenkomst of een besloten bijeenkomst? Of hoe worden we het liefst gevraagd om digitale tools uit te zetten als we hosten? De etiquetteregels zijn universeel:attent zijn, eerlijk en vriendelijk.

Informeer uw collega's en gasten dat uw digitale apparaten hun stemmen kunnen opnemen, afbeeldingen of andere informatie. Vraag je host om digitale assistenten uit te schakelen als je het niet prettig vindt om ze in de buurt te hebben. Maar wees attent. Misschien wil je je gastheer niet vragen om digitale assistenten uit te schakelen in het bijzijn van iemand die ouder is of een handicap heeft en afhankelijk is van die tools.

Behoud van onze collectieve privacy

Privacy is een sociale norm waar we samen voor moeten werken. Allereerst, we moeten ons informeren over cyberveiligheid en potentiële risico's van digitale technologieën. We moeten ook proactief zijn om op de hoogte te blijven van het laatste nieuws over technologieën en indien nodig actie te ondernemen.

De rol van de overheid in dit complexe paradigma is cruciaal. We hebben strengere privacywetten nodig om privacykwesties in verband met persoonlijke digitale assistenten aan te pakken. Direct, bedrijven zoals Amazon, Google en Apple maken de regels.

Andere rechtsgebieden hebben regelgeving ontwikkeld en geïmplementeerd, zoals de Europese Algemene Verordening Gegevensbescherming (AVG), die toezicht houdt op het verzamelen van gegevens voor een breed scala aan huishoudelijke apparaten. Canada zou dit voorbeeld moeten volgen.

Dit artikel is opnieuw gepubliceerd vanuit The Conversation onder een Creative Commons-licentie. Lees het originele artikel.