Een reeks privacy-misstappen in de afgelopen maanden heeft nieuwe zorgen doen rijzen over de toekomst van spraakgestuurde digitale assistenten, een groeiende markt die door sommigen wordt gezien als de volgende grens op het gebied van informatica.

Recente incidenten met Google, Apparaten van Apple en Amazon onderstrepen dat ondanks een sterke groei in de markt voor slimme luidsprekers en apparaten, er is meer werk nodig om consumenten gerust te stellen dat hun gegevens worden beschermd wanneer ze de technologie gebruiken.

Apple zei deze week dat het zijn "Siri-beoordelingsprogramma" opschortte, waarin mensen luisteren naar fragmenten van gesprekken om de spraakherkenningstechnologie te verbeteren, nadat de Britse krant Guardian meldde dat de aannemers vertrouwelijke medische informatie hoorden, criminele transacties en zelfs seksuele ontmoetingen.

"We doen er alles aan om een ​​geweldige Siri-ervaring te bieden en tegelijkertijd de privacy van gebruikers te beschermen, "Apple zei in een verklaring, eraan toevoegend dat het consumenten in staat zou stellen zich aan te melden voor deze functie in een toekomstige software-update.

Google zei ondertussen dat het het luisteren naar en transcriberen van gesprekken in de Europese Unie vanuit zijn Google Assistent zou pauzeren na een privacyonderzoek in Duitsland.

Amazone, die ook heeft erkend dat het menselijke assistenten gebruikt om de kunstmatige intelligentie van zijn Alexa-aangedreven apparaten te verbeteren, heeft onlangs een nieuwe functie aangekondigd die het gemakkelijker maakt om alle opgenomen gegevens te verwijderen.

De recente gevallen kunnen consumenten de indruk geven dat iemand naar hun gesprekken "luistert", ook al is dit zelden waar.

"Vanuit technologisch oogpunt is het niet verwonderlijk dat deze bedrijven mensen gebruiken om deze gegevens te annoteren, omdat de machine niet goed genoeg is om alles te begrijpen, zei Florian Schaub, een professor aan de Universiteit van Michigan, gespecialiseerd in mens-computerinteractie, die onderzoek heeft gedaan naar digitale assistenten.

"Het probleem is dat mensen het niet verwachten en er niet transparant over wordt gecommuniceerd."

Carolina Milanesi, een technologie-analist met Creative Strategies, waren het erover eens dat er mensen nodig zijn om de technologie te verbeteren.

"Mensen hebben een ietwat onrealistische verwachting dat deze assistenten uiteindelijk alleen maar beter zullen worden, dat ze machine learning kunnen doen en zelf beter kunnen worden, maar op dit moment staan ​​we nog aan het begin van AI, en menselijk ingrijpen is nog steeds belangrijk, " ze zei.

Volgens het onderzoeksbureau eMarketer, bijna 112 miljoen mensen - een derde van de Amerikaanse bevolking - zullen minstens maandelijks een stemassistent gebruiken op elk apparaat, met velen die AI-aangedreven apparaten gebruiken voor zoekopdrachten, muziek en nieuws of informatie.

Uit een Microsoft-enquête dit jaar onder consumenten in vijf landen bleek dat 80 procent tevreden was met hun ervaring met digitale assistenten. Maar 41 procent van de ondervraagden zei dat ze zich zorgen maakten over privacy, vertrouwen en passief luisteren.

Ongegronde angsten?

Sommige privacyangsten rond slimme luidsprekers zijn gebaseerd op valse veronderstellingen, analisten noteren.

De apparaten registreren of verzenden geen informatie totdat ze worden "geactiveerd" met een trefwoord of zin zoals "Hé, Siri' of 'Alexa'.

Maar "er is altijd een risico van valse activering, ’ merkte Schaub op.

"Je moet vertrouwen op het apparaat en het bedrijf dat het apparaat maakt dat de microfoon alleen lokaal verwerkt totdat het activeringswoord wordt gehoord."

Ryan Calo, facultair mededirecteur van het University of Washington Tech Policy Lab, zei dat terwijl de apparaten niet luisteren, er blijven zorgen over de toegang tot gesprekken.

"Als werknemers dingen horen waar ze geen toegang toe zouden moeten hebben, dat is echt een rode vlag, het is een slechte gewoonte, ' zei Calo.

De kikker koken

Calo zei dat de privacyzorgen rond digitale assistenten waarschijnlijk zullen toenemen naarmate de apparaten hun mogelijkheden uitbreiden.

"Ik maak me zorgen over een trend waarbij deze systemen beginnen te luisteren naar meer dan alleen je bevestigende commando - het kan luisteren naar brekend glas of tekenen van angst, of een baby die huilt. Plots luistert het systeem naar van alles en wordt de kikker gekookt door het water stapsgewijs te verwarmen, " hij zei.

Calo uitte ook zijn bezorgdheid dat apparaten op afstand kunnen worden ingeschakeld, een potentiële bedreiging voor de burgerlijke vrijheden.

"Als de politie een bevel krijgt, het kan van je Echo een luisterapparaat maken, " hij zei.

Schaub zei dat consumenten zich ook zorgen maken dat gegevens van de apparaten kunnen worden gebruikt voor advertentietargeting.

"Mensen willen deze voordelen, maar zonder toe te staan ​​dat hun gegevens tegen hen worden gebruikt, " hij zei.

Nog altijd, door de aantrekkingskracht van digitale assistenten zal de markt waarschijnlijk blijven groeien.

Schaub zei dat een manier om consumenten gerust te stellen zou zijn om privacyfuncties rechtstreeks in spraakopdrachten in te bouwen, zodat gebruikers kunnen begrijpen hoe hun gegevens worden gebruikt en betere keuzes kunnen maken.

"Bedrijven moeten dit zien als een kans om met klanten in gesprek te gaan over hoe ze hen beschermen, " hij zei.

© 2019 AFP