Slimme luidsprekers uitgerust met digitale spraakassistenten zoals Siri en Alexa zijn nu de snelst groeiende consumententechnologie sinds de smartphone.

Alleen al in 2018 werden er bijna 100 miljoen verkocht, een verdrievoudiging ten opzichte van het jaar ervoor. En nergens is deze groei sneller dan in Australië.

Maar we moeten ons zorgen maken over waar deze slimme luidsprekers eigenlijk naar luisteren. Het is meer dan alleen onze spraakopdrachten om een ​​stuk of muziek af te spelen of het licht uit te doen.

We moeten goed nadenken over waar dit soort technologie naartoe gaat. Binnenkort zullen niet alleen onze slimme luidsprekers luisteren, maar ook allerlei andere apparaten.

Beveiligingssystemen die luisteren naar het geluid van geweerschoten of gebroken glas, CCTV-camera's uitgerust met microfoons, auditief toezicht op het werk, en een groeiend aantal andere apparaten zijn allemaal reden tot bezorgdheid.

Snelle opname

Tegen het einde van 2018 was het percentage Australische volwassenen met een slimme luidspreker in slechts 18 maanden gestegen van nul naar 29%, volgens het Australia Smart Speaker Consumer Adoption Report dat deze maand is uitgebracht. Het rapport was het gezamenlijke werk van de technische nieuwssite en Voicebot en digitale consultants FIRST.

Op basis van een onderzoek onder 654 Australiërs, het rapport schat dat ongeveer 5,7 miljoen Australiërs nu slimme luidsprekers bezitten op een totale volwassen bevolking van ongeveer 19,3 miljoen.

Het Australische gebruikersbestand in verhouding tot de bevolking is nu groter dan dat van de VS (26%), ondanks dat de apparaten hier minder dan de helft van de tijd beschikbaar zijn.

Als de opwaartse trend zich voortzet - verwacht Deloitte dat de markt in 2019 minstens $ 7 miljard waard zal zijn, 63% hoger dan in 2018 – slimme luidsprekers zullen binnenkort nog gebruikelijker zijn.

Ze zijn al in onze huizen en werkplaatsen, hotels, ziekenhuizen en universiteiten.

We worden ook steeds comfortabeler om met onze technologie te praten, volgens het consumentenacceptatierapport:"Meer dan 43% van de Australische eigenaren van slimme luidsprekers zegt dat ze sinds de aanschaf van de apparaten vaker spraakassistenten op smartphones gebruiken."

We zijn niet langer verbaasd dat we met onze telefoons kunnen praten, auto's, televisies, horloges, zelfs onze Barbiepoppen, en verwacht een reactie.

Hoe zit het met de privacy?

Maar het recente consumentenrapport zegt ook dat Australiërs zich zorgen maken over dergelijke sprekers. Bijna tweederde van de ondervraagde mensen zegt enige bezorgdheid te hebben over de privacyrisico's van slimme luidsprekertechnologie - 17,7% zei dat ze "zeer bezorgd" waren.

Het rapport specificeert niet wat die zorgen zijn. Misschien maken we ons zorgen over opnames van onze gesprekken die zonder onze medeweten of toestemming naar collega's worden gemaild, of toegelaten als bewijs in de rechtbank.

Maar ik denk dat we ons veel minder zorgen maken dan we zouden moeten zijn over waar deze industrie nu naartoe gaat. Slimme luidsprekers luisteren niet alleen naar wat wij zeggen. Meer en meer, ze luisteren ook naar hoe en waar wij zeggen het.

Ze luisteren naar onze vocale biometrie, hoe we stotteren en pauzeren, op onze toon, accent en stemming, naar onze staat van welzijn, aan de grootte en vorm van de kamer waarin we zitten, en aan de omgevingsgeluiden, muziek en tv-programma's op de achtergrond. Allemaal met het doel om steeds meer gegevens te extraheren over wie we zijn en wat voor soort dingen we doen.

Wie luistert er?

Nog belangrijker, Hoewel, de snelle opkomst van slimme luidsprekers luidt het komende tijdperk van machineluisteren in, waar we kunnen verwachten dat allerlei netwerkapparaten zullen luisteren, autonoom verwerken en reageren op onze auditieve omgevingen:luisteren naar zowel geluid als spraak, met en zonder onze toestemming, vrijwel altijd.

Audio-analytisch, een van de meest vooraanstaande bedrijven op dit gebied, stelt op haar website:"We zijn op een missie om alle machines een gevoel van gehoor te geven […]"

Dit is veel minder vergezocht dan het klinkt. De vlaggenschipsoftware van Audio Analytics, ai3TM, beweert "een groot aantal audio-evenementen en akoestische scènes" te kunnen herkennen, om apparaten in staat te stellen zelf sonische omgevingen te begrijpen en erop te reageren.

Nu al, dit omvat een koptelefoon die weet wanneer iemand tegen je praat en het volume dienovereenkomstig kan aanpassen; auto's die zich autonoom aanpassen aan het geluid van schetterende claxons; beveiligingssystemen die het geluid van brouwende ruzies kunnen herkennen, ramen breken, evenals andere akoestische afwijkingen. Systemen kunnen dan autonoom reageren of de relevante autoriteiten op de hoogte stellen.

Een ander bedrijf, Schutter Detectie Systemen, verkoopt technologie voor de autonome detectie van actieve schietsituaties, inclusief geweerschoten. Het zogenaamde Guardian-systeem kan snel de locatie van een schot bepalen en waarschuwingen geven.

In een soortgelijke maar nog verontrustender geest, AC Wereldwijd risico, beweert naar verluidt het potentiële risiconiveau van iemand met een nauwkeurigheid van meer dan 97% te kunnen bepalen door simpelweg de "kenmerken" van enkele minuten van hun spreekstem te analyseren.

Walmart patenteerde onlangs een nieuwe prestatiemeter voor werknemers op basis van algoritmische analyse van audiogegevens (spraakpatronen van werknemers, het ritselen van zakken, geluiden van karren, voetstappen enzovoort) verzameld via microfoons die op terminals en andere locaties in de winkels zijn geïnstalleerd.

in 2017, De regionale raad van Moreton Bay in Queensland introduceerde altijd-aan-luisterapparatuur voor 330 CCTV-camera's in het hele raadsgebied, een stap die de burgemeester zei was om de politie te helpen bij het bestrijden van misdaad. De gemeente zegt dat het de afluisterapparatuur later dat jaar heeft gedeactiveerd nadat er bezorgdheid was geuit.

Laat de waarschuwing klinken

Elk van deze voorbeelden roept complexe ethische vragen op, recht en beleid.

Het soort vragen dat we onlangs zijn gaan stellen over alle AI - over de mogelijkheden van algoritmische overreach, vooroordeel, profilering, discriminatie en toezicht - dat moet ook allemaal worden gevraagd van slimme luidsprekers.

Maar het is ook belangrijk om de manieren te begrijpen waarop slimme luidsprekers zijn verbonden met een veel breder gebied van machineluisteren en auditieve bewaking waar velen zich terecht zorgen over maken.

Luisteren naar machines komt niet zomaar, het is er al en het vraagt ​​onze aandacht.

Dit artikel is opnieuw gepubliceerd vanuit The Conversation onder een Creative Commons-licentie. Lees het originele artikel.