Van alle fictieve virtuele assistenten die we kennen uit de popcultuur, weinigen zijn bestand tegen het origineel en misschien wel de meest bekende:de HAL 9000 uit de Stanley Kubrick-film 2001:A Space Odyssey uit 1968.

Daar moeten we waarschijnlijk dankbaar voor zijn. Ten slotte, Alexa kan je lichten uitdoen, maar ze zal zich niet tegen je keren en je leven verwoesten. Of zal ze?

Amazon Alexa, Samsung Bixby, Google Assistent, Appel Siri, Cortana van Microsoft, IBM Watson en andere virtuele assistenten worden geadverteerd als een kruising tussen uw vriend, uw dienaar, uw behulpzame metgezel en sidekick.

HAL presenteert ons iets sinisters, maar misschien realistischer. Terwijl technologiebedrijven virtuele assistenten als een integraal onderdeel van een betere, gemakkelijker leven, 2001:A Space Odyssey vraagt:tegen welke prijs?

De film illustreert het technologische ecosysteem dat bedrijven echt beconcurreren om te bezitten - een ecosysteem waarbij we onze privacy inruilen voor kleine gemakken.

'Ik wil je helpen' - HAL

In 2001:Een ruimte-odyssee, HAL maakt als een van hen kennis met de bemanning van een ruimteschip. Maar met cognitieve vermogens die veel verder gaan dan die van zijn menselijke metgezellen, HAL is alomtegenwoordig – en ingebed in de technologie die de bemanning in leven houdt.

De bemanning vertrouwt HAL, mijden privacy omwille van zijn hulp bij het controleren van het hele schip. Het komt niet bij hen op dat de mensen die HAL hebben ontworpen misschien niet het beste met de bemanning voor hebben gehad. Of dat de loyaliteit van HAL ligt bij Mission Control en, verder dan dat, zijn programmering.

Hetzelfde, hoewel het duidelijk is dat de functie van moderne virtuele assistenten wordt gedreven door winst, het is voor de gemiddelde consument niet duidelijk hoe hun aanwezigheid precies te gelde wordt gemaakt. Consumenten zijn tegenwoordig misschien beter geïnformeerd over hun online privacy, toch zijn de gevolgen van het binnendringen van de virtuele wereld in de fysieke wereld niet goed doorgedrongen in het publieke bewustzijn.

Toestaan ​​dat een machine u 24/7 registreert in ruil voor gemak, is een hoge prijs om te betalen. Het lijkt misschien niet zo, omdat virtuele assistenten het vertrouwen dragen dat verdiend wordt door de andere diensten waar ze bekend om staan:de zoekopdracht van Google is ongeëvenaard en Amazons winkelervaring is toonaangevend op de wereldmarkt.

Zoals HAL, deze machines verwerken ongelooflijke hoeveelheden data. Zo veel, dat zelfs hun makers niet helemaal zeker zijn van hun capaciteiten, of hoe ze hun doel zullen bereiken. Het commerciële voordeel van virtuele assistenten ligt in hun vermogen om uw gedrag te voorspellen door wat ze vastleggen, en het creëren van kansen voor transacties. Het ontginnen van big data voor voorspellende analyses is een rage in de zakenwereld.

Dus, terwijl bedrijven virtuele assistenten op de markt brengen als uw "assistent", zij zijn in feite uw "analist".

'Ik kon je lippen zien bewegen' - HAL

In 2001:Een ruimte-odyssee, de bemanning heeft duidelijk nooit de HAL "Quick Start Guide" gelezen. Ze wisten niet dat hij kon liegen, en ze wisten ook niet dat hij liplezen kon. Als de bemanning uit het schip stapt voor een moment van privacy, De camera's van HAL konden ze nog steeds zien en kregen de kern van hun niet-zo-privégesprek. Toen kwam het erop aan... en goed, uiteindelijk kreeg de bemanning de duw.

Een onbedoeld gevolg van het hebben van een virtuele assistent op ons wenken is dat deze altijd luistert, en het kan ook opnemen. Geen verrassing, dat is precies wat Amazon heeft gedaan. Als bedrijven u opnemen in uw huis, uitglijders zoals het verzenden van opnames naar de verkeerde persoon, onbedoeld informatie vrijgeven, of per ongeluk iemand laten meeluisteren zijn onvermijdelijk.

Oh, en als u denkt dat u wordt beschermd door de algemene voorwaarden, je vergist je waarschijnlijk. Maar dat is oké – zoals de 2001:A Space Odyssey-crew, je begrijpt of leest ze waarschijnlijk toch niet.

'Ik ben bang dat ik dat niet kan, Dave' - HAL

Kubrick gebruikte 2001 om technologische, lichamelijke en psychische slavernij. HAL controleert eerst de fysieke omgeving en probeert vervolgens zijn controle over de psychologische uit te oefenen. Als we ons 2001:A Space Odyssey opnieuw voorstellen met HAL als held, dan heeft hij volkomen gelijk om de bemanning te doden. Ten slotte, deze vervelende mensen zijn onvoorspelbaar omdat ze de missie waarschijnlijk door hun emoties laten verpesten.

Als we ons leven opnieuw voorstellen met Google als held, nou dan zijn wij de "assistent", Google helpen de gegevens te krijgen die het nodig heeft om uw gedrag beter te controleren en te voorspellen - voor aandeelhouders.

Gelukkig, de mensheid heeft nog tijd om zich aan te passen voordat de machines ons leven volledig overnemen namens technologiebedrijven. Zolang mensen hun papegaaien nog steeds eten laten bestellen bij Amazon, zal het voor het publiek duidelijk zijn dat vertrouwen op die machine misschien niet zo'n goed idee is.

Nog altijd, kunstmatige intelligentie verbetert in een snel tempo. Uiteindelijk zullen we moeten beslissen of we willen dat de privacy van de consument zegeviert, en blaas de constante bewaking uit een luchtsluis.

Dit artikel is opnieuw gepubliceerd vanuit The Conversation onder een Creative Commons-licentie. Lees het originele artikel.