Google's demonstratie van kunstmatige intelligentie was grappig, maar stelde een belangrijke vraag:heb je het recht om te weten dat je tegen een machine praat?

Google verraste ons deze week allemaal met de introductie van zijn nieuwe kunstmatige intelligentiesysteem, Google duplex.

In tegenstelling tot Siri, Alexa en andere AI-assistenten, het systeem spreekt als een overtuigend mens. Bovendien, het is ontworpen om namens u te bellen, zoals het reserveren van een tafel in een restaurant of een afspraak bij een kapsalon.

"Ik denk dat AI Duplex een coole technologie is, ", zegt UNSW Canberra-expert op het gebied van kunstmatige intelligentie en SEIT-professor Hussein Abbass.

"Ik wil zeker mijn tijd niet verspillen met bellen om een ​​restaurant of een kapper te boeken."

Een gesprek met Duplex flows, "ums" en "mmm-hmms" worden voor de goede orde erin gegooid, en het is waarschijnlijk dat de persoon aan de ontvangende kant geen idee heeft dat ze tegen een machine praten.

En voor velen vormt dit een ethische zorg. Moet Duplex zich voorstellen als een robot?

Professor Abbass zegt dat het zou moeten.

"Het belangrijkste punt hier is dat het zichzelf moet identificeren, ', zegt professor Abbass.

"In de video, AI Duplex zei dat het namens een klant belt. De mens aan de andere kant van de lijn heeft hem nooit gevraagd zich te identificeren. Als AI Duplex een menselijke naam gebruikt om menselijk vertrouwen te winnen, dan is er duidelijk sprake van bedrog en zou de AI onethisch handelen.

"Als AI Duplex zichzelf identificeert als een geautomatiseerde robot of iets dergelijks, dan is het aan de mens om te beslissen of hij/zij het gesprek wil voortzetten."

Professor Abbass zegt dat AI Duplex menselijke stemhandtekeningen verzamelt die de robot blijven trainen en zelfs zijn eigen stem lijkt een synthese te zijn van een of meer menselijke stemmen.

"Deze mensen moeten zich meer bewust zijn van hoe hun gegevens worden gebruikt en ze moeten expliciete toestemming geven voor het verzamelen van de gegevens en voor het beoogde gebruik van de gegevens, " hij zegt.

Als we Duplex kunnen vertrouwen om onze kappersafspraken te maken, kunnen we er ook op vertrouwen dat het een noodoproep doet? Professor Abbass zegt dat dit zijn voor- en nadelen kan hebben.

"Een auto-assistent kan de ambulance bellen in geval van nood, zoals een ongeval, en in dit geval het is een levensreddende technologie, " hij zegt.

"Als het misbruikt wordt, dan zoals elke technologie, wanneer het wordt misbruikt, is het een ongepaste handeling, die zelfs onwettig kan zijn."

Professor Abbass zegt dat de technologie nog een lange weg te gaan heeft voordat het langdurige menselijke discussies kan ondersteunen.

"Hoe dan ook, deze technologie is een uitstekend voorbeeld van waarom de technologie ethisch bewust moet zijn. Als een mens de hulp vraagt ​​om een ​​ongepaste oproep te doen, AI Duplex moet 'nee' zeggen, " hij voegt toe.