Kunstmatige intelligentie heeft een nieuwe uitdaging:of en hoe mensen moeten worden gewaarschuwd die misschien niet weten dat ze met een robot praten.

Op dinsdag, Google toonde een computerassistent die overtuigend menselijk klinkende telefoontjes pleegt tenminste in de vooraf opgenomen demonstratie. Maar de echte mensen in die gesprekken leken niet te beseffen dat ze met een machine spraken. Dat zou netelige problemen kunnen opleveren voor het toekomstige gebruik van AI.

Onder hen:is het eerlijk - of zelfs legaal - om mensen te misleiden om met een AI-systeem te praten dat effectief al zijn gesprekken opneemt? En terwijl de demonstratie van Google het goedaardige gebruik van gespreksrobots benadrukte, wat gebeurt er als spammers en oplichters ze te pakken krijgen?

Google-CEO Sundar Pichai zorgde dinsdag voor gejuich toen hij de nieuwe technologie demonstreerde. genaamd duplex, tijdens de jaarlijkse conferentie van het bedrijf voor softwareontwikkelaars. De assistent voegde pauzes toe, "ums" en "mmm-hmms" toe aan zijn toespraak om menselijker te klinken als hij sprak met echte werknemers in een kapsalon en een restaurant.

"Dat is heel indrukwekkend, maar het kan duidelijk leiden tot meer sinistere toepassingen van dit soort technologie, " zei Matthew Fenech, die onderzoek doet naar de beleidsimplicaties van AI voor de in Londen gevestigde organisatie Future Advocacy. "Het vermogen om nuance op te pikken, het menselijke gebruik van extra kleine zinnen - dit soort signalen zijn heel menselijk, en de persoon aan de andere kant wist het duidelijk niet."

Fenech zei dat het niet moeilijk is om snode gebruik van soortgelijke chatbots voor te stellen, zoals het spammen van bedrijven, senioren oplichten of kwaadwillig bellen met de stemmen van politieke of persoonlijke vijanden.

"Je kunt potentieel zeer destabiliserende situaties hebben waarin mensen worden gemeld als iets dat ze nooit hebben gezegd, " hij zei.

Pichai en andere Google-managers probeerden te benadrukken dat de technologie nog experimenteel is, en zal voorzichtig worden uitgerold. Het is nog niet beschikbaar op consumentenapparaten.

"Het is belangrijk voor ons dat gebruikers en bedrijven een goede ervaring hebben met deze service, en transparantie is daar een belangrijk onderdeel van, " Google-ingenieurs Yaniv Leviathan en Yossi Matias, die hielpen bij het ontwerpen van de nieuwe technologie, schreef in een dinsdag blog post. "We willen duidelijk zijn over de bedoeling van de oproep, zodat bedrijven de context begrijpen. We gaan de komende maanden experimenteren met de juiste aanpak."

Het is onduidelijk hoe het bedrijf omgaat met bestaande telecommunicatiewetten, die per staat of land kan verschillen. Google heeft woensdag niet meteen een verzoek om commentaar geretourneerd over hoe het van plan is de toestemming te vragen van mensen die door zijn bots worden gebeld.

Een mede-eigenaar van een kapperszaak in San Francisco Bay Area die een aantal Google-medewerkers bezocht, schrok een beetje van de privacyimplicaties.

"Het lijkt iets dat nuttig zou zijn voor onze klanten, " zei Katherine Esperanza, mede-eigenaar van de Slick &Dagger kapperszaak in Oakland, Californië. Esperanza, echter, vroeg zich af of de winkel de oproepen zou kunnen blokkeren, en zei dat het "de vraag oproept of het gesprek is opgenomen en of de ontvanger van deze geautomatiseerde oproepen zich ervan bewust kan zijn dat ze worden opgenomen."

Anti-aftapwetten in Californië en verschillende andere staten maken het al illegaal om telefoongesprekken op te nemen zonder de toestemming van zowel de beller als de persoon die wordt gebeld. De Federal Communications Commission worstelt ook met de regels voor robocalls, de ongevraagde en automatisch gekozen oproepen van telemarketeers.

Dergelijke gesprekken zijn meestal vooraf opgenomen monologen, maar meer bedrijven en organisaties passen machine learning-technieken toe om op vragen van een persoon te reageren met een natuurlijk klinkend gesprek, in de hoop dat ze minder snel ophangen.

© 2018 The Associated Press. Alle rechten voorbehouden.