Nieuwe "classificatiemodellen" voelen aan hoe goed mensen intelligente machines vertrouwen waarmee ze samenwerken, een stap in de richting van het verbeteren van de kwaliteit van interacties en teamwork.

Het langetermijndoel van het algemene onderzoeksgebied is het ontwerpen van intelligente machines die hun gedrag kunnen veranderen om het menselijk vertrouwen in hen te vergroten. De nieuwe modellen zijn ontwikkeld in onderzoek onder leiding van assistent-professor Neera Jain en universitair hoofddocent Tahira Reid, aan de School of Mechanical Engineering van de Purdue University.

"Intelligente machines, en breder, intelligente systemen komen steeds vaker voor in het dagelijks leven van mensen, "Jain zei. "Omdat mensen steeds vaker moeten communiceren met intelligente systemen, vertrouwen wordt een belangrijke factor voor synergetische interacties."

Bijvoorbeeld, vliegtuigpiloten en fabrieksarbeiders werken routinematig samen met geautomatiseerde systemen. Mensen zullen deze intelligente machines soms onnodig negeren als ze denken dat het systeem hapert.

"Het is algemeen bekend dat menselijk vertrouwen centraal staat in succesvolle interacties tussen mens en machine, ' zei Reid.

De onderzoekers hebben twee soorten 'classifier-based empirische vertrouwenssensormodellen' ontwikkeld, " een stap in de richting van het verbeteren van het vertrouwen tussen mensen en intelligente machines.

Het werk sluit aan bij Purdue's Giant Leaps-viering, erkenning van de wereldwijde vooruitgang van de universiteit op het gebied van AI, algoritmen en automatisering als onderdeel van het 150-jarig jubileum van Purdue. Dit is een van de vier thema's van het jaarlijkse Ideeënfestival, ontworpen om Purdu te laten zien als een intellectueel centrum dat problemen uit de echte wereld oplost.

De modellen gebruiken twee technieken die gegevens leveren om vertrouwen te peilen:elektro-encefalografie en galvanische huidreactie. De eerste registreert hersengolfpatronen, en de tweede bewaakt veranderingen in de elektrische eigenschappen van de huid, het verstrekken van psychofysiologische "feature sets" gecorreleerd met vertrouwen.

Vijfenveertig proefpersonen droegen draadloze EEG-headsets en droegen aan de ene kant een apparaat om de galvanische huidreactie te meten.

Een van de nieuwe modellen, een "algemeen vertrouwenssensormodel, " gebruikt dezelfde reeks psychofysiologische kenmerken voor alle 45 deelnemers. Het andere model is aangepast voor elk menselijk subject, resulterend in een verbeterde gemiddelde nauwkeurigheid, maar ten koste van een toename van de trainingstijd. De twee modellen hadden een gemiddelde nauwkeurigheid van 71,22 procent, en 78,55 procent, respectievelijk.

Het is de eerste keer dat EEG-metingen zijn gebruikt om vertrouwen in realtime te meten, of zonder vertraging.

"We gebruiken deze gegevens op een heel nieuwe manier, "Zei Jain. "We bekijken het in een soort continue stroom in plaats van naar hersengolven te kijken na een specifieke trigger of gebeurtenis."

De bevindingen worden gedetailleerd beschreven in een onderzoekspaper dat verschijnt in een speciale uitgave van de Association for Computing Machinery's Transactions on Interactive Intelligent Systems. Het speciale nummer van het tijdschrift is getiteld "Vertrouwen en invloed in intelligente mens-machine-interactie". Het papier is geschreven door afgestudeerde student werktuigbouwkunde Kumar Akash; voormalig afgestudeerde student Wan-Lin Hu, die nu een postdoctoraal onderzoeksmedewerker is aan de Stanford University; Jaïn en Reid.

"We zijn geïnteresseerd in het gebruik van feedback-control-principes om machines te ontwerpen die in staat zijn om in realtime te reageren op veranderingen in het menselijk vertrouwensniveau om vertrouwen in de mens-machine-relatie op te bouwen en te beheren, "Zei Jain. "Om dit te doen, we hebben een sensor nodig om het vertrouwensniveau van mensen in te schatten, weer in realtime. De resultaten die in dit artikel worden gepresenteerd, laten zien dat psychofysiologische metingen hiervoor kunnen worden gebruikt."

De kwestie van menselijk vertrouwen in machines is belangrijk voor de efficiënte werking van 'mens-agent-collectieven'.

"De toekomst zal worden opgebouwd rond collectieven van mensen en agenten die een efficiënte en succesvolle coördinatie en samenwerking tussen mens en machine vereisen, "Zei Jain. "Stel dat er een zwerm robots is die een reddingsteam assisteert tijdens een natuurramp. In ons werk hebben we te maken met slechts één mens en één machine, maar uiteindelijk hopen we op te schalen naar teams van mensen en machines."

Er zijn algoritmen geïntroduceerd om verschillende processen te automatiseren.

"Maar we hebben daar nog steeds mensen die in de gaten houden wat er aan de hand is, "Zei Jain. "Er is meestal een override-functie, waar als ze denken dat er iets niet klopt, ze de controle terug kunnen nemen."

Soms is deze actie niet gerechtvaardigd.

"Je hebt situaties waarin mensen misschien niet begrijpen wat er gebeurt, zodat ze het systeem niet vertrouwen om het juiste te doen, "Zei Reid. "Dus ze nemen de controle terug, zelfs als ze dat eigenlijk niet zouden moeten doen."

In sommige gevallen, bijvoorbeeld in het geval van piloten die de automatische piloot opheffen, het terugnemen van de controle kan de veilige werking van het vliegtuig zelfs belemmeren, ongelukken veroorzaken.

"Een eerste stap naar het ontwerpen van intelligente machines die in staat zijn om vertrouwen bij mensen op te bouwen en te behouden, is het ontwerp van een sensor waarmee machines het vertrouwensniveau van mensen in realtime kunnen inschatten, ' zei Jaïn.

Om hun methode te valideren, 581 online deelnemers werd gevraagd een rijsimulatie uit te voeren waarbij een computer obstakels op de weg identificeerde. In sommige scenario's, de computer correct identificeerde obstakels 100 procent van de tijd, terwijl in andere scenario's de computer de obstakels 50 procent van de tijd onjuist identificeerde.

"Dus, in sommige gevallen zou het u vertellen dat er een obstakel is, zodat u op de rem trapt en een ongeval vermijdt, maar in andere gevallen zou het u ten onrechte vertellen dat er een obstakel bestaat terwijl er geen was, dus je slaat zonder reden de pauzes in, ' zei Reid.

Dankzij de tests konden de onderzoekers psychofysiologische kenmerken identificeren die verband houden met het menselijk vertrouwen in intelligente systemen, en om dienovereenkomstig een vertrouwenssensormodel te bouwen. "We veronderstelden dat het vertrouwensniveau hoog zou zijn in betrouwbare onderzoeken en laag zou zijn in foutieve onderzoeken, en we hebben deze hypothese gevalideerd met behulp van antwoorden verzameld van 581 online deelnemers, " ze zei.

De resultaten bevestigden dat de methode effectief vertrouwen en wantrouwen in de intelligente machine veroorzaakte.

"Om het vertrouwen in realtime in te schatten, we hebben het vermogen nodig om continu belangrijke psychofysiologische metingen te extraheren en te evalueren, "Zei Jain. "Dit werk vertegenwoordigt het eerste gebruik van real-time psychofysiologische metingen voor de ontwikkeling van een menselijke vertrouwenssensor."

De EEG-headset registreert signalen over negen kanalen, elk kanaal pikt verschillende delen van de hersenen op.

"De hersengolven van iedereen zijn anders, dus je moet ervoor zorgen dat je een classifier bouwt die voor alle mensen werkt."

Voor autonome systemen, menselijk vertrouwen kan worden ingedeeld in drie categorieën:dispositioneel, situationeel, en geleerd.

Dispositioneel vertrouwen verwijst naar de component van vertrouwen die afhankelijk is van demografische gegevens zoals geslacht en cultuur, die potentiële vooroordelen in zich dragen.

"We weten dat er waarschijnlijk genuanceerde verschillen zijn waarmee rekening moet worden gehouden, " zei Reid. "Vrouwen vertrouwen anders dan mannen, bijvoorbeeld, en vertrouwen kan ook worden beïnvloed door verschillen in leeftijd en nationaliteit."

Situationeel vertrouwen kan worden beïnvloed door het risico of de moeilijkheidsgraad van een taak, terwijl geleerd is gebaseerd op eerdere ervaringen van de mens met autonome systemen.

De modellen die ze ontwikkelden heten classificatie-algoritmen.

"Het idee is om deze modellen te kunnen gebruiken om te classificeren wanneer iemand zich waarschijnlijk vertrouwt versus waarschijnlijk wantrouwend voelt, " ze zei.

Jain en Reid hebben ook dispositioneel vertrouwen onderzocht om rekening te houden met gender- en culturele verschillen. evenals dynamische modellen die op basis van de gegevens kunnen voorspellen hoe het vertrouwen in de toekomst zal veranderen.