Gezien de keuze om te rijden in een Uber bestuurd door een mens of een zelfrijdende versie, welke zou jij kiezen?

Gezien de dodelijke crash van vorige maand met een zelfrijdende Uber die het leven kostte aan een vrouw in Tempe, Arizona, en de recente dood van een testrijder van een semi-autonoom voertuig dat door Tesla wordt ontwikkeld, Het vertrouwen van mensen in de technologie achter autonome voertuigen kan ook een deuk hebben opgelopen. De betrouwbaarheid van zelfrijdende auto's en andere vormen van kunstmatige intelligentie is een van de vele factoren die het vertrouwen van mensen in AI beïnvloeden, machine learning en andere technologische ontwikkelingen, schrijf twee onderzoekers van de Missouri University of Science and Technology in een recent tijdschriftartikel.

"Vertrouwen is de hoeksteen van de relatie van de mensheid met kunstmatige intelligentie, "Schrijf Dr. Keng Siau, professor en voorzitter van bedrijfs- en informatietechnologie bij Missouri S&T, en Weiyu Wang, een Missouri S&T afgestudeerde student in informatiewetenschap en technologie. "Zoals elke vorm van vertrouwen, vertrouwen in AI kost tijd om op te bouwen, seconden om te breken en voor altijd om te repareren als het eenmaal kapot is."

De Uber- en Tesla-incidenten wijzen op de noodzaak om de manier waarop AI-toepassingen zoals autonome rijsystemen worden ontwikkeld, te heroverwegen. en voor ontwerpers en fabrikanten van deze systemen om bepaalde stappen te nemen om meer vertrouwen in hun producten op te bouwen, zegt Siau.

Ondanks deze recente incidenten, Siau ziet een sterke toekomst voor AI, maar een vol vertrouwenskwesties die moeten worden opgelost.

'Een dynamisch proces'

"Vertrouwen opbouwen is een dynamisch proces, waarbij sprake is van een beweging van initieel vertrouwen naar continue vertrouwensontwikkeling, Siau en Wang schrijven in "Bouwen aan vertrouwen in kunstmatige intelligentie, machinaal leren, en robotica, " gepubliceerd in het februarinummer van Cutter Business Technology Journal.

In hun artikel, Siau en Wang onderzoeken heersende concepten van vertrouwen in het algemeen en in de context van AI-toepassingen en mens-computerinteractie. Ze bespreken de drie soorten kenmerken die het vertrouwen op dit gebied bepalen:mens, omgeving en technologie – en schetsen manieren om vertrouwen te wekken in AI-toepassingen.

Siau en Wang wijzen op vijf gebieden die kunnen helpen bij het opbouwen van aanvankelijk vertrouwen in kunstmatige-intelligentiesystemen:

• Vertegenwoordiging. Hoe 'menselijker' een technologie is, hoe groter de kans dat mensen het vertrouwen. "Daarom zijn humanoïde robots zo populair, "Sia zegt, eraan toevoegend dat het gemakkelijker is om "een emotionele band tot stand te brengen" met een robot die meer op een mens lijkt en zich gedraagt, of een robothond die meer op een hond lijkt. Misschien zouden autonome voertuigen van de eerste generatie een mensachtige "chauffeur" achter het stuur moeten hebben om de zorgen weg te nemen.
• Beeld of perceptie. Sciencefictionboeken en -films hebben AI een slecht imago gegeven, zegt Siau. Mensen hebben de neiging om over AI te denken in dystopische termen, zoals gekleurd door Terminator of Bladerunner films of Isaac Asimov en Philip K. Dick romans. "Dit beeld en deze perceptie zullen het aanvankelijke vertrouwen van mensen in AI beïnvloeden, " Siau en Wang schrijven.
• Beoordelingen van andere gebruikers. Mensen hebben de neiging om te vertrouwen op online productrecensies, en "een positieve beoordeling leidt tot een groter aanvankelijk vertrouwen."
• Transparantie en "verklaarbaarheid". Wanneer de innerlijke werking van een technologie verborgen is in een "zwarte doos, " dat ondoorzichtigheid vertrouwen kan belemmeren. "Om AI-toepassingen te vertrouwen, we moeten begrijpen hoe ze zijn geprogrammeerd en welke functie onder bepaalde omstandigheden zal worden uitgevoerd, ' zegt Siau.
• Proefbaarheid. De mogelijkheid om een ​​nieuwe AI-toepassing te testen voordat wordt gevraagd om deze aan te passen, leidt tot een grotere acceptatie, zegt Siau.

Hoe het vertrouwen in AI te behouden

Naast het ontwikkelen van aanvankelijk vertrouwen, echter, makers van AI moeten ook werken om dat vertrouwen te behouden. Siau en Wang suggereren zeven manieren om "continu vertrouwen te ontwikkelen" na de eerste fasen van productontwikkeling:

• Bruikbaarheid en betrouwbaarheid. AI "moet worden ontworpen om gemakkelijk en intuïtief te werken, " Siau en Wang schrijven. "Er mogen geen onverwachte downtime of crashes zijn."
• Samenwerking en communicatie. AI-ontwikkelaars willen systemen maken die autonoom presteren, zonder menselijke tussenkomst. Ontwikkelaars moeten zich concentreren op het maken van AI-applicaties die soepel en gemakkelijk samenwerken en communiceren met mensen.
• Gezelligheid en binding. Het inbouwen van sociale activiteiten in AI-toepassingen is een manier om het vertrouwen te versterken. Een robothond die zijn eigenaar kan herkennen en genegenheid kan tonen, is een voorbeeld, Siau en Wang schrijven.
• Beveiliging en privacybescherming. AI-toepassingen zijn afhankelijk van grote datasets, dus het waarborgen van privacy en veiligheid zal cruciaal zijn om vertrouwen in de applicaties te vestigen.
• Interpretabiliteit. Net zoals transparantie essentieel is voor het opbouwen van aanvankelijk vertrouwen, interpreteerbaarheid - of het vermogen van een machine om zijn conclusies of acties uit te leggen - zal het vertrouwen helpen behouden.
• Arbeidsbemiddeling. Nu de bezorgdheid over AI die mensen op het werk vervangt, blijft groeien, Er moet een beleid komen om de mensen die door deze trend worden getroffen, te voorzien van omscholing en onderwijs.
• Doel congruentie. "Aangezien kunstmatige intelligentie het potentieel heeft om menselijke intelligentie aan te tonen en zelfs te overtreffen, het is begrijpelijk dat mensen het als een bedreiging behandelen, Siau en Wang schrijven. "Ervoor zorgen dat de doelen van AI congruent zijn met menselijke doelen is een voorloper in het behouden van continu vertrouwen." Beleid om te bepalen hoe AI moet worden gebruikt, zal belangrijk zijn naarmate de technologie vordert, voegen de auteurs toe.

"Het AI-tijdperk zal verontrustend zijn, transformerend en revolutionair, " Siau schrijft in een ander recent artikel ("Hoe zal technologie het leren vormgeven?", gepubliceerd in het maartnummer van de Wereldwijde analist ). Maar in deze verontrustende omgeving, hoger onderwijs kan een belangrijke rol spelen.

"Het hoger onderwijs moet de uitdaging aangaan om studenten voor te bereiden op de AI-revolutie en studenten in staat te stellen succesvol te surfen in het AI-tijdperk, ' schrijft Siau.