Of kunstmatige-intelligentiesystemen banen van mensen stelen of nieuwe werkkansen creëren, mensen zullen met hen moeten samenwerken.

In mijn onderzoek gebruik ik sensoren en computers om te monitoren hoe de hersenen zelf besluitvorming verwerken. Samen met een andere brain-computer interface geleerde, Riccardo Poli, Ik heb gekeken naar een voorbeeld van mogelijke samenwerking tussen mens en machine:situaties waarin politie- en beveiligingspersoneel wordt gevraagd om uit te kijken naar een bepaalde persoon, of mensen, in een drukke omgeving, zoals een luchthaven.

Het lijkt een eenvoudig verzoek, maar het is eigenlijk heel moeilijk om te doen. Een beveiligingsbeambte moet elke dag meerdere bewakingscamera's gedurende vele uren in de gaten houden, op zoek naar verdachten. Herhaalde taken zoals deze zijn vatbaar voor menselijke fouten.

Sommige mensen stellen voor deze taken te automatiseren, omdat machines zich niet vervelen, moe of afgeleid na verloop van tijd. Echter, computer vision-algoritmen die zijn belast met het herkennen van gezichten, kunnen ook fouten maken. Zoals mijn onderzoek heeft uitgewezen, samen, machines en mensen zouden veel beter kunnen.

Twee soorten kunstmatige intelligentie

We hebben twee AI-systemen ontwikkeld die kunnen helpen bij het identificeren van gezichten in drukke scènes. De eerste is een gezichtsherkenningsalgoritme. Het analyseert beelden van een beveiligingscamera, identificeert welke delen van de afbeeldingen gezichten zijn en vergelijkt die gezichten met een afbeelding van de persoon die wordt gezocht. Wanneer het een match identificeert, dit algoritme meldt ook hoe zeker het is van die beslissing.

Het tweede systeem is een brein-computerinterface die sensoren op iemands hoofdhuid gebruikt, op zoek naar neurale activiteit gerelateerd aan vertrouwen in beslissingen.

We voerden een experiment uit met 10 menselijke deelnemers, met elk 288 foto's van drukke binnenomgevingen. Elke foto werd slechts 300 milliseconden getoond – ongeveer net zo lang als een oog nodig heeft om te knipperen – waarna de persoon werd gevraagd om te beslissen of ze het gezicht van een bepaalde persoon al dan niet hadden gezien. Gemiddeld, ze waren in staat om correct onderscheid te maken tussen afbeeldingen met en zonder het doelwit in 72 procent van de afbeeldingen.

Toen ons volledig autonome AI-systeem dezelfde taken uitvoerde, het classificeerde 84 procent van de afbeeldingen correct.

Samenwerking tussen mens en AI

Alle mensen en het op zichzelf staande algoritme zagen dezelfde beelden, dus probeerden we de besluitvorming te verbeteren door de acties van meer dan één van hen tegelijk te combineren.

Om meerdere beslissingen samen te voegen tot één, we hebben individuele reacties gewogen op beslissingsvertrouwen - het zelfgeschatte vertrouwen van het algoritme, en de metingen van de hersenmetingen van de mens, getransformeerd met een machine learning-algoritme. We ontdekten dat een gemiddelde groep van alleen mensen, hoe groot de groep ook was, deed het beter dan de gemiddelde mens alleen, maar was minder nauwkeurig dan het algoritme alleen.

Echter, groepen met ten minste vijf mensen en het algoritme waren statistisch significant beter dan alleen mensen of machines.

Mensen op de hoogte houden

Het koppelen van mensen aan computers wordt steeds eenvoudiger. Nauwkeurige computervisie- en beeldverwerkingssoftwareprogramma's zijn gebruikelijk in luchthavens en andere situaties. Kosten dalen voor consumentensystemen die hersenactiviteit lezen, en ze leveren betrouwbare gegevens.

Samenwerken kan ook helpen bij het aanpakken van zorgen over de ethiek en vooringenomenheid van algoritmische beslissingen, evenals juridische vragen over aansprakelijkheid.

In onze studie, de mensen waren minder nauwkeurig dan de AI. Echter, de hersen-computerinterfaces merkten op dat de mensen meer vertrouwen hadden in hun keuzes dan de AI. De combinatie van deze factoren bood een nuttige mix van nauwkeurigheid en vertrouwen, waarin mensen de groepsbeslissing meestal meer beïnvloedden dan het geautomatiseerde systeem. Als er geen overeenkomst is tussen mens en AI, het is ethisch eenvoudiger om mensen te laten beslissen.

Ons onderzoek heeft een manier gevonden waarop machines en algoritmen de mens niet hoeven – en eigenlijk ook niet zouden mogen – vervangen. Liever, ze kunnen samenwerken met mensen om de beste van alle mogelijke resultaten te vinden.

Dit artikel is opnieuw gepubliceerd vanuit The Conversation onder een Creative Commons-licentie. Lees het originele artikel.