Wanneer onderzoekers machine learning-systemen ontwerpen, hun doel is meestal om bepaalde functies te automatiseren. In plaats van volledig autonoom te zijn, echter, de meeste van deze systemen werken samen met mensen. Om echt behulpzaam te zijn, ze moeten begrijpen welke doelen mensen hebben.

Onderzoekers van het Finse Centrum voor Kunstmatige Intelligentie (FCAI) hebben nu belangrijke stappen gezet om AI te ontwerpen die mensen begrijpt.

Aanvankelijk, de onderzoekers leerden de AI om een ​​model te bouwen van zijn gebruiker - mens of machine. Vervolgens, ze leerden het om dit model aan te passen door de acties van de gebruiker te volgen. In praktijk, de onderzoekers ontwikkelden machinale leermethoden die statistiek combineren met berekeningen, en vervolgens de methoden in de praktijk en in simulaties getest. Ze testten de algoritmen in eenvoudige situaties om er zeker van te zijn dat ze begrijpen wat er precies gebeurt in die situaties en nauwkeurig rapporteren over de gebeurtenissen.

In het eerste experiment, ze ontwierpen een AI-leraar voor de lerende AI.

"Dit was moeilijk, vooral omdat de lerende AI kon beslissen wat het wilde leren, " legt Samuel Kaski uit, de directeur van FCAI en professor aan de Aalto University. De onderzoekers merkten op dat de AI-leerling betere leerresultaten behaalde wanneer de leraar begreep welke informatie de leerder al had geleerd en het lesmateriaal aanpaste aan deze specifieke leerder.

Bij het tweede experiment menselijke gebruikers werd gevraagd een bepaald doelwoord te vinden met behulp van een op AI gebaseerde woordzoekmachine. De engine presenteert de gebruiker woord voor woord, en de gebruiker vertelt dan of het gepresenteerde woord nuttig is bij het vinden van het doelwoord. Als de gebruiker op zoek is naar het woord 'voetbal, " bijvoorbeeld, ze zullen waarschijnlijk zeggen dat het eerst gepresenteerde sportgerelateerde woord nuttig is, als alle voorgaande woorden met eten te maken hebben gehad.

De resultaten van dit experiment toonden aan dat de AI de gebruikers zou kunnen helpen om de doelwoorden sneller te vinden als het dat begreep, door op een bepaalde manier op de aangeboden woorden te reageren, de gebruiker wil de AI naar de juiste woorden sturen. Met andere woorden, de AI hield rekening met het feit dat de gebruiker het probeert aan te leren.

Volgens professor Kaski, dit onderwerp is belangrijk, omdat de interactie tussen gebruiker en AI veel gemakkelijker wordt wanneer de AI de doelen van de gebruiker begrijpt. "Dan hoeft de menselijke gebruiker niet meer in detail uit te leggen wat hij van de AI-helper verwacht."

Een van de hoofddoelen van FCAI is het ontwikkelen van AI die mensen begrijpt en begrijpelijk is. "Tot dusver, we kunnen AI-systemen bouwen die de doelen van de gebruikers alleen in zeer eenvoudige situaties begrijpen, wat betekent dat het ontwerpen van echt behulpzame AI-assistenten veel extra werk vereist, ' zegt Kaski.