Computerwetenschappers van de Otto von Guericke University Magdeburg willen de bevindingen en gevestigde methoden van hersenonderzoek gebruiken om de manier waarop kunstmatige intelligentie werkt beter te begrijpen.

Als onderdeel van een onderzoeksproject, de wetenschappers onder leiding van professor Dr.-Ing. Sebastian Stober van het Artificial Intelligence Lab aan de Universiteit van Magdeburg zal methoden uit de cognitieve neurowetenschappen toepassen om kunstmatige neurale netwerken te analyseren en de manier waarop ze werken beter te begrijpen.

De door Cognitieve neurowetenschap geïnspireerde technieken voor verklaarbaar AI-onderzoeksproject, of kortweg CogXAI, die drie jaar zal duren, zal meer dan een miljoen euro aan financiering ontvangen van het Duitse ministerie van Onderwijs en Onderzoek.

Kunstmatige neurale netwerken, of kortweg ANN's, zijn zelflerende intelligente systemen die zijn geïnspireerd op de structuur van natuurlijke hersenen. Ze zijn - net als biologische zenuwstelsels - in staat om door het voorbeeld te leren om zelfstandig complexe problemen op te lossen.

"Terwijl deze netwerken in onze hersenen bestaan ​​uit miljoenen zenuwcellen die met elkaar communiceren door middel van chemische en elektrische signalen, kunstmatige neurale netwerken kunnen worden opgevat als computerprogramma's, ", zegt professor Stober. "Dankzij hun sterke leervermogen en hun flexibiliteit, in de afgelopen jaren hebben kunstmatige neurale netwerken, onder de noemer 'diep leren, ' vestigden zich als een populaire keuze voor de ontwikkeling van intelligente systemen."

Stober en zijn team onderzoeken hoe verschillende regio's in een kunstmatig neuraal netwerk kunnen worden gevonden, die - net als in biologische hersenen - verantwoordelijk zijn voor bepaalde functies. Net als bij het opnemen van een hersenscan in een magnetische resonantiebeeldvormingsscanner (MRI), de AI-experts willen bepaalde gebieden van de ANN's identificeren om beter te begrijpen hoe ze werken.

Verder, hersenonderzoek levert ook belangrijke bevindingen op over het leergedrag van het menselijk brein. De informatici gebruiken deze schat aan ervaring om de kunstmatige neurale netwerken in staat te stellen snel en effectief leergedrag te verwerven. Door concepten van menselijke waarneming en signaalverwerking over te zetten naar kunstmatige neurale netwerken, ze willen ontdekken hoe deze zelflerende systemen voorspellingen doen en/of waarom ze fouten maken.

"Natuurlijke hersenen zijn al meer dan 50 jaar onderzocht, " legt professor Stober uit. "Echter, op dit moment wordt dit potentieel nauwelijks gebruikt bij de ontwikkeling van AI-architecturen. Door neurowetenschappelijke methoden over te dragen naar de studie van kunstmatige neurale netwerken, ook hun leerprocessen worden transparanter en begrijpelijker. Zo kunnen storingen van kunstmatige neuronen in een vroeg stadium tijdens het leerproces worden gesignaleerd en tijdens de training worden gecorrigeerd."

Volgens Stober, de ontwikkeling van kunstmatige neurale netwerken gaat snel. "Door het gebruik van krachtige computers, steeds meer kunstmatige neuronen kunnen worden gebruikt om te leren. Echter, de toenemende complexiteit van deze netwerken maakt het zelfs voor experts moeilijker om hun interne processen en besluitvorming te begrijpen, " legt de computerwetenschapper en leider van het CogXAI-project uit. "Echter, als we in de toekomst veilig gebruik willen kunnen maken van kunstmatige intelligentie, het is essentieel om volledig te begrijpen hoe het werkt."