Kunstmatige intelligentie (AI) is al stevig verankerd in ons dagelijks leven en verovert steeds meer terrein. Bijvoorbeeld, spraakassistenten zijn al een alledaags item op de smartphones van veel mensen, auto's en huizen. Vooruitgang op het gebied van AI is vooral gebaseerd op het gebruik van neurale netwerken. Het nabootsen van de functionaliteit van het menselijk brein, neurale netwerken verbinden wiskundig gedefinieerde eenheden met elkaar. Maar in het verleden was niet bekend hoe een neuraal netwerk beslissingen neemt. Onderzoekers van het Fraunhofer Instituut voor Telecommunicatie, Heinrich Hertz Instituut, HHI en Technische Universität Berlin hebben een technologie ontwikkeld die de criteria onthult die AI-systemen gebruiken bij het nemen van beslissingen. De innovatieve Spectral Relevance Analysis (SpRAy)-methode op basis van Layer-wise Relevance Propagation-technologie biedt een eerste blik in de 'black box'.

Tegenwoordig is het bijna onmogelijk om een ​​gebied te vinden waarin kunstmatige intelligentie niet relevant is, of het nu gaat om productie, reclame of communicatie. Veel bedrijven gebruiken lerende en genetwerkte AI-systemen, bijvoorbeeld om nauwkeurige vraagprognoses te genereren en klantgedrag exact te voorspellen. Deze aanpak kan ook worden gebruikt om regionale logistieke processen aan te passen. Gezondheidszorg maakt ook gebruik van specifieke AI-activiteiten, zoals het genereren van prognoses op basis van gestructureerde gegevens. Dit speelt bijvoorbeeld een rol bij beeldherkenning:röntgenbeelden worden ingevoerd in een AI-systeem dat vervolgens een diagnose uitvoert. Een goede detectie van beeldinhoud is ook cruciaal voor autonoom rijden, waar verkeersborden, bomen, voetgangers en fietsers moeten met volledige nauwkeurigheid worden geïdentificeerd. En dit is de kern van de zaak:AI-systemen moeten absoluut betrouwbare probleemoplossende strategieën bieden in gevoelige toepassingsgebieden zoals medische diagnostiek en in veiligheidskritieke gebieden. Echter, in het verleden was het niet helemaal duidelijk hoe AI-systemen beslissingen nemen. Verder, de voorspellingen zijn afhankelijk van de kwaliteit van de invoergegevens. Onderzoekers van het Fraunhofer Instituut voor Telecommunicatie, Heinrich Hertz Instituut, HHI en Technische Universität Berlin hebben nu een technologie ontwikkeld, Laaggewijze relevantievoortplanting (LRP), wat de AI-voorspellingen verklaarbaar maakt en daarmee onbetrouwbare probleemoplossingsstrategieën onthult. Een verdere ontwikkeling van de LRP-technologie, aangeduid als Spectral Relevance Analysis (SpRAy), identificeert en kwantificeert een breed spectrum van aangeleerd besluitvormingsgedrag en identificeert zo ongewenste beslissingen, zelfs in enorme datasets.

Transparante AI

In de praktijk identificeert de technologie de afzonderlijke invoerelementen die zijn gebruikt om een ​​voorspelling te doen. Dus wanneer bijvoorbeeld een afbeelding van een weefselmonster wordt ingevoerd in een AI-systeem, de invloed van elke individuele pixel wordt gekwantificeerd in de classificatieresultaten. Met andere woorden, evenals het voorspellen hoe "kwaadaardig" of "goedaardig" het afgebeelde weefsel is, het systeem geeft ook informatie op basis van deze classificatie. "Niet alleen moet het resultaat correct zijn, de oplossingsstrategie is dat ook. Vroeger, AI-systemen zijn behandeld als zwarte dozen. De systemen werden vertrouwd om de juiste dingen te doen. Met onze open source software, die gebruikmaakt van Layer-Wise Relevance Propagation, we zijn erin geslaagd om het proces van oplossingsvinding van AI-systemen transparant te maken, " zegt Dr. Wojciech Samek, hoofd van de onderzoeksgroep "Machine Learning" bij Fraunhofer HHI. "We gebruiken LRP om neurale netwerken en andere machine learning-modellen te visualiseren en interpreteren. We gebruiken LRP om de invloed van elke invoervariabele in de algehele voorspelling te meten en de beslissingen van de classifiers te analyseren, " voegt Dr. Klaus-Rob-ert Müller toe, Professor voor Machine Learning aan de TU Berlijn.

Onbetrouwbare oplossingsstrategieën

Vertrouwen op de resultaten van neurale netwerken betekent noodzakelijkerwijs begrijpen hoe ze werken. Volgens de tests van het onderzoeksteam, AI-systemen passen niet altijd de beste strategieën toe om tot een oplossing te komen. Bijvoorbeeld, een bekend AI-systeem classificeert afbeeldingen op basis van context. Het wees foto's toe aan de categorie 'Schip' wanneer er een grote hoeveelheid water op de foto zichtbaar was. Het loste niet de eigenlijke taak op om afbeeldingen van schepen te herkennen, zelfs als het in de meeste gevallen de juiste foto's heeft uitgekozen. "Veel AI-algoritmen gebruiken onbetrouwbare strategieën en komen tot zeer onpraktische oplossingen, " zegt Samek, het samenvatten van de resultaten van de onderzoeken.

Neurale netwerken zien denken

De LRP-technologie decodeert de functionaliteit van neurale netwerken en ontdekt welke karakteristieke kenmerken worden gebruikt, bijvoorbeeld om een ​​paard te identificeren als een paard en niet als een ezel of een koe. Het identificeert de informatie die door het systeem stroomt op elk knooppunt van het netwerk. Dit maakt het mogelijk om zelfs zeer diepe neurale netwerken te onderzoeken.

De onderzoeksteams van Fraunhofer HHI en TU Berlin formuleren momenteel nieuwe algoritmen voor het onderzoeken van verdere vragen om AI-systemen nog betrouwbaarder en robuuster te maken. De projectpartners hebben hun onderzoeksresultaten gepubliceerd in het tijdschrift Natuurcommunicatie .

AI, machine learning en meer

Kunstmatige intelligentie houdt zich bezig met de ontwikkeling van systemen die zelfstandig problemen kunnen oplossen en analoog kunnen handelen aan patronen van menselijk denken en gedrag. Op dit moment wordt de grootste vooruitgang geboekt op het gebied van machine learning, een deelgebied van AI. Machine learning houdt zich bezig met methoden voor het extraheren van kennis uit gegevens en het zelfstandig leren van contexten in de gegevens. De vooruitgang is het resultaat van het gebruik van kunstmatige neurale netwerken op basis van verbindingen tussen wiskundige rekeneenheden die in principe de neurale structuur van het menselijk brein nabootsen. Een deelgebied van machine learning, diep leren, omvat een klasse van nieuwe procedures die het mogelijk maken om complexe kunstmatige neurale netwerken aan te leren en te trainen. Deze netwerken bestaan ​​uit een groot aantal niveaus die in gelaagde structuren met elkaar zijn verbonden.