We hebben het nodig om zijn werk te laten zien Computerdenken wordt zo complex dat we de redenering ervan beginnen te verliezen. Hoe kunnen we ervoor zorgen dat we weten waarom kunstmatige intelligentie de beslissing neemt die ze neemt? Chad Baker/Getty Images

Als u grote aantallen digitale afbeeldingen wilt doorzoeken, of geestdodende hoeveelheden schriftelijke informatie classificeren per onderwerp, je kunt het beste vertrouwen op kunstmatige intelligentie (AI)-systemen die neurale netwerken worden genoemd, die patronen in data zoeken en zichzelf trainen om voorspellingen te doen op basis van hun waarnemingen.

Maar als het gaat om high-stakes, zoals medische informatie, waar de kosten van het maken van een fout of een verkeerde voorspelling potentieel levensbedreigend zijn, wij mensen zijn soms terughoudend om de antwoorden te vertrouwen die de programma's bedenken. Dat komt omdat neurale netwerken machine learning gebruiken, waarin ze zichzelf trainen om dingen uit te zoeken, en onze nietige vleeshersenen kunnen het proces niet zien.

Hoewel methoden voor machinaal leren "flexibel zijn en doorgaans resulteren in nauwkeurige voorspellingen, ze onthullen weinig in menselijk begrijpelijke termen over waarom een ​​bepaalde voorspelling wordt gedaan, " zegt Tommi Jaakkola, een professor in elektrotechniek en computerwetenschappen aan het Massachusetts Institute of Technology, via e-mail.

Zie het als het machine-learning-equivalent van het opschrijven van uw wiskundige problemen op een schoolbord om uw werk te laten zien.

Als u een kankerpatiënt bent die behandelingsopties probeert te kiezen op basis van voorspellingen over hoe uw ziekte zou kunnen vorderen, of een belegger die probeert te bedenken wat te doen met uw pensioensparen, blindelings vertrouwen op een machine kan een beetje eng zijn, vooral omdat we de machines hebben geleerd om beslissingen te nemen, maar we hebben geen goede manier om precies te observeren hoe ze maken ze.

Maar heb geen angst. In een nieuw wetenschappelijk artikel Jaakkola en andere onderzoekers van het Massachusetts Institute of Technology hebben een methode ontwikkeld om de antwoorden te controleren die neurale netwerken bedenken. Zie het als het machine-learning-equivalent van het opschrijven van uw wiskundige problemen op een schoolbord om uw werk te laten zien.

Zoals een MIT-persbericht details, AI neurale netwerken bootsen eigenlijk de structuur van het menselijk brein na. Ze zijn samengesteld uit veel verwerkingsknooppunten die, zoals onze neuronen, bundelen hun krachten en bundelen hun rekenkracht om problemen aan te pakken. In het proces, ze houden zich bezig met wat onderzoekers 'deep learning' noemen, " trainingsgegevens doorgeven van knooppunt naar knooppunt, en het vervolgens te correleren met welk type classificatie dan ook dat het neurale net probeert te leren. De resultaten worden continu aangepast om te verbeteren, bijna dezelfde manier waarop mensen in de loop van de tijd leren door vallen en opstaan.

Het grote probleem is dat zelfs computerwetenschappers die de netwerken programmeren niet echt kunnen zien wat er met de knooppunten gebeurt, waardoor het moeilijk is om uit te zoeken hoe computers hun beslissingen nemen.

"We proberen niet de interne werking van een complex model uit te leggen, " legt Jaakkola uit. "In plaats daarvan, we dwingen het model zo te werken dat een mens gemakkelijk kan verifiëren of de voorspelling op de juiste basis is gedaan."

"Onze methode leert om voor elke voorspelling een rationale te genereren. Een rationale is een beknopt stukje tekst, gemakkelijk voor een mens om te controleren, dat alleen is voldoende om dezelfde voorspelling te doen. Om dit te behalen, we hebben de algemene modelarchitectuur opgedeeld in twee scheidbare componenten:generator en encoder. De generator selecteert een grondgedachte - zoals een stuk tekst - en geeft deze door aan de encoder om een ​​voorspelling te doen. De combinatie is geleerd om samen te werken als voorspeller."

"Dus, ook al zijn onze generator en encoder zelf complexe deep learning-methoden, het gecombineerde model wordt gedwongen om zijn voorspelling te doen op een manier die direct verifieerbaar is, aangezien de voorspelling is gebaseerd op de geselecteerde reden, " schrijft Jaakkola.

In hun krant de wetenschappers hadden plezier door hun systeem te gebruiken om beoordelingen van een website van een bierliefhebber te classificeren, op basis van de kenmerken van de brouwsels, zoals aroma, smaak en uiterlijk. "De dataset voor bierrecensies bevatte al geannoteerde zinnen die betrekking hadden op specifieke aspecten van de producten, zodat we automatisch gegenereerde beweegredenen direct konden vergelijken met menselijke selecties, " zegt Jaakkola. In het experiment, ze ontdekten dat het neurale net tussen 80 en 96 procent van de tijd overeenkwam met menselijke annotaties, afhankelijk van hoe specifiek het kenmerk was.

Dat is nu interessant

Een van de klassieke manieren om de mogelijkheden van een AI-neuraal netwerk te demonstreren, is door het te gebruiken om het zogenaamde handelsreizigersprobleem op te lossen, en bereken de kortste route tussen meerdere steden.