Kunstmatige neurale netwerken zijn machine learning-systemen die zijn samengesteld uit een groot aantal verbonden knooppunten die kunstmatige neuronen worden genoemd. Net als de neuronen in een biologisch brein, deze kunstmatige neuronen zijn de primaire basiseenheden die worden gebruikt om neurale berekeningen uit te voeren en problemen op te lossen. Vooruitgang in de neurobiologie heeft de belangrijke rol geïllustreerd die dendritische celstructuren spelen bij neurale berekeningen, en dit heeft geleid tot de ontwikkeling van kunstmatige neuronmodellen op basis van deze structuren.

Het recent ontwikkelde benaderende logica-neuronenmodel (ALNM) is een enkelvoudig neuraal model met een dynamische dendritische structuur. De ALNM kan een neurale snoeifunctie gebruiken om tijdens de training onnodige dendriettakken en synapsen te elimineren om een ​​specifiek probleem aan te pakken. Het resulterende vereenvoudigde model kan dan worden geïmplementeerd in de vorm van een hardwarematige logische schakeling.

Echter, het bekende backpropagation (BP)-algoritme dat werd gebruikt om de ALMN te trainen, beperkte in feite de rekencapaciteit van het neuronmodel. "Het BP-algoritme was gevoelig voor initiële waarden en kon gemakkelijk worden gevangen in lokale minima, " zegt corresponderende auteur Yuki Todo van de Faculteit Elektrotechniek en Computertechniek van de Universiteit van Kanazawa. "Daarom hebben we de mogelijkheden geëvalueerd van verschillende heuristische optimalisatiemethoden voor het trainen van de ALMN."

Na een reeks experimenten, het algoritme voor het zoeken naar toestanden (SMS) werd geselecteerd als de meest geschikte trainingsmethode voor het ALMN. Zes benchmarkclassificatieproblemen werden vervolgens gebruikt om de optimalisatieprestaties van de ALNM te evalueren toen deze werd getraind met behulp van de SMS als leeralgoritme. en de resultaten toonden aan dat SMS superieure trainingsprestaties leverde in vergelijking met BP en de andere heuristische algoritmen in termen van zowel nauwkeurigheid als convergentiesnelheid.

"Een classificatie op basis van de ALNM en SMS werd ook vergeleken met verschillende andere populaire classificatiemethoden, " stelt universitair hoofddocent Todo, "en de statistische resultaten bevestigden de superioriteit van deze classificatie op deze benchmarkproblemen."

Tijdens het opleidingsproces de ALNM vereenvoudigde de neurale modellen door middel van synaptische snoei- en dendritische snoeiprocedures, en de vereenvoudigde structuren werden vervolgens vervangen met behulp van logische circuits. Deze circuits boden ook een bevredigende classificatienauwkeurigheid voor elk van de benchmarkproblemen. Het gemak van hardware-implementatie van deze logische circuits suggereert dat in toekomstig onderzoek de ALNM en SMS zullen worden gebruikt om steeds complexere en hoogdimensionale real-world problemen op te lossen.