science >> Wetenschap >  >> Elektronica

Spintronische geheugencellen voor neurale netwerken

In recente jaren, onderzoekers hebben een breed scala aan hardware-implementaties voorgesteld voor feed-forward kunstmatige neurale netwerken. Deze implementaties omvatten drie belangrijke componenten:een dot-product-engine die convolutie en volledig verbonden laagbewerkingen kan berekenen, geheugenelementen om tussentijdse resultaten tussen en tussen de lagen op te slaan, en andere componenten die niet-lineaire activeringsfuncties kunnen berekenen.

Dot-product motoren, die in wezen zeer efficiënte versnellers zijn, zijn tot nu toe op veel verschillende manieren met succes in hardware geïmplementeerd. In een vorig jaar gepubliceerd onderzoek onderzoekers van de Universiteit van Notre Dame in Indiana gebruikten dot-productcircuits om een ​​op cellulair neuraal netwerk (CeNN) gebaseerde versneller voor convolutionele neurale netwerken (CNN's) te ontwerpen.

dezelfde ploeg, in samenwerking met andere onderzoekers van de Universiteit van Minnesota, heeft nu een CeNN-cel ontwikkeld op basis van spintronic (d.w.z. spin electronic) elementen met een hoge energie-efficiëntie. deze cel, gepresenteerd in een paper dat vooraf is gepubliceerd op arXiv, kan worden gebruikt als een neurale rekeneenheid.

De door de onderzoekers voorgestelde cellen, genaamd Inverse Rashba-Edelstein Magneto-elektrische Neuronen (IRMEN's), lijken op standaardcellen van cellulaire neurale netwerken in die zin dat ze zijn gebaseerd op een condensator, maar in IRMEN-cellen, de condensator vertegenwoordigt een invoermechanisme in plaats van een echte toestand. Om ervoor te zorgen dat de CeNN-cellen in staat zijn om de complexe operaties die doorgaans door CNN's worden uitgevoerd, te ondersteunen, de onderzoekers stelden ook het gebruik van een neuraal netwerk met twee circuits voor.

Het team voerde een reeks simulaties uit met behulp van HSPICE en Matlab om te bepalen of hun spintronische geheugencellen de prestaties konden verbeteren, snelheid en energie-efficiëntie van een neuraal netwerk in een beeldclassificatietaak. Bij deze testen IRMEN-cellen presteerden beter dan puur op lading gebaseerde implementaties van hetzelfde neurale netwerk, verbruikt in totaal ≈ 100 pJ per verwerkt beeld.

"De prestaties van deze cellen worden gesimuleerd in een CeNN-versnelde CNN-beeldclassificatie, " schreven de onderzoekers in hun paper. "De spintronische cellen verminderen het energie- en tijdverbruik aanzienlijk in vergelijking met hun op lading gebaseerde tegenhangers, slechts ≈ 100 pJ en ≈ 42 ns nodig hebben om alles behalve de laatste volledig verbonden CNN-laag te berekenen, met behoud van een hoge nauwkeurigheid."

Eigenlijk, vergeleken met eerder voorgestelde benaderingen, IRMEN-cellen kunnen een aanzienlijke hoeveelheid energie en tijd besparen. Bijvoorbeeld, een puur op lading gebaseerde versie van dezelfde CeNN die door de onderzoekers wordt gebruikt, vereist meer dan 12 nJ om alle convolutie te berekenen, pooling- en activeringsfasen, terwijl de IRMEN CeNN minder dan 0,14 nodig heeft.

"Met het groeiende belang van neuromorfisch computergebruik en buiten-CMOS-berekeningen, de zoektocht naar nieuwe apparaten om deze rollen te vervullen is cruciaal, " concludeerden de onderzoekers in hun paper. "We hebben een nieuw magno-elektrisch analoog geheugenelement voorgesteld met een ingebouwde overdrachtsfunctie waardoor het ook kan fungeren als de cel in een CeNN."

De bevindingen verzameld door dit team van onderzoekers suggereren dat het toepassen van spintronica in neurmorphic computing opmerkelijke voordelen zou kunnen hebben. In de toekomst, de IRMEN-geheugencellen die in hun paper worden voorgesteld, kunnen helpen om de prestaties te verbeteren, snelheid en energie-efficiëntie van convolutionele neurale netwerken in een verscheidenheid aan classificatietaken.

© 2019 Wetenschap X Netwerk