Machine learning-architecturen op basis van convolutionele neurale netwerken (CNN's) zijn zeer waardevol gebleken voor een breed scala aan toepassingen, variërend van computervisie tot de analyse van afbeeldingen en de verwerking of generatie van menselijke taal. Om meer geavanceerde taken aan te pakken, worden deze architecturen echter steeds complexer en rekenkundig veeleisender.

In de afgelopen jaren hebben veel elektronica-ingenieurs over de hele wereld daarom geprobeerd apparaten te ontwikkelen die de opslag en rekenbelasting van complexe CNN-gebaseerde architecturen kunnen ondersteunen. Dit omvat geheugenapparaten met een hogere dichtheid die grote hoeveelheden gewichten kunnen ondersteunen (d.w.z. de trainbare en niet-trainbare parameters die door de verschillende lagen van CNN's worden overwogen).

Onderzoekers van de Chinese Academie van Wetenschappen, het Beijing Institute of Technology en andere universiteiten in China hebben onlangs een nieuw computing-in-memory-systeem ontwikkeld dat zou kunnen helpen om complexere op CNN gebaseerde modellen effectiever uit te voeren. Hun geheugencomponent, geïntroduceerd in een paper gepubliceerd in Nature Electronics , is gebaseerd op niet-vluchtige computing-in-memory macro's gemaakt van 3D-memristorarrays.

"Het schalen van dergelijke systemen naar 3D-arrays zou een hogere parallelliteit, capaciteit en dichtheid kunnen bieden voor de noodzakelijke vector-matrix-vermenigvuldigingsbewerkingen", schreven Qiang Huo en zijn collega's in hun paper. "Het schalen naar drie dimensies is echter een uitdaging vanwege productie- en apparaatvariabiliteitsproblemen. We rapporteren een niet-vluchtige computer-in-memory-macro van twee kilobit die is gebaseerd op een driedimensionaal verticaal resistief willekeurig toegankelijk geheugen vervaardigd met behulp van een 55 nm complementair metaaloxide-halfgeleiderproces."

Resistive Random-Access Memory's, of RRAM's, zijn niet-vluchtige (d.w.z. gegevens behouden zelfs na stroomonderbrekingen) opslagapparaten op basis van memristors. Memristors zijn elektronische componenten die de stroom van elektrische stroom in circuits kunnen beperken of regelen, terwijl ze de hoeveelheid lading registreren die er eerder doorheen stroomde.

RRAM's werken in wezen door de weerstand over een memristor te variëren. Hoewel eerdere studies het grote potentieel van deze geheugenapparaten hebben aangetoond, staan ​​conventionele versies van deze apparaten los van computerengines, wat hun mogelijke toepassingen beperkt.

Computing-in-memory RRAM-apparaten zijn ontworpen om deze beperking te overwinnen door de berekeningen in het geheugen in te bedden. Dit kan de overdracht van gegevens tussen geheugens en processors aanzienlijk verminderen, wat uiteindelijk de energie-efficiëntie van het algehele systeem verbetert.

Het computer-in-geheugenapparaat dat door Huo en zijn collega's is gemaakt, is een 3D RRAM met verticaal gestapelde lagen en perifere circuits. De circuits van het apparaat zijn vervaardigd met behulp van 55 nm CMOS-technologie, de technologie die ten grondslag ligt aan de meeste geïntegreerde circuits die momenteel op de markt zijn.

De onderzoekers evalueerden hun apparaat door het te gebruiken om complexe operaties uit te voeren en om een ​​model te draaien voor het detecteren van randen in MRI-hersenscans. Het team trainde hun modellen met behulp van twee bestaande MRI-datasets voor het trainen van beeldherkenningstools, bekend als de MNIST- en CIFAR-10-datasets.

"Onze macro kan 3D vector-matrix vermenigvuldigingsbewerkingen uitvoeren met een energie-efficiëntie van 8,32 tera-bewerkingen per seconde per watt wanneer de invoer-, gewichts- en uitvoergegevens respectievelijk 8,9 en 22 bits zijn en de bitdichtheid 58,2 bit µm is. ^–2 , schreven de onderzoekers in hun paper. "We laten zien dat de macro nauwkeurigere MRI-randdetectie in de hersenen en verbeterde inferentienauwkeurigheid op de CIFAR-10-dataset biedt dan conventionele methoden."

In de eerste tests behaalde het door Huo en zijn collega's gecreëerde computing-in-memory verticale RRAM-systeem opmerkelijke resultaten en presteerde het beter dan conventionele RRAM-benaderingen. In de toekomst kan het dus zeer waardevol blijken te zijn om complexe CNN-gebaseerde modellen energie-efficiënter te laten werken, terwijl het ook betere nauwkeurigheid en prestaties mogelijk maakt. + Verder verkennen

Een vier-megabit nvCIM-macro voor edge AI-apparaten

© 2022 Science X Network