science >> Wetenschap >  >> Elektronica

Eerste programmeerbare memristorcomputer wil AI-verwerking uit de cloud halen

De memristor array-chip wordt aangesloten op de aangepaste computerchip, de eerste programmeerbare memristorcomputer vormen. Het team toonde aan dat het drie standaardtypen machine learning-algoritmen kon uitvoeren. Krediet:Robert Coelius, Michigan Engineering

De eerste programmeerbare memristorcomputer - niet alleen een memristorarray die via een externe computer wordt bediend - is ontwikkeld aan de Universiteit van Michigan.

Het zou kunnen leiden tot de verwerking van kunstmatige intelligentie direct op kleine, apparaten met een beperkt energieverbruik, zoals smartphones en sensoren. Een AI-processor van een smartphone zou betekenen dat spraakopdrachten niet langer naar de cloud hoeven te worden gestuurd voor interpretatie, reactietijd te versnellen.

"Iedereen wil een AI-processor op smartphones zetten, maar u wilt niet dat de batterij van uw mobiele telefoon erg snel leeg raakt, " zei Wei Lu, U-M hoogleraar elektrische en computertechniek en senior auteur van de studie in Natuur Elektronica .

Bij medische apparaten, de mogelijkheid om AI-algoritmen uit te voeren zonder de cloud zou zorgen voor betere beveiliging en privacy.

Waarom memristors goed zijn voor machine learning

De sleutel om dit mogelijk te maken zou een geavanceerd computeronderdeel kunnen zijn, de memristor. Dit schakelelement, een elektrische weerstand met een geheugen, heeft een variabele weerstand die kan dienen als een vorm van informatieopslag. Omdat memristors informatie op dezelfde locatie opslaan en verwerken, ze kunnen het grootste knelpunt voor rekensnelheid en -kracht omzeilen:de verbinding tussen geheugen en processor.

Dit is vooral belangrijk voor algoritmen voor machine learning die veel gegevens verwerken om bijvoorbeeld objecten in foto's en video's te identificeren, of te voorspellen welke ziekenhuispatiënten een hoger risico op infectie lopen. Nu al, programmeurs geven er de voorkeur aan deze algoritmen uit te voeren op grafische verwerkingseenheden in plaats van op de hoofdprocessor van een computer, de centrale verwerkingseenheid.

"GPU's en zeer aangepaste en geoptimaliseerde digitale circuits worden beschouwd als ongeveer 10-100 keer beter dan CPU's in termen van vermogen en doorvoer." zei Lu. "Memristor AI-processors zouden nog eens 10-100 keer beter kunnen zijn."

GPU's presteren beter bij machine learning-taken omdat ze duizenden kleine kernen hebben om berekeningen in één keer uit te voeren, in tegenstelling tot de reeks berekeningen die op hun beurt wachten op een van de weinige krachtige kernen in een CPU.

Een memristorarray gaat nog verder. Elke memristor kan zijn eigen berekening maken, waardoor duizenden bewerkingen binnen een kern tegelijk kunnen worden uitgevoerd. In deze computer op experimentele schaal, het waren er meer dan 5, 800 memristors. Een commercieel ontwerp kan miljoenen van hen bevatten.

Wei Lu staat met eerste auteur Seung Hwan Lee, een doctoraatsstudent elektrotechniek, wie de memristorarray vasthoudt. Krediet:Robert Coelius, Michigan Engineering

Memristor-arrays zijn met name geschikt voor problemen met machine learning. De reden hiervoor is de manier waarop machine learning-algoritmen gegevens omzetten in vectoren - in wezen, lijsten met datapunten. Bij het voorspellen van het infectierisico van een patiënt in een ziekenhuis, bijvoorbeeld, deze vector kan een numerieke weergave zijn van de risicofactoren van een patiënt.

Vervolgens, algoritmen voor machine learning vergelijken deze "input"-vectoren met "feature"-vectoren die in het geheugen zijn opgeslagen. Deze kenmerkvectoren vertegenwoordigen bepaalde kenmerken van de gegevens (zoals de aanwezigheid van een onderliggende ziekte). Indien gematcht, het systeem weet dat de invoergegevens die eigenschap hebben. De vectoren worden opgeslagen in matrices, die zijn als de rekenbladen van de wiskunde, en deze matrices kunnen direct op de memristorarrays worden afgebeeld.

Bovendien, terwijl gegevens door de array worden gevoerd, het grootste deel van de wiskundige verwerking vindt plaats via de natuurlijke weerstanden in de memristors, het elimineren van de noodzaak om kenmerkvectoren in en uit het geheugen te verplaatsen om de berekeningen uit te voeren. Dit maakt de arrays zeer efficiënt bij gecompliceerde matrixberekeningen. Eerdere studies toonden het potentieel aan van memristorarrays voor het versnellen van machine learning, maar ze hadden externe computerelementen nodig om te kunnen functioneren.

Een programmeerbare memristorcomputer bouwen

Om de eerste programmeerbare memristorcomputer te bouwen, Lu's team werkte samen met universitair hoofddocent Zhengya Zhang en professor Michael Flynn, zowel elektrotechniek als computertechniek bij U-M, om een ​​chip te ontwerpen die de memristor-array kan integreren met alle andere elementen die nodig zijn om deze te programmeren en uit te voeren. Die componenten omvatten een conventionele digitale processor en communicatiekanalen, evenals digitaal/analoogomzetters om te dienen als tolken tussen de analoge memristorarray en de rest van de computer.

Het team van Lu integreerde vervolgens de memristor-array rechtstreeks op de chip in de Lurie Nanofabrication Facility van UM. Ze ontwikkelden ook software om machine learning-algoritmen in kaart te brengen op de matrixachtige structuur van de memristorarray.

Het team demonstreerde het apparaat met drie brood-en-boter machine learning-algoritmen:

  • Perceptron, die wordt gebruikt om informatie te classificeren. Ze waren in staat om onvolmaakte Griekse letters met 100 procent nauwkeurigheid te identificeren
  • schaarse codering, die gegevens comprimeert en categoriseert, vooral afbeeldingen. De computer vond de meest efficiënte manier om afbeeldingen in een set te reconstrueren en identificeerde patronen met een nauwkeurigheid van 100 procent
  • Tweelaags neuraal netwerk, ontworpen om patronen in complexe gegevens te vinden. Dit tweelaagse netwerk vond overeenkomsten en onderscheidende factoren in gegevens over borstkankerscreening en classificeerde vervolgens elk geval als kwaadaardig of goedaardig met een nauwkeurigheid van 94,6 procent.

Er zijn uitdagingen bij het opschalen voor commercieel gebruik - memristors kunnen nog niet zo identiek worden gemaakt als ze zouden moeten zijn en de informatie die in de array is opgeslagen is niet helemaal betrouwbaar omdat het op het analoge continuüm draait in plaats van op het digitale of/of. Dit zijn toekomstige richtingen van Lu's groep.

Lu is van plan om deze technologie te commercialiseren. De studie is getiteld, "Een volledig geïntegreerd herprogrammeerbaar memristor-CMOS-systeem voor efficiënte bewerkingen met meerdere accumulaties."