science >> Wetenschap >  >> Elektronica

Het samenvoegen van geheugen en berekening, programmeerbare chipsnelheden AI, verlaagt stroomverbruik

Krediet:Princeton University

Door een fundamentele eigenschap van de berekening te verschuiven, Onderzoekers van Princeton hebben een nieuw type computerchip gebouwd die de prestaties verbetert en de energiebehoefte van systemen die voor kunstmatige intelligentie worden gebruikt, verlaagt.

de chip, die werkt met standaard programmeertalen, kan met name handig zijn op telefoons, horloges of andere apparaten die afhankelijk zijn van krachtige computers en een beperkte levensduur van de batterij hebben.

de chip, gebaseerd op een techniek die in-memory computing wordt genoemd, is ontworpen om een ​​primair rekenkundig knelpunt op te ruimen dat computerprocessors dwingt tijd en energie te besteden aan het ophalen van gegevens uit het opgeslagen geheugen. In-memory computing voert berekeningen direct in de opslag uit, waardoor meer snelheid en efficiëntie mogelijk is.

De aankondiging van de nieuwe chip, samen met een systeem om het te programmeren, sluit nauw aan bij een eerder rapport dat de onderzoekers in samenwerking met Analog Devices Inc. circuits hadden gefabriceerd voor in-memory computing. Laboratoriumtests van de schakelingen toonden aan dat de chip tientallen tot honderden keren sneller zou presteren dan vergelijkbare chips. Echter, de initiële chip bevatte niet alle componenten van de meest recente versie, dus zijn vermogen was beperkt.

In de nieuwe aankondiging onderzoekers in het lab van Naveen Verma, een universitair hoofddocent elektrotechniek, melden dat ze de in-memory circuits hebben geïntegreerd in een programmeerbare processorarchitectuur. De chip werkt nu met veelvoorkomende computertalen zoals C.

"De vorige chip was een sterke en krachtige motor, " zei Hongyang Jia, een afgestudeerde student in de groep van Verma en een van de chipontwerpers. "Deze chip is de hele auto."

Hoewel het kan werken met een breed scala aan systemen, de Princeton-chip is bedoeld om systemen te ondersteunen die zijn ontworpen voor diepgaande inferentie - algoritmen waarmee computers beslissingen kunnen nemen en complexe taken kunnen uitvoeren door te leren van datasets. Deep learning-systemen sturen zaken als zelfrijdende auto's, gezichtsherkenningssystemen en medische diagnostische software.

Verma zei dat voor veel toepassingen, de energiebesparing van de chip zou net zo belangrijk zijn als de prestatieverbetering. Dat komt omdat veel AI-toepassingen naar verwachting zullen werken op apparaten die worden aangedreven door batterijen, zoals mobiele telefoons of draagbare medische sensoren. De Apple iPhone X, bijvoorbeeld, heeft al een AI-chip als onderdeel van zijn circuits. Maar, zowel de energiebesparingen als de prestatieverbeteringen hebben alleen zin als ze toegankelijk zijn voor de brede basis van applicaties die ze nodig hebben - daar komt de behoefte aan programmeerbaarheid om de hoek kijken.

"De klassieke computerarchitectuur scheidt de centrale processor, die de gegevens verplettert, uit de herinnering, die de gegevens opslaat, "Zei Verma. "Veel van de energie van de computer wordt gebruikt om gegevens heen en weer te bewegen."

Gedeeltelijk, de nieuwe chip is een reactie op de vertragende belofte van de Wet van Moore. In 1965, Intel-oprichter Gordon Moore merkte op dat het aantal transistors op geïntegreerde schakelingen ongeveer elk jaar verdubbelde, en de industrie merkte ook op dat die transistors tijdens het proces sneller en energiezuiniger werden. Al decenia, deze waarnemingen, die bekend werd als de wet van Moore, lag ten grondslag aan een transformatie waarin computers steeds krachtiger werden. Maar de laatste jaren is transistors zijn niet blijven verbeteren zoals in het verleden, tegen fundamentele beperkingen van hun fysica aanlopen.

Verma, die gespecialiseerd is in circuit- en systeemontwerp, nagedacht over manieren om deze druk op architectonisch niveau te omzeilen in plaats van op transistorniveau. De berekening die AI nodig heeft, zou veel efficiënter zijn als het op dezelfde locatie als het geheugen van de computer zou kunnen worden gedaan, omdat het de tijd en energie zou elimineren die nodig is om ver weg opgeslagen gegevens op te halen. Dat zou de computer sneller maken zonder de transistors te upgraden. Maar het creëren van zo'n systeem vormde een uitdaging. Geheugencircuits zijn zo dicht mogelijk ontworpen om grote hoeveelheden gegevens in te pakken. Berekening, anderzijds, vereist dat er ruimte wordt besteed aan extra transistoren.

Een optie was om elektrische componenten, condensatoren genaamd, te vervangen door de transistors. Transistors zijn in wezen schakelaars die spanningsveranderingen gebruiken om te staan ​​voor de enen en nullen waaruit binaire computersignalen bestaan. Ze kunnen allerlei berekeningen doen met behulp van arrays van 1 en 0 cijfers, daarom worden de systemen digitaal genoemd. Condensatoren slaan elektrische lading op en geven deze af, zodat ze elk getal kunnen vertegenwoordigen, niet alleen enen en nullen. Verma realiseerde zich dat hij met condensatoren berekeningen kon uitvoeren in een veel dichtere ruimte dan met transistors.

Condensatoren kunnen ook heel precies op een chip gemaakt worden, veel meer dan transistoren. Het nieuwe ontwerp koppelt condensatoren aan conventionele cellen van statisch willekeurig toegankelijk geheugen (SRAM) op een chip. De combinatie van condensatoren en SRAM wordt gebruikt om berekeningen uit te voeren op de gegevens in het analoge (niet digitale) domein, maar op een manier die betrouwbaar is en geschikt is om programmeerfuncties op te nemen. Nutsvoorzieningen, de geheugencircuits kunnen berekeningen uitvoeren op manieren die worden aangestuurd door de centrale verwerkingseenheid van de chip.

"In-memory computing is de afgelopen jaren veelbelovend gebleken, bij het werkelijk aanpakken van de energie en snelheid van computersystemen, "Zei Verma. "Maar de grote vraag was of die belofte zou worden opgeschaald en bruikbaar zou zijn voor systeemontwerpers voor alle AI-toepassingen waar we echt om geven. Dat maakt programmeerbaarheid noodzakelijk."