Princeton-onderzoekers, in samenwerking met Analog Devices Inc., hebben een chip gefabriceerd die de prestaties en efficiëntie van neurale netwerken aanzienlijk verbetert - computeralgoritmen die zijn gemodelleerd naar de werking van het menselijk brein.

In een reeks testen, de Princeton-chip presteerde tientallen tot honderden keren beter dan andere geavanceerde, neurale netwerkchips.

De onderzoekers zijn van mening dat met verdere ontwikkeling, de chip kan helpen bij het bevorderen van beeldherkenning en tal van andere neurale netwerktoepassingen, inclusief kunstmatige-intelligentiesystemen in autonome voertuigen en robots.

"Met dit soort verbeterde prestaties kunnen mobiele apparaten intensieve taken uitvoeren, zoals het herkennen van het gezicht van hun eigenaar, zonder al te veel tijd in beslag te nemen of de batterijduur van het apparaat te verspillen, " zei de hoofdauteur van het artikel, Hossein Valavi, een afgestudeerde student in het lab van co-auteur Naveen Verma, een universitair hoofddocent elektrotechniek aan Princeton.

Andere auteurs van de studie, die gepubliceerd in IEEE-symposium over VLSI-circuits , in juni, zijn Peter Ramadge, de Gordon Y.S. Wu Hoogleraar Engineering en directeur van het Centrum voor Statistiek en Machine Learning, en Eric Nestler van Analog Devices Inc, een in Massachusetts gevestigd halfgeleiderbedrijf.

Kunstmatige neurale netwerken zijn complexen van onderling verbonden eenheden - vergelijkbaar met neuronen in het menselijk brein - die kunnen worden getraind om waardevolle beslissingen te nemen op basis van gegevens die in veel verschillende, mogelijk natuurlijk voorkomend, maar structureel complexe vormen. Een belangrijk onderdeel van neurale netwerksystemen zijn versnellerchips, die de rekenprestaties verbeteren, om grote en krachtige neurale netwerken mogelijk te maken. Maar de versnellerchips zelf kunnen last hebben van bottlenecks vanwege de zware datastromen die door hun componenten stromen.

De onderzoekers namen een nieuwe benadering om veel van dit grommende verkeer te elimineren. De versnellerchip die ze maakten, werkt met de techniek, in-memory computing genoemd, die de energie en tijd die nodig is om informatie op te halen aanzienlijk vermindert door berekeningen uit te voeren op gegevens op de plaats waar deze zijn opgeslagen, in plaats van het naar een andere locatie te verplaatsen.

De techniek kan chips ook gevoelig maken voor signaal-ruisproblemen, omdat het veel informatie in signalen propt. Het resultaat is een verhoogde efficiëntie, maar het betekent ook dat de verwerkte informatie kan worden beschadigd door allerlei praktische foutbronnen, zoals fluctuaties in spanningen en stromen.

"De signaal-ruisverhouding van berekeningen is de belangrijkste barrière geweest voor het bereiken van alle voordelen die in-memory computing kan bieden, ' zei Valavi.

De onderzoekers hebben dit prestatieprobleem aangepakt door te kiezen voor een type computer dat gebruikmaakt van condensatoren, in plaats van transistoren, berekening uit te voeren. condensatoren, dat zijn apparaten die elektrische lading opslaan, meerdere voordelen bieden. Ze kunnen met een extreem hoge mate van precisie worden vervaardigd in moderne microchiptechnologieën, wat belangrijk is in circuitontwerp, en ze worden niet sterk beïnvloed door veranderingen in spanning of temperatuur. Condensatoren nemen ook relatief weinig ruimte in beslag - de in-memory computerchip van Princeton plaatst ze bovenop de geheugencellen, zodat ze geen ruimte buiten de cellen innemen. Dit verlaagt de datacommunicatiekosten van de chip verder door condensatoren in geheugencomponenten te plaatsen. Deze opstelling verkleint de hoeveelheid gebied die de elektrische signalen die gegevens moeten overbrengen, moeten kruisen, daardoor hoge verwerkingssnelheden en een lager energieverbruik.

"We eindigen met zeer nauwkeurige circuits en deze condensatoren nemen geen extra ruimte in op de chip, ' zei Verma.

Het Princeton-team testte hun systeem op verschillende standaard benchmarktests. Deze omvatten identificatienummers die door mensenhanden zijn gekrabbeld, een taak die gecompliceerd wordt door ons enorme scala aan handschriftstijlen, van stipt naar kleuterschool-slordig. Een vergelijkbare taak omvatte het ontleden van huisnummers in streetview, die eveneens enorm in vorm variëren, formulier, helderheid van het beeld, oriëntatie, enzovoort. Bij een derde proef het chip-augmented neurale netwerk ging over het herkennen van alledaagse voorwerpen zoals katten, honden, vogels, auto's, vliegtuigen, schepen, enzovoort.

De onderzoekers hebben hun ontwerp vergeleken met andere die momenteel beschikbaar zijn. In een, ze maten het aantal computerbewerkingen dat de chip in één seconde kon uitvoeren. In het echte leven, dit soort doorvoerevaluatie komt overeen met hoe lang iemand moet wachten op een stuk hardware, zoals een mobiele telefoon, spuugt een laatste antwoord uit. De Princeton-chip voerde 9,4 biljoen binaire bewerkingen per seconde uit.

De testresultaten zijn bemoedigend, maar de onderzoekers zeiden dat de chip nog meer werk nodig heeft voordat hij in elektronische apparaten kan worden ingebouwd. De architectuur moet programmeerbaar en compatibel worden gemaakt met andere stukjes hardware, inclusief centrale verwerkingseenheden, de controlecentra van computers. Daarna, de software-infrastructuur moet worden uitgebouwd, zodat ontwerpers van kunstmatige intelligentie nieuwe apps kunnen maken die gebruikmaken van de potentieel baanbrekende prestaties van de chip.

Naresh Shanbhag, een professor in elektrische en computertechniek aan de University of Illinois Urbana-Champaign die niet betrokken was bij de Princeton-studie, is van mening dat dit potentieel bij uitstek realiseerbaar is. "De technische uitdagingen waarmee [de chip] in een commerciële omgeving wordt geconfronteerd, zijn bij uitstek te overwinnen via standaard technische best practices, ' zei Shanbhag.

Shanbhag gaf verder commentaar op de toepassingen van de chip. "Dit werk opent nieuwe toepassingsdomeinen voor kunstmatige-intelligentiesystemen, " hij zei, het specificeren van "energie- en latency-beperkte computerplatforms, zoals autonome voertuigen en robots, evenals verschillende sensorrijke Internet-of-Things-apparaten."

De onderzoekers kijken ernaar uit om de in-memory computerchip naar een hoger niveau van technologische gereedheid te brengen.

"De volgende stap is om deze zeer hoge efficiëntie en hoge rekencapaciteit te nemen en deze toegankelijk te maken voor een breed scala aan toepassingen, "zei Verma. "Het grootste nadeel van de chip is dat hij een zeer ontwrichtende architectuur gebruikt. Dat moet worden verzoend met de enorme hoeveelheid infrastructuur en ontwerpmethodologie die we vandaag hebben en gebruiken, in praktijk."