Wetenschap
Een enorm parallel Fourier neuraal netwerk met alleen amplitude. Krediet:George Washington-universiteit
Onderzoekers van de George Washington University, samen met onderzoekers van de Universiteit van Californië, Los Angeles, en de deep-tech venture startup Optelligence LLC, hebben een optische convolutionele neurale netwerkversneller ontwikkeld die grote hoeveelheden informatie kan verwerken, in de orde van petabytes, per seconde. Deze innovatie, die gebruik maakt van de enorme parallelliteit van licht, luidt een nieuw tijdperk in van optische signaalverwerking voor machine learning met tal van toepassingen, ook in zelfrijdende auto's, 5G-netwerken, datacenters, biomedische diagnostiek, gegevensbeveiliging en meer.
De wereldwijde vraag naar machine learning-hardware overtreft de huidige computervoedingen aanzienlijk. State-of-the-art elektronische hardware, zoals grafische verwerkingseenheden en versnellers voor tensorverwerkingseenheden, helpen dit te verminderen, maar worden intrinsiek uitgedaagd door seriële gegevensverwerking die iteratieve gegevensverwerking vereist en vertragingen ondervindt door bedrading en circuitbeperkingen. Optische alternatieven voor elektronische hardware kunnen machine learning-processen helpen versnellen door de manier te vereenvoudigen waarop informatie op een niet-iteratieve manier wordt verwerkt. Echter, op fotonisch gebaseerde machine learning wordt doorgaans beperkt door het aantal componenten dat op fotonische geïntegreerde schakelingen kan worden geplaatst, het beperken van de interconnectiviteit, terwijl ruimtelijke lichtmodulatoren in de vrije ruimte beperkt zijn tot lage programmeersnelheden.
Om een doorbraak te realiseren in dit optische machine learning-systeem, de onderzoekers hebben ruimtelijke lichtmodulatoren vervangen door op digitale spiegels gebaseerde technologie, waardoor een systeem meer dan 100 keer sneller wordt ontwikkeld. De niet-iteratieve timing van deze processor, in combinatie met snelle programmeerbaarheid en massale parallellisatie, stelt dit optische machine learning-systeem in staat om zelfs de allerbeste grafische verwerkingseenheden met meer dan één orde van grootte te overtreffen, met ruimte voor verdere optimalisatie buiten het oorspronkelijke prototype.
In tegenstelling tot het huidige paradigma in elektronische machine learning-hardware die informatie sequentieel verwerkt, deze processor maakt gebruik van de Fourier-optiek, een concept van frequentiefiltering waarmee de vereiste convoluties van het neurale netwerk kunnen worden uitgevoerd als veel eenvoudiger elementgewijze vermenigvuldigingen met behulp van de digitale spiegeltechnologie.
"Deze enorm parallelle Fourier optische processor met alleen amplitude luidt een nieuw tijdperk in voor informatieverwerking en machine learning. We laten zien dat het trainen van dit neurale netwerk het gebrek aan fase-informatie kan verklaren, " zegt Volker Sorger, universitair hoofddocent elektrische en computertechniek aan de George Washington University.
"Optica maakt het mogelijk om grootschalige matrices in een enkele tijdstap te verwerken, wat nieuwe schaalvectoren mogelijk maakt voor het optisch uitvoeren van convoluties. Dit kan een aanzienlijk potentieel hebben voor machine learning-toepassingen, zoals hier wordt aangetoond, " zegt Puneet Gupta, professor en vice-voorzitter van computer engineering aan de Universiteit van Californië, Los Angeles.
"Deze prototypedemonstratie toont een commercieel pad voor optische versnellers die klaar zijn voor een aantal toepassingen zoals netwerk-edge-verwerking, datacenters en krachtige computersystemen, " zegt Hamed Dalir, mede-oprichter, Optelligence LLC.
De krant, "Massively Parallel Amplitude-Only Fourier Neural Network" werd vandaag gepubliceerd in het tijdschrift optiek .
Wetenschap © https://nl.scienceaq.com