Een internationaal team van wetenschappers van de Technische Universiteit Eindhoven, Universiteit van Texas in Austin, en Universiteit van Derby, heeft een revolutionaire methode ontwikkeld die de trainingsalgoritmen voor kunstmatige intelligentie (AI) kwadratisch versnelt. Dit geeft volledige AI-mogelijkheden aan goedkope computers, en zou het voor supercomputers in één tot twee jaar mogelijk maken om kunstmatige neurale netwerken te gebruiken die de mogelijkheden van de huidige kunstmatige neurale netwerken kwadratisch overtreffen. De wetenschappers presenteerden hun methode op 19 juni in het tijdschrift Natuurcommunicatie .

Kunstmatige neurale netwerken (of ANN) vormen de kern van de AI-revolutie die elk aspect van de samenleving en technologie vormgeeft. Maar de ANN's die we tot nu toe hebben kunnen afhandelen, lossen niet in de buurt van zeer complexe problemen. De allernieuwste supercomputers zouden worstelen met een netwerk van 16 miljoen neuronen (ongeveer zo groot als een kikkerbrein), terwijl het meer dan een dozijn dagen zou duren voordat een krachtige desktopcomputer er slechts 100 zou trainen, 000-neuronen netwerk.

Gepersonaliseerde geneeskunde

De voorgestelde methode, genaamd Sparse Evolutionaire Training (SET), haalt inspiratie uit biologische netwerken en in het bijzonder neurale netwerken die hun efficiëntie te danken hebben aan drie eenvoudige kenmerken:netwerken hebben relatief weinig verbindingen (sparity), weinig hubs (scale-freeness) en korte paden (small-worldness). Het werk gerapporteerd in Natuurcommunicatie demonstreert de voordelen van het afstappen van volledig verbonden ANN's (zoals gedaan in gewone AI), door een nieuwe trainingsprocedure te introduceren die uitgaat van een willekeurige, schaars netwerk en evolueert iteratief naar een schaalvrij systeem. Bij elke stap, de zwakkere verbindingen worden geëlimineerd en nieuwe links worden willekeurig toegevoegd, vergelijkbaar met een biologisch proces dat bekend staat als synaptische krimp.

Het opvallende versnellingseffect van deze methode is van enorme betekenis, omdat het de toepassing van AI mogelijk maakt op problemen die momenteel niet kunnen worden opgelost vanwege het enorme aantal parameters. Voorbeelden zijn betaalbare gepersonaliseerde geneeskunde en complexe systemen. bij complexe, snel veranderende omgevingen zoals smart grids en sociale systemen, waar frequente on-the-fly omscholing van een ANN vereist is, verbeteringen in leersnelheid (zonder afbreuk te doen aan nauwkeurigheid) zijn essentieel. In aanvulling, omdat een dergelijke training kan worden bereikt met beperkte rekenmiddelen, de voorgestelde SET-methode zal de voorkeur hebben voor de ingebedde intelligenties van de vele gedistribueerde apparaten die op een groter systeem zijn aangesloten.

kikker hersenen

Dus, concreet, met SET kan elke gebruiker op zijn eigen laptop een kunstmatig neuraal netwerk van maximaal 1 miljoen neuronen bouwen, terwijl dit met de modernste methoden alleen was voorbehouden aan dure computerclouds. Dit betekent niet dat de wolken niet meer bruikbaar zijn. Zij zijn. Stel je voor wat je erop kunt bouwen met SET. Momenteel zijn de grootste kunstmatige neurale netwerken, gebouwd op supercomputers, de grootte van een kikkerbrein hebben (ongeveer 16 miljoen neuronen). Nadat enkele technische uitdagingen zijn overwonnen, met SET, we kunnen op dezelfde supercomputers kunstmatige neurale netwerken bouwen die dicht bij de menselijke hersengrootte liggen (ongeveer 80 miljard neuronen).

Hoofdauteur Dr. Decebal Mocanu:"En, Ja, we hebben zulke extreem grote netwerken nodig. Het werd getoond, bijvoorbeeld, dat kunstmatige neurale netwerken goed zijn in het detecteren van kanker van menselijke genen. Echter, volledige chromosomen zijn te groot om in state-of-the-art kunstmatige neurale netwerken te passen, maar ze zouden in een netwerk van 80 miljard neuronen passen. Dit feit kan hypothetisch leiden tot betere gezondheidszorg en betaalbare gepersonaliseerde geneeskunde voor ons allemaal."